osFoundry / Platform
Utilizzo
Token, esecuzioni, dollari — ogni costo, per categoria, in un grafico in cui puoi entrare nel dettaglio.
Che cos’è
Usage è la dashboard di costi e attività di osFoundry. Poiché osFoundry funziona con la tua chiave (BYOK), i modelli che esegui vengono fatturati direttamente sui tuoi account provider, senza alcun ricarico da rivenditore, il che significa anche che la spesa resta sparsa su ogni console provider che usi. Usage la riporta in un unico posto: registra i token consumati, le esecuzioni effettuate e il costo in denaro di ciascuna, per poi aggregarli in un solo grafico che puoi leggere a colpo d'occhio o esplorare per categoria.
La vista è costruita attorno a tre unità che rispondono a tre domande diverse. I token ti dicono cosa ha effettivamente elaborato il modello. Le esecuzioni ti dicono quanto lavoro è stato svolto: quante chat, esecuzioni di agenti o job sono passati. Il costo ti dice quanto è venuto a costare. Ognuna di queste è suddivisa per categoria, così invece di un totale opaco puoi vedere quale parte del tuo spazio di lavoro (quale modello, provider o tipo di attività) sta trainando il numero. Poiché osFoundry riunisce in un unico posto chat, agenti, app, codice, conoscenza e dati, la suddivisione per categoria è il punto in cui un picco smette di essere un mistero: clicchi nel segmento che è cresciuto e vedi di cosa si trattava.
Questo conta soprattutto per chi esegue molti modelli di molti provider contemporaneamente. I modelli locali costano potenza di calcolo anziché dollari di API, i modelli cloud e self-hosted si fatturano in modo diverso, e una singola esecuzione di agente può toccarne diversi. Usage è l'unica superficie che riconcilia tutto questo in token, esecuzioni e costi comparabili, così puoi individuare un agente fuori controllo, decidere se un'attività abbia più senso su un modello locale anziché su uno cloud, o semplicemente sapere quanto costerà il mese prima che arrivi la fattura del provider. È local-first come il resto di osFoundry, quindi il registro di ciò che hai eseguito resta nel tuo spazio di lavoro.
Funzionalità principali
- Traccia tre unità affiancate (token consumati, esecuzioni effettuate e costo) così vedi sia il lavoro svolto sia quanto è costato
- Suddivide ogni totale per categoria (modello, provider e tipo di attività) invece di mostrare un unico numero opaco
- Esplora qualsiasi segmento del grafico per vedere quale parte dello spazio di lavoro ha provocato un picco
- Riconcilia la spesa su modelli locali, cloud e self-hosted in un'unica vista comparabile, utile perché il BYOK sparpaglia la fatturazione su ogni console provider
- Local-first: il tuo registro d'uso resta nel tuo spazio di lavoro, con costi fatturati alle tue tariffe provider e senza ricarico da rivenditore
Casi d’uso
- Utente BYOK singolo: apre Usage a fine mese per riconciliare l'attività di osFoundry con le fatture dei provider prima che arrivi l'addebito
- Sviluppatore di agenti: nota una categoria di esecuzione che sale più in fretta delle altre ed esplora per trovare il loop che sta bruciando token
- Team lead attento ai costi: confronta il costo per modello per decidere quali attività spostare da un modello cloud a uno locale
Domande frequenti
osFoundry aggiunge un ricarico ai costi d'uso che mostra?
No. osFoundry funziona con la tua chiave, quindi i modelli vengono fatturati direttamente sui tuoi account provider alle tue tariffe. Usage riporta quanto quelle esecuzioni ti sono costate; non c'è alcun margine da rivenditore aggiunto sopra.
Qual è la differenza tra token, esecuzioni e costo nel grafico?
I token sono ciò che il modello ha elaborato, le esecuzioni sono quante chat/esecuzioni di agenti/job sono state svolte, e il costo è il prezzo. Rispondono a tre domande diverse (il volume di testo, la quantità di lavoro e il prezzo) e ognuna è suddivisa per categoria così vedi cosa sta trainando il numero.
Posso vedere quale modello o attività è responsabile di un picco di costo?
Sì. Ogni totale è suddiviso per categoria e il grafico è esplorabile: clicchi nel segmento che è cresciuto e ti mostra il modello, il provider o il tipo di attività dietro di esso, invece di lasciarti con una somma complessiva.