osFoundry / Platform
Nutzung
Tokens, Läufe, Dollar – alle Kosten nach Kategorie in einem Diagramm, das Sie aufschlüsseln können.
Was es ist
Usage ist das Kosten- und Aktivitäts-Dashboard von osFoundry. Weil osFoundry nach dem Bring-your-own-Key-Prinzip arbeitet, werden die von Ihnen genutzten Modelle direkt über Ihre eigenen Anbieterkonten abgerechnet, ohne Wiederverkaufsaufschlag. Das bedeutet aber auch, dass die Ausgaben über jede von Ihnen genutzte Anbieterkonsole verstreut sind. Usage holt das an einen Ort zurück: Es erfasst die verbrauchten Tokens, die ausgeführten Läufe und die Kosten jedes einzelnen und fasst sie in einem einzigen Diagramm zusammen, das Sie auf einen Blick lesen oder nach Kategorie aufschlüsseln können.
Die Ansicht ist um drei Einheiten herum aufgebaut, die drei verschiedene Fragen beantworten. Tokens sagen Ihnen, was das Modell tatsächlich verarbeitet hat. Läufe sagen Ihnen, wie viel Arbeit angefallen ist: wie viele Chats, Agentenläufe oder Jobs durchgelaufen sind. Kosten sagen Ihnen, was es gekostet hat. Jede dieser Einheiten wird nach Kategorie aufgeschlüsselt, sodass Sie statt einer undurchsichtigen Gesamtsumme sehen, welcher Teil Ihres Workspace (welches Modell, welcher Anbieter oder welche Art von Aktivität) die Zahl in die Höhe treibt. Weil osFoundry Chat, Agenten, Apps, Code, Wissen und Daten an einem Ort bündelt, ist die Aufschlüsselung nach Kategorie der Punkt, an dem ein Ausschlag kein Rätsel mehr bleibt: Sie klicken in das gewachsene Segment und sehen, worum es ging.
Das zählt am meisten für alle, die viele Modelle von vielen Anbietern gleichzeitig betreiben. Lokale Modelle kosten Rechenleistung statt API-Dollar, Cloud- und selbst gehostete Modelle rechnen anders ab, und ein einzelner Agentenlauf kann mehrere davon berühren. Usage ist die eine Oberfläche, die all das in vergleichbare Tokens, Läufe und Kosten zusammenführt, damit Sie einen außer Kontrolle geratenen Agenten früh erkennen, entscheiden können, ob eine Aufgabe besser auf ein lokales statt ein Cloud-Modell gehört, oder einfach wissen, was der Monat kosten wird, bevor die Rechnung des Anbieters eintrifft. Es ist local-first wie der Rest von osFoundry, sodass die Aufzeichnung dessen, was Sie ausgeführt haben, in Ihrem Workspace bleibt.
Wichtige Funktionen
- Verfolgt drei Einheiten nebeneinander (verbrauchte Tokens, ausgeführte Läufe und Kosten), damit Sie sowohl die geleistete Arbeit als auch deren Preis sehen
- Schlüsselt jede Summe nach Kategorie auf (Modell, Anbieter und Art der Aktivität), statt eine einzige undurchsichtige Zahl zu zeigen
- Steigen Sie in jedes Diagrammsegment ein, um zu sehen, welcher Teil des Workspace einen Ausschlag verursacht hat
- Führt Ausgaben über lokale, Cloud- und selbst gehostete Modelle in einer vergleichbaren Ansicht zusammen, nützlich, weil BYOK die Abrechnung über jede Anbieterkonsole verteilt
- Local-first: Ihre Nutzungsaufzeichnung bleibt in Ihrem Workspace, Kosten werden zu Ihren eigenen Anbietertarifen abgerechnet, ohne Wiederverkaufsaufschlag
Anwendungsfälle
- Einzelner BYOK-Nutzer: öffnet Usage zum Monatsende, um die osFoundry-Aktivität mit den Anbieterrechnungen abzugleichen, bevor die Abbuchung kommt
- Agenten-Entwickler: bemerkt eine Lauf-Kategorie, die schneller steigt als der Rest, und steigt ein, um die Schleife zu finden, die Tokens verbrennt
- Kostenbewusste Teamleitung: vergleicht die Kosten pro Modell, um zu entscheiden, welche Aufgaben von einem Cloud- auf ein lokales Modell wechseln sollten
Häufig gestellte Fragen
Schlägt osFoundry auf die angezeigten Nutzungskosten einen Aufschlag auf?
Nein. osFoundry arbeitet nach dem Bring-your-own-Key-Prinzip, also werden Modelle direkt über Ihre eigenen Anbieterkonten zu Ihren eigenen Tarifen abgerechnet. Usage weist aus, was diese Läufe Sie gekostet haben; es kommt keine Wiederverkaufsmarge obendrauf.
Was ist der Unterschied zwischen Tokens, Läufen und Kosten im Diagramm?
Tokens sind das, was das Modell verarbeitet hat, Läufe sind, wie viele Chats/Agentenläufe/Jobs ausgeführt wurden, und Kosten sind der Preis. Sie beantworten drei verschiedene Fragen (das Textvolumen, die Menge an Arbeit und den Preis) und jede wird nach Kategorie aufgeschlüsselt, damit Sie sehen, was die Zahl treibt.
Kann ich sehen, welches Modell oder welche Aktivität für einen Kostenausschlag verantwortlich ist?
Ja. Jede Summe ist nach Kategorie aufgeteilt, und das Diagramm ist aufschlüsselbar: Klicken Sie in das gewachsene Segment, und es zeigt das dahinterstehende Modell, den Anbieter oder die Art der Aktivität, statt Sie mit einer Pauschalsumme allein zu lassen.