osFoundry / Platform
Multi-Chat
Führen Sie denselben Prompt parallel über zwei oder mehr Modelle aus. Vergleichen Sie Antworten, Kosten, Latenz – wählen Sie den Sieger.
Was es ist
Multi Chat schickt einen einzelnen Prompt gleichzeitig an zwei oder mehr Modelle und stellt ihre Antworten in einer Ansicht nebeneinander. Statt dieselbe Frage in getrennte Tabs zu kopieren und die Unterschiede im Kopf zu behalten, sendest du einmal und liest die Antworten in parallelen Spalten. Es liegt im Bereich KI & Orchestrierung von osFoundry, also kann alles verglichen werden, was du konfiguriert hast: ein lokales Modell auf deinem eigenen Rechner, ein Cloud-Modell hinter deinem eigenen API-Key oder ein selbst gehosteter Endpunkt. Weil osFoundry nach dem Bring-your-own-Key-Prinzip arbeitet, sind die Kosten, die du je Modell siehst, der echte Tarif deines Anbieters, ohne jeden Reseller-Aufschlag obendrauf.
Jede Spalte zeigt die Antwort des Modells neben den Zahlen, die tatsächlich entscheiden, welches du behältst: was der Aufruf gekostet hat und wie lange er bis zur Antwort brauchte. Das macht aus dem vagen Gefühl "das fühlte sich besser an" einen direkten Vergleich von Qualität, Preis und Latenz für genau deinen Prompt. Für Routinearbeit reicht oft ein günstiges, schnelles Modell, während ein langsameres oder teureres seinen Platz nur bei den schweren Prompts verdient. Mit Multi Chat findest du diese Grenze, indem du an deinen eigenen echten Eingaben testest statt an einem Benchmark.
Der Sinn ist, den Sieger für die Aufgabe vor dir zu wählen und dann damit weiterzuarbeiten. Führe den Vergleich aus, sieh, welches Modell die gewünschte Antwort zu einem Preis und Tempo liefert, das du akzeptierst, und standardisiere darauf: kein Raten, keine Wechselkosten, um den nächsten Kandidaten zu probieren. Weil alles im local-first-Desktop-Workspace läuft, können deine Prompts und die Antworten auf deinem Gerät bleiben, statt durch eine fremde Zwischenschicht zu laufen.
Wichtige Funktionen
- Einen Prompt gleichzeitig an zwei oder mehr Modelle senden und jede Antwort in parallelen Spalten lesen
- Kosten pro Antwort zu den echten Tarifen deines eigenen API-Keys vergleichen, ohne aufgeschlagene Reseller-Marge
- Latenz je Modell sehen, um zu wissen, welches Modell schnell genug für die Aufgabe ist
- Lokale, Cloud- und selbst gehostete Modelle im selben Vergleich aus einem Workspace mischen
- Das Siegermodell an deinen eigenen echten Eingaben wählen, nicht an generischen Benchmark-Werten
Anwendungsfälle
- Entwickler: denselben Coding-Prompt an einem lokalen und zwei Cloud-Modellen testen, um das günstigste zu finden, das ihn trotzdem korrekt löst
- Prompt-Engineer: an der Formulierung feilen und sofort sehen, welches Modell die neue Fassung in Qualität, Kosten und Tempo am besten meistert
- Teamleitung bei der Anbieterwahl: repräsentative Prompts nebeneinander laufen lassen, um vor der Festlegung zu entscheiden, auf welches Modell das Team standardisiert
Häufig gestellte Fragen
Wie viele Modelle kann ich gleichzeitig vergleichen?
Multi Chat führt denselben Prompt an zwei oder mehr Modellen nebeneinander aus. Welche Modelle verfügbar sind, hängt davon ab, was du in osFoundry konfiguriert hast (lokal, Cloud oder selbst gehostet), denn du bringst deine eigenen Keys mit.
Woher kommen die Zahlen zu Kosten und Latenz?
Die Kosten beruhen auf dem echten Token-Tarif deines Anbieters unter deinem eigenen API-Key, denn osFoundry ist Bring-your-own-Key und fügt keinen Reseller-Aufschlag hinzu. Die Latenz wird aus der tatsächlichen Antwortzeit jedes Modells auf deinen Prompt gemessen.
Werden meine Prompts an die Server von osFoundry gesendet?
osFoundry ist ein local-first-Desktop-Workspace, also können deine Prompts und Antworten auf deinem Gerät bleiben. Aufrufe gehen mit deinen eigenen Keys direkt an das gewählte Modell; ein lokales Modell verlässt deinen Rechner gar nicht.