GPT-3.5 Turbo 16k
OpenAIs GPT-3.5 Turbo 16k ist ein Chat-Modell. This model offers four times the context length of gpt-3.5-turbo, allowing it to support approximately 20 pages of text in a single request at a higher cost. Training data: up...
by OpenAI · Kontextfenster von 16K Token
Am besten geeignet für
- Chat und Routing mit geringer Latenz
- Anfrage-Routing und Triage
- Textklassifikation
Möglichkeiten, GPT-3.5 Turbo 16k in osFoundry zu nutzen
Mit eigenem Schlüssel verbinden (BYOK)
Öffnen Sie den Schlüssel-Dialog und fügen Sie Ihren OpenAI-API-Key ein. osFoundry erkennt GPT-3.5 Turbo 16k automatisch — weisen Sie es im Pipeline-Tab einer Maestro-Rolle (Router, Direct, Orchestrator oder Fallback) zu, und es ist in jedem Chat verfügbar. Ihr Key, Ihr Provider-Konto — kein Token-Aufschlag.
In einer Room App verwenden
Room Apps deklarieren KI-Funktionen in ihrem Manifest und rufen sie anschließend mit invokeAI auf:
import { invokeAI } from '@osfoundry/app-sdk'
// 'summarize' is an AI feature declared in your app manifest.
const result = await invokeAI('summarize', userText)
Aus eigenen Anwendungen aufrufen
Sobald ein Modell in Ihrem Workspace eingerichtet ist, können Sie es als API hosten und aus Ihren eigenen Diensten, Skripten oder CI — außerhalb von osFoundry — erreichen.
GPT-3.5 Turbo 16k im Vergleich zu ähnlichen Modellen
Lizenz
Hosted — usage subject to provider terms — Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit.
Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Häufige Fragen zu GPT-3.5 Turbo 16k
Wie viel kostet GPT-3.5 Turbo 16k?
GPT-3.5 Turbo 16k wird mit $ 3.00 /1M für Input und $ 4.00 /1M für Output abgerechnet. Bringen Sie Ihren eigenen OpenAI-API-Key mit — osFoundry reicht die Provider-Preise ohne Aufschlag durch.
Kann ich GPT-3.5 Turbo 16k kommerziell nutzen?
Kommerzielle Nutzung ist unter bestimmten Bedingungen erlaubt. Nur gehostetes Modell — die Nutzung unterliegt den API-Bedingungen des Anbieters. Bringen Sie Ihren eigenen Provider-Key mit. Keine Weights verteilt; Nutzung unterliegt den Anbieterbedingungen.
Wie groß ist das Kontextfenster von GPT-3.5 Turbo 16k?
GPT-3.5 Turbo 16k unterstützt ein Kontextfenster von 16K Token.
Kann ich GPT-3.5 Turbo 16k lokal betreiben?
Nein — GPT-3.5 Turbo 16k ist nur gehostet verfügbar und wird über die OpenAI-API genutzt.
Worin ist GPT-3.5 Turbo 16k besonders gut?
GPT-3.5 Turbo 16k eignet sich besonders für Chat und Routing mit geringer Latenz, Anfrage-Routing und Triage, Textklassifikation.
Wie verwende ich GPT-3.5 Turbo 16k in osFoundry?
Fügen Sie Ihren OpenAI-API-Key im Schlüssel-Dialog ein (oder stellen Sie bei selbst hostbaren Modellen die Open Weights bereit), weisen Sie GPT-3.5 Turbo 16k im Pipeline-Tab einer Maestro-Rolle zu und nutzen Sie es anschließend im Chat, in Room Apps über invokeAI oder in Ihren eigenen Anwendungen.
Veröffentlicht von OpenAI am 28. August 2023. Quelle: https://openrouter.ai/openai/gpt-3.5-turbo-16k