osFoundry / Platform
Cloud-GPU
Mieten Sie A100- / H100- / L40-Instanzen direkt von der Plattform. Stundenweise Abrechnung, keine Verträge.
Was es ist
Mit Cloud GPU mieten Sie NVIDIA-Beschleuniger-Instanzen (Hardware der Klassen A100, H100 und L40) direkt in osFoundry und bezahlen sie stundenweise, ohne Verträge und ohne Zusagen für reservierte Kapazität. Statt ein Cloud-Konto zu eröffnen, GPU-Kontingent zu beantragen und Treiber und CUDA selbst einzurichten, öffnen Sie die Instanzauswahl, wählen eine GPU nach VRAM und Region, und die Plattform stellt sie für Sie bereit. Sind Sie fertig, geben Sie sie frei, und die Abrechnung stoppt.
Innerhalb von osFoundry trägt dieselbe gemietete GPU drei Arbeitsabläufe ohne zusätzliche Einrichtung. Sie können darauf verwaltete Fine-Tuning-Jobs laufen lassen, ein GPU-gestütztes Notebook zum Experimentieren starten oder ein Modell als automatisch skalierenden Endpoint bereitstellen, der Cloud-GPUs bei Bedarf provisioniert. Die Instanzauswahl bezieht die Preise live vom Server statt aus einer fest hinterlegten Tabelle, sodass der Stundensatz, den Sie sehen (neben GPU-Modell, Speicher, vCPU, RAM und einer geschätzten Kaltstartzeit), genau der Satz ist, der Ihnen berechnet wird. Können die echten Preise nicht geladen werden, zeigt die Plattform nichts zur Auswahl an, statt eine Zahl zu nennen, die sie nicht einhält.
Das ist wichtig, weil GPU-Zeit teuer ist und man sie leicht weiterlaufen lässt. Die stundenweise Abrechnung, die beim Provisionieren beginnt und beim Freigeben endet, ohne Mindestlaufzeit, hält ein Fünf-Minuten-Experiment günstig und macht die Kosten einer vergessenen Instanz sichtbar. Weil osFoundry local-first ist, bleiben kleine Jobs auf Ihrer eigenen Geräte-GPU kostenlos, und Sie greifen erst dann zu einer gemieteten A100 oder H100, wenn ein Modell tatsächlich mehr VRAM braucht, als Ihre Maschine hat. Es ist dieselbe Haltung wie im übrigen Arbeitsbereich: Ihre Schlüssel, Ihre Daten wo möglich, und bezahlte Infrastruktur nur dann, wenn Sie sie wählen.
Wichtige Funktionen
- Mieten Sie NVIDIA-GPU-Instanzen der Klassen A100, H100 und L40 bei Bedarf, ohne Kontingentanträge, ohne Beschaffungsprozess und ohne Verträge über reservierte Kapazität
- Zahlen Sie stundenweise: Die Abrechnung beginnt beim Bereitstellen der Instanz und stoppt beim Freigeben, nichts zu kündigen und keine Mindestlaufzeit
- Wählen Sie Ihre Instanz aus einer serverbepreisten Live-Liste, die GPU-Modell, VRAM, vCPU, RAM, Region und geschätzte Kaltstartzeit anzeigt, bevor Sie sich festlegen
- Nutzen Sie dieselbe gemietete GPU für Fine-Tuning-Jobs, Notebooks im Jupyter-Stil und automatisch skalierende Modell-Endpoints, alles aus einem Arbeitsbereich
- Halten Sie kleine Jobs auf eigener Hardware kostenlos: Die Geräte-GPU läuft ohne Kosten, und zur Cloud-GPU greifen Sie nur, wenn ein Modell mehr VRAM braucht, als Sie haben
Anwendungsfälle
- ML-Engineer: Ein 13B-Modell, das nicht auf den Laptop passt, per gemieteter H100 für die Dauer des Trainingslaufs fine-tunen und sie freigeben, sobald der Job fertig ist
- Forscherin: Ein GPU-Notebook auf einer A100 für einen Nachmittag voller Experimente öffnen und nur die Stunden bezahlen, in denen die Instanz läuft, ohne vorab Konto oder Kontingent einzurichten
- Produktteam: Ein Modell als automatisch skalierenden Endpoint auf GPUs der L40-Klasse bereitstellen und die Plattform Kapazität stundenweise provisionieren und abrechnen lassen, während das Anfragevolumen steigt und fällt
Häufig gestellte Fragen
Welche GPUs kann ich mieten und was kosten sie?
Sie können NVIDIA-Instanzen der Klassen A100, H100 und L40 mieten. Die Preise gelten pro Stunde und werden live in der Instanzauswahl ausgeliefert, die Modell, VRAM, vCPU, RAM, Region und geschätzte Kaltstartzeit jeder GPU anzeigt. osFoundry veröffentlicht in der App bewusst keine feste Preistabelle, denn der berechnete Satz ist der, den der Server im Moment Ihrer Auswahl nennt. Prüfen Sie die Live-Auswahl für die aktuellen Stundenkosten in Ihrer Region.
Wie funktioniert die stundenweise Abrechnung, und gibt es Verträge?
Es gibt keine Verträge, Reservierungen oder Mindestlaufzeiten. Die Abrechnung beginnt beim Bereitstellen der Instanz und stoppt beim Freigeben, sodass ein kurzes Experiment nur einen Bruchteil einer Stunde kostet und nichts zu kündigen ist. Beachten Sie: Das Bereitstellen eines Endpoints provisioniert und berechnet eine GPU, sobald sie hochfährt, noch bevor das Modell vollständig bereit ist, geben Sie also Instanzen frei, die Sie nicht mehr nutzen.
Muss ich Cloud-GPUs nutzen, oder kann ich Modelle lokal ausführen?
Sie können Modelle kostenlos auf Ihrer eigenen Geräte-GPU ausführen: osFoundry ist local-first, und lokales Training und lokale Inferenz verbrauchen keine Cloud-Credits. Cloud-GPUs sind für die Fälle da, in denen ein Modell mehr VRAM braucht, als Ihre Maschine hat, oder wenn Sie dedizierte Beschleuniger-Kapazität für einen Fine-Tuning-Job oder einen betriebenen Endpoint möchten. Pro Workload entscheiden Sie, ob Sie lokal bleiben oder mieten.