Der Posten „Cloud-Speicher“ im Budget eines KI-Projekts ist so gut wie nie der Grund für Kostenüberschreitungen. Die Speicherkosten sind vorhersehbar – Sie kennen die Größe des Datensatzes, Sie kennen den Preis pro GB, und Sie können die monatlichen Kosten bereits vor Projektbeginn berechnen. Der Posten, der Teams völlig unvorbereitet trifft, ist derjenige, der in der ursprünglichen Schätzung nicht auftaucht: die Datenübertragung.
Die Cloud-Kosten für KI-Workloads im Jahr 2026 liegen um 30 bis 40 Prozent über den Prognosen. Nicht, weil Speicherplatz teurer geworden ist – sondern weil beim Training Datenverkehr entsteht, den niemand im Budget eingeplant hat. Diese Kosten sind nicht neu. Neu ist jedoch ihr Ausmaß.
Warum verursachen KI-Workloads unerwartete Gebühren für den Datenausgang aus der Cloud?
Cloud-Ausgangsgebühren – die bei AWS, Azure und GCP mit 0,08 bis 0,12 US-Dollar pro Gigabyte berechnet werden – fallen jedes Mal an, wenn Daten aus dem Cloud-Speicher zur Verarbeitung übertragen werden. Beim KI-Training wird ein Datensatz nicht nur einmal gelesen, sondern wiederholt – bei jeder Epoche, jedem Checkpoint-Speichern, jeder Checkpoint-Wiederherstellung und jedem Validierungsdurchlauf. Ein 10-TB-Trainingsdatensatz mit regelmäßigen Wiederholungsläufen kann monatlich Ausgabekosten in Höhe von 4.000 US-Dollar verursachen, noch bevor das Modell bereitgestellt wird.
Die Abrechnungsgrenze ist ein architektonisches Merkmal und keine Anomalie bei der Preisgestaltung
Ausgangsgebühren sind keine Besonderheit der Preisgestaltung von Cloud-Anbietern. Sie sind das logische Ergebnis einer bestimmten architektonischen Gegebenheit: Trainingsdaten und Rechenleistung für das Training sind durch eine Netzwerkabrechnungsgrenze voneinander getrennt.
Wenn KI-Recheninstanzen Trainingsdaten aus Cloud-Objektspeichern – AWS S3, Azure Blob, GCP Cloud Storage – abrufen, überschreiten sie diese Grenze. Der Cloud-Anbieter erfasst die Übertragung und stellt sie in Rechnung: 0,087 $/GB bei Azure, 0,09 $ bei AWS und 0,08 bis 0,12 $ bei GCP, je nach Zielort. Dabei handelt es sich nicht um Strafzuschläge. Auf diese Weise berechnen Cloud-Anbieter die Netzwerknutzung, die Ihr Trainingsauftrag verursacht.
Bei der meisten Planung von KI-Infrastrukturen wird der Datenausgang als vernachlässigbar betrachtet – als Rundungsfehler, der zu den Rechen- und Speicherkosten hinzukommt. Die Architektur garantiert jedoch, dass der Datenausgang erheblich sein wird. Es handelt sich hierbei nicht um eine Abrechnungsanomalie, sondern um die vorhersehbare Folge einer Entwurfsentscheidung darüber, wo die Daten gespeichert werden.
Wie Training den Transfer verstärkt
Der Grund dafür, dass der Datenausgang größer ist als erwartet, liegt nicht in der Größe des Datensatzes. Es kommt vielmehr darauf an, wie oft die Daten während des Trainings verarbeitet werden.
Ein Modelltraining auf einem 10-TB-Datensatz verschiebt nicht 10 TB. Es verschiebt 10 TB pro Epoche – und die meisten Trainingsläufe benötigen zwischen 10 und 50 Epochen, um zu konvergieren. Jede Epoche entspricht einem vollständigen Durchlauf des Datensatzes. Bei jeder Checkpoint-Speicherung wird der Modellzustand zurück in den Speicher geschrieben. Bei jeder Checkpoint-Wiederherstellung – wenn ein verteilter Lauf fehlschlägt oder neu gestartet wird – wird dieser Zustand wieder abgerufen. Bei Validierungsdurchläufen wird ein separater Ausschnitt gelesen. Bei der Hyperparameter-Optimierung wird die Sequenz ab früheren Checkpoints erneut ausgeführt.
Der gesamte Datenverkehr für einen einzelnen Trainingsdurchlauf mit einem 10-TB-Datensatz beträgt in der Regel 100 TB bis 500 TB. Bei 0,09 US-Dollar pro GB belaufen sich die Kosten auf 9.000 bis 45.000 US-Dollar pro Durchlauf. Teams, die die Cloud-Kosten als „10 TB × Speicherpreis“ modellierten, lagen bereits vor Abschluss der ersten Epoche um eine Größenordnung daneben.
Selbst bei einem bescheideneren Szenario – einem 10-TB-Datensatz mit vier bis fünf vollständigen Durchläufen pro Woche – fallen immer noch monatliche Ausgangsdatenkosten in Höhe von rund 4.000 US-Dollar an. Die Speicherkosten für denselben Datensatz auf AWS S3: rund 230 US-Dollar pro Monat. Der Posten für die ausgehende Datenübertragung ist mehr als 17-mal so hoch wie der Posten für die Speicherung, und genau dieser Posten war in der Schätzung nicht berücksichtigt worden.
Wie „der richtige Ort“ aussieht
Das Aushandeln besserer Ausleitungsgebühren löst dieses Problem nicht. Ebenso wenig wie der Wechsel zu einem Anbieter mit niedrigeren Übertragungskosten pro Gigabyte. Bei beiden Ansätzen wird die Abrechnungsgrenze als feststehend hingenommen, und es wird versucht, die Ihnen in Rechnung gestellten Kosten zu senken.
Die architektonische Alternative ist eine Konfiguration, bei der keine Abrechnungsgrenze besteht. Wenn sich die Trainingsdaten auf einem lokalen Speicher befinden und die Rechenleistung aus demselben Netzwerk bezogen wird, fällt kein Datenübertragungsvorgang an, der abgerechnet werden müsste. Die Position für ausgehende Daten wird nicht reduziert. Sie fehlt gänzlich.
Die Unity™ NV-Series™ wurde genau für diesen Zweck entwickelt: ein NVMe-basierter lokaler Speicher, auf den GPU-Trainings-Workloads direkt über ein lokales Netzwerk zugreifen. Der Datensatz befindet sich auf der Unity™ NV-Series. Die Rechenaufgaben werden im selben Netzwerk ausgeführt. Jede Epoche, jedes Speichern und Wiederherstellen von Checkpoints, jeder Validierungsdurchlauf – all dies erfolgt auf dem lokalen Speicher zu festen Infrastrukturkosten, die nicht mit der Trainingshäufigkeit oder der Anzahl der Wiederholungsläufe skalieren.
64 Prozent der Unternehmen setzen mittlerweile Hybrid-Speicherlösungen für KI ein. Die architektonische Logik hinter dieser Entscheidung ist nicht kompliziert: Wenn die Abrechnungsgrenze die Kosten verursacht, entfällt diese Kostenbelastung, sobald die Trainingsdaten aus dem Abrechnungsbereich verlagert werden.
Ob Cloud-Computing die richtige Lösung für Inferenz, Modellbereitstellung oder Spitzenkapazität ist, ist eine andere Frage. Für Trainingsdatensätze, auf die KI-Workloads wiederholt und in großem Umfang zugreifen, ist der Standort, an dem vorhersehbare Infrastrukturkosten anfallen, derjenige, an dem ausgehende Datenübertragung keine Kostenkategorie darstellt.
Wenden Sie sich an Nexsan, um die Unity™ NV-Serie für Ihre KI-Trainingsinfrastruktur zu besprechen →
Detaillierter Inhalt nur in englischer Sprache verfügbar.