Blog • KI / Rechenleistung

Warum wird KI immer teurer? NVIDIA-GPUs, HBM, Rechenzentren und der Rechenwettlauf an der Frontier

KI wird teurer, nicht weil das Chatfenster plötzlich kassiert, sondern weil jede „bessere“ Antwort mehr GPUs, mehr HBM, mehr Strom und mehr Racks verbrennt. Mitte 2026 kostete eine H100 noch 25.000–40.000 $; H200 und B200 liegen höher; ein volles GB200-NVL72-Rack wird mit 2–3,4 Millionen $ notiert.

NVIDIA sagt, es könne nur etwa 70% der Nachfrage bestehender Kunden bedienen. Im August 2026 teilte es Großkäufern mit, Speicherkosten würden einige KI-Server um mehr als 15% nach oben treiben. Der Engpass heißt nicht mehr „keine Karten“ — Karten, Speicher und Strom steigen zusammen.

Nutzer sehen einen Tokenpreis. Unternehmensbücher zeigen GPU-Stunden, HBM-Kapazität und Megawatt. Stimmen die zwei Zahlensysteme nicht, bleibt die Debatte bei Slogans.

Dieser Artikel erklärt:

• Teuer ist die ganze Rechen-Lieferkette, nicht ein Modell
• NVIDIAs Preisleiter von der H100 bis zur GB300
• Warum HBM zum echten Engpass wurde
• Warum Strom, Kühlung und Standort von Rechenzentren langsamer sind als Chips
• Training ist ein Peak, Inferenz täglich — und wie man die Rechnung als JSON liest

Teuer geworden ist nicht das Modell

Zerlegen Sie „KI ist teuer“ in sechs Schichten. Jede Schicht verkauft etwas anderes und staut an einer anderen Stelle. Gestapelt ergibt das die Rechnung 2026.

„Warum wird KI teurer“ ist also keine Produktfrage. Modelle kann man öffnen, APIs rabattieren. HBM-Stapel, CoWoS und Umspannwerk-Ausbau bekommen denselben Abschlag nicht.

NVIDIA-GPUs: von einer Karte zu einem Rack

NVIDIA veröffentlicht keine offizielle Preisliste für Rechenzentrums-GPUs. Straßen-, OEM- und Cloud-Angebote unterscheiden sich um Vielfache. Die Tabelle nutzt Marktspannen Mitte 2026 gegen die öffentlichen Specs von NVIDIA H200 und GB200 NVL72. Das sind Spannen, keine Rechnungen.

Lesen Sie die Tabelle als zwei Unterscheidungen: kaufen Sie einen Chip oder ein Rack, und zahlen Sie einmal Capex oder stündliche Miete?

Von der H100 zur B200 steigt der Kartenpreis nur eine Stufe. Von der Karte zum GB200 NVL72 ändert sich die Kaufeinheit. Sie kaufen keinen Beschleuniger mehr, sondern ein flüssiggekühltes 120–130-kW-System mit 1,36 Tonnen. Straßenpreise für das nächste Vera Rubin NVL72 liegen schon bei etwa 8,8 Millionen $ pro Rack.

Cloud-Spreads sind ebenso weit. H100-On-Demand-Mediane nahe 2,29 $/Stunde (beobachtet 1,38–11,06 $). H200-Mediane nahe 3,95 $ — der Aufpreis kauft vor allem 141GB HBM3e, nicht mehr FLOPS. B200 bleibt eng bei 3,75–9,86 $. Ein volles GB200-Rack kann 10,50–27,00 $ pro GPU-Stunde landen.

NVIDIAs Rechenzentrumsumsatz im FY2027 Q1 lag bei 75,2 Milliarden $, plus 92% zum Vorjahr. Analysten setzen den Umsatzanteil bei KI-Beschleunigern weiter auf 75%–90%. Preise fallen nicht wie bei GeForce, weil die Nachfrage noch auf dem Angebot sitzt.

HBM: Speicher ist der Flaschenhals

Frontier-Modelle fressen mehr als FLOPS. Gewichte müssen in den Speicher, und der KV-Cache wächst zur Inferenzzeit weiter. Längerer Kontext, größere Mixture-of-Experts, mehr Reasoning-Schritte — alles zieht HBM enger. Die H100 liefert 80GB HBM3; die H200 hebt dieselbe Generation auf 141GB HBM3e; die B200 geht auf 180–192GB. Die Bandbreite springt von 3,35 TB/s auf 8 TB/s.

Die Kosten stehen auf der Stückliste. Branchenschätzungen setzen die Blackwell-Fertigungskosten grob auf das Doppelte einer H100, HBM nahe der Hälfte. Wird der Chip teurer, ist oft die Speicherzeile gewandert.

Ende August 2026 nannte NVIDIA Speicherkosten in der Earnings-Call „extrem“ und senkte die Bruttomargen-Guidance. Das ist kein PR-Fluff. Nur SK hynix, Samsung und Micron können fortschrittliche Stapel in Volumen liefern. Yield und Qualifikation von 12-high HBM4E sind unsicher; Rubin Ultra wird sogar mit Spec-Schnitt geprüft.

Speicherhersteller behalten Preissetzungsmacht, bis das Angebot die Nachfrage einholt. Entwickler können HBM nicht aussitzen. Sie können weniger verschwenden: Quantisierung, spekulatives Decoding, kürzerer Standardkontext und den KV-Cache als erstklassige Kosten behandeln. Offizielle Produktseiten: SK hynix HBM.

Rechenzentren: Strom, Kühlung und Land sind langsamer als Chips

Selbst wenn HBM morgen lockert, holt die Halle nicht auf. Eine 1.000-W-B200 ist schon unbequem; 72 GPUs in einer NVLink-Domäne wollen 120–130 kW Flüssigkühlung. Türrahmen, Bodenlast, Kühlkreise und Umspannwerke werden nicht schneller, weil Sie eine Bestellung geschrieben haben.

IEA Energy and AI erwartet, dass der weltweite Rechenzentrumsstrom um etwa 2030 grob verdoppelt, KI-optimierte Hallen wachsen schneller. Epoch AI und EPRI schätzen, Frontier-Training überschreitet bereits 100 MW und kann 2,2–2,9× pro Jahr wachsen, bis 2028 auf 1–2 GW pro Lauf. Strom ist schwerer zu bewegen als Wafer.

1. 1
   Leistungsdichte schreibt die Halle um

   Alte Racks waren für 10–20 kW gebaut. GB200-Schränke springen über 120 kW. Luft reicht nicht; Sie brauchen Flüssigkühlung und dickere Elektroanlage.

2. 2
   Umspannwerke und Übertragung sind langsamer

   Chip-Vorlaufzeiten sind Quartale. Hochspannungsanschluss sind Jahre. Viele „bestellte GPUs“ sitzen im Lager oder gehen phasenweise ans Netz, weil die Einspeisung noch fehlt.

3. 3
   Standortwahl wird zum Energieproblem

   Hyperscaler jagen Atom-PPAs, Gasspitzenlastkraftwerke und Erzeugung hinter dem Zähler. Billiges Land ohne freie Megawatt wird keine KI-Fabrik.

4. 4
   Inferenz macht aus einem Peak Grundlast

   Training ist ein mehrmonatiger Puls. Chat, Suche und Agenten sind Ganzjahres-Grundlast. Im IEA-Rahmen stammt fast die Hälfte des zusätzlichen KI-Serverstroms aus Inferenz.

„Noch 10.000 GPUs kaufen“ ist oft eine Netzfrage, keine Einkaufsfrage. Die Hälfte des Rechenkriegs steht auf einer Versorgungskarte.

Der Rechenwettlauf: einmal trainieren, jeden Tag inferieren

Epoch AI 2024 schätzte, die amortisierten Kosten der rechenintensivsten Trainingsläufe wuchsen seit 2016 um etwa 2,4× pro Jahr. Öffentliche GPT-4-Größen lagen noch bei Dutzenden Millionen; dieselbe Steigung setzt Frontier-Training um 2027 über eine Milliarde Dollar. Die Wendung 2026 ist Inferenz: Reasoning-Modelle und Test-time Compute machen aus einer Antwort viele Forward-Passes.

Deshalb fallen API-Listenpreise nicht automatisch, wenn „die nächste Karte schneller ist“. Die Karte ist schneller, aber jede Anfrage braucht mehr Schritte und hält mehr Zustand in HBM. Ein FLOP wird billiger; eine nützliche Antwort nicht unbedingt.

Open Source zahlt trotzdem. Gewichte können frei sein. Cluster nicht. Wer die Standard-Entdeckungstür und die Inferenz-SKU besitzt, sitzt näher am Preis — Hintergrund dafür, dass NVIDIA 12,9 Milliarden $ für Hugging Face ausgibt.

Was das für Entwickler heißt

Von jetzt bis 2027 ändern Sie, wie Sie Rechenleistung nutzen, nicht wie Sie sich dabei fühlen. Diese vier Schritte schlagen das Warten auf einen Abschlag.

1. 1
   Kontext und Reasoning-Tiefe als Kostenregler behandeln

   Ein Standard-128K-Fenster und ein Standard-„länger denken“ werden direkt zu HBM und GPU-Stunden. Caps auf Produktebene sind billiger als die Überraschung auf der Rechnung.

2. 2
   Experiment-Cluster von Produktions-Clustern trennen

   Evals, Sweeps und einmalige Fine-Tunes gehören auf Spot oder Preemptible. Produktionsinferenz gehört auf Reservierung. Alles auf einer On-Demand-Rechnung zu mischen ist die teure Gewohnheit.

3. 3
   Offene Gewichte sparen Marge, nicht Strom

   Selbst hosten heißt trotzdem GPUs kaufen oder mieten. Revision und Lizenz festnageln; siehe NVIDIAs Hugging-Face-Übernahme, statt anzunehmen, der Hub hoste ewig kostenlos.

4. 4
   Die Rechnung in einen prüfbaren JSON-Vertrag verwandeln

   Cloud-Rechnungen, interne GPU-Bestände und Token-Nutzung landen als JSON. Stimmen die Felder nicht, können Sie nicht sagen, welche Schicht teurer wurde.

Wie eine Kostenrechnung in JSON aussieht

Deal-Schlagzeilen und Earnings-Sprache gleichen Ihre Bücher nicht ab. Operieren können Sie mit dem monatlichen Usage-Objekt einer Cloud oder internen Plattform.

Unten eine lokal prüfbare Monatsrechnungsform — Feldnamen sind typisch für interne Kostensysteme; Zahlen sind Beispiele, keine echte Cloud-Rechnung.

{
  "period": "2026-08",
  "cluster": "inference-prod-1",
  "sku": "H200-SXM",
  "gpu_count": 64,
  "gpu_hours": 18432,
  "usd_per_gpu_hour": 3.95,
  "power_kwh": 12902,
  "usd_per_kwh": 0.08,
  "tokens_out": 4120000000,
  "currency": "USD"
}

Mit diesem Objekt beantworten Sie drei Fragen: GPU-Stunden mal Stückpreis, wie viel Strom kostet, Kosten pro Ausgabetoken. Fehlt sku oder liegt gpu_hours als String, driftet jeder Report danach.

{
  "$schema": "https://json-schema.org/draft/2020-12/schema",
  "type": "object",
  "required": [
    "period", "sku", "gpu_hours",
    "usd_per_gpu_hour", "currency"
  ],
  "properties": {
    "period": { "type": "string", "pattern": "^[0-9]{4}-[0-9]{2}$" },
    "cluster": { "type": "string", "minLength": 1 },
    "sku": { "type": "string", "minLength": 1 },
    "gpu_count": { "type": "integer", "minimum": 1 },
    "gpu_hours": { "type": "number", "minimum": 0 },
    "usd_per_gpu_hour": { "type": "number", "minimum": 0 },
    "power_kwh": { "type": "number", "minimum": 0 },
    "usd_per_kwh": { "type": "number", "minimum": 0 },
    "tokens_out": { "type": "integer", "minimum": 0 },
    "currency": { "type": "string", "enum": ["USD"] }
  },
  "additionalProperties": false
}

Dieselbe Gewohnheit gilt für Usage-Felder der Modell-API: prompt_tokens, completion_tokens, reasoning_tokens. Form prüfen, dann optimieren.

Die Rechnung in JSONNote prüfen

Der langsame Teil ist selten die Formel. Es ist zu sehen, welche Zeile zweier JSON-Dokumente auseinanderläuft. JSONNote läuft lokal im Browser:

1. 1
   Zuerst die Rechnung formatieren

   Cloud-Export oder internes Usage-Objekt in JSON-Formatierer einfügen und Syntax- sowie Einrückungsrauschen entfernen.

2. 2
   Pflichtfelder mit einem Schema festnageln

   Den Entwurf auf der JSON Schema-Seite einfügen und prüfen, ob period, sku, gpu_hours und Stückpreis noch da sind.

3. 3
   Zwei Monate vergleichen

   Mit JSON Diff sehen, ob sku von H100 auf H200 wechselte und ob Stückpreis oder gpu_hours stieg.

4. 4
   Nur teilen, wenn ein Kollege es braucht

   Mit Hash-Teilen ein Sample (niemals Geheimnisse) ins URL-Fragment legen. Nichts trifft einen Server.

FAQ

Wird KI nur teurer, weil GPUs teurer wurden?

Nein. Die GPU ist nur die sichtbare Schicht. HBM, CoWoS-Packaging, Strom, Flüssigkühlung und Umspannwerk-Vorlaufzeiten stiegen alle. Im August 2026 teilte NVIDIA Großkunden mit, dass einige KI-Server um mehr als 15% steigen, begründet mit Speicherkosten.

Was ist HBM, und warum ist es enger als der Chip?

HBM ist gestapelter High-Bandwidth-Speicher neben der GPU. Gewichte und der KV-Cache liegen dort. Bei Blackwell macht HBM etwa 45%–50% der Stückliste aus. Die HBM4-Produktion 2026 von SK hynix, Samsung und Micron ist weitgehend ausverkauft; Kunden erhalten etwa 60%–70% der bestellten Menge.

Ist Training teurer oder Inferenz?

Training ist eine einmalige dreistellige-Millionen-Rechnung. Inferenz ist die Rechnung, die jeden Tag kommt. Branchenschätzungen legen 80%–90% der KI-Rechenleistung auf Inferenz. Test-time Compute macht aus einer Antwort viele Forward-Passes — HBM und GPU-Stunden steigen zusammen.

Ist es günstiger, GPUs zu kaufen oder Cloud zu mieten?

Es hängt von der Auslastung ab. Dauerhafte Cluster-Nutzung über etwa 60%–70% spricht für Kauf oder Reservierung; stoßweise Fine-Tunes, Evals und Experimente für Stundenmiete. Vergleichen Sie keinen Straßenpreis mit Hyperscaler-On-Demand — der Kanalaufschlag ist schon ein Mehrfaches.

Können Open-Source-Modelle diese Rechnung umgehen?

Nein. Offene Gewichte sparen API-Marge, nicht GPUs, HBM oder Strom. Nach dem Gratis-Download zahlt jemand trotzdem den Lauf. Die Verteilungstür kann teurer werden — siehe NVIDIAs Hugging-Face-Deal.

Fazit

KI wird teurer, weil die Nachfrage auf vier knappen Dingen stapelt: NVIDIA-GPUs, HBM, Advanced Packaging und Racks, die wirklich Strom aufnehmen können.

Nutzer zahlen Token. Unternehmen zahlen GPU-Stunden und Megawatt. HBM steht schon in den Preiserhöhungsmitteilungen für Server.

Was Entwickler tun können: Kontext, Reasoning-Tiefe und Clustertyp als prüfbares JSON schreiben — nicht warten, bis die nächste Karte die Rechnung allein senkt. Lokal in JSONNote formatieren, prüfen, diffen. Geheimnisse und Rechnungen müssen nicht hochgeladen werden.

← Zurück zum Blog