Ein Rechenzentrum ist ein Gebäude, das ausgestattet ist, um Computer dauerhaft zu betreiben. Künstliche Intelligenz mobilisiert Prozessoren, Speicher und schnelle Netzwerke, um sowohl zu lernen als auch auf Benutzer zu reagieren. Hinter einem Gespräch auf einem Telefon müssen wir diese Maschinen antreiben, Daten verschieben und Wärme evakuieren. Das ist es, was wirklich zwischen einer Frage und ihrer Antwort passiert.
Wenn ein Benutzer eine KI auffordert, ein Dokument zusammenzufassen, kann sein Telefon in erster Linie als Bildschirm und Zugangspunkt dienen. In einem entfernten gehosteten Dienst tritt die Anforderung Servern bei. Sie führen das Modell aus und geben dann das Ergebnis zurück. Diese Server befinden sich in einem oder mehreren Rechenzentren, die allgemein als « Datacenter » bezeichnet werden.
Das Gebäude zählt so viel wie die Computer, die es beherbergt. Ein leistungsstarker Chip wird unbrauchbar, wenn er keinen Strom hat, überhitzt oder auf Informationen in einem gesättigten Netzwerk wartet. Die tatsächliche Kapazität eines Rechenzentrums hängt daher von der gesamten Kette ab. Die Anhäufung teurer Beschleuniger reicht nicht aus, um einen schnellen und zuverlässigen Service zu erbringen.
Ein Rechenzentrum vereint Berechnung, Speicher und Netzwerk
Im Inneren nehmen Server oft die Form von Gehäusen an, die in Schränken gestapelt sind, die als Buchten oder Racks bezeichnet werden. Jede Maschine kombiniert Prozessoren, Speicher und Netzwerkschnittstellen. Einige führen Anwendungen aus, andere verwalten Datenbanken oder bewahren Dateien auf. Speichergeräte speichern Dokumente, Bilder, Software und Backups.
Switches und Router zirkulieren Informationen zwischen diesen Maschinen und nach außen. Optische Fasern verbinden das Zentrum mit Betreibernetzwerken. In einer Online-Commerce-Anwendung können mehrere Server eingreifen, um einen Katalog anzuzeigen, den Kunden zu identifizieren und eine Bestellung zu registrieren. Das Rechenzentrum existierte lange vor den Gesprächsassistenten.
Ein Zentrum kann zu einem Unternehmen gehören, das es für seine eigenen Bedürfnisse nutzt. Bei der Co-Location stellt ein Anbieter Platz, Strom, Kühlung und Konnektivität zur Verfügung; der Kunde installiert dort seine Geräte. Mit der Cloud mietet der Benutzer Computerressourcen oder einen Dienst, ohne jede Maschine auszuwählen. Die « Cloud » basiert daher auf physischen Einrichtungen, wird irgendwo betrieben und gewartet.
Warum IIA GPUs verwendet
Der zentrale Prozessor oder CPU bleibt notwendig, um Programme und viele allgemeine Operationen zu steuern. Aber die neuronalen Netze machen massive Berechnungen auf Zahlentabellen. GPUs, die ursprünglich für Grafiken entwickelt wurden, können eine große Anzahl von Operationen parallel durchführen. Sie eignen sich besonders für diese sich wiederholenden Behandlungen. Andere spezialisierte Beschleuniger, wie die TPUs von Google, erfüllen diese Funktion ebenfalls.
Diese Spezialisierung verändert das Layout der Räume. Nvidia beschreibt zum Beispiel sein GB200 NVL72-System als eine Bucht mit 72 GPU Blackwell und 36 CPU Grace. Die Komponenten kommunizieren über eine schnelle Verbindung, und die Anordnung verwendet Flüssigkeitskühlung. Dieses Produkt veranschaulicht den Integrationsgrad, den einige KI-Geräte erreichen. Es stellt nicht alle Rechenzentren dar, von denen viele noch traditionelle Server hosten.
Das Gedächtnis ist eine weitere Einschränkung. Die Parameter des Modells, diese Zahlen während des Lernens angepasst, müssen für die Berechnung zur Verfügung stehen. Zwischenergebnisse müssen auch beibehalten werden. Ein Modell kann die Speicherkapazität eines einzelnen Beschleunigers überschreiten: Die Arbeit wird dann auf mehrere Chips verteilt. Der Handelsfluss wird so wichtig wie die Macht eines jeden.
Ein Modell trainieren: Gemeinsam arbeitende Maschinen
Training baut Modellfähigkeiten aus Daten auf. Für ein Sprachmodell besteht eine klassische Aufgabe darin, die Fortsetzung eines Textes vorherzusagen. Das System erzeugt eine Schätzung, misst seinen Fehler und passt dann seine Parameter an. Er wiederholt diesen Prozess an vielen Beispielen. Lernen beinhaltet daher Berechnungen, aber auch das Lesen und Aufbereiten von Daten.
Um die Arbeit zu beschleunigen, können mehrere Maschinen verschiedene Teile eines Datensatzes verarbeiten. Sie müssen dann die Informationen teilen, die für die Aktualisierung des Modells erforderlich sind. Eine andere Methode verteilt ein zu großes Modell direkt auf mehrere Beschleuniger. Diese Ansätze können kombiniert werden. Verteilte Computer-Tools, einschließlich PyTorch, organisieren diese Zusammenarbeit und Synchronisierung der Ergebnisse.
Das interne Netzwerk wird daher nicht nur genutzt, um Fragen aus der Öffentlichkeit zu erhalten. Es ermöglicht Maschinen, das Modell zusammen zu bauen. Wenn sie zu viel Zeit damit verbringen, auf ihre Nachbarn zu warten, bleibt ein Teil der Ausrüstung unzureichend ausgelastet. Storage muss auch Schritt halten: GPUs ohne Daten funktionieren nicht mehr, weil sie neuer sind.
Der Betreiber unterhält regelmäßig Zwischenzustände des Trainings. Diese Backups ermöglichen es Ihnen, nach einer Panne wieder aufzunehmen, ohne die gesamte Berechnung zu wiederholen. Es muss auch die Qualität des Modells überprüfen: Eine größere Infrastruktur erhöht die verfügbaren Mittel, garantiert jedoch keine guten Daten oder fairen Antworten.
Inferenz, die bei jedem Gebrauch geleistete Arbeit
Einmal trainiert, kann das Modell verwendet werden: Diese Phase wird Inferenz genannt. Das Erkennen eines Objekts auf einem Bild, das Transkribieren eines Satzes oder das Schreiben einer Antwort sind Beispiele für Rückschlüsse. Die normale Verwendung eines Modells ändert nicht automatisch seine Parameter. Eine mögliche zukünftige Nutzung des Austauschs für eine neue Ausbildung ist ein separater Prozess und Regeln des Dienstes.
Für einen Textassistenten wird die Anforderung in Einheiten umgewandelt, die als Token bezeichnet werden. Ein Token kann einem Wort, einem Wortfragment oder einem Zeichen entsprechen. Das Modell verarbeitet den Kontext und berechnet schrittweise die Antwort. In selbstregressiven Sprachmodellen werden die bereits erzeugten Token verwendet, um Folgendes zu bestimmen. Eine lange Antwort erfordert daher mehr Schritte als eine kurze Antwort, wobei alle anderen Dinge gleich sind.
Software speichert einige Zwischendarstellungen in einem Cache, um zu vermeiden, dass die gleichen Berechnungen wiederholt werden. Dieser Geschwindigkeitsgewinn verwendet Speicher. Wenn der kontext und die anzahl der gleichzeitigen gespräche zunehmen, zählt diese ressource. Die Betreiber bündeln auch Anfragen, um Beschleuniger besser zu besetzen, während sie die Erwartungen jedes Benutzers einschränken.
Training ist eine Operation, die sich auf den Aufbau eines Modells konzentriert. Die Schlussfolgerung wird dann für jede Verwendung wiederholt. Eine individuelle Anfrage mobilisiert viel weniger Berechnung als ein vollständiges Training, aber Millionen von Anfragen sind eine dauerhafte Aktivität. Ein weit verbreiteter Dienst muss Kapazität für Spitzen haben, nicht nur für einen täglichen Durchschnitt.
Eine Antwort ist nicht unbedingt eine Internetsuche
Eine Vorlage kann Text aus ihren Parametern und dem bereitgestellten Kontext generieren, ohne das Web zu konsultieren. Wenn ein Assistent nach aktuellen Informationen sucht, werden andere Komponenten verwendet: Suchmaschine, Dokumentationsdatenbanken, Wiederherstellungstools und Verifizierungsprogramme. Die erhaltenen Dokumente werden in ihrem Kontext an das Modell weitergeleitet. Dieser Mechanismus bedeutet nicht, dass das gesamte System sofort umgeschult wird.
Der Pfad einer Anwendung kann somit mehrere Schritte kombinieren: Zugriffsrechte prüfen, ein Dokument finden, das Modell ausführen und das Ergebnis speichern. Diese Vorgänge finden nicht notwendigerweise auf derselben Maschine oder im selben Gebäude statt. Ein Fehler kann einen dieser Schritte beeinflussen, ohne dass alle Server gestoppt werden.
Es gibt auch eine lokale KI, die auf einem Computer, Telefon oder Industriegeräten ausgeführt wird. Es kann funktionieren, ohne jede Daten an ein entferntes Zentrum zu senden, abhängig von der Anwendung. Die Größe des Modells, der verfügbare Speicher und die gesuchte Reaktionszeit bestimmen die Wahl. Große Rechenzentren sind daher nicht für alle Anwendungen von KI unverzichtbar, aber sie ermöglichen die gemeinsame Nutzung erheblicher Energie.
Strom wird zum Betriebszustand
Die Geräte erhalten Strom durch Transformatoren, elektrische Panels und Verteilungssysteme. Wechselrichter sorgen für Kontinuität bei bestimmten Störungen. Notfallgeräte übernehmen entsprechend der Architektur des Geländes. Die Kühlung muss auch betriebsbereit bleiben: Die Stromversorgung der Server ohne Wärmeabfuhr reicht nicht aus.
In ihrem Bericht 2026 schätzt die Internationale Energieagentur den globalen Stromverbrauch von Rechenzentren im Jahr 2025 auf 485 Terawattstunden. Es projiziert etwa 950 Terawattstunden im Jahr 2030, was etwa 3% des weltweiten Strombedarfs entspricht. Die zweite Abbildung ist eine Projektion, kein bereits beobachteter Konsum. Die erste umfasst alle Rechenzentren, nicht nur KI.
Es ist auch notwendig, Macht und Energie zu unterscheiden. Ein angekündigtes Projekt mit 100 Megawatt beschreibt eine Leistungskapazität oder einen Bedarf, dessen Umfang angegeben werden muss. Für Berechnungszwecke würde eine konstante Last von 100 Megawatt für 24 Stunden 2.400 Megawattstunden verbrauchen. Dies beweist nicht, dass eine beworbene Website in dieser Größe bereits funktioniert, noch nutzt sie ihre gesamte Kapazität dauerhaft.
Kühle Chips ohne verwirrende Schaltung und Wasserverbrauch
Der größte Teil des von Computergeräten verbrauchten Stroms endet in Wärme. Einrichtungen müssen es nach außen verlagern. In einem Luftsystem zirkulieren Ventilatoren Luft um die Server. Das Layout trennt kalte und heiße Ströme, um eine unnötige Kühlung einer Mischung aus beiden zu vermeiden.
Bei sehr dichten Späne kann eine Flüssigkeit Wärme in der Nähe von Komponenten durch Kühlplatten aufnehmen. Diese Wärme verbindet dann Tauscher und das Gebäudesystem. « Flüssigkühlung » bedeutet nicht, dass nach jeder Passage systematisch Wasser freigesetzt wird. Der interne Kreislauf kann in einem geschlossenen Kreislauf arbeiten, während das externe Gerät Verdampfung verwendet oder nicht.
Verdunstungstürme verbrauchen Wasser, um Wärme abzuführen. Andere Systeme konzentrieren sich auf externe Luft-, Klima- und Ausrüstungsbeschränkungen. Um zwei Projekte zu vergleichen, ist es daher notwendig, ihren tatsächlichen Wasserverbrauch, ihre Versorgungsquelle und die Jahreszeit zu untersuchen. Die einzige Anzahl von GPUs berechnet diese Auswirkungen nicht.
Was die EU misst und was sie hinterlässt
Ein gemeinsamer Indikator, die EUP, meldet den gesamten Energieverbrauch des Zentrums an den seiner IT-Ausrüstung. Ein PUE von 1,2 bedeutet, dass für jede 100 Energieeinheiten, die von diesen Geräten verwendet werden, der Standort insgesamt 120 verbraucht. Die 20 zusätzlichen Einheiten beinhalten Kühl- und elektrische Verluste. Dies ist ein Beispiel für Berechnung, kein universeller Durchschnitt.
Die EUP misst die Effektivität der Unterstützungsinfrastruktur. Es sagt nicht, ob Server nützliche Arbeit leisten, ob das Modell effizient ist oder ob Strom kohlenstoffarm ist. Ein effektives Zentrum kann insgesamt mehr konsumieren, wenn es seine Aktivität signifikant erhöht. Um einen KI-Service zu beurteilen, müssen Sie sich auch die produzierte Arbeit, das verwendete Material und die Quelle des Stroms ansehen.
Kosten hängen von der Nutzung ab, nicht nur das Gebäude
Der Eigentümer finanziert Grundstücke, Gebäude, Anschlüsse, elektrische Geräte und Maschinen. Zum Betrieb hinzufügen Energie, Netzwerk, Wartung und Teams. Spezialisierte Geräte stellen Kapital dar und müssen ausreichend eingesetzt werden, um den Dienst wirtschaftlich rentabel zu machen. Die Geschwindigkeit der Ausführung löst dieses Problem nicht allein.
Für den Kunden kann die Rechnung eine Mietdauer von Maschinen, ein Speichervolumen oder die Nutzung einer API abdecken. Im letzteren Fall kann ein Lieferant verarbeitete Token und Produkte in Rechnung stellen. Dieser kommerzielle Tarif gibt nicht direkt den Stromverbrauch der Nachfrage an. Das gewählte Modell, die Länge des Kontexts, die angeforderten Werkzeuge und die zusätzlichen Berechnungen variieren die tatsächliche Arbeit.
Dies erhöht den Berechnungsbedarf, erfordert jedoch hauptsächlich, dass die Betreiber mehrere Ressourcen koordinieren. Ein neuer Raum wird nicht in Dienst gestellt, nur weil seine Server geliefert wurden. Die elektrischen Anschluss-, Netz-, Kühl- und Betriebsprüfungen müssen gleichzeitig bereitstehen.
Kommentare