„Diese Rohstoffe gibt es nicht auf unserem Planeten“ | c’t uplink

00:00:00: KI-Rechenzentren schießen wie Pilze aus dem Boden.

00:00:03: Was sie von normalen Rechenzentern unterscheidet, schauen wir uns heute im CT-Ablink an!

00:00:12: Hallo mein Name ist Kevan Thunikaboni.

00:00:14: ich bin Redakteur bei der CT und begrüße euch zu einer neuen Folge von CT-Ablink.

00:00:19: KI ist das dominierende Thema doch große Sprachmodelle und generative KI brauchen riesige Rechenpower.

00:00:26: weltweit entstehen neue Rechencentren Auch in Deutschland.

00:00:30: Mit meinem Kollegen Christoph Windeck aus der CT Redaktion schauen wir heute auf die KI-Rechenzentren, wie sie auf sehr komplizierte und teure Weise Strom in Wärme verwandeln und wie sich denn auch ihre Technik unterscheidet von ganz gewöhnlichen Rechenzentern.

00:00:46: Herzlich willkommen, Christoph!

00:00:47: Ja hallo, Gewang!

00:00:50: Warum werden jetzt gerade so viele neue KI-Rechtenzentren gebaut?

00:00:54: Ja, international vor allem hoch spekulativ.

00:00:57: Weil Menschen wie Elon Musk der reichste Mensch der Welt auch Leute wie Peter Thiel oder eben die Open AI Gründer Anthropic Meta wahnsinnig Mengen an Risikokapital einsammeln?

00:01:12: Oder ja kann man das Risikopapital nennen.

00:01:15: also die verdienen sowieso schon gut doch die haben eine Menge Risikokapital zum Teil und sie stecken halt mehr als eine Billion US-Dollar in den Aufbau von Rechenzentren pro Jahr im Moment.

00:01:27: Das sind unfassbar riesige Investitionen, also ich kann mich nicht erinnern dass es da ein historisches Beispiel für gibt und es geht halt darum bei diesen Modellen die Nase vorne zu haben und das Training und auch die Anwendung des sogenannte Inferencing dieser Modelle braucht eben sehr viel Rechenleistungen Und dafür braucht man bisher sehr, sehr große Rechenzentren.

00:01:49: Das ist der Hintergrund.

00:01:52: Aber das ist ja schon die Schießnette überall aus dem Boden und du sagst es hoch spekulativ?

00:01:57: D.h.,

00:01:58: dass auch eine Wette darauf, dass man diese Rechenpower in Zukunft noch braucht oder ist es gegeben, damit man diese Power braucht?

00:02:04: Nein, das ist gar nicht gegeben!

00:02:06: Das hat man jetzt vor wenigen Tagen gemerkt bevor wir hier aufzeichnen... Da gab es ja Äußerungen der führenden KI-Entwickler, die gesagt haben da müssen wir mal ein bisschen langsamer machen und prompt gehen die Börsenkurse von den Chipfirmen deutlich runter.

00:02:22: Das heißt man merkt schon der Markt also auch die Anleger Das sind ja große institutionelle Anleger, die da sehr viel Geld reinstecken.

00:02:32: Die sind auch nervös!

00:02:33: Also alle wollen daran teilhaben aber keiner weiß ob es wirklich was wird und wir müssen da ganz verschiedene Geschäftsmodelle sehen.

00:02:40: also es gibt ja Firmen wie zum Beispiel Anthropic oder OpenAI oder auch Elon Musk mit seinem SpaceX AI Oder Microsoft vor allem mit den Azure-Rechenzentren.

00:02:50: Die haben ja eine eigene Roadmap, wo sie sagen können naja wir wollen so und so viel trainieren.

00:02:56: Wir wissen Nvidia oder ein Konkurrent von Nvidia hat dann und dann diese Chips.

00:03:00: also die gucken ja schon länger in die Zukunft.

00:03:02: als wir der Presse bindet man das natürlich nicht auf die Nase was man in der übernächsten Generation vorhat Und die können das relativ gut einschätzen und bauen ja auch für sich um dann das Ergebnis ihrer KI zu verkaufen.

00:03:18: Also bei Facebook ist ja ganz klar Meta und Insta, die nutzen das intern im Wesentlichen Und Open AI will aber zum Beispiel die Modelle verkaufen Die kaufen auch Rechenleistung oder Rechenzentrumskapazität anderswozu.

00:03:33: und jetzt kommen wir in den spekulativen Bereich.

00:03:35: Es gibt hier auch sehr viele kleinere Firmen die KI sozusagen man nennt es ja im Jagon On-Premise also auf eigener Hardware Betreiben wollen.

00:03:44: also on premise bedeutet eigentlich in meinem eigenen, In meiner eigenen Firma.

00:03:49: das schafft aber kaum jemand bei KI Rechenzentren.

00:03:51: Also man mietet sich irgendwo ein gibt Aber die Daten nicht raus und dass ist wie Das sehr etablierte collocation Prinzip Bei rechenzentern.

00:04:00: das heißt jemand baut das ganze rechencentrum betreibt das Die stromleitung die daten leitung aber die server die da drin stehen die gehören dem meter Und also der Firma, die das mietet typischerweise und so machen wir das zum Beispiel bei heise online auch.

00:04:14: Also unsere server ist ja kein geheimnis da steht bei heize online unten drunter Die stehen in frankfurt bei plus line die werden von hier komplett gewartet Und da können kann auch ein atmen von uns hinfahren und darin an den servaren arbeiten.

00:04:28: Meistens macht man dass aber alles remote und

00:04:31: diese

00:04:32: kaikolocation sozusagen Das ist noch spekulativer d.h.

00:04:37: Da gibt es eine henne allprobleme.

00:04:39: Die Betreiber dieser Rechenzentren, also dieses Geschäft ist hoch profitabel tendenziell.

00:04:43: Deswegen passiert das ja alles und die sagen und im Moment kann man KI Server nicht so leicht in normale Rechencentren stellen Und die sichern sich gute Standorte wo man zum Beispiel günstig an Strom kommt.

00:04:55: Das können wir nachher noch besprechen wo das der Fall ist genau und bauen erst mal ein paar Gebäude hin, und sagen hier ich kann das jetzt vermieten.

00:05:04: Hier kannst du sofort deine Server reinfahren.

00:05:06: Da geht es ja auch oft um Zeit Ja?

00:05:08: Und da gibt's eben unterschiedliche Geschäftsmodelle aber alle sind auf verschiedenen Ebenen spekulativ im Moment.

00:05:15: Es gibt natürlich schon Geschäftsbereiche mit KI die gut laufen Aber in großem Ganzen muss man sagen da ist sehr viel Spekulation dabei.

00:05:23: Das heißt man baut erstmal Kapazitäten auf und hofft dann, dass man sie los wird.

00:05:29: Lass uns mal reinschauen in diese Rechenzentren.

00:05:31: also was unterscheidet denn jetzt so ein KI-Rechenzentrum von einem normalen Rechencentrum?

00:05:36: Ist das nicht einfach?

00:05:37: im Bein stehen Rechner drin die Rechnen?

00:05:39: Genau!

00:05:39: Das tun Sie.

00:05:41: Zwei Faktoren es ist erstmal die Leistungsdichte.

00:05:44: Also wie viel Watt kann ich in einen Schrank packen?

00:05:48: Ich fahre vielleicht sollte man ein zwei Begriffe klären.

00:05:51: also in dem Rechen Zentrum hat man ja so Serverräume.

00:05:55: Das Rechenzentrum besteht ja nicht nur aus Serverräumen, sondern man hat ja auch einen Dieselgenerator für Stromausfälle.

00:06:01: Eine unterbrechungsfreie Stromversorgung mit Batterien oder Akkus viel besser für kurze Stromschwankungen.

00:06:08: Kühlung natürlich riesige Kühlanlagen.

00:06:10: Man hat abgeschottete Räume wegen Feuerschutz und auch Zugangsschutz.

00:06:14: also geht hier um Datenschutz.

00:06:17: aber dann in den eigentlichen Serverräum stehen die Server ja nicht irgendwie auf dem Boden so wie in manchen unserer Büros, sondern sie sind eben hübsch.

00:06:24: Schränken angeordnet, also spezielle Serverschränke und die nennt man halt im Jagon Racks.

00:06:30: Weil die da so beinahe geordnet sind üblicherweise es sind das eben Standard raster Maße, sodass man diese Maschinen sehr leicht austauschen kann gut dran kommt.

00:06:39: So jetzt habe ich halt einen Effekt.

00:06:41: Ich muss ja irgendeine Leitung in jedem Raum legen für Kühlung und Strom Und auch zu jedem Schrank Und das ist bei klassischen Rechenzentren halt so.

00:06:51: oder auch Collocation, ist man im Moment in der Größenordnung ich sage mal von fünf bis fünfzehntausend Watt die jeder Schrank verträgt.

00:07:00: Das heißt diese Schränke im klassischen neunzehnzoll Rastermaßel sind zu zwei Meter hoch.

00:07:05: da passen bis zu vierzig Server rein also vierzig Höheneinheiten.

00:07:10: die Server können unterschiedlich hoch sein aber immer gleich breit und dann kann ich eben Gängiges Format sind.

00:07:17: also sagen wir zwanzig Server und dann könnte jeder was habe ich gerade gesagt zehn KW, dann könnte Jeder so fünfhundert Watt irgendwie verbranen.

00:07:26: So bei den KI-Rechenzentren sind wir aber im Moment bei Hundertsechzig Kilowatt pro Schrank das heißt es ist Faktor sechzehn.

00:07:34: Hundertsächzig Kilovatt zur Erinnerung.

00:07:36: Das ist sowas so ein gutes Elektroauto heute womit das betankt wird.

00:07:42: Also die besten haben jetzt dreieinhalbfünfzig KW.

00:07:45: Das sind also erhebliche Leistungen und das muss ja als Strom da rein.

00:07:49: Und es muss als wärmer alles wieder raus, wenn ich jetzt da ich kann natürlich in ein herkömmliches Rechenzentrum einfach nur in jeden Raum zwei Schränke stellen und sagen fertig wird es tatsächlich auch zum Teil gemacht.

00:08:04: Aber die KI-Rechenzentren sind eben genau dafür ausgelegt, dass ich da auch sehr dicht gepackt solche Schränke mit wahnsinniger Leistungsdichte um das mal sozusagen.

00:08:13: Also man rechnet tatsächlich in Kilowatt pro Quadratmeter zum Teil auch reinpacken kann und dann hat das Gesamtrechenzentrum eben auch eine sehr viel höhere Leistung.

00:08:23: Das heißt es geht also im Leistungs-Dichte und Leistungsaufnahme Und in der Folge muss eben die Stromversorgung viel stärker sein ... aber auch die Kühlung.

00:08:32: Wobei, wenn wir jetzt hier über Leistungsaufnahmen und ... ... Leistungstichte reden geht es schon jetzt erst mal um den Strom?

00:08:39: Ja

00:08:39: im Wesentlichen geht es um Strom... ... aber eben auch um Abwärme.

00:08:42: das sind also ich kann nicht unendlich ... ... Strom da reinpacken weil dann brennt die Bude halt ab!

00:08:47: Ich muss es auch wieder wegkühlen.

00:08:51: Lassen uns später noch einmal zu kommen, aber wie unterscheiden sich denn von der ... ... Computertechnik jetzt die Sachen?

00:08:58: Also weil es gab ja mal einen Trend.

00:09:02: Ich glaube der ist teilweise auch aus der Not entstanden bei Amazon und aber Google hat das halt auch gemacht, dass sie Standardhardware also nicht mehr so spezial Hardware sondern zeitlang Standard Hardware reingepackt haben und dafür aber ganz viele, die miteinander vernetzt haben anstatt teure Mainframes oder sowas.

00:09:21: Es war eher so dass sie bestimmte Feature Stack, die man bei klassischen Servern also man nennt das heute Enterprise Markt?

00:09:27: Das ist der typische Einschubserver für eine Firma wo man halt seine Datenbank drauf laufen lässt, das Mail-Programm

00:09:33: usw.,

00:09:34: also für drehundert Leute.

00:09:37: Und da gibt es zum Beispiel viel Aufwand, damit er erweiterbar ist und die Fernwartung auf eine bestimmte Art funktioniert.

00:09:46: Damit die Teile auch austauschbar sind und reparell war.

00:09:49: Und bestimmte Sachen sind für diese großen, die sogenannten Hyperscale Cloud-Anbieter unnötig.

00:09:54: Die kümmern sich nicht mehr um den einzelnen Server.

00:09:57: Die würden jetzt nicht mehr ein Speichermodul wechseln oder sowas.

00:10:03: Na gut, wenn eins kaputt ist vielleicht schon aber nicht mehr aufrüsten sondern dann schmeißen das ganze Zeug eben raus.

00:10:08: die nutzen die Teile zum... also das ist gar nicht mal unbedingt jetzt unökologischer weil sie nutzen.

00:10:14: die haben ja so riesige Flotten dass hier zb auch lahme Hardware vielleicht sogar länger nutzen können als manche andere.

00:10:21: Aber grundsätzlich war da so eine so ne No-Frills Ansatz wie Billigflieger sozusagen.

00:10:26: Also ich lasse diese ganzen Services weg die ich nicht brauche.

00:10:30: Die waren aber zum Teil darauf aus, interessanterweise die Sachen sogar luftiger zu bauen um sie billiger kühlen zu können.

00:10:37: Und die haben ja diese Rechenzentren teilweise auch irgendwo in die Wildnis gebaut oder nahe an Stromquellen in Europa.

00:10:43: ich habe hier mal so ein Facebook-Rechenzentrum in der Nähe vom Polarkaas besucht weil man da billig küheln kann ohne Kältemaschinen.

00:10:51: und außerdem gibt es noch einen dicken Fluss der billigen Wasserstrom liefert.

00:10:56: Und das war gerade nicht das, was die KI-Rechenzentren jetzt machen.

00:10:59: Die Leistung extrem zu verdichten!

00:11:02: Warum macht man das?

00:11:03: Das muss man immer wieder daran erinnern... Der Transport von Daten also wirklich ein Bit über einen Bus Von A nach B zu kriegen, also vom RAM in den Prozessor.

00:11:15: Vom Prozessoren in den KI-Beschleuniger und letztlich auf die Datenleitung.

00:11:20: Also dieser Transport von Daten der braucht mittlerweile pro Bit sozusagen mehr Energie als die eigentliche Berechnung.

00:11:26: Warum ist das so?

00:11:28: Naja weil du um einen Datum zu transportieren musst du ja irgendwie ein elektrisches Signal übertragen, also eine eins oder ne null... Und jede Leitung hat einen Widerstand und zum Beispiel auch eine gewisse Kapazität die ich überwinden muss Und dazu muss ich eben Energie umschichten.

00:11:45: Also Strom ist ja nichts anderes als der Transport von Elektronen und das braucht eben Energie, und ich kann zum Beispiel Energie sparen indem ich beim Datentransport jetzt meine nicht allgemein beim Datantransport wenn ich zb die Leitung so kurz wie möglich mache Und das ist zum Beispiel ein Gedanke, der dahinter liegt.

00:12:02: Also ich baue die Speicherchips nicht mehr in steckbare Module, die so ein Stückchen weg sind wie wir es auch vom Deso PC können sondern ich packe die unmittelbaren neben den KI Beschleuniger.

00:12:14: Das ist das sogenannte High Bandwidth Memory und im Grunde kann man sich das vorstellen als wäre so einen KI Beschleiuniger wie ein früherer Server nur auf der Fläche eines Handtellers also das Zehnfache an Rechenleistung und teilweise mittlerweile vierhundert Gigabyte RAM auf einer Fläche, die so groß ist wie meine Hand.

00:12:34: Der kleine Nachteil ist, dass dann auf dieser Fläche auch tausend sieben Hattwatte umgesetzt werden.

00:12:38: Das is gar nicht so viel!

00:12:39: Ein Heizlüfter hat zwei KW, also ein Tausend Siebhattwatts in einem Komma-Siebenkaw.

00:12:44: Aber wenn ich halt seventy, achtzig Stück in einen Schrank baue, komme ich halt auf wahnsinnige Energiedichten, die man da raus kriegen muss... Wer jetzt so ein bisschen über Autos Bescheid weiß, weiß vielleicht dass moderne Autos auch, was weiß ich, dreihundert KW oder so haben.

00:13:00: Aber der Witz ist natürlich nicht auf Dauer!

00:13:02: Kann man sich leicht ausrechnen.

00:13:03: sonst wäre ja der Akku mit hundert Kilowatt Stunden in einer Drittelstunde leer wenn nicht dreihundert Kilovatt die ganze Zeit durchheizen würde.

00:13:10: da käme ich nicht sehr weit mit.

00:13:12: das heißt eigentlich braucht das Auto ja nur so ein paar Kilowatts damit es sozusagen dann wenn's dann mal rollt Beim kis war was das aber anders der ist dafür gedacht, dass er das wirklich die ganze zeit durchfeuert.

00:13:23: Das heißt ich muss diese.

00:13:24: also man kann sich das wie ein.

00:13:26: das ist auch der unterschied zwischen dem traktor mit dem Ich über einen ackerfahrer eine schwere maschine ziehe und einem auto oder nem lkw in einem vierzig tonner.

00:13:34: Und so ist es im rechenzentrum.

00:13:36: also die sind dafür gebaut dauerhaft diese leistung umzusetzen und das ist eben Also so muss das ganze gebäude die külltechnik Es heißt ja nicht umsonst unterbrechungsfreie stromversorgung Das soll halt immer laufen, um diese Gewinne wieder zu amortisieren und das wieder einzuspielen.

00:13:54: Wenn wir noch mal zurückkommen zu, dass du gesagt hast der Datentransport braucht mehr Energie als die eigentliche Berechnung liegt es daran, dass jetzt heutige Prozessoren und KI-Beschleunigungen einfach viel effizienter sind im Bezug auf ihre Rechtsleistung?

00:14:09: oder war das schon immer so?

00:14:12: Nein, das ist noch nicht so lange so.

00:14:14: Das kommt ja auch drauf an wie genau du hinguckst.

00:14:16: also wenn du jetzt natürlich sehr lange Datenstraßen nimmst wie Glasfaser ins Haus da ist es natürlich schon lange so.

00:14:26: aber Also da haben wir die Diskussion ja zum Beispiel auch gehabt vor ein paar Jahren darüber, dass es immer hieß ja Streaming ist so umweltschädlich.

00:14:33: Weil und dann am Ende kam raus.

00:14:35: also wenn man's mal richtig ausrechnet Dann ist eigentlich der Fernseher auf dem ich das angucke Der entscheidende Punkt und natürlich der Server.

00:14:42: allerdings heute haben Die server so geschickte hardware decoder oder hardware encoder für die Für die videosignale Das eigentlich am ende.

00:14:51: vor allem die Größe des fernsehers bestimmt wie viel wieviel energie dabei drauf geht.

00:14:58: Das wandelt sich auch über die Zeit.

00:15:00: Diese KI-Beschneuniger werden natürlich immer effizienter, das ist ja der Witz am Moore's Law.

00:15:04: deswegen haben wir ja überhaupt die KI weil das überhaupt erst seit einigen Jahren möglich ist diese wahnsinnige Zahl an Berechnungen zusammenzukriegen.

00:15:11: also das ist keine absolute Größe sondern das ist ein relatives Verhältnis was von der jeweiligen Technik abhängt.

00:15:20: aber grundsätzlich ist es so ab einer gewissen Distanz und ab einer Gewissen Menge von Daten habe ich, komme ich halt in dieses Verhältnis rein.

00:15:27: Bei KI geht es ja auch um extrem schnelle, also um riesige Datenmengen die der Prozessor lokal oder der KI-Beschleuniger durchackern muss.

00:15:36: so kann man das sagen und deswegen spielt auch der Datentransport eine große Rolle.

00:15:40: Es gibt andere Algorithmen, die eher eine höhere Lokalität der Daten haben.

00:15:45: Da stehen sie zum Beispiel im Cash Und dann spielt das natürlich nicht so ne große Rolle.

00:15:48: Also hängt vom jeweiligen Algorithmus auch ab.

00:15:53: Weil bei KI ist es im Moment

00:15:55: Jetzt waren wir beim Thema Verdichtung noch weitgehend abstrakt.

00:15:58: Du hast schon gesagt, man guckt das man Speicher sehr nahe an den Prozessor und den Kaninbeschleuniger Park, dass die Wege kurz sind.

00:16:07: Du hattest ja in deinem Artikel, den du da gemacht hast.

00:16:09: Da hast du auch so Grafiken und dann spätest du davon sogenannte Chipplets?

00:16:13: Was sind Chippletts und wie ist das so aufgebaut?

00:16:16: Das ist schwer jetzt zu beschreiben also wenn man es nicht so vorsichtig sieht.

00:16:20: Also früher hat man gesagt... Ist man davon ausgesagt sozusagen ein Chip Ist ein Prozessor ist ein Chip.

00:16:27: also wie soll man das sagen?

00:16:29: Also auf der historischen Kurve ist es nämlich anders.

00:16:31: In den siebziger Jahren war Bestand einem Prozessors eigentlich aus vielen Chips, aber das war ja eigentlich der Witz einer der Witze daran zum Beispiel mit denen Intel und AMD groß geworden sind dass halt diese Chip Technik da war so ein Pentium und auch lange Zeit War eben das Rechenwerk oder die ganzen Rechenwerke auf einem chip konzentriert.

00:16:50: Und mittlerweile isst man aber soweit dass man das ja zum einen diese Verkleinerung der Chipstrukturen nicht mehr so trivial funktioniert.

00:16:58: Das heißt, ich kann zwar tatsächlich immer noch ziemlich viele Transistoren auf einen Chip packen Aber man stößt an Grenzen.

00:17:06: und dann ist man da auf die Idee gekommen Naja Ich kann ja mehrere Chips mit speziellen Aufgaben untereinander kombinieren Dann kriege ich noch mehr Chips in ein.

00:17:15: Man nennt das Package also in einem Prozessor Gehäuse.

00:17:17: Gehäusel gehört sich jetzt komisch an weil sie sehen gar nicht mehr wie Geh Häuser aus.

00:17:21: Also im Grunde eine Art Spezialplatine Auf der mehrere Chipps sitzen Und weil es eben um, bei manche Chips wirklich relativ klein sind.

00:17:30: Also zum Beispiel haben manche Server-Prozessoren einen relativ kleinen IO-Chip wo z.B.

00:17:35: eben der Speicherkontroller drin sitzt und PCI Express Anschlüsse rausgehen und ziemlich viele oder einige große Compute-Chipplets, wo die eigentlichen Rechenwerke drin sind.

00:17:46: Ja dann hat man das halt Chipplets genannt Um zu verstehen zu geben dass der Prozessor aus mehreren physischen Teilen zusammengesetzt ist.

00:17:55: Was man dabei beachten muss, ist wenn man das nicht weiß sieht man das manchmal gar nicht.

00:17:58: also die sind so dicht aneinander dass man es tatsächlich nur Wenn man das so in bestimmten Blickwinkeln sieht, dass er, dass das nicht ein Chip isst.

00:18:06: Also stellt man sich unterschiedlich vor.

00:18:09: und dann gibt's noch eine andere Art von Chipplets.

00:18:11: Das ist viel verbreiteter als viele denken.

00:18:14: Also wenn ich so ne SSD habe Auch selbst mit einem terabyte heutzutage Dann sind da oft nur wenn man die aufschraubt.

00:18:20: Es ist ja nur noch ganz kleine Platine und man sieht im Grunde nur noch zwei oder drei Chips, zum Beispiel ein Controller und zwei der eigentlichen Flashchips.

00:18:29: Das ist aber mitnichten so dass da wirklich in jedem dieser Packages Gehäuse nur einen Chip ist sondern da sind übereinander gestapelt zb acht sogenannte Dies.

00:18:40: Da redet man wiederum von DICE, also DICE und Chipplets.

00:18:42: Das ist auch wieder irgendwie... das ist so Jagon ja?

00:18:44: Also die kann man auch Chippletz nennen.

00:18:46: und man stapelt schon ganz lange gerade Speicherchips.

00:18:50: Das is total üblich, die übernander zu stapeln und dies macht man zum Beispiel auch bei diesen KI-Beschleunigern dieses High Bandwidth Memory.

00:18:58: Das sind bis zu zwölf dünngeschliffene Ramchips übereinander.

00:19:02: Wenn man das sich aber anguckt, schließt es bündig ab.

00:19:05: Also die sind dann zusammen genauso hoch wie der Chip daneben.

00:19:08: Man schreibt dabei immer Stapel, man sieht das aber überhaupt nicht!

00:19:11: Es hat eine drastische Folge weil diese zwölf Chips übereinander, die brauchen trotzdem erheblich Strom.

00:19:17: Das heißt also allein dieser winzige Rammstapel kann seventy-fünf Watt verbraten und wenn ich da eben acht oder zehn um so einen Chip baue, dann habe ich alleine für dieses Ramm da eben sieben, achthundert Watt bei Zugriffen, den ich weggühlen muss.

00:19:32: ermöglichen ist, Prozessoren sehr viel komplexer zu bauen und eben über die Skalierungsmöglichkeiten der eigentlichen Belichtungstechnik des Chips hinaus zu verdichten.

00:19:45: Jetzt hoffe ich mit meinem begrenzten Physikalisch müssen nicht in die Nässe legen.

00:19:48: aber als ich noch selber Leser war und ich weiß nicht ob das ein deiner Ticke war oder von Andreas Stiller da ging es so was hat sich Pentium Fiora?

00:19:55: Wenn man das jetzt so verdichtet und so, hat man dann auch diese Probleme?

00:20:02: oder haben sie die gelöst?

00:20:03: Ja,

00:20:04: gelöst nicht.

00:20:04: Legströme sind nach wie vor ein Problem aber die Technik ist wesentlich besser geworden.

00:20:08: also beim Pensium IV waren wir noch in der Phase wo man zum Teil gehofft hat diese unerwünschten ströme wenn der transistor sperrt also ich habe ja mich muss er null nun einsen sozusagen erzeugen irgendwie das sind spannungspegel und sagen wir mal die null wäre eben eine spannung die näher an null volt ist.

00:20:27: Die isst aber tatsächlich gar nicht bei null volts sondern zum Beispiel nul, zwei oder so und dann fließt trotzdem ein strom und dieser strom stört halt.

00:20:35: wenn ich eine milliarde transistors auf meinem chip habe logischerweise da sind selbst kleine strömen mal eine milliard werden größer und dann wird der processor schon warm obwohl noch gar nichts passiert Und dann kann ich ihn natürlich nicht mehr so hoch, wie soll man sagen?

00:20:48: Dann ist das Delta was sich nutzen kann für die eigentliche Rechenleistung.

00:20:52: Das wird immer kleiner wenn der so schon dreißig Watt verbraucht und er soll insgesamt nur vierzig haben.

00:20:56: Dann habe ich ja noch fünfzehn übrig die ich zum rechten Nutzen kann sozusagen.

00:21:00: also so muss man sich das vorstellen.

00:21:02: Und da gibt es verschiedene Techniken.

00:21:03: Also das eine ist dass diese Transistoren immer besser geworden sind, dass die Spannungen immer weiter gesunken sind mit denen die schalten.

00:21:11: aber eben zB beim Mobil Prozessoren schaltet man aggressiv alles wirklich ab, was man nicht braucht.

00:21:17: Das ist natürlich für die KI-Beschleuniger keine Option!

00:21:19: Die sollen ja rechnen... Deswegen spielen da die Leckströme bei Server-Prozessoren gar nicht mal so eine große Rolle, weil wenn sie sowieso die ganze Zeit unter Fünfzig Prozent Dampf mindestens stehen.

00:21:30: Dann ist auch der Leckstrom nicht das Hauptproblem was ich habe.

00:21:32: Okay und du hast ja gesagt nur in den Verbrauch einer ganz andere Größenordnung.

00:21:39: Der Notebook Akku wäre mit einem KI Beschwörniger in zehn Minuten leer also zwei Minuten.

00:21:44: Das kann man leicht ausrechnen aber ich kann es jetzt gerade nicht.

00:21:47: Du hattest natürlich auf die schnelle die Zahlen gesagt.

00:21:51: irgendwie früher war so ein Server Prozessor von, so einen Spitzenprozessor vor Intel.

00:21:56: der hatte irgendwie so und so viel.

00:21:57: Ja, dreinhalb Watt zum Beispiel war eine übliche Größe viele Jahre.

00:22:00: Genau jetzt haben die aber halt irgendwie...

00:22:02: Jetzt sind die bei siebenhundert Watt und ja und so'n KI-Beschleuniger habe ich ja schon erwähnt also insgesamt mit seinen Rammchips drumherum ist er bei eins Komma sieben KW.

00:22:12: Und also du hast ja eben gesagt von diesen HBM Speichern, das ist eine Fit Hopplung.

00:22:19: Also HBM Stack wo dieser sehr dünne Ramm übereinander gestapelt ist.

00:22:25: aber für uns sieht es aus wie ein Chip.

00:22:27: und wie viel Speicher, wie viele Gigabyte hat das denn dann auf der gleichen Fläche?

00:22:32: Die haben also typischerweise im Moment sind glaube ich bei Hbmv sind glaube Die haben so krumme Größen, weil die auf einmal vierundzwanzig Gigabit.

00:22:42: also früher hatte man immer nur.

00:23:01: Acht drum rum, dann ist man glaube ich bei hundert zweiund neunzig.

00:23:03: Habe ich das jetzt richtig gerechnet?

00:23:05: Kann das sein?

00:23:06: Vielleicht also in der Größe.

00:23:07: Ihr könnt jetzt auch nochmal Nachrichten.

00:23:10: Ja, aber auf welche Fläche denkst du das mal so plastisch?

00:23:13: Auf welcher Fläche sind denn die jetzt hier so hundert und zwanzig Gigabyte?

00:23:15: Naja, so ein D-Ramdai ist in der größten Ordnung von so Fingernah... Also Daumennagelgröße, ich sag mal eins, fünf Quadrat Zentimeter ungefähr.

00:23:25: Und so groß ist es ja auch.

00:23:27: Nein, das sind dann ein Sechsen-Dreißig Gigabyte.

00:23:29: Das sind dann sozusagen meine acht Finger.

00:23:33: Genau.

00:23:36: Na ja man muss sich klar machen... Ach, das ist vielleicht ein gutes Beispiel!

00:23:39: Also eine MicroSD Karte die kennen ich ja vielleicht viel.

00:23:42: Die haben ja heute bis zu zwei Terabytes.

00:23:45: Das ist Flaschweicher kein Dramm aber man muss dich klarmachen es ist so groß wie ein kleiner Fingernagel und einen Millimeter hoch und da drin sind bis zu siebzehnt Chips übereinander gestapelt.

00:23:55: Das ist viel nicht bewusst, also man kann die Chips echt dünn runterschleifen.

00:23:59: Die eigentliche Funktionsschicht mit diesen Transistoren... ...die ist wirklich hauchdünn, also dünner als hauch-dünnn und das ist.. Also die Chiptechnik ist wirklich wenn man sich damit nicht beschäftigt dann denkt man was kann alles gar nicht wahr sein?

00:24:12: Und dass es große in Technik, die also auch relativ preiswert ist Nicht bei diesem DRAM Stacks, die sind sehr speziell weil die eben

00:24:20: pro

00:24:21: chip auf dieser Fläche mal eben so was wie viertausend Anschlüsse haben, also das kann man sich auch schon nicht mehr vorstellen.

00:24:28: Ja und halt auch eine ganz um die Bandbreite zu haben...

00:24:33: Um diese wahnsinnigen Datentransferanen hinzukriegen.

00:24:35: Ganz genau deswegen macht man das ja an.

00:24:37: Also weil halt einfach diese KI-Systeme so Daten und Speicher hungrig sind.

00:24:40: Genau.

00:24:42: Und ich... Gibt's denn oder du hast dann noch andere so Spezialtechnik beschrieben?

00:24:49: Wo ja auch sehr viel z.B.

00:24:50: diesen, ähm, natürlich gerade nur Kung XPO.

00:24:53: also das geht zum Netzwerkanschluss?

00:24:55: Ja.

00:24:55: Sondern weil man will jetzt die Daten ja auch zwischen diesem KI...

00:24:59: Genau deswegen, ach so, genau können wir bei der Geling hat mal erklären warum man die Schränke so dicht nebeneinander packen will.

00:25:04: diese großen KI-Modelle passen auch nicht.

00:25:07: Also die passen weder auf einen Chip und die passent auch nicht in ein Rack.

00:25:12: Ich hab also zum Beispiel heißen ganz viele dieser Racks bei Nvidia nvl-siebzig.

00:25:17: Das ist kein Zufall, sondern weil das zweiensebzig Beschneuniger sind.

00:25:21: und dann zum Beispiel mal hundertzweiundneinzig Gigabyte RAM pro Chip kommt noch mehr RAM dazu.

00:25:27: da ist oft noch ein Prozessor dabei einen Altsbeckprozessor aber da sind wir in der Größenordnung von paar terabyte aber da passen viele Modelle halt noch gar nicht rein.

00:25:35: das heißt ich muss auch noch mehrere Schränke zusammenschalten und dafür brauche ich eben super schnelle Netzwerktechnik.

00:25:42: und auch da sind wir wieder bei dem Punkt.

00:25:44: Je länger die Kabel sind, desto mehr Strom frisst das Ganze.

00:25:47: Und auch diese Netzwerken Prozessoren die baut Nvidia zum Beispiel ja auch selbst.

00:25:52: Auch die sind wassergekühlt und mittlerweile ist es so dass eben sogar Die Anschlüsse an dem Server So stromhohrigs sind weil ich wenn nicht da jetzt riesige terabyte weise also Terabyte pro Sekunde aus diesem Server herausfeuern will, brauche ich auch superleistungsfähige Schnittstellen.

00:26:11: Und die werden warm und deswegen gibt es auch wassergekühlte Netzwerkanschlüsse mittlerweile.

00:26:17: Das wird zumindest entwickelt als ein Standard weil das ist ja auch ein Problem.

00:26:22: Nvidia liegt auch deshalb soweit vorne immer in dieser ganzen KI-Technik, weil sie eben mittlerweile sind sehr stolz darauf, dass ganze System durchoptimieren.

00:26:33: Das ist aber natürlich auch ein bisschen Eigennutz dabei, so wie das Intel früher gerne gemacht hat.

00:26:37: Da war ja Intel so berühmt für dass man ja man konnte dann auch super den WLAN-Kontroller von Intel gleich mit einbauen.

00:26:43: und natürlich der Netzwerkkontroller Ja, das hat zwar alles toll gepasst.

00:26:46: Natürlich geht es darum, dass man möglichst keine andere Hardware dazu kauft Und es gibt aber natürlich Bestrebungen Auch offene Systeme zu entwickeln wo ich zum Beispiel Prozessoren der Firma A mit rechten Beschleunigern der Firma B und Netzwerktechnik der Firma C kombinieren kann und nicht alles von einem kaufen muss, weil der Verdacht doch immer ist wenn man es vom gleichen kauft dass er überall noch so ein bisschen was extra verdient.

00:27:12: Konkurrenz beliebt das Geschäft?

00:27:14: Genau!

00:27:16: Okay jetzt hast du Nvidia gesagt also genau also das hat man ja in den letzten Jahren mitbekommen.

00:27:23: die haben Ich mache halt eben nicht nur Grafikkarten mehr für Gamer.

00:27:27: Die

00:27:27: machen auch noch Grafikarten.

00:27:29: Böserweise.

00:27:31: Die

00:27:31: verdienen sich dumm, lahm und bis zum Popillenstillstand mit diesen KI-Maschinen.

00:27:36: Und deswegen sozusagen alle Chipfläche die sie kriegen können von TSMC dem größten Chipauftragsfertiger der Welt aus Taiwan.

00:27:46: Da kauft entweder im Wesentlichen die KI Beschleuniger zu... ...und die Chipflächen lassen sich wirklich vergolden.

00:27:54: Das heißt, weil diese KI-Firmen in diesem Wettlauf sind und sehr viel Geld von der Börse da reingefeuert wird haben die wahnsinnig tiefe Taschen.

00:28:02: Und kaufen einfach mit ihrer Kaufkraft allen anderen Märkten die Chips vor der Nase weg.

00:28:06: Deswegen können wir uns kein Ramm mehr leisten?

00:28:08: Ganz genau!

00:28:08: Das ist direkt so, weil die anderen einfach für das Rammmehr zahlen.

00:28:13: Ist es denn jetzt so dass sie ihren KI-Beschleuniger... Haben die da was ganz Neues entwickelt?

00:28:18: oder haben sie sozusagen ihre GPUs dann über die Jahre sozusagen weiterentwickelt, um sie zu KI beschließen?

00:28:23: Also erst mal muss man sagen dass Jensen Wang sehr sehr schlau ist.

00:28:26: Das muss man einfach nachdenken.

00:28:27: Das ist der

00:28:29: CEO

00:28:29: von NVIDIA, der immer in seiner Schwarzen Lederjacke auftritt.

00:28:32: Die ja eigentlich so eine Gaming-Konnotation hat.

00:28:34: Ja das ist jetzt ein bisschen pervers im Grunde.

00:28:37: mittlerweile lässt er sich auch öfter mal mit dem Anzug ablichten.

00:28:40: Der ist ja auch nicht arm kann man sich hervorstellen.

00:28:44: und Der hatte also die Idee eine GPU, also eine Graphics Processing Unit als Zweck GPU.

00:28:55: Also General Purpose GPU zu verwenden.

00:28:59: ich weiß gar nicht ob Nvidia die als erstes hatte ja Aber sie haben es jedenfalls am geschicktesten umgesetzt.

00:29:06: Das muss man wirklich so sehen, also meine Perspektive da drauf und zwar nicht erst seit gestern sondern ich glaube seit jetzt siebzehn Jahre gibt's eben QDA.

00:29:13: das ist eine API also ein Programmierschnittstelle wo man damals die Nvidia Grafikkarten für Allzweck Berechnungen nutzen konnte, wobei Allzweg nicht falsch verstanden werden darf.

00:29:25: zumindest damals war es ganz klar so Die GPUs konnten nur ganz bestimmte super hoch parallelisierbare Berechnung sinnvoll schneller ausführen als ein normaler Prozessor.

00:29:37: Aber da gab es eben offensichtlich genug Anwendungsfälle, zunächst ist das breiter ins Bewusstsein geraten durch diese Top-Fünfhundert Liste der besten Supercomputer, der weltschnellsten Supercomputern die ja mittlerweile im Grunde Makulatur ist weil diese KI Rechenzentren sind um den Faktor hundert oder tausend schneller als dieses Supercomputor.

00:29:57: Das ist wirklich unfassbar!

00:29:59: Allerdings eben nicht für solche wissenschaftlichen Berechnungen, sondern nur für KI.

00:30:03: Damals ging es um wissenschaftliche Berechnung und da konnte entweder sehr eindrucksvoll zeigen dass diese Rechenbeschleuniger die man zusätzlich mit in dieser einzelnen Knoten dieser Top-Fundfhundert Computer oder überhaupt allgemein High Performance Computer gebaut hat wirklich was bringen bei bestimmten Berechnungsverfahren?

00:30:22: Und das war dann so ein Wechselspiel.

00:30:23: Die haben da gut verdient, die haben gute Leute in der Firma geholt Die waren lange an der Spitze dieser Entwicklung und haben das eben immer geschafft, die sind damit nicht in eine Sackkasse gefahren.

00:30:35: Zum Beispiel Intel hat es auch probiert zu machen und hat aber sich grandiose Fehler dabei geleistet also den Markt falsch eingeschätzt, die Software war nicht rechtzeitig fertig Und auch AMD was jetzt also AMD ist im Grunde profitiert am zweit bis drittbesten davon hat es mittlerweile auch geschafft, da so ein bisschen in die Spur zu kommen.

00:30:56: Weil natürlich diese KI-Anbieter also dieser Hyperscaler oder auch diese großen KI-Firmen, die suchen natürlich händringend nach Alternativen zur Nvidia weil man sieht ja entweder verdient ein Wahnsinnsgeld also in der Größenordnung von Hundert Milliarden US Dollar pro Quartal und deswegen gibt es natürlich auch viel Geld um das in die Entwicklung konkurrenzfähiger Sachen, also konkurrierender Technik zu stecken aber Nvidia anscheinend ein Vorsprung weiterhin.

00:31:25: Ich kann das gar nicht, ich bin jetzt nicht der Rechenzentrums Super-Experte aber du musst immer sehen es geht natürlich im Moment um Geschwindigkeit.

00:31:33: wer zuerst sein Modell da am Laufen hat liegt halt vorne und Geschwindigkeitsgeld das heißt das spielt ja jetzt nicht so eine Rolle dass die Technik so super teuer ist.

00:31:45: ich sage jetzt mal Nvidia sie ist aber etabliert Und Nvidia sagt zum Beispiel, guck mal hier.

00:31:49: Wir bauen unsere Racks.

00:31:50: mittlerweile gibt es da kaum noch elektrische Steckverbinder die unzuverlässig sind.

00:31:55: Ja wir kühlen sehr viel mehr Komponenten schon mit Wasser wo die anderen zusätzlich zur Wasserkühlung noch einen Lüfter brauchen.

00:32:02: Mit Lüftermainich hier ein Lüchter der fünfunddreißig tausend Touren macht.

00:32:05: ja also das ist problematisch.

00:32:09: Also man hätte gerne die ganze Energie im Wasser also auf allen Ebenen.

00:32:14: versuchen sie das zu optimieren und sagen halt wenn du bei uns kaufst kriegst du ein Paket, wo du sagen kannst in dem Moment wo das Zeug steht bist du in so vielen Wochen betriebsbereit.

00:32:24: Die werden auch heute nicht mehr in den Rechenzentrum zusammengesteckt sondern die kommen schrankweise wenn die da reingefahren und du bist schneller am Start und wie das holste dann doch wieder rein.

00:32:35: dass also mal genau hinhört ist es genau das Argument von Jensen Wang der halt sagt Wenn Du bei mir kaufs bist du einfach schneller als die anderen und deswegen verdienst du zuerst.

00:32:45: Und ja, wir sind ein bisschen teurer aber wir bieten dir das bessere

00:32:48: Paket.".

00:32:48: Das ist also der Ansatz den er verkauft.

00:32:51: Ich betreibe jetzt keinen!

00:32:54: Ich kann dir nicht sagen, ob es stimmt.

00:32:56: Aber im Moment liegen sie noch ganz gut vorn.

00:32:59: Und du hast jetzt gesagt aber AMD?

00:33:02: Liegen die jetzt besser in der Spur als Intel oder...

00:33:04: Ja deutlich!

00:33:05: Also umsatzmäßig hat AMD Intel noch nicht überholt.

00:33:10: Aber eben mit einer sehr viel kleineren Mannschaft ist AMD wesentlich profitabler und Intel Tuts hat sich im KI Bereich Ja, man muss was fast zu sagen.

00:33:22: Fast ins abseits manövriert.

00:33:23: die haben einige gute Ideen aber längst nicht in den stückzahlen für diese großen rechenzentren.

00:33:28: Die profitieren jetzt wieder weil diese was aktuell sehr trendi ist es eben agentik ai Und die brauchen wieder mehr prozessoren klassischer als weg prozessor und deswegen ist intel auch stark im auffind.

00:33:40: amd aber auch.

00:33:42: und Aber Intel hat im Moment keine KI-Beschneuniger, die mit denen von AMD konkurrieren können zum Beispiel und deswegen sind eben bestimmte Bereiche des Marktes für Intel im Moment nicht erreichbar.

00:33:54: Und wie sieht das aus mit den Hyper Scalern?

00:33:56: Wie jetzt Google oder AWS also Amazon kaufen sie dann bei Nvidia ein oder machen ihren eigenen Kram?

00:34:02: Alles

00:34:03: genau als eine Mischkalkulation.

00:34:04: Die machen beides.

00:34:05: Was machen die denn selber?

00:34:07: Also Google ist ganz bekannt macht schon seit zehn Jahren länger als zehn Jahren diese TPU, also Transor-Tensor Processing Unit.

00:34:14: Habe ich ehrlich gesagt, weil ich ja ... Ich kann ja peinlicherweise noch ja ... Gebe es jetzt öffentlich zu!

00:34:19: Ich kann überhaupt nicht programmieren... Also ... Also ich weiß schon was ein Programm ist aber ich bin ... Und KI ... Es fällt mir schwer!

00:34:25: Ich bin mehr so praktisch orientiert und dieses ... Ich hab das lange nicht wirklich verstanden.

00:34:30: mittlerweile habe ich so ein grobes Verständnis glaube ich.

00:34:34: Aber ähm ... Diese Bedeutung der TPU damals überhaupt nicht gerafft und Google ist mit der TPU ja, würde ich sagen doch relativ weit vorne.

00:34:46: Die machen sie also.

00:34:47: Google hat immer so getan als machen Sie das selbst.

00:34:49: mittlerweile weiß man.

00:34:51: Sie haben sehr gute Leute die sie holen und lassen sich bei der Entwicklungsarbeit aber unterstützen sozusagen.

00:34:58: Das heißt dass Kernrechenwerk hat sich Google genau überlegt auch wie das aufzubauen ist.

00:35:03: Sie nutzen aber Auftragsentwickler.

00:35:06: Einer dieser Auftragsentwickler ist entweder Broadcom oder Marvel, die eben im Zuge dessen auch ein Wahnsinnsgeld mit KI verdienen.

00:35:13: Und es übrigens auch so dass nicht jeder... Also wenn Apple sagt wir haben den Chip entwickelt dann heißt das nicht, dass jeder Entwickler der in diesem Chip gearbeitet hat bei einem Apple-Firmengebäude sitzt sondern es gibt große Auftragdienstleister von denen man oft noch nie was gehört hat die eben solche Dienstleistungen anbieten genau wie in der Automobilindustrie eben wenig ... in der Elektronik von den, von VW oder Mercedes selber entwickelt wird.

00:35:38: So ähnlich läuft es hier auch.

00:35:40: aber Google hat eben eine Roadmap schon.

00:35:43: ich glaube mittlerweile sind wir bei der achten Generation der TPU und die vermieten die auch in riesigen Mengen zum Beispiel an Anthropic.

00:35:52: also die verdienen Milliarden im Jahr damit dass sie diese KI Rechenwerke eben auch vermieten.

00:35:58: Also nicht die Prozessoren verkaufen sondern eben rechten Zentrumsweise ... die Kapazität vermieden.

00:36:05: Also du hast jetzt gesagt, die haben so Auftragsfertiger das heißt... ...

00:36:10: bei Google's Entwickler?

00:36:11: Ja, Auftragsentwickler sorry!

00:36:13: Das heißt bei Google sitzen Leute die sagen okay, so stellen wir uns das Design vor aber sozusagen diese Details die dann sozusagen für dieses Design notwendig sind, die machen dann dieser Auftragseentwickler.

00:36:22: oder

00:36:22: zum Beispiel oder die kaufen bestimmte Funktionsblöcke also zb in Speicherkontroller.

00:36:27: den empfinde man nicht dauernd neu sondern High Bandwidth Memory ist ja standardisiert, da weiß man wie ein Speicherkontroller sein muss.

00:36:35: Also das schon lange etabliert dass man in der Chip-Technik das ist hoch arbeitsteilig.

00:36:39: Da guckt man nur nicht so rein weil man normalerweise nichts darüber weiß.

00:36:42: wer entwickelt schon einen Chip für hundert Millionen Dollar?

00:36:47: Solche Chips sind wahnsinnig teuer.

00:36:48: also kann man vielleicht auch mal sagen wenn man einen Chip in einem für den Smartphone ganz normalen für ein vierhundert Euro Smartphone diesen Chip von Grund auf neu entwickeln würde dann kostet die Entwicklung geschätzt in der Größenordnung von hundert Millionen US-Dollar.

00:37:04: Alleine die Belichtungsmasken für ein drei Nanometer Chip liegen in der größten Ordnung von zehn bis dreißig Millionen US Dollar, also man muss da schon sehr viele von diesen Chips verkaufen damit sich das lohnt und deswegen können das immer nur noch diese Riesenfirmen bei diesem modernsten Fertigungstechnik.

00:37:20: Deswegen sind eben zum Beispiel viele ältere Chips eben noch achtundzwanzig Nanometer oder so.

00:37:24: Das ist dann wiederum relativ günstig.

00:37:28: Jetzt haben wir darüber gesprochen über diese Verdichtung.

00:37:30: Und du hattest ja eben so den Vergleich gemacht, da ist so ein Chiplet oder so eine Einheit, die verbraucht irgendwie... ...eins Komma sieben KW, zwei KW ist so einen Heizlüfter.

00:37:43: in so einem Wreck sind dann... ...siebzig oder zwanzivzig So-Teile eingebaut.

00:37:48: Okay was macht man jetzt mit der Abwärme von Sechzig Heizlüfter?

00:37:51: Genau!

00:37:51: Die tut man möglichst schnell in Wasser.

00:37:53: also grundsätzlich ist es so das ist schon seit ist.

00:37:59: Früher waren Server Luft gekühlt, aber die Serverräume sind natürlich eigentlich schon immer Wassergekühlt gewesen weil Luft ist besser im Isolieren als im Wärmeleiten und deswegen standen früher in den Serverräumen wo halt die Serverrecks waren mit den Servern drin eine sogenannte Crack das kannte ich Das habe ich beim ersten Mal gesehen, also Computer Room Air Conditioner.

00:38:22: Das ist einfach ein Luftwasser-Wärmetauscher.

00:38:24: D.h.,

00:38:25: die große Klimaanlage, die ist irgendwie draußen oder in Deutschland oft auf dem Dach des Gebäudes.

00:38:30: da sind sogenannte Kaltwassersetze, entweder Klimaanlagen oder einfach Luftwasser-Wermetauscher auch wieder wenn es draußen kalt genug ist.

00:38:38: Die kühlen das Kühlwasser für die einzelnen Räume auf eine bestimmte Temperatur und in den Computerräumen wird dann Also Serverräumen wird dann die Luft wieder umgewälzt und die Abwärme der Server als warme Luft in diesem Wärmetauscher ins Wasser gebracht, sozusagen.

00:38:58: Und das wird durchs Gebäude gepumpt und außen am Gebäud gegen die Umgebungsluft weggekühlt.

00:39:02: oder es gab lange Zeit auch so Sachen wie dass man zum Beispiel in Norwegen gibt's mehr Rechenzentren, die kühlen gegen kaltes Meerwasser.

00:39:09: also da macht man wirklich Wärmetauschern die man ins Meer ablässt und pumpt das Kühlwasser dadurch

00:39:14: Aber ist so ganz naiv gefragt warum Bläst man einfach nicht die warme Luft raus aus dem Servergebäude?

00:39:20: Weil du dann riesige Löcher, also du bräuchte sehr große Fenster durch die böse Leute wieder reinkommen könnten.

00:39:27: Aus Feuerschutzgründen

00:39:28: usw.,

00:39:29: man hätte gerne geschlossene Räume.

00:39:31: und das ist eigentlich der ganze Witz auch an der Wasserkühlung.

00:39:34: Die Luftkühlung hat den großen Vorteil Du kannst halt jedes Speichermodular einfach rausziehen Du kannst sie auch sehr einfach redundant bauen.

00:39:43: Ich habe das am Anfang auch alles nicht kapiert, als ich hier angefangen habe.

00:39:46: Also es ist schon trivial wenn du so ein Rack-Server aufmachst dann hast du da nicht einen Lüfter sondern du hast zum Beispiel sechs die in so einem Plastikteil blasen was dann wiederum über dem Prozessor geht wo der eigentliche Kühlkörper sitzt.

00:40:00: und der Witz ist einfach die Redundanz.

00:40:02: Wenn einer von diesen sechs Lüftern ausfällt dann drehen die anderen einfach etwas höher.

00:40:05: Das ist wirklich so.

00:40:06: Du kannst sie einfach so im laufenden Betrieb rausziehen so'n Lüchter Ist überhaupt kein Problem.

00:40:11: Und du kannst am laufenden Server normalerweise kein Speichermodul tauschen, aber du kannst einen Lüftertauschen.

00:40:17: Du kannst eine Festplatte vorne tauschnen und so weiter.

00:40:20: Also Luftkühlung hat viele Vorteile.

00:40:22: vor allem kann die Luft nicht auslaufen und Kurzschlüsse machen.

00:40:25: das ist auch ein großer Vorteil.

00:40:27: Aber Wasser transportiert eben im Volumenstrom und bei einem gewissen Querschnitt den ich zum Beispiel durch ne Wand irgendwie legen muss sehr viel mehr Energie pro Zeiteinheit.

00:40:39: Er pro Liter einfach, wenn du so willst.

00:40:42: Also du kriegst mit Wasser sehr viel mehr Wärme aus einem Rack raus und deswegen gibt es unterschiedliche Niveaus der Wasserkühlung im Rack.

00:40:51: also was man zuerst gemacht hat waren so genannte Also anders.

00:40:57: ganz früher hat man tatsächlich mit Wasser gekühlt.

00:41:01: dann hat man so Zum Beispiel Freonkühlung gehabt, die man aus naheliegenden Umweltschutzgründen heute nicht mehr so macht.

00:41:08: Das ist ein Flurchlorokohlenwasserstoff in flüssiger Form, den man benutzt hat auch.

00:41:12: Also FKW

00:41:12: oder?

00:41:12: Ja,

00:41:14: also die alte Cray war der Vorteil da kannst du die Sachen gleich drin baden weil das ist eine nicht leidende Flüssigkeit.

00:41:20: und ja da gab es zum Beispiel an einer Firma drei M. Die hat uns vor wenigen Jahren auf dem Messen noch Novak Engineered Fluids vorgestellt wo die ganzen Server drinnen baden kannst.

00:41:31: Das ist alles FKW und komischerweise haben sie die Fertigung jetzt eingestellt, nachdem ganz Belgien und Frankreich ausgerastet ist.

00:41:38: Als man jetzt festgestellt hat das sind genau diese PFAS um die wir die ganze Zeit uns streiten.

00:41:43: Ja da gibt es interessante Konstruktionen.

00:41:45: Das war zurzeit dieses Kryptobooms.

00:41:47: Haben viele Leute die noch so Kryptowährung... Die wurden ja gerne in Ländern eingesetzt, um nicht konvertierbare Währungen aus dem Land rauszukriegen.

00:41:56: Da musste man auch mal in einem Hochhaus was wegkühlen können wo man eben nicht tausend Liter Wasser irgendwie in den sechzehnten Stockkrank bekam und so.

00:42:03: also da gab es die wüstesten Konstruktionen.

00:42:05: Also man nimmt lieber Wasser.

00:42:07: Jetzt hast du das Problem wie dich bring ich das Wasser an meine Server ran Und eine Idee war der Reador Heat Exchanger Das heißt Ich hab den.

00:42:17: Also das Problem ist, wenn du einfach hundertsechzig KW...

00:42:19: So der Hintertür-Wermithaus ist?

00:42:20: Ja

00:42:21: also wir haben ja selber hier einen Rechenzentrum in der Bude.

00:42:25: Wenn du dich dahinterstellst, ist es sehr warm und da sind nur ein paar KW.

00:42:29: Also wenn du dir vorstellst stellst du dich vor zweiundsiebzig Heizlüfter Das geht nicht, das kannst du nicht einfach in den Raum blasen.

00:42:36: Aber eine Zwischenlösung in der Größenordnung war ich glaube so dreißig vierzig KW pro Schrank war.

00:42:41: Man hat zum Beispiel die hintere Tür.

00:42:42: also die Server waren alle so gebaut oder sind typischerweise so gebaut dass sie vorne die kühlere Luft einsaugt und hinten rausblasen Nicht durcheinander!

00:42:49: Das wäre ja ganz katastrophal.

00:42:50: Dann hat man da so wie ein Autokühler dahinter gehängt Und da Wasser angeschlossen und dann war schon mal die luft die dann raus kam war schon deutlich kühler.

00:43:01: Also eine zwischenstufe Ja, dann gab es in roh cooling.

00:43:05: das heißt du hast kühl elemente Du hast also den schrank vorn und hinten zugemacht Und hast zum beispiel die luft nur noch in dem schrank umgewälzt und hast schon mal einen wasser wärme Wasser luftwärmetauscher zwischen the wrecks gestellt.

00:43:17: Das kann man auch machen.

00:43:18: Das bringt eben auch schon etwas.

00:43:20: und mittlerweile dann gab Es einen schritt server in den direkt Also zb dass kennen viele gamer von diesen geschlossenen kreislaufwasserkühlung closed loop Die.

00:43:31: du hast also auf dem Prozessor, nur noch so ein Wasserkühler.

00:43:38: Aber du hast gleich im Gehäuse eine größere Fläche wo dann eben wieder das Wasser gegen Luft kühlst.

00:43:45: Das gibt es für Server auch also in Grunde indirekte Wasserkühlung.

00:43:50: aber mittlerweile ist bei diesen Nvidia Systemen ist es so dass sie wirklich nur noch einen Rohranschluss haben diese eigentlich Recheneinheiten und da das Kühlwasser wirklich jeden Chip erreicht.

00:44:02: Du musst dann eben wirklich, deswegen habe ich das vorhin erwähnt.

00:44:06: Du kannst dann eben keinen Chip haben der noch auf Luftkühler angewiesen ist.

00:44:10: wenn du dann müsstest du ja noch extra einen Luftküller wieder mit also noch einen Lüfter mit rein bauen.

00:44:15: diese Mischlösung gibt es auch oft.

00:44:16: zum Beispiel sind die Netzteile typischerweise weiter luftgekühlt weil du willst an die zweihundertdreißig Volt dann doch nicht so nah mit dem Wasser vielleicht dran.

00:44:24: okay aber Dieses Rack-Modul hat dann quasi einen Wassereingang, ein Wasserausgang.

00:44:32: Und wie kommt das Wasser zu den Zipps?

00:44:34: Da

00:44:35: ist unten großer Verteiler drin auch mit einer Reihe von Messtechnik und so was und Filtern... ...und dann sind da einfach genau mehrfach Steckdosen.

00:44:43: also hast du halt eine Verschlauchung oder Verrohrung.

00:44:46: Nein aber ich meine innerhalb der... ... dieser Module.

00:44:50: Ja, das sind sehr hübsche Klempnerarbeiten.

00:44:52: also du hast da überall... Du hast Wasserdurchstunde?

00:44:55: Und ich habe dann so Kühler auf den Chip wo dann halt eben die Wasserleihung

00:44:59: dran ist.

00:44:59: So wie

00:45:00: man es von einem Gaming-Petzykerne nur in Größe

00:45:02: kann oder manchmal sind hier auch Starr.

00:45:04: Also das heißt das ist dann zuverlässiger als wenn du überall Schlauchschellen drauf hast.

00:45:09: Dann müssen aber die Toleranzen der Module die du kühlst Dürfen nicht so groß sein.

00:45:15: Also dann kannst du zum Beispiel in der nächsten Generation oder ein Austauschmodul muss ja dann auf einem halben Millimeter genau die Fertigung auch so sein, dass wenn du so einen Modul da steckst das es dann auch wieder dran kommt.

00:45:25: also wenn du zum beispiel dreißig Speichermodule alle bei den Speichermodulen ist ganz doof weil die ja hoch kann stehen und muss mit zwischenkühlen.

00:45:34: das gibt alles.

00:45:35: aber tatsächlich kann auch ein Grund sein, warum Nvidia ja LPDDR-Fünf flach auflötet.

00:45:41: Da kannst du natürlich leichter einen Kühler drauf machen.

00:45:43: also Formfollows Funktion muss man wirklich sagen.

00:45:46: vieles wird extra so gebaut für diese KI Server.

00:45:49: das könnte man in anderen Servern gar nicht machen weil es mit Luft zum Beispiel gar nicht mehr zu kühlen ist.

00:45:54: Jetzt heißt es ja immer dass Rechenzentren unglaublichen Wasserverbrauch haben?

00:45:58: Also warum haben die so einen hohen Wasserverbau?

00:46:00: Ja das ist erstmal Das gilt so allgemein nicht.

00:46:07: Also de facto kann das so sein und durch den Klimawandel ist es bei vielen Rechenzentren leider auch so, aber das muss nicht so sein.

00:46:15: Ich habe ja vorhin erwähnt dass ich mein rechenzentrum besucht hab was in der Nähe vom Polarkreis war Weil da im mittel die luft eben kühler ist Und ich da leichter direkt mit luftkühlung kühlen kann ohne dass ich eben meine kühl luft vorher Aktiv mit einer kälte maschine kühle muss.

00:46:36: Bei uns hier in Mitteleuropa reicht es bei vielen Rechenzentren über viele Tage im Jahr eben aus, einfach nur die Luft umzuwälzen.

00:46:43: Das ist der erste Schritt.

00:46:45: also ich habe Rieses sind wie Autokühler aber riesen Dinger die auf diesen Dächern stehen Wo dann eben so kühler melden sind und da sieht ganz einfach Ventilatoren dahinter und blasen die lufter durch.

00:46:55: dort macht natürlich leer Aber das reicht bis zum gewissen grad.

00:47:00: Und jetzt kann ich entweder in diesem kühlkreis mit aktiven kälte maschinen wie beim kühlschrank eben kaltwasser erzeugen.

00:47:07: die muss ich aber ja auch wieder zurückkühlen also irgendwo.

00:47:10: ich kann dann zwar die die kalte verdichten wie bei der wärmepumpe kennt ihr mittlerweile jeder, aber irgendwo muss die wärme trotzdem abgegeben werden.

00:47:17: Irgendwo muss sich sie zurückköhnen und das kann man machen mit sogenannte adiabatischer kühlung.

00:47:23: dass indem ich zum beispiel auf diese kühler melden einfach wasserspritze ist total trivial Und dieses Wasser verdampft dann aber.

00:47:34: Dann ist das weg, und das heißt so... Das ist der Wasserverbrauch!

00:47:39: Also in dem Kühlkreislauf wird einmal befüllt, da hast du hoffentlich keine Leckagen, das sind also keine nennenswerten Mengen.

00:47:46: Man muss übrigens immer genau hingucken im Vergleich zum Beispiel zur Lebensmittelindustrie oder zu anderen produzierenden Gewerben.

00:47:54: Ist nicht jedes Rechenzentrum ein extremer Wasserverbaucher?

00:47:57: Das hängt ganz stark davon ab, wie das konkret gemacht ist.

00:48:00: Deswegen habe ich da so ein Problem damit.

00:48:02: Da muss man genau hingucken.

00:48:04: aber an heißen Tagen im Sommer wenn man so eine adiabatische Kühlung hat dann braucht es richtig viel Wasser.

00:48:10: Aber wie gesagt auch da geht's

00:48:11: in den Mittelwerden.

00:48:11: Wenn man mehr Wasser auf diese...

00:48:13: Genau!

00:48:13: Du musst dann mehr drauf spritzen damit das überhaupt noch klappt.

00:48:18: Aber das musst du nicht machen.

00:48:19: Wenn du sozusagen viel größere Flächen baust über die du rückhüllst Dann kommst du auch mit der geringeren Temperaturdifferenz aus.

00:48:30: Da ist dann aber der Aufwand erheblich größer und es gibt auch andere Kühltechniken, aber für diese extremen Leistungsdichten muss man Also da muss man schon, braucht man riesige Flächen um da noch gegen die Luft zurück zu kühlen.

00:48:44: und irgendwo gibt es natürlich in Grenze also bei fünfzig Grad zum Beispiel.

00:48:48: Das Problem ist der Automotor wird hier innen sehr heiß.

00:48:51: Der verträgt das.

00:48:52: Ich habe das Kühlwasser dafür beim Auto.

00:48:54: Das steht dann ja unter Druck und kann auch mal hundertfünf Grad sein.

00:48:58: Und wenn die Temperatur Differenz zur umgebenden Luft groß ist, dann kriege ich pro Zeit eine größere Wärmemenge weg.

00:49:06: Das Dumme ist dass diese Chips eben nur achtzig neunzig Grad vertragen und eben nicht hundert.

00:49:12: Und das Kühlwasser, was an den Chips ankommt, darf nicht viel wärmer als forty-fünfzig Grad sein.

00:49:17: Wenn aber außen jetzt die Umgebungstemperatur also da in Phoenix, Arizona oder in Texas wo diese Riesenrechenzentren entstehen... Da hat es ja schon forty fünfzig Grad!

00:49:26: Da wird's dann schwierig mit dieser Art von Kühlung.

00:49:29: Dann muss ich mir dann schon etwas einfallen.

00:49:31: Aber ich kann ja mit kälter Maschinen, kann ich das zum Beispiel könnte ich die Wärme wieder konzentrieren?

00:49:34: Ich könnte kältere, kälteres Wasser erzeugen.

00:49:38: Die können ja dann einen wärmeren Kreislauf haben, den ich dann über eine riesige Fläche abführen kann.

00:49:42: Aber der Aufwand steigt natürlich.

00:49:45: Du hast es gerade schon Texas angesprochen.

00:49:48: Wir können jetzt nochmal ein bisschen sozusagen weiter rausgehen und uns diese Gebäude angucken.

00:49:54: Wie werden solche Rechenzentren gebaut?

00:49:56: Und wie unterscheidet sich die Bauweise in den USA mit denen Europa?

00:50:01: also?

00:50:01: zum Einen muss man sagen viele vom paar Jahren war ich erstaunt dass selbst einige Kollegen Bei uns nicht wussten was ein Doppelboden ist.

00:50:09: Das war für mich immer schon seit Jahrzehnten irgendwie Standard, also typische Rechenzentren die man so hat wie wir hier in so kleinen Firmen haben oft einen Doppellboden das heißt Die kalte Luft wird da unten eingeblasen.

00:50:22: Der Boden ist so hoch gesetzt um achtzig Zentimeter zum Beispiel.

00:50:25: Da schmeißt mal noch so die Kabel rein und die Zuleitung Und dann sind so Schlitzplatten da drin da steigt die kalte luft.

00:50:30: Nein die steigt ja nicht auf weil sie kalt ist.

00:50:31: sie würde hier unten bleiben.

00:50:32: aber die Server haben ja Ventilatoren die saugen die daraus Und die warme Luft steigt dann oben auf und wird oben wieder abgesaugt.

00:50:39: Das war die Luftkühlung.

00:50:41: Jetzt habe ich beim KI-Rechtenzentrum mehrere Probleme, also ich will gar keine Luftkühlung... ...und diese Server sind ja... Wir haben es jetzt schon zehnmal gesagt, sie sind ja hoch verdichtet.

00:50:51: Diese Schränke sind auch schwer!

00:50:53: Die sind echt schwer, die wiegen anderthalb Tonnen oder auch mal zwei pro Schrank.

00:50:57: Das heißt so ein Doppelboden, der kann nur endlich viel Last ab.

00:51:00: Weil das sind einfach solche Stäbe die da stehen und vor allem fahren die teilweise so Schranktriplettes da rein also tonnenschwere Teile... das muss ja auch irgendein Flurförderzeug sein.

00:51:12: Also in Frankfurt habe ich mal einen Rechenzentrum besucht wo die gesagt haben Ja mit KI können wir nicht mehr so mithalten Der Aufzug schafft das gar nicht Die sind mehrstöckig.

00:51:23: Was macht man?

00:51:23: Man stellt die einfach auf eine Betonplatte, so einfach wie irgend möglich.

00:51:27: Der Raum soll nichts kosten und der soll vor allem möglichst schnell gebaut werden sein und am besten kann man da gleich im LKW reinfahren.

00:51:32: also das macht man zwar nicht aber schon mit schwerem Gerät auf einer Beton-Platte und führt halt jetzt zum Beispiel des Kühlwasser und den Strom und die Datenleitung alle von oben zu baut als so Gestelle drüber über die Schränke wo man dann diese Wasserrohre drauf wirft.

00:51:47: Dann komme ich da auch leichter dran.

00:51:50: Und in den USA ist es so, da ist die Fläche oft billig.

00:51:54: Das heißt sie bauen die wirklich wie Supermärkte oder Industriegebäude einfach in die Flächen rein und stellen alles was draußen stehen kann nach draußen also zum Beispiel diese Kältemaschinen.

00:52:07: Die kommen dann nicht aufs Dach weil da müsste ich einen Dach mit einer höheren Traglas bauen.

00:52:12: das Wasser wiegt eine Menge und diese ganzen Kupferlamellen und so.

00:52:16: Die stehen immer in Modulen daneben.

00:52:20: Ja, so struktur ich diese Gebäude sehr modular und mittlerweile hat sich da eine Industrie gebildet die es in den USA aber wohl schon länger gab habe ich mir angelesen.

00:52:28: Weil die ja auch solche Shopping Malls oder was weiß ich in Las Vegas diese ganzen ... ... Riesengebäude für irgendwelche Spielhüllen aus Modulen zusammen bauen?

00:52:42: Serielles Bauen halt.

00:52:45: Ja, aber sehr große Platten und du hast bei den Rechenzentren möchtest auch ein bisschen Metall drin haben wegen Blitzschutz und elektromagnetische Abschirmung so ein bisschen dann müssen die in manchen Gegend natürlich Tornado-Proof sein

00:52:57: usw.,

00:52:58: was mein bei uns durch Beton eigentlich eher sozusagen von Natur aus hat.

00:53:03: Aber das ist so eine Schnellbauindustrie entstanden, die eben extrem schnell diese Hallen baut.

00:53:09: Es gibt sogar Ansätze, so eine Art Zelte zu bauen.

00:53:11: also stabilisierter Zelte oder Containerrechenzentren hat man eine Weile auch gemacht aber da wechseln die Moden immer so ein bisschen.

00:53:20: Im Moment ist es so dass es eher diese Schnellbaushallen sind, die man dann da sehr jähl hintereinander stellt

00:53:25: und in Europa hat man ja die Fläche nicht.

00:53:28: Man hat die Flächen nicht kann man so nicht sagen aber die fläche ist teurer und man konzentriert das eher.

00:53:33: Vor allem hat man die Energie nicht für diese Riesenrechenzentren.

00:53:36: Und in USA gibt es einen, da muss ich sagen das ist schon ein Trend der ist etwas besorgniserregend denn eben Elon Musk ist das prominente Beispiel da in Tennessee.

00:53:45: Die USA hat ja das Problem, dass die Stromleitung sich auf eine gigantische Fläche verteilen.

00:53:52: In den dünn besiedelnden Regionen und Dass eben alles immer möglich billig sein muss.

00:53:56: also Steuerlast wenn die Steuerlast geringer ist Ja Das sieht man ja schon in UK dann sind die Straßen oft auch etwas enger Etwas haben noch ein bisschen mehr Schlaglöcher und die leitungen sind vielleicht nicht so stark Und Das macht sich jetzt gerade.

00:54:11: es ist aber ja auch ein extremer wechseljetzt.

00:54:14: Oft baut man solche Rechenzentren in die Nähe von einem Kraftwerk oder an den Standort eines alten Kraftwerks, das haben also schon diese Bitcoin-Meiner damit angefangen.

00:54:23: Weil da oft schon dicke Stromleitungen sind.

00:54:25: aber das reicht oft nicht mehr weil einfach zu wenig investiert wurde beziehungsweise dieser extreme Zunahme an Energie als Strombedarf ist es ja in dem Fall nicht absehbar war.

00:54:38: und Elon Musk hat dann in Memphis Tennessee Dann das Rechenzentrum eine ganze Zeit aus modularen Gaskraftwerken befeuert.

00:54:51: Also im wahrsten Sinne des Wortes, da gibt es auch so Umweltgruppen die dann mit so Drohnen mit Wärmebildkameras herumgeflogen sind weil der hat dann eben da dreißig, das sind so Flugzeugturbinen umgebaute, die in Containern stecken Und die dann einfach Flüssig-Gas, das gibt es ja in den USA aus dem Fracking halt sehr günstig verfeuern um diese Rechenzentren zu betreiben.

00:55:12: Da ist jetzt auch eine Tiroler Firma Jenbacher, die ist sehr stolz dass sie einen Auftrag haben für ein Rechen Zentrum in Texas für fünfhundert Gasmotoren mit vierundzwanzig Zylindern jeweils.

00:55:24: Vierkommasiven Megawatt die riesige Turbinen antreiben, die dann da halt rumstehen LNG verfeuern um diese KI Rechenzentren anzutreiben.

00:55:31: das ist... ...die amerikanische Lösung!

00:55:34: Das erinnert mich an eine Story aus der DDR der CDU von meiner Frau, der halt da im Tagebergbau war, dass sie dann irgendwie in so einem super kalten Winter halt auch Flugzeugtubine, um die Braunkohle aufzutauen.

00:55:51: Um dann die Braumkohle abzubauen.

00:55:54: Wenn man genug Energie hat kann man vieles machen.

00:55:57: Genau das Kraftwerk musste laufen.

00:55:58: aber also das heißt wir haben da sich von diesen eigentlich nicht so effizienten...

00:56:04: Ja, diese Gas-Turbinen sind schon effizient.

00:56:06: Die Sonntagaskraftwerke sind ja relativ effiziente also sehr viel effizierter als den Verbrennermotor.

00:56:12: Aber natürlich ist es nicht unbedingt die umweltfreundlichste Lösung.

00:56:14: schön wäre halt Ökostrom und deswegen hat ja eine Weile zum Beispiel Norwegen hat auch viele Rechenzentren bewusst angesiedelt weil sie werden ja Vieles von ihrer Wasserkraft gar nicht unbedingt los.

00:56:26: und Grundprinzip ist hier jetzt wieder Daten lassen sich viel einfacher transportieren als Strom.

00:56:32: Da brauche ich nur ein paar Glasfaserleitungen, da regen sich auch keine Anwohner auf wenn ich die irgendwie in Schlitz verlege anders als bei einer riesen Hochspannungsleitung.

00:56:40: Das heißt die Rechenzentren gehen schon hin zum Strom.

00:56:43: das sehen wir in Deutschland jetzt auch gibt ja diese Karte von heiße Luft Von den Leuten die so ein bisschen die Bundesregierung jetzt drängen dass da mal mehr Steuerung reinkommt.

00:56:53: und da sieht man eben auch Das eben in Mecklenburg-Vorpommern zum Teil auch im Sachsenanhalt, aber jetzt allmählich auch in Niedersachsen.

00:57:02: Da wo es billigen Windstrom gibt, wo die Stromleitungen von den Offshore Windenergieanlagen reinkommen, da versuchen sich Leute anzusiedeln mit Rechenzentren.

00:57:13: Das ist ja auch eigentlich relativ schlau weil zum Teil wird diese Energie abgeregelt.

00:57:18: das muss man schon so sagen.

00:57:19: ... dann kann man sie auch in KI verwandeln, also kann man schon machen.

00:57:22: Weil Bayern keine Leitungen gebaut hat?

00:57:25: Man

00:57:26: sieht das direkt auf der Karte... ... dass in Bayern ist ja Strom halt tendenziell billiger und vor allem kommen noch Offshore Windanlagen dazu.

00:57:35: Also das ist nicht doof, dass man das so macht!

00:57:37: Ja aber ich meine das würde ich dir jetzt recht geben, so Windkraftanlagen.

00:57:45: Aber wir haben ja auch so Sachen, dass teilweise Kohlekraftwerke wieder irgendwie hochgefahren werden.

00:57:49: Dass die großen Firmen wie Microsoft Google und so wegen dem KI trennt Ihre kompletten Klima-CO-Ziele irgendwie über Bord geworfen haben.

00:57:59: Welche Umweltfolgen haben wir denn durch diese KI Rechenzentren?

00:58:02: Naja, wenn man halt LNG also Flüssigkeins verbrennt dann hat man natürlich keine schöne CO² Bilanz mehr.

00:58:09: Also wie hoch die Umweltfolge sind kann ich ja jetzt nicht beziffern.

00:58:12: aber natürlich sind das Belastungen.

00:58:14: eigentlich haben sie uns vor fünf sechs acht Jahren noch erzählt dass ihr alle grün werden wollen.

00:58:19: Facebook hat das schon öffentlich zurückgenommen, Amazon war da gar nicht so begeistert.

00:58:24: Also sie wollen ja auch diese Small Nuclear Reactors also diese Mini-AKWs jetzt bauen.

00:58:31: was er eigentlich zu Atomkraft kann man jetzt sehen wie man will.

00:58:34: aber wenn man gesehen hat wie lang das üblicherweise dauert bis eine AKW endlich mal genehmigt ist und läuft.

00:58:41: dann hat es mit dem jetzigen KI Boom eigentlich gar nichts zu tun.

00:58:47: Und bei der Windkraft muss man auch sagen, ich war gerade in Bayern am Wochenende.

00:58:50: wenn man da so vom Wendelstein runter guckt.

00:58:52: So als Norddeutscher fällt einem schon auf irgendwas fehlt.

00:58:57: Da sind

00:58:57: keine Windräder!

00:58:58: Denn hier muss man ja sagen gibt es genug aber man braucht dann natürlich noch mehr.

00:59:03: Andererseits muss man wieder sagen... so große Chemiewerke wie BASF Ludwigshafen.

00:59:09: Da sind wir in Größenordnung, da kann man viele Rechenzentren bauen.

00:59:12: also die Industrie braucht halt nun mal Strom.

00:59:17: das ist eine gesellschaftliche Entscheidung was man möchte.

00:59:21: und ganz wichtiger Gedanke dabei ist halt Wir brauchen schon ein gewisse Menge an KI-Rechenzentern auch in Europa für die digitale Souveränität in zwei Dimensionen finde ich.

00:59:34: Das eine ist, dass eben unsere Daten hier bleiben und nicht automatisch alle immer bei Google, Microsoft, Amazon oder

00:59:43: Meta

00:59:43: landen.

00:59:44: Das ist der Punkt eins.

00:59:45: aber man kann KI möglicherweise auch effizienter und ökologischer machen.

00:59:50: Da sehe ich aber bei den Spezialisten, die wir gerade genannt haben irgendwie gar kein Interesse.

00:59:56: Und wenn man es vor Ort erzeugt dann kann man da ja mitreden wie man's machen möchte und insofern finde ich das schon nötig dass man das in einer sinnvoll gesteuerten und demokratisch bestimmten Form eben auch bei uns umsetzt.

01:00:14: ganz klar

01:00:14: Ja, jetzt von diesen kleinen Atomreaktoren wird der auch gefühlt seit zwanzig Jahren geredet und ich glaube noch kein einziges davon gebaut.

01:00:23: Es wird gerade eins gebaut aber wann das sein?

01:00:25: Genau

01:00:26: oder so ein Versuch.

01:00:27: Also es sind schon Sachen im Bau... Aber

01:00:31: die sollten doch alle schnell aufploppen und unsere Probleme lösen.

01:00:36: Es ist schon krass, aber welche Folgen gibt es?

01:00:38: Also wir haben jetzt über CO² gesprochen.

01:00:40: Wir haben über Wasserverbrauch gesprochen, der nicht zwingend sein muss, aber oft denn doch...

01:00:44: Bei der Kühlung.

01:00:45: Ja bei der

01:00:45: Kühlung.

01:00:45: Gibt

01:00:46: ja noch andere Dimensionen vom Wasserverbrach.

01:00:48: also natürlich diese Chips müssen erst mal hergestellt werden und die Chipindustrie hat einen katastrophalen Fußabdruck auch gerade in Bezug.

01:00:57: also so Chips wirken immer so clean weil man immer diese Reihenräume sieht.

01:01:00: Aber wer so eine Chipfab in der Nähe hat, kann ja mal hinfahren.

01:01:04: Was für Wasseraufbereitungsanlagen und komische Chemikalien-Tanks da rumstehen?

01:01:08: Das ist Nasschemie!

01:01:09: Und auch ganz viel mit Fluorchemie... Also es ist extrem aufwendig und bisher spielt das aber im Verhältnis zu anderen Industrien keine besonders große Rolle.

01:01:20: also Autos entstehen ja nicht aus irgendwie... Pflanzenbauteilen, auch wenn sie dann veganes Leder reinmachen könnte ich mich mal wegschmeißen.

01:01:29: Aber Also die Ressourcen müssen irgendwo herkommen.

01:01:32: aber das was Leuten wie Elon Musk vorschwebt also diese Terrorfab Konzept Die Halbleiterfertigung die wir heute haben um den Faktor Ich sage jetzt mal irgendwas hundert oder so hoch zu fahren.

01:01:42: Dann sagen jetzt schon Leute in der Branche Diese Rohstoffe gibt es gar nicht auf unserem Planeten Also das Wasser, was man dann bräuchte für diese Chipfertigung.

01:01:53: Da muss man sich erst mal überlegen wo man das alles überhaupt herkriegt.

01:01:56: also die Dimensionen, die manchen von den Spezialisten da vorschweben sind unvorstellbar.

01:02:03: aber der denkt ja auch in stellaren Dimension und da müssen wir uns noch erklären wie er das dann herfliegt.

01:02:08: Wir haben jetzt schon das Problem auf der Erde messen kann, dass die Erdachse nicht mehr so richtig läuft wie sie früher lief.

01:02:15: Weil man das Grundwasser so viel hoch pumpt und sich dadurch die Gewichte verändern also in den Dimensionen in denen diese Menschen denken.

01:02:22: das ist irgendwie ganz unvorstellbar für uns.

01:02:24: aber das können wir ja damit ihrer KI diskutieren.

01:02:27: Ja aber es ist ja auch unser Planet.

01:02:30: Das sollten wir vielleicht doch mit ihnen diskutieren.

01:02:32: Aber

01:02:32: deswegen wäre es ja vielleicht schlau dass man eben selber sagt wie man's besser machen möchte.

01:02:37: Denn es ist ja nicht so, dass man KI einfach von vorne bis hinten verteufeln kann.

01:02:40: Man sieht ja positive Ansätze und wir laufen in den Fachkräftemangel rein

01:02:45: usw.,

01:02:45: also man wird irgendwas tun müssen und immer nur zu sagen das machen dann schon die Amerikaner – ist ja auch Quatsch!

01:02:51: Aber man wird da eben sich darüber auseinandersetzen müssen wie bei anderen Industrieansiedlungen ja auch.

01:02:57: Also auch da geht es ja darum, dass es eben immer einen gewissen Ressourcenverbrauch gibt und der muss halt innerhalb irgendwelcher Richtlinien sein.

01:03:05: Ja, aber trotzdem kann man natürlich... Also ich meine da sind wir auch bei Diskussionen.

01:03:09: Es gibt ja ein bisschen so dieser Postwachstums-Diskussion.

01:03:12: Kann überhaupt dieses... Passt unser Wirtschaftsmodell zu dem Ressourcen die wir haben?

01:03:19: Zu den Planeten!

01:03:20: Weil wenn man halt immer sagt, Wachstum, Wächstum dann... Das ist vollkommen

01:03:23: klar!

01:03:23: Genau das ist eine Frage, die träumen mich gar nicht zu schnell weil jetzt eigentlich so banal ist im Vergleich zu dem was wir gerade geredet haben dass halt eben ja auch Leute Ja, zum Beispiel auch in den USA wegen diesem unglaublichen Lärm halt auch.

01:03:39: Das ist ja auch eine Belastung ne?

01:03:40: Also ich meine das tritt jetzt im Vergleich zu CO-Zwei und Energieverbrauch...

01:03:44: Naja also wenn du die Energieversorgung, also wenn Du tatsächlich daneben eine Turbine hinstellst, die als Kraftwerk läuft.

01:03:50: Ja, dass ist laut!

01:03:51: Aber sonst sind Rechenzentren nicht besonders laut.

01:03:53: Also im Vergleich zur anderen Industrieanlagen.

01:03:55: Ich wohne an der Bahnstecke Hannover Berlin Und ich war schon in vielen rechten Zentren.

01:03:59: Die sind innen sehr laut.

01:04:02: Es ist halt eine Industrie Anlage.

01:04:03: Also das ist nicht schön Und ein Kraftwerk, ein großes Kraftwerk muss auch nicht so laut sein.

01:04:09: Aber wenn ich natürlich solche Turbinen einfach als Module hinstelle die sind ja eigentlich dafür gedacht zum Beispiel Bergwerke, die man irgendwo im Nichts hochzieht zu versorgen oder als Notfallversorgung oder so.

01:04:23: Deswegen meine ich dass das vielleicht effizient ist das richtige Wort.

01:04:26: aber so eine modulares Gas-Turbinchen Ja, das soll ein Ding sein.

01:04:34: Genau!

01:04:36: Auch wenn die Gastgubine selber effizienter ist als unser PKW.

01:04:41: Aber ich weiß nicht... Wir haben jetzt einen Ritz gemacht.

01:04:47: Gibt es was, wo du sagst, da willst du noch etwas zu sagen?

01:04:54: Wichtig ist mir ... DKI ist eine Industrie-Spike oder das wird dazu Und es fehlt so ein bisschen die demokratische Teilhabe.

01:05:04: Also, die Bundesregierung sagt halt zum Beispiel wir wollen viermal so viel Rechenzentrumskapazität in Deutschland haben wie Ende.

01:05:10: zweitausendfünfundzwanzig kann man mitgehen das ist ja quasi noch moderat im Verhältnis zu dem was in USA passiert und man könnte das auch relativ ökologisch gestalten.

01:05:21: aber dann muss man das halt auch tun und die Pläne ein bisschen detaillierter machen.

01:05:25: Du hast dir diese heiße Luftkarte angesprochen?

01:05:28: Was ist deren Motivation?

01:05:30: Weißt du das?

01:05:31: Die

01:05:31: Entwicklung transparent zu machen für Anwohner und auch alle anderen, weil das Problem ist es sehr undefiniert was ein Rechenzentrum ist.

01:05:40: Also wir haben ja hier auch zwei sogar im Gebäude.

01:05:43: Es gibt in Deutschland fünfzigtausend Rechenzentren, aber manche sind einfach nur so ein kleiner Serverraum und von den Dimensionen der Leistungsaufnahme sind die im Verhältnis zu dem was wir da besprochen haben lächerlich.

01:05:54: es gibt nur ganz wenige mit mehr als eine Megawatt das ist so viel wie zehn Teslas.

01:05:59: also dass wir haben bisher dann noch kein riesiges Problem.

01:06:04: Das Wachstum ist halt projiziert, dass das sehr steil ist.

01:06:07: D.h.,

01:06:07: diese heiße Luftkarte zeigt nicht etwa alle Rechenzentren in Deutschland sondern nur die aktuell diskutierten und einige schon im baubefindlichen Großprojekt.

01:06:16: Ja?

01:06:16: Das muss man dazu wissen... ...und ja also es fehlt so ein bisschen die Teilhabe bei diesem Thema.

01:06:24: Und wenn wir jetzt nochmal ganz an den Anfang gehen da hat mir so ein wenig darüber gesprochen wird das benötigt wie spekulativ ist als du hast auch gesagt Teilweise sehr spektriktiv ist.

01:06:34: Also da ist sehr viel in Planung, aber wieviel ist davon in Planungen und Planungen?

01:06:39: Und wie viel wird wirklich angegangen?

01:06:41: also weil ich meine so eine Dreidigrafik von einem Rechenzentrum zu machen, dann da wollen wir es hinsetzen, das ist ja schnell gemacht.

01:06:48: Bei vielen ist es relativ clever finde ich.

01:06:51: Da sind viele erfahrene Anbieter auch die zum Beispiel im Großraum Frankfurt schon seit Jahren Rechencentrum betreiben.

01:06:57: Die gehen oft modular an Die bauen also nicht ein Riesenrechenzentrum, sondern die überlegen sich jetzt.

01:07:04: Wir haben hier eine Kapazität bis zu.

01:07:06: damit signalisieren sie den Kunden ihr könnt hier auch wachsen fangen aber erst mal mit ein zwei Gebäuden an und das ist ja ne Strategie.

01:07:16: der Rest von dem Gelände den kann man ja später vielleicht auch für eine andere Industrie nutzen.

01:07:20: zum Teil werden auch Industrie brachen, also zum Beispiel ehemaliges fällt mir gerade ein.

01:07:25: bei Nierstein gibt es so ein altes US-Kaserngelände.

01:07:28: Da haben sie jetzt glaube ich fünfzehn Jahre lang nach einer Nachnutzung gesucht.

01:07:32: Ja Gott warum nicht in Rechenzentrum?

01:07:34: ja und das finde ich jetzt.

01:07:37: also da gibt's auch schlaue Ansätze wo man gar nicht sagen kann deswegen ist er sehr kleinteilig.

01:07:41: Also man kann dann nicht im Detail sagen dass alles gut oder schlecht.

01:07:44: Ich meine wenn man mit offenen Augen durch unser Land über die Autobahn fährt sieht man ja auch überall dieser entsetzlichen Logistikzentren.

01:07:51: Man glaubt gar nicht, wie viele man davon braucht.

01:07:54: Das wird gar nicht so groß diskutiert, wie viele Logistik-Zentren es da gibt.

01:07:58: Also viel hässlicher ist ein Rechenzentrum jetzt auch nicht!

01:08:01: Und apropos US-Kaserne soll ja auch schon Rechenzentren in alten Natobunkantiken haben?

01:08:08: Ja klar,

01:08:08: die gibt's ja.

01:08:09: Weiß ich selber bei Birkenfeld, bei Ida Oberstein und so habe ich selber schon gesehen.

01:08:13: Klar solche Räume aber sind im Vergleich zu dem was wir jetzt diskutieren winzig.

01:08:17: Die sind also für zum Beispiel hochsichere Daten oder so.

01:08:22: Genau, oder andere Daten.

01:08:24: Das gab ja mal so einen Fall... Gut!

01:08:29: Ja vielen Dank Christoph für diesen... Komplexes Thema?

01:08:33: Sehr komplex Thema.

01:08:34: Wenn ihr euch da nochmal in Ruhe einarbeiten wollt könnt ihr auf heiseplus und heise.de die Artikel von Christoph lesen.

01:08:41: Die verlinke ich euch auch in den Shownutz.

01:08:43: das sind dann Grafiken und die wirklich schön zeigen, wie auch diese Technik aussieht.

01:08:48: Wie diese Triplets sind?

01:08:49: Wie diese Rack-Module sind und so... Ja!

01:08:53: Und wie immer heißt das ja auch, schreibt uns gerne Feedback an ablinketct.de, kommentiert im Forum oder in YouTube.

01:09:00: Seid dabei respektvoll miteinander.

01:09:03: Ich würde gern von euch wissen was haltet ihr von diesen neuen KI Rechtenzentren?

01:09:07: Findet ihr die Technik spannend oder ist das viel heiße Luft in allen möglichen Dimensionen?

01:09:12: Also Ich freue mich auf eure Kommentare.

01:09:15: Das war's mit unserer heutigen CT-Applingfolge, noch mal danke an Christoph und schöne Grüße an euch da draußen.

01:09:21: Habt eine tolle Woche!

01:09:23: Ciao!