- |
Generative KI ist die heiße neue Technologie hinter Chatbots und Bildgeneratoren.Aber wie heiß macht es den Planeten?
Als KI-Forscher, Ich mache mir oft Sorgen über die Energiekosten für den Aufbau von Modellen für künstliche Intelligenz.Je leistungsfähiger die KI ist, desto mehr Energie wird benötigt.Was bedeutet das Aufkommen immer leistungsfähigerer generativer KI-Modelle für den zukünftigen CO2-Fußabdruck der Gesellschaft?
„Generativ“ bezieht sich auf die Fähigkeit eines KI-Algorithmus, komplexe Daten zu erzeugen.Die Alternative ist „diskriminierende“ KI, das zwischen einer festen Anzahl von Optionen wählt und nur eine einzige Zahl erzeugt.Ein Beispiel für eine diskriminierende Ausgabe ist die Entscheidung, ob ein Kreditantrag genehmigt werden soll.
Generative KI kann viel komplexere Ausgaben erstellen, beispielsweise einen Satz, einen Absatz, ein Bild oder sogar ein kurzes Video.Es wird seit langem in Anwendungen wie intelligenten Lautsprechern verwendet, um Audioantworten zu generieren, oder bei der automatischen Vervollständigung, um eine Suchanfrage vorzuschlagen.Die Fähigkeit dazu hat es jedoch erst seit Kurzem erlangt Generieren Sie menschenähnliche Sprache und realistische Fotos.
Mehr Kraft verbrauchen als je zuvor
Die genauen Energiekosten eines einzelnen KI-Modells sind schwer abzuschätzen und umfassen die Energie, die für die Herstellung der Computerausrüstung, die Erstellung des Modells und die Verwendung des Modells in der Produktion verbraucht wird.Im Jahr 2019 fanden Forscher heraus, dass ein generatives KI-Modell namens BERT mit 110 Millionen Parametern erstellt werden konnte verbrauchte die Energie eines transkontinentalen Hin- und Rückflugs für eine Person.Die Anzahl der Parameter bezieht sich auf die Größe des Modells, wobei größere Modelle im Allgemeinen leistungsfähiger sind.Forscher schätzten, dass die Schaffung des viel größeren GPT-3 mit 175 Milliarden Parametern verbrauchte 1.287 Megawattstunden Strom und erzeugte 552 Tonnen Kohlendioxidäquivalent, das entspricht 123 benzinbetriebenen Personenkraftwagen, die ein Jahr lang gefahren werden.Und das nur, um das Modell auf den Markt zu bringen, bevor es von Verbrauchern genutzt wird.
Die Größe ist nicht der einzige Indikator für die Kohlenstoffemissionen.Der Open-Access BLOOM-Modell, entwickelt von der BigScience-Projekt in Frankreich ist ähnlich groß wie GPT-3, hat es aber ein viel geringerer CO2-Fußabdruck, was 433 MWh Strom verbraucht und 30 Tonnen CO2eq erzeugt.Eine Studie von Google ergab, dass bei gleicher Größe der Einsatz einer effizienteren Modellarchitektur und eines effizienteren Prozessors sowie eines umweltfreundlicheren Rechenzentrums den CO2-Fußabdruck reduzieren kann um das 100- bis 1.000-fache.
Größere Modelle verbrauchen während ihres Einsatzes mehr Energie.Es liegen nur begrenzte Daten zum CO2-Fußabdruck einer einzelnen generativen KI-Abfrage vor, einige Branchenvertreter gehen jedoch davon aus vier- bis fünfmal höher als die einer Suchmaschinenanfrage.Da Chatbots und Bildgeneratoren immer beliebter werden, ebenso wie Google und Microsoft KI-Sprachmodelle integrieren in ihre Suchmaschinen eingeben, könnte die Anzahl der Anfragen, die sie täglich erhalten, exponentiell ansteigen.
KI-Bots für die Suche
Vor ein paar Jahren nutzten nicht viele Leute außerhalb von Forschungslabors Modelle wie BERT oder GPT.Das änderte sich im November.30. 2022, als OpenAI ChatGPT veröffentlichte.Nach den neuesten verfügbaren Daten hatte ChatGPT das Ende 1,5 Milliarden Besuche im März 2023.Microsoft hat ChatGPT in seine Suchmaschine Bing integriert und erstellt für jeden verfügbar am 4. Mai 2023.Wenn Chatbots genauso populär werden wie Suchmaschinen, könnten sich die Energiekosten für den Einsatz der KIs wirklich summieren.Aber KI-Assistenten haben weitaus mehr Einsatzmöglichkeiten als nur die Suche, etwa das Schreiben von Dokumenten, das Lösen mathematischer Probleme und die Erstellung von Marketingkampagnen.
Ein weiteres Problem besteht darin, dass KI-Modelle kontinuierlich aktualisiert werden müssen.ChatGPT wurde beispielsweise nur auf Daten bis 2021 trainiert und weiß daher nichts von den Ereignissen seither.Der CO2-Fußabdruck der Erstellung von ChatGPT ist keine öffentliche Information, aber er ist wahrscheinlich viel höher als der von GPT-3.Wenn es regelmäßig neu erstellt werden müsste, um sein Wissen zu aktualisieren, würden die Energiekosten noch höher steigen.
Ein Vorteil besteht darin, dass die Befragung eines Chatbots eine direktere Möglichkeit sein kann, Informationen zu erhalten, als eine Suchmaschine zu verwenden.Anstatt eine Seite voller Links zu erhalten, erhalten Sie eine direkte Antwort wie von einem Menschen, vorausgesetzt, dass Genauigkeitsprobleme behoben werden.Ein schnellerer Zugriff auf die Informationen könnte möglicherweise den höheren Energieverbrauch im Vergleich zu einer Suchmaschine ausgleichen.
Wege nach vorn
Die Zukunft ist schwer vorherzusagen, aber große generative KI-Modelle werden uns erhalten bleiben, und die Menschen werden sich wahrscheinlich zunehmend an sie wenden, um Informationen zu erhalten.Wenn ein Schüler beispielsweise jetzt Hilfe bei der Lösung einer Mathematikaufgabe benötigt, fragt er einen Nachhilfelehrer oder einen Freund oder konsultiert ein Lehrbuch.In Zukunft werden sie wahrscheinlich einen Chatbot fragen.Gleiches gilt für sonstiges Fachwissen wie etwa Rechtsberatung oder medizinisches Fachwissen.
Während ein einzelnes großes KI-Modell die Umwelt nicht ruinieren wird, könnte der Energieverbrauch zu einem Problem werden, wenn tausend Unternehmen leicht unterschiedliche KI-Bots für unterschiedliche Zwecke entwickeln, die jeweils von Millionen von Kunden verwendet werden.Um die generative KI effizienter zu gestalten, ist weitere Forschung erforderlich.Die gute Nachricht ist, dass KI mit erneuerbarer Energie betrieben werden kann.Indem die Berechnung dorthin verlagert wird, wo grüne Energie häufiger vorkommt, oder indem die Berechnung für Tageszeiten geplant wird, zu denen erneuerbare Energie besser verfügbar ist, können Emissionen verringert werden um den Faktor 30 bis 40 reduziert, im Vergleich zur Nutzung eines Netzes, das von fossilen Brennstoffen dominiert wird.
Schließlich kann gesellschaftlicher Druck hilfreich sein, um Unternehmen und Forschungslabore zu ermutigen, die CO2-Fußabdrücke ihrer KI-Modelle zu veröffentlichen, wie es einige bereits tun.In Zukunft könnten Verbraucher diese Informationen vielleicht sogar nutzen, um sich für einen „umweltfreundlicheren“ Chatbot zu entscheiden.