Der folgende Aufsatz wird mit Genehmigung von abgedruckt The Conversation, eine Online-Publikation über die neuesten Forschungsergebnisse.
Generative KI ist die neue Technologie hinter Chatbots und Bildgeneratoren. Aber wie heiß ist der Planet?
Als KI-Forscher mache ich mir oft Sorgen über die Energiekosten beim Aufbau von Modellen für künstliche Intelligenz. Je leistungsfähiger die KI ist, desto mehr Energie wird sie benötigen. Was bedeutet das Aufkommen immer leistungsfähigerer generativer KI-Modelle für den zukünftigen CO2-Fußabdruck der Gesellschaft?
„Generativ“ bezieht sich auf die Fähigkeit eines KI-Algorithmus, komplexe Daten zu erzeugen. Die Alternative ist die „diskriminierende“ KI, die aus einer festen Anzahl von Optionen wählt und nur eine einzige Zahl produziert. Ein Beispiel für eine diskriminierende Ausgabe ist die Entscheidung über die Genehmigung eines Kreditantrags.
Generative KI kann viel komplexere Ergebnisse erzeugen, beispielsweise einen Satz, einen Absatz, ein Bild oder sogar ein kurzes Video. Es wird seit langem in Anwendungen wie intelligenten Lautsprechern verwendet, um Audioantworten zu generieren oder bei der automatischen Vervollständigung, um eine Suchanfrage vorzuschlagen. Allerdings ist es erst seit kurzem in der Lage, menschliche Sprache und realistische Fotos zu erzeugen.
Verbrauchen Sie mehr Kraft als je zuvor
Die genauen Energiekosten eines KI-Modells sind schwer abzuschätzen und umfassen die Energie, die für die Herstellung der Computerausrüstung, die Erstellung des Modells und die Verwendung des Modells in der Produktion verbraucht wird. Im Jahr 2019 fanden Forscher heraus, dass der Aufbau eines generativen KI-Modells namens BERT mit 110 Millionen Parametern die Energie eines transkontinentalen Hin- und Rückflugs für eine Person verbrauchte. Die Anzahl der Parameter bezieht sich auf die Größe des Modells, wobei größere Modelle im Allgemeinen geschickter sind. Die Forscher schätzten, dass die Entwicklung des viel größeren GPT-3 mit 175 Milliarden Parametern 1.287 Megawattstunden Strom verbrauchte und 552 Tonnen Kohlendioxidäquivalent erzeugte, was dem Äquivalent von 123 Benzinpassagieren entspricht, die ein Jahr lang gefahren werden. Und zwar nur, um das Modell auf die Markteinführung vorzubereiten, bevor es von den Verbrauchern genutzt wird.
Die Größe ist nicht der einzige Indikator für die Kohlenstoffemissionen. Das vom BigScience-Projekt in Frankreich entwickelte Open-Access-BLOOM-Modell hat eine ähnliche Größe wie GPT-3, hat jedoch einen viel geringeren CO2-Fußabdruck und verbraucht 433 MWh Strom, um 30 Tonnen CO2eq zu erzeugen. Eine Google-Studie ergab, dass bei gleicher Größe der Einsatz einer effizienteren Architektur und eines effizienteren Modellprozessors sowie eines umweltfreundlicheren Rechenzentrums den CO2-Fußabdruck um das 100- bis 1.000-fache reduzieren kann.
Größere Modelle verbrauchen im Einsatz mehr Energie. Es liegen nur begrenzte Daten zum CO2-Fußabdruck einer einzelnen generativen KI-Abfrage vor, aber einige Branchenzahlen schätzen, dass er vier- bis fünfmal größer ist als der einer Suchmaschinenabfrage. Da Chatbots und Bildgeneratoren immer beliebter werden und Google und Microsoft KI-Sprachmodelle in ihre Suchmaschinen integrieren, könnte die Zahl der Anfragen, die sie täglich erhalten, exponentiell ansteigen.
KI-Bots für die Suche
Vor ein paar Jahren nutzten nicht viele Leute außerhalb von Forschungslabors Modelle wie BERT oder GPT. Das änderte sich am 30. November 2022, als OpenAI ChatGPT veröffentlichte. Den neuesten verfügbaren Daten zufolge verzeichnete ChatGPT im März 2023 mehr als 1,5 Milliarden Zugriffe. Microsoft hat ChatGPT in seine Suchmaschine Bing integriert und am 4. Mai 2023 öffentlich zugänglich gemacht. Wenn Chatbots genauso beliebt werden wie Suchmaschinen, wird die Energie Die Kosten für den Einsatz von KI könnten tatsächlich steigen. Aber KI-Assistenten haben weitaus mehr Einsatzmöglichkeiten als nur die Suche, etwa zum Schreiben von Dokumenten, zum Lösen mathematischer Probleme und zum Erstellen von Marketingkampagnen.
Ein weiteres Problem besteht darin, dass KI-Modelle kontinuierlich aktualisiert werden müssen. ChatGPT wurde beispielsweise nur auf Daten bis 2021 trainiert, weiß also nichts, was seitdem passiert ist. Der CO2-Fußabdruck der Erstellung von ChatGPT ist keine öffentliche Information, dürfte aber viel höher sein als der von GPT-3. Wenn er sich regelmäßig neu erschaffen müsste, um sein Wissen zu aktualisieren, würden die Energiekosten noch weiter steigen.
Ein Vorteil besteht darin, dass die Befragung eines Chatbots eine direktere Möglichkeit sein kann, Informationen zu erhalten, als eine Suchmaschine zu verwenden. Anstatt eine Seite voller Links zu erhalten, erhalten Sie eine direkte Antwort wie von einem Menschen, vorausgesetzt, dass die Genauigkeitsprobleme geringer sind. Ein schnellerer Zugriff auf Informationen könnte den im Vergleich zu einer Suchmaschine erhöhten Stromverbrauch ausgleichen.
Geh vorwärts
Die Zukunft ist schwer vorherzusagen, aber die großen generativen KI-Modelle werden uns erhalten bleiben, und es ist wahrscheinlich, dass sich die Menschen zunehmend an sie wenden werden, um Informationen zu erhalten. Wenn ein Schüler beispielsweise jetzt Hilfe bei der Lösung einer Mathematikaufgabe benötigt, fragt er einen Nachhilfelehrer oder einen Freund oder konsultiert ein Lehrbuch. In Zukunft werden sie wahrscheinlich einen Chatbot fragen. Gleiches gilt für sonstiges Fachwissen, etwa Rechtsberatung oder medizinisches Fachwissen.
Während ein einzelnes großes KI-Modell die Umwelt nicht ruiniert, könnte der Energieverbrauch zu einem Problem werden, wenn tausend Unternehmen leicht unterschiedliche KI-Bots für unterschiedliche Zwecke entwickeln, die jeweils von Millionen von Kunden verwendet werden Um die generative KI effizienter zu gestalten, ist weitere Forschung erforderlich. Die gute Nachricht ist, dass KI mit erneuerbarer Energie betrieben werden kann. Durch die Verlagerung der Berechnung dorthin, wo grüne Energie am häufigsten vorkommt, oder durch die Planung der Berechnung für Tageszeiten, in denen erneuerbare Energie am meisten verfügbar ist, können die Emissionen um den Faktor 30 bis 40 reduziert werden, verglichen mit der Nutzung eines Netzwerks, das von fossilen Brennstoffen dominiert wird.
Schließlich kann gesellschaftlicher Druck hilfreich sein, um Unternehmen und Forschungslabore dazu zu ermutigen, die CO2-Fußabdrücke ihrer KI-Modelle zu veröffentlichen, was einige bereits tun. In Zukunft könnten Verbraucher diese Informationen vielleicht sogar nutzen, um sich für einen „umweltfreundlicheren“ Chatbot zu entscheiden.
Dieser Artikel wurde ursprünglich auf The Conversation veröffentlicht. Lesen Sie den Originalartikel.
Dies ist ein Meinungs- und Analyseartikel, und die von den Autoren geäußerten Ansichten stimmen nicht unbedingt mit denen von überein Amerikanischer Wissenschaftler
