Laut UN stellt künstliche Intelligenz eine potenzielle Bedrohung für die Menschheit dar

Um Fake News und die Verbreitung künstlicher Intelligenz zu bekämpfen, setzt der UN-Generalsekretär auf das „Atommodell“.

Künstliche Intelligenz ist ein besonderer Sektor:Man könnte sagen, das einzige, in dem eigene Unternehmer um die Welt reisen und die Risiken für die Menschheit anprangern.Sam Altman, Mitbegründer und CEO von OpenAI, dem Unternehmen, das ChatGpt entwickelt hat, tut dies seit Monaten und spricht mit Politikern aller Nationalitäten über die „Gefahr“, die KI für das Überleben der menschlichen Zivilisation darstellen würde.Wir hören ihn oft sogar das Wort „Aussterben“ verwenden, um die Befürchtungen – ob begründet oder nicht – hinsichtlich seines symbolischen Charakters zu bestätigen.Vor ein paar Tagen sogar der frühere Google-X-Geschäftsführer Mo Gawdat eingeladen Die Menschheit wird gerade wegen der systemischen Unsicherheiten, die diese Technologien auf unsere Zukunft projizieren, dazu gezwungen, „keine Kinder zu bekommen“.

Das apokalyptische Szenario künstlicher Intelligenzen

Aber es ist leicht, darüber zu reden Armageddon wenn KI im Spiel ist.Es ist ein erschreckendes, aber auch auf seine Art faszinierendes Szenario, das an einen Science-Fiction-Film erinnert (Terminatoren, Zum Beispiel);aber vor allem ist es eine ferne Möglichkeit.Was passieren könnte.Früher oder später.Es gibt jedoch mit KI verbundene Risiken, die viel näher und aktueller sind als die von Altman ausgerufene Gefahr des Aussterbens:KI wird bereits heute für Desinformations- und Online-Propagandakampagnen eingesetzt.So wie Millionen von Menschen die Fähigkeiten von ChatGpt zur Generierung kurzer schriftlicher Texte entdeckt haben, nutzen sie tatsächlich auch politische Organisationen aller Art, um Fake News und „Lärm“ zu verbreiten.Und sie fangen gerade erst an.

Am vergangenen Montag machte der Generalsekretär der Vereinten Nationen, António Guterres, bei einem Treffen, bei dem Desinformation diskutiert wurde, die internationale Politik genau auf diese Seite der KI aufmerksam und unterstützte die Schaffung eines Gremiums, das speziell zur Überwachung der Entwicklung dieser Technologien konzipiert ist Das Modell der Internationalen Atomenergiebehörde (IAEA).Letztere wurde 1957, auf dem Höhepunkt des Kalten Krieges, gegründet und wurde von den Vereinten Nationen stark unterstützt mit dem Ziel, die friedliche Nutzung der Kernenergie zu fördern und ihre Nutzung für militärische Zwecke zu verhindern.

Die Parallele zwischen KI und Atomkraft war kein Zufall:Tatsächlich würde die flächendeckende Verbreitung künstlicher Intelligenz „eine existentielle Gefahr für die Menschheit darstellen, ähnlich der eines Atomkriegs“, so der Generalsekretär.In beiden Fällen handelt es sich tatsächlich um fortschrittliche Technologien, die den Händen von Forschern entgehen oder im Terrorismus oder im Kriegssektor ausgenutzt werden können.Guterres scheint daher mit einem Teil der KI-Industrie selbst einverstanden zu sein, glaubt jedoch, dass der Notfall viel näher und realistischer ist als das, was dunkle Propheten wie Altman sagen.

Der offene Brief von Technikwissenschaftlern

Guterres stellte fest, dass „die Alarmglocken bei den neuesten Formen generativer künstlicher Intelligenz ohrenbetäubend läuten“, und betonte, dass die begründetesten Befürchtungen von „den Entwicklern kommen, die sie entworfen haben“.Die Sekretärin bezieht sich wahrscheinlich auf den offenen Brief unterzeichnet von verschiedenen Wissenschaftlern und Unternehmern im Technologiesektor, darunter Elon Musk, Steve Wozniak und Tristan Harris, im vergangenen März, in denen sie darum baten, „die Entwicklung“ dieser Technologie „für mindestens sechs Monate anzuhalten“, um einen Weg zu finden negative Auswirkungen vermeiden und eindämmen.Der Autor und Experte für „freundliche“ künstliche Intelligenz Eliezer Yudkowsky er antwortete In dem Schreiben wurde klargestellt, dass es nicht ausreichte, die Forschung in diesem Sektor zu unterbrechen:Du musst es einfach stoppen.

Altman selbst hat, wie bereits erwähnt, oft die Möglichkeit der pessimistischsten Szenarien bekräftigt und im vergangenen Mai auch die Sympathie des US-Kongresses gewonnen, als er zu einer Debatte zu diesem Thema eingeladen wurde.Nach Ansicht einiger wäre seine Strategie genau darauf abzielen, Menschen zu terrorisieren Regulierungsbehörden über Killer-KI und Massenaussterben erzählen, um die Aufmerksamkeit von den drohenden und wahrscheinlich bereits bestehenden Gefahren abzulenken.Etwa die Verbreitung von Fake News, die Schaffung „synthetischer“ Medien, die mit KI generiert werden, also Fotos, Videos und Audio, in denen beispielsweise Politiker unangemessene Dinge sagen und tun.Sie sind die sogenannten Deepfake, die Gefahr laufen, die Quellen der politischen und kulturellen Diskussion zu verschmutzen und ein Umfeld zu schaffen, in dem alles könnte sein Seien Sie falsch und nichts wird ernst genommen.

Nun, das sind die Gefahren der künstlichen Intelligenz, nicht das Erwachen von Skynet (dem rebellischen Supercomputernetzwerk aus dem Film). Terminatoren).Guterres scheint dies erkannt zu haben und präsentierte seine Idee einer internationalen Überwachungsagentur für den Sektor.Es sei eine Schande, dass „nur die Mitgliedsstaaten es schaffen können, nicht der Sekretär der Vereinten Nationen“, wie er selbst erklärte.Bevor man über die Apokalypse aus einem Science-Fiction-Film nachdenkt, lohnt es sich, hier anzufangen.