Was sieht das KI-Gesetz vor, die erste europäische Verordnung zu künstlicher Intelligenz?

Einigung zwischen Parlament und Rat zum KI-Gesetz erzielt.Es verbietet die biometrische Erkennung und führt verschiedene Beschränkungen ein, aber laut NGOs reicht dies nicht aus.

• Nach 36-stündigen Verhandlungen einigten sich das Europäische Parlament und der Rat auf das AI Act, die Verordnung zur künstlichen Intelligenz.
• Der Einsatz von Massenüberwachung wie Live-Gesichtserkennung und vorausschauender Polizeiarbeit ist mit verschiedenen Ausnahmen verboten.
• Menschenrechtsverbände halten sich mit ihrer Begeisterung zurück:Ohne den endgültigen Text ist es nicht möglich, das Schutzniveau der Rechte und die wirksame Grenze der Massenüberwachung zu überprüfen.

Nach monatelangen Debatten darüber, wie Unternehmen wie OpenAI, die sich mit Systemen der künstlichen Intelligenz befassen, reguliert werden sollen, hat dieeuropäische Union er stimmte zu das KI-Gesetz am Freitag, 8. Dezember, das erste Paket regionaler Regeln zur künstlichen Intelligenz.Es ist eins Grundgesetz was, so die Hoffnung der europäischen Gesetzgeber, zum Vorbild für den Rest der Welt werden könnte.

Was ist das KI-Gesetz und wie unterscheidet es sich von anderen Vorschriften zur künstlichen Intelligenz?

Von der Europäischen Kommission am 21. April 2021 als Teil der digitalen Community-Strategie vorgeschlagenGesetz über künstliche Intelligenz ist das Verordnung der Europäischen Union Ziel ist die Einführung eines gemeinsamen regulatorischen und rechtlichen Rahmens für künstliche Intelligenz.

Die Verordnung selbst ist weltweit keine Premiere.In China zum Beispiel, die Regeln zum Thema generative künstliche Intelligenz sind in Kraft getreten bereits im August.Der Ausnahmecharakter des KI-Gesetzes betrifft jedoch lRegelwerk, viel umfassender, zum Einsatz künstlicher Intelligenz, inklusive zahlreicher Verbote.

Eigen der Trilog zu einigen Verboten – die Verhandlungen zwischen Parlament, Europäischer Kommission und Rat, der letzte Teil des europäischen Gesetzgebungsprozesses – riskierte, auf Grund zu laufen in den 36 Verhandlungsstunden.Im Mittelpunkt der Diskussion standen insbesondere die erlaubten und verbotenen Einsatzmöglichkeiten künstlicher Intelligenz durch Unternehmen Strafverfolgungsbehörden, insbesondere im Bereich der vorausschauenden Polizeiarbeit und der Gesichtserkennung in Echtzeit.Während das Parlament einerseits die Linie der totalen Blockade verteidigte, drängte der Rat als Vertreter der Mitgliedstaaten stattdessen auf einen deutlich freizügigeren Ansatz.

Das Problem der Überwachung durch Strafverfolgungsbehörden

Das umstrittenste und umstrittenste Thema, nicht nur zwischen Parlament und Kommission, sondern auch mit der Zivilgesellschaft, war die Definition des rechtmäßigen Einsatzes künstlicher Intelligenz durch Strafverfolgungsbehörden. 

Der Beraten, die die 27 nationalen Regierungen der Mitgliedsstaaten vertritt, versuchte, die Möglichkeit zu gewähren, künstliche Intelligenz zur Identifizierung von Menschen einzusetzen Biometrische Gesichtserkennung in Echtzeit.Ein weiterer Antrag bestand darin, die Nutzung dieser Systeme für die Zwecke zu gestatten vorausschauende Polizeiarbeit.Dabei wird mithilfe von Algorithmen vorhergesagt, mit welcher Wahrscheinlichkeit eine Straftat begangen werden kann, von wem und an welchem ​​Ort.

Die Länder, die versucht haben, in diese Richtung zu drängen, warenItalien – vergessen, dass die Datenschutzgarant hat 2021 den Einsatz der Echtzeiterkennung verboten - DieUngarn und die Frankreich.Vor allem Letzteres hat zuletzt viel in Richtung Sicherheit vorangetrieben, zunächst mit dem Gesetz zum „globale Sicherheit” und dann mit dem Gesetz letzten April die den Einsatz künstlicher Intelligenz und vorbeugende Untersuchungen im Hinblick darauf genehmigte Olympische Spiele in Paris.

Keine Sonne:Die Bedenken, insbesondere in der Zivilgesellschaft und bei Organisationen für digitale Rechte, nahmen zu, als der Rat während der Verhandlungen versuchte, die Nutzung von zuzulassen biometrische Erkennung auf ethnischer Basis.

Welche Einsatzmöglichkeiten von KI zur Überwachung sind verboten?

Der Widerstand des Parlaments hat sich gehalten und dieDer Einsatz künstlicher Intelligenz zur Überwachung wurde verboten, außer in wenigen Ausnahmen und in jedem Fall mit Genehmigung der Justizbehörden. Aus dem, was entstanden ist in den folgenden Stunden die Es werden Regeln für Risiken festgelegt, unterteilt in vier Kategorien: minimal, begrenzt, hoch und inakzeptabel.Je höher die Risiken, desto größer die Verantwortung für diejenigen, die diese spezifischen Systeme entwickeln und nutzen. bis es verboten wurde für diejenigen, die als zu gefährlich gelten.

Das KI-Gesetz verbietet die biometrische Kategorisierung von sensible personenbezogene Daten, wie ethnische Zugehörigkeit, Glaube oder sexuelle Orientierung;Dort Riesige Sammlung von Gesichtern aus dem Internet und Technologien, die das erkennen Emotionen (allerdings nur am Arbeitsplatz und in der Schule).Es verbietet auch Systeme, die dazu in der Lage sind Emotionen manipulieren von Menschen und denen, die darauf basieren soziales Scoring, also die in China bereits angewandte Methode zur Klassifizierung des Rufs der Bürger.

Die biometrische Erkennung in Echtzeit wurde mit Ausnahme von drei Situationen verboten: Bedrohung durch Terrorismus, Suche nach Opfern von Straftaten (wie zum Beispiel Geiseln) und zu identifizieren wegen einiger „schwerer Verbrechen“ verdächtigt.Dort erste weit verbreitete Liste Dazu zählen Menschenhandel, Drogenhandel, Waffenhandel, Kinderpornografie und Kindesmissbrauch, Umweltverbrechen, Morde, aber auch Terrorismus und Entführungen, Verbrechen, die in Wirklichkeit bereits in den drei vorgesehenen Ausnahmen enthalten sind.

DER prädiktive Polizeisysteme, kann jedoch nur zur Analyse verwendet werden anonymisierte Informationen um Trends am Tatort zu liefern, während Systeme, die durch Algorithmen auf einen Verdächtigen hinweisen, verboten sind.Mit anderen Worten, Eine Person kann nicht untersucht werden, da sie von einem Algorithmus gemeldet wurde.

Die weiteren im KI-Gesetz vorgesehenen Regelungen

Ein wichtiger Punkt, zu dem die Verordnung eingreift, ist die Transparenz beim Einsatz künstlicher Intelligenzsysteme.Benutzer müssen den Inhalt erkennen können tiefe Fälschung, wie Bilder und Videos, durch deutlich sichtbare Etiketten, und das müssen sie auch wissen, ob sie interagieren mit einer Person oder mit einem System, wie z Chatbots.Außerdem, Unternehmen Digitale Dienstleister werden das habenVerpflichtung, mit künstlicher Intelligenz erstellte Inhalte zu kennzeichnen die auf ihren Plattformen zirkulieren und automatisch als solche gekennzeichnet werden müssen.Eine Revolution, wenn wir an die Anzahl denken Deep Fakes, die beispielsweise in sozialen Medien kursieren.

Ein weiteres Thema ist das von’generative künstliche Intelligenz, dieses System das in der Lage ist, auf Anfragen Texte, Bilder, Videos, Musik oder andere Medien zu generieren, als ChatGpt. Der Standard bezieht sich auf Allzweck-KI-Systeme, in der Lage, verschiedene Aufgaben auszuführen und durch eine riesige Menge nicht kategorisierter Daten trainiert zu werden.Einige sind festgelegt Schwellenwerte zur Identifizierung von Systemen auf der Grundlage ihrer Auswirkungen:Je größer die Auswirkungen auf die Bevölkerung sind, desto größer sind die einzuhaltenden Verpflichtungen.

Unter anderem die Frage im Zusammenhang mit Urheberrechtsschutz und die allgemeine Transparenz aller digitalen Inhalte erstellt mit künstlicher Intelligenz.

Die nächsten Schritte des KI-Gesetzes und die Kritik aus der Zivilgesellschaft

Der Verordnungstext hat seinen politischen Prozess abgeschlossen und liegt nun vor in die Hände der Techniker übergegangen Sie haben die Aufgabe, die Regeln auf Kohärenz und Änderungen zu prüfen.Nach der Veröffentlichung des endgültigen Textes, etwa gegen Ende nächsten Januar, wird sich die Kommission mit einem ausstatten Büro für künstliche Intelligenz. Jeder Staat muss nominieren eine örtliche Behörde Wer überwacht die Anwendung der Verordnung und arbeitet mit dem zusammen Datenschutzgarant.

Es ist wichtig, das zu unterstreichen Bis heute gibt es noch kein endgültiges Dokument, das eingesehen werden kann.Alles, was wir wissen, wurde in der Pressekonferenz mitgeteilt und von Brüsseler Quellen durchgesickert.

Zivilgesellschaft und Netzwerke europäischer Vereine die sich mit digitalen Rechten befassen, einschließlich EDRi, ein Netzwerk von NGOs und Wissenschaftlern, die sich mit digitalen Rechten befassen, sind sehr vorsichtig bei der Feier der erzielten Einigung.Die folgenden sind derselben Meinung Italienische Verbände, einschließlich Die gute Lobby, Hermes Center Und Datenschutznetzwerk, die das unterstreichen Besorgnis über die zahlreichen Ausnahmen zum Verbot des Einsatzes der Gesichtserkennung im öffentlichen Raum, vor allem aber die mangelnde Transparenz bei Verhandlungen. Positiv zu vermerken, wie er betont Diletta Huyskes von Privacy Network scheint die Aufnahme in die Regel von Folgenabschätzung zu den Grundrechten für Hochrisiko-Künstliche Intelligenzen, aber auch dies kann erst mit der Veröffentlichung des endgültigen Textes überprüft werden.

Wie auch bei anderen europäischen Vorschriften gilt: die problematischsten Details sie werden nur einmal auftauchen Der Text wird veröffentlicht.Während der Verhandlungen mussten die Regierungen zugeben, dass es Systeme mit künstlicher Intelligenz gibt zunehmend zur Massenüberwachung eingesetzt, Racial Profiling und andere schädliche und invasive Zwecke.Das Abkommen enthält Grenzen, aber erst mit dem endgültigen Text können seine Auswirkungen überprüft werden, insbesondere im Hinblick auf die Binnenüberwachung und die Grenzen.

Es ist schwer, sich über ein Gesetz zu freuen, das zum ersten Mal in der Europäischen Union Schritte zur Legalisierung der Gesichtserkennung in Echtzeit vorsieht.Obwohl das Parlament hart für die Schadensbegrenzung gekämpft hat, geht das Gesamtpaket zur biometrischen Überwachung und Profilierung nicht weit genug.Unser Kampf gegen die massenhafte biometrische Überwachung wird weitergehen

Ella Jakubowska, Senior Policy Advisor, EDRi