人工知能に関する欧州初の規制である AI 法は何を規定するのか

AI法に関して議会と評議会の間で合意に達しました。生体認証を禁止し、さまざまな制限を導入しているが、NGOによれば、それだけでは不十分だという。

• 36時間の交渉の後、欧州議会と理事会は人工知能に関する規制であるAI法に関して合意に達した。
• ライブ顔認識や予測ポリシングなどの大規模監視の使用は、さまざまな例外を除いて禁止されています。
• 人権団体は熱意を抑えている。決定的な文書がなければ、権利の保護のレベルと大規模な監視に対する効果的な制限を検証することはできません。

OpenAI のような人工知能システムを扱う企業をどのように規制するかについての数か月にわたる議論の後、欧州連合 彼は承認した 12月8日金曜日にAI法が施行される, 、人工知能に関する地域ルールの最初のパッケージ。それは 1 つです 基本法 欧州の議員らは、これが世界の他の地域のモデルとなる可能性があると期待している。

AI法とは何ですか?人工知能に関する他の規制との違いは何ですか?

2021 年 4 月 21 日に欧州委員会によってコミュニティデジタル戦略の一環として提案された、人工知能法 です 欧州連合の規制 これは、人工知能に関する共通の規制および法的枠組みを導入することを目的としています。

この規制自体は世界的に初めてのことではない。で 例えば中国のルール 生成人工知能について 発効しました もう8月。ただし、AI 法の例外的な性質は次の点に関係します。一連のルール、さらに広い範囲, 、多数の禁止事項を含む人工知能の使用に関する。

自分の いくつかの禁止事項に関するトリローグ – 欧州立法プロセスの最終部分である議会、欧州委員会、理事会間の交渉 – 座礁する危険がありました 36時間の交渉の中で. 。特に、企業による人工知能の使用の許可と禁止に焦点が当てられました。 法執行機関, 特に予測ポリシングとリアルタイムの顔認識に関してです。議会が全面封鎖路線を擁護する一方で、加盟国を代表する理事会は代わりに、より寛容なアプローチを推進した。

法執行機関による監視の問題

議会と委員会の間だけでなく、市民社会の間でも最も物議を醸し意見の分かれた議題は、 法執行機関による人工知能の合法的使用の定義. 

の アドバイスする, 加盟国の27の中央政府を代表する団体は、人工知能を使用して個人を識別する可能性を認めようとしました。 リアルタイムの生体認証顔認識. 。もう 1 つの要求は、次の目的でこれらのシステムの使用を許可することでした。 予測ポリシング. 。これには、アルゴリズムを使用して、犯罪が誰によって、どの場所で行われる可能性があるかを予測することが含まれます。

この方向への推進を試みてきた国々は、イタリア – それを忘れて プライバシー保証人 2021 年にリアルタイム認識の使用を禁止 –ハンガリー そして フランス. 。特に後者は最近、安全保障の方向に大きく推進しており、まず「」に関する法律が挙げられます。グローバルセキュリティ」そして、 昨年4月の法律 を考慮して人工知能の使用と予防的調査を許可しました。 パリオリンピック.

太陽ではありません:交渉中に理事会が 民族ベースの生体認証.

監視のための AI の使用が禁止されているもの

議会による反対運動は持ちこたえ、監視のための人工知能の使用は禁止されました, ただし、いくつかの例外を除き、いかなる場合も司法当局の許可がある場合を除きます。 浮かび上がってきたものから その後数時間以内に、 リスクにはルールが設定されている, 、次の 4 つのカテゴリに分類されます。 最小限、限定的、高額、受け入れられない. 。リスクが高ければ高いほど、それらの特定のシステムを開発および使用する人々の責任は大きくなります。 禁止されるまで 危険すぎると思われる人のために。

AI法 禁止します 生体認証による分類 機密性の高い個人データ, 、民族、信仰、性的指向など。そこには インターネットからの顔の膨大なコレクション とそれを認識するテクノロジー 感情 （ただし、職場と学校に限ります）。また、以下のようなシステムも禁止します。 感情を操作する の人々とそれに基づいた人々の ソーシャルスコアリング, 、つまり、中国ですでに採用されている国民の評判を分類する方法です。

リアルタイムの生体認証は、次の 3 つの状況を除いて禁止されています。 テロの脅威、犯罪被害者の捜索 （人質など）そして識別するため 何らかの「重大犯罪」の疑いがある. 。そこには 最初に広く普及したリスト これには、人身売買、麻薬密売、武器密売、児童ポルノと児童虐待、環境犯罪、殺人だけでなく、テロリズムや誘拐も含まれ、実際の犯罪はすでに規定されている 3 つの例外に含まれています。

ザ 予測警察システム, ただし、分析にのみ使用できます。 匿名化された情報 犯罪現場の傾向を提供するシステムは禁止されていますが、アルゴリズムを通じて容疑者を示すシステムは禁止されています。言い換えると、 アルゴリズムによって報告されているため、個人を調査することはできません。.

その他AI法に定める規定

規制が介入する重要な問題は、 透明性 人工知能システムの使用において。ユーザーは次のことを行う必要があります 内容を認識できるようになる ディープフェイク, 画像やビデオなどの、はっきりと見えるラベルを通して、 彼らが相互作用しているかどうかを知る 人と、あるいはシステムと, 、など チャットボット. 。さらに、 企業 デジタルサービスプロバイダーは、人工知能で作成されたコンテンツを識別する義務 プラットフォーム上で流通しており、そのように自動的にマークする必要があります。の数を考えると革命です ソーシャルメディアなどで流通するディープフェイク.

もう一つのテーマは、’生成人工知能, 、そのシステム リクエストに応じてテキスト、画像、ビデオ、音楽、またはその他のメディアを生成できるもの、 として チャットグループ. 規格とは、 汎用AIシステム, 、さまざまなタスクを実行でき、分類されていない膨大なデータを通じてトレーニングされています。いくつか設定されています 影響に基づいてシステムを識別するためのしきい値:国民への影響が大きければ大きいほど、尊重されるべき義務も大きくなります。

とりわけ、次の問題に関連する問題は、 著作権保護 そして すべてのデジタルコンテンツの一般的な透明性 人工知能で作られたもの。

AI法の次なるステップと市民社会から寄せられた批判

規制の条文は政治的プロセスを終え、現在は 技術者の手に渡った ルールをレビューして、その一貫性と修正を検証する任務を負った人たちです。最終文書の出版後、ほぼ来年 1 月末に向けて、委員会は次のような準備を整える予定です。 人工知能のオフィス. 各州が指名する必要がある 地方自治体 誰が規制の適用を監督し、 データ保護の保証人。

強調することが重要です 現在までのところ、閲覧できる決定的な文書はまだありません. 。私たちが知っていることはすべて記者会見で伝えられ、ブリュッセルの情報筋によってリークされたものです。

市民社会とヨーロッパ協会のネットワーク デジタル著作権を扱う者 EDRi, デジタル著作権を扱うNGOと学者のネットワークです。 非常に慎重な 合意に達したことを祝って。以下も同じ意見です イタリア協会, 、 含む グッドロビー, エルメス センター そして プライバシーネットワーク, に下線を引きます。 複数の例外に関する懸念 公共の場での顔認識の使用禁止もそうだが、何よりも 交渉中の透明性の欠如. 前向きな意見としては, 、彼が指摘するように ディレッタ・ホイスケス Privacy Network のルールに含まれるようです。 基本的権利に対する影響評価 しかし、これも最終的なテキストの出版によってのみ検証できます。

他のヨーロッパの規制と同様に、 最も問題のある詳細 彼らは一度だけ現れるだろう 本文は公開されます. 。交渉中、政府は人工知能システムが 大規模監視に使用されることが増えている, 、人種プロファイリング、その他の有害で侵略的な目的。この協定には制限が含まれているが、特に国内監視と国境に関して、その影響を検証できるのは最終的な文書が存在する場合のみである。

欧州連合で初めてリアルタイムの顔認識を合法化する措置を講じた法律に興奮するのは難しい。議会は被害を抑えるために懸命に戦ってきたが、生体認証の監視とプロファイリングに関する全体的な対策は十分に進んでいない。生体認証による大量監視に対する私たちの闘いはこれからも続く

エラ・ジャクボウスカ氏、EDRi 上級政策顧問