国連によると、人工知能は人類に対する潜在的な脅威です

フェイクニュースや人工知能の漂流と闘うために、国連事務総長は「核モデル」に注目している。

人工知能は特定の分野です。自社の起業家が人類へのリスクを非難して世界を旅している唯一の企業であると言えるかもしれない。ChatGptを開発したOpenAI社の共同創設者兼最高経営責任者（CEO）であるサム・アルトマン氏は、人類文明の存続にとってAIがもたらすであろう「危険性」について、あらゆる国籍の政治家らと話すという活動を数カ月続けている。私たちは彼が「絶滅」という言葉を使うのをよく聞きますが、それは根拠があるかどうかにかかわらず、彼の象徴的な性格に対する恐れを裏付けています。数日前、元Google X最高ビジネス責任者のモー・ガウダット氏も 招待されました まさに、これらのテクノロジーが私たちの未来に投影する体系的な不確実性のせいで、人類は「子供を持たない」のです。

人工知能の終末的なシナリオ

でも話しやすいですよ ハルマゲドン AIが関与する場合。恐ろしいシナリオですが、SF映画を彷彿とさせる、それはそれで魅力的でもあります（ターミネーター, 、 例えば）;しかし何よりも、それは遠い可能性です。それは起こり得ることだ。遅かれ早かれ。しかし、アルトマンが叫んだ絶滅の危険よりもはるかに近しく、より現代的な AI に関連したリスクもあります。AI は現在、偽情報やオンライン プロパガンダ キャンペーンにすでに使用されています。何百万人もの人々が、短い文章を生成する ChatGpt の機能を発見したのと同じように、実際、あらゆる種類の政治組織がフェイク ニュースや「ノイズ」を広めるために ChatGpt を使用しています。そして彼らはまだ始まったばかりです。

先週の月曜日、偽情報について議論された会議で、国連のアントニオ・グテーレス事務総長は、まさにAIのこちら側に国際政治の注目を集め、これらの技術の発展を監視するために特別に設計された機関の創設を支持した。国際原子力機関（IAEA）の型。後者は冷戦真っ只中の1957年に設立され、原子力の平和利用を促進し、軍事目的での利用を防止することを目的として国連の強力な支援を受けていた。

AI と原子力の類似点は偶然ではありませんでした。事務総長によれば、実際、人工知能の広範な普及は「核戦争と同様の人類存亡の危機」をもたらすだろうという。実際、どちらの場合も、これらは研究者の手を離れたり、テロや戦争分野で悪用される可能性がある高度な技術です。したがって、グテレス氏はAI業界自体の一部に同意しているようだが、緊急事態はアルトマンのような闇の預言者が言うよりもはるかに近く、より現実的であると信じている。

技術科学者からの公開書簡

グテーレス事務総長は、「最新の生成型人工知能に関する警鐘は耳をつんざくほどだ」と指摘し、最も十分に根拠のある恐怖がいかに「人工知能を設計した開発者」から来ているかを強調した。長官が言及したのはおそらく公開書簡のことだろう 署名済み イーロン・マスク氏、スティーブ・ウォズニアック氏、トリスタン・ハリス氏を含むテクノロジー分野のさまざまな科学者や起業家らは昨年3月、次の方法を見つけるためにこのテクノロジーの「開発を少なくとも6か月間」「一時停止」するよう要請した。その悪影響を回避し、封じ込めます。「フレンドリーな」人工知能の作家兼専門家、エリーザー・ユドコウスキー 彼は答えた 書簡では、この分野での研究を一時停止するだけでは十分ではないと述べた。それをやめればいいだけです。

前述したように、アルトマン氏自身も最も悲観的なシナリオの可能性を頻繁に繰り返しており、昨年5月にこのテーマに関する討論会に招待された際にも米国議会の共感を集めた。一部の人によると、彼の作戦はまさに人々を恐怖に陥れることを目的とした戦略だという 規制当局 差し迫った、そしておそらくすでに進行中の危険から注意をそらすために、キラーAIと大量絶滅について語ります。フェイクニュースの拡散、AIで生成された「合成」メディア、つまり政治家が不適切な発言や行動をする写真、ビデオ、音声などの作成などがこれに該当する。彼らはいわゆる ディープフェイク, 、それは政治的および文化的議論の井戸を汚染する危険性があり、すべてが行われる環境を作り出します。 そうかもしれない 偽物であり、何も真剣に受け止められません。

まあ、これらは人工知能の危険であって、スカイネット（映画に出てくる反乱軍のスーパーコンピューターネットワーク）の覚醒ではありません。 ターミネーター）。グテレス氏はこれに気づいたようで、この分野の国際監視機関を設立するというアイデアを提示した。同氏自身が説明したように、「加盟国のみが作成でき、国連長官は作成できない」のは残念だ。SF映画の黙示録について考える前に、ここから始める価値があります。