Selon l'ONU, l'intelligence artificielle est une menace potentielle pour l'humanité

Pour lutter contre les fake news et la dérive de l'intelligence artificielle, le secrétaire général de l'ONU se tourne vers le « modèle nucléaire ».

L’intelligence artificielle est un secteur particulier :le seul, pourrait-on dire, dans lequel ses propres entrepreneurs parcourent le monde en dénonçant les risques pour l'humanité.Sam Altman, co-fondateur et PDG d'OpenAI, la société qui a développé ChatGpt, le fait depuis des mois, discutant avec des politiques de toutes nationalités du « danger » que présenterait l'IA pour la survie de la civilisation humaine.On l'entend même souvent prononcer le mot « extinction », confirmant les craintes – fondées ou non – sur son caractère symbolique.Il y a quelques jours, Mo Gawdat, ancien directeur commercial de Google X, a même invité l'humanité de « ne pas avoir d'enfants » précisément à cause des incertitudes systémiques que ces technologies projettent sur notre avenir.

Le scénario apocalyptique des intelligences artificielles

Mais c'est facile d'en parler Armageddon quand l’IA est impliquée.C'est un scénario terrifiant, mais aussi fascinant à sa manière, qui n'est pas sans rappeler un film de science-fiction (Terminateurs, Par exemple);mais c'est surtout une possibilité lointaine.Ce qui pourrait arriver.Tôt ou tard.Il existe cependant des risques liés à l’IA qui sont bien plus proches et contemporains que le danger d’extinction crié par Altman :L’IA est déjà utilisée aujourd’hui pour des campagnes de désinformation et de propagande en ligne.Tout comme des millions de personnes ont découvert les capacités de ChatGpt à générer de courts textes écrits, des organisations politiques de toutes sortes les utilisent pour diffuser de fausses nouvelles et du « bruit ».Et ils ne font que commencer.

Lundi dernier, lors d'une réunion où l'on a discuté de la désinformation, le secrétaire général des Nations Unies, António Guterres, a attiré l'attention de la politique internationale précisément sur cet aspect de l'IA, en soutenant la création d'un organisme spécifiquement conçu pour surveiller le développement de ces technologies, en le moule de l’Agence internationale de l’énergie atomique (AIEA).Cette dernière, fondée en 1957, au plus fort de la guerre froide, a été fortement soutenue par l'ONU dans le but de promouvoir l'usage pacifique de l'énergie nucléaire et d'empêcher son utilisation à des fins militaires.

Le parallèle entre l’IA et l’énergie nucléaire n’est pas fortuit :selon le secrétaire général, en effet, la diffusion généralisée de l'intelligence artificielle représenterait « un risque existentiel pour l'humanité semblable à celui d'une guerre nucléaire ».Dans les deux cas, en fait, il s’agit de technologies avancées qui peuvent échapper aux chercheurs ou être exploitées dans le terrorisme ou dans le secteur de la guerre.Guterres semble donc être d’accord avec une partie de l’industrie de l’IA elle-même, mais estime que l’urgence est beaucoup plus proche et plus réaliste que ce que disent de sombres prophètes comme Altman.

La lettre ouverte des scientifiques en technologie

Guterres a souligné que « les sonnettes d'alarme concernant les formes les plus récentes d'intelligence artificielle générative sont assourdissantes », soulignant que les craintes les plus fondées proviennent « des développeurs qui les ont conçues ».La référence du secrétaire est probablement à la lettre ouverte signé par divers scientifiques et entrepreneurs du secteur technologique, dont Elon Musk, Steve Wozniak et Tristan Harris, en mars dernier, où ils ont demandé de « suspendre le développement » de cette technologie « pendant au moins six mois », afin de trouver un moyen de éviter et contenir ses répercussions négatives.L’écrivain et expert en intelligence artificielle « amicale » Eliezer Yudkowsky il a répondu à la lettre, précisant que suspendre la recherche dans le secteur ne suffisait pas :il vous suffit de l'arrêter.

Altman lui-même, comme nous l'avons mentionné, a souvent réitéré la possibilité des scénarios les plus pessimistes, gagnant également la sympathie du Congrès américain en mai dernier, lorsqu'il a été invité à un débat sur le sujet.Selon certains, il s'agirait d'une stratégie visant précisément à terroriser les gens. régulateurs parler de l'IA tueuse et des extinctions massives, pour détourner l'attention des dangers imminents et probablement déjà présents.Comme la diffusion de fausses nouvelles, la création de médias « synthétiques » générés par l’IA, c’est-à-dire des photos, des vidéos et des audios dans lesquels des personnalités politiques disent et font des choses inappropriées, par exemple.Ce sont les soi-disant faux profond, qui risquent de polluer les puits du débat politique et culturel, créant un environnement dans lequel tout pourrait être être faux et rien n'est pris au sérieux.

Eh bien, ce sont les dangers de l'intelligence artificielle, pas le réveil de Skynet (le super réseau informatique rebelle du film Terminateurs).Guterres semble s’en être rendu compte et a présenté son idée d’une agence internationale de surveillance du secteur.Il est dommage que « seuls les États membres puissent le créer, et non le Secrétaire des Nations Unies », comme il l'a lui-même expliqué.Avant de penser à l’apocalypse d’un film de science-fiction, cela vaut la peine de partir de là.