По мнению ООН, искусственный интеллект представляет собой потенциальную угрозу человечеству

Для борьбы с фейковыми новостями и распространением искусственного интеллекта генеральный секретарь ООН обращается к «ядерной модели».

Искусственный интеллект – это особый сектор:единственный, можно сказать, в котором его собственные предприниматели путешествуют по миру, осуждая риски для человечества.Сэм Альтман, соучредитель и генеральный директор OpenAI, компании, разработавшей ChatGpt, занимается этим уже несколько месяцев, разговаривая с политиками всех национальностей об «опасности», которую ИИ может представлять для выживания человеческой цивилизации.Мы часто даже слышим, как он использует слово «вымирание», подтверждая опасения (обоснованные или нет) относительно его символического характера.Несколько дней назад бывший директор по бизнесу Google X Мо Гавдат даже приглашенный человечеству «не иметь детей» именно из-за системной неопределенности, которую эти технологии проецируют на наше будущее.

Апокалиптический сценарий искусственного интеллекта

Но об этом легко говорить Армагеддон когда задействован ИИ.Это жуткий сценарий, но и по-своему увлекательный, напоминающий фантастический фильм(Терминаторы, например);но, прежде всего, это далекая возможность.Что могло случиться.Рано или поздно.Однако существуют риски, связанные с ИИ, которые гораздо ближе и более современны, чем опасность исчезновения, о которой кричал Альтман:ИИ уже используется сегодня для дезинформации и онлайн-пропагандистских кампаний.Точно так же, как миллионы людей открыли для себя возможности ChatGpt по созданию коротких письменных текстов, политические организации всех мастей используют их для распространения фейковых новостей и «шума».И они только начинаются.

В прошлый понедельник на встрече, где обсуждалась дезинформация, Генеральный секретарь ООН Антониу Гутерриш обратил внимание международной политики именно на эту сторону ИИ, поддержав создание органа, специально предназначенного для мониторинга развития этих технологий. пресс-форма Международного агентства по атомной энергии (МАГАТЭ).Последняя, ​​основанная в 1957 году, в разгар Холодной войны, пользовалась решительной поддержкой ООН с целью содействия мирному использованию ядерной энергии и предотвращения ее использования в военных целях.

Параллель между ИИ и ядерной энергетикой не была случайной:по словам генерального секретаря, по сути, широкое распространение искусственного интеллекта будет представлять собой «экзистенциальный риск для человечества, аналогичный риску ядерной войны».По сути, в обоих случаях это передовые технологии, которые могут выйти из рук исследователей или быть использованы в терроризме или в военном секторе.Таким образом, Гутерреш, похоже, согласен с частью самой индустрии искусственного интеллекта, но считает, что чрезвычайная ситуация гораздо ближе и реалистичнее, чем говорят темные пророки, такие как Альтман.

Открытое письмо ученых-технологов

Гутерриш отметил, что «тревоги по поводу новейших форм генеративного искусственного интеллекта оглушительны», подчеркнув, что наиболее обоснованные опасения исходят от «разработчиков, которые их разработали».Вероятно, секретарь имеет в виду открытое письмо. подписано различными учеными и предпринимателями технологического сектора, в том числе Илоном Маском, Стивом Возняком и Тристаном Харрисом, в марте прошлого года, где они просили «приостановить развитие» этой технологии «хотя бы на шесть месяцев», чтобы найти способ избегать и сдерживать его негативные последствия.Писатель и эксперт по «дружественному» искусственному интеллекту Элиэзер Юдковский он ответил в письме, уточнив, что приостановки исследований в отрасли недостаточно:тебе просто нужно остановить это.

Сам Альтман, как уже упоминалось, часто подтверждал возможность самых пессимистических сценариев, также завоевав симпатии Конгресса США в мае прошлого года, когда его пригласили на дебаты по этой теме.По мнению некоторых, это будет стратегия, направленная именно на террорирование людей. регуляторы рассказывая об искусственном интеллекте-убийце и массовых вымираниях, чтобы отвлечь внимание от надвигающихся и, вероятно, уже существующих опасностей.Например, распространение фейковых новостей, создание «синтетических» средств массовой информации, созданных с помощью ИИ, то есть фотографий, видео и аудио, на которых, например, политические деятели говорят и делают неподобающие вещи.Они являются так называемыми дипфейк, которые рискуют загрязнить колодцы политических и культурных дискуссий, создавая среду, в которой все может быть быть фальшивкой, и ничто не воспринимается всерьез.

Ну, это опасности искусственного интеллекта, а не пробуждения Скайнета (повстанческой суперкомпьютерной сети из фильма Терминаторы).Гутерриш, похоже, осознал это и представил свою идею создания международного агентства по мониторингу этого сектора.Обидно, что «его могут создать только государства-члены, а не секретарь ООН», как он сам объяснил.Прежде чем думать об апокалипсисе из фантастического фильма, стоит начать отсюда.