유엔에 따르면 인공지능은 인류에 대한 잠재적인 위협이다.

가짜 뉴스와 인공지능의 표류에 맞서기 위해 유엔 사무총장은 '핵 모델'을 고려하고 있습니다.

인공지능은 특정 분야입니다.자신의 기업가들이 전 세계를 돌아다니며 인류에 대한 위험을 비난하는 유일한 것이라고 말할 수 있습니다.ChatGpt를 개발한 회사인 OpenAI의 공동 창업자이자 CEO인 Sam Altman은 AI가 인류 문명의 생존에 미칠 "위험"에 대해 모든 국적의 정치인들과 이야기하면서 이 일을 몇 달 동안 해왔습니다.우리는 그가 "멸종"이라는 단어를 사용하는 것을 종종 듣습니다. 이는 근거가 있든 없든 그의 상징적 성격에 대한 두려움을 확인합니다.며칠 전, 전 구글 X 최고경영책임자 모 가우닷(Mo Gawdat)은 심지어 초대됨 인류가 "자녀를 갖지 못하는" 이유는 바로 이러한 기술이 우리의 미래에 투사하는 체계적 불확실성 때문입니다.

인공지능의 종말론적 시나리오

하지만 얘기하기는 쉽죠 아마겟돈 AI가 개입할 때.무서운 시나리오지만 SF영화를 연상시키는 나름대로 매혹적이기도 하다(터미네이터, 예를 들어);그러나 무엇보다도 그것은 먼 가능성이다.일어날 수 있는 일이죠.조만간.그러나 알트만이 외친 멸종의 위험보다 훨씬 더 가깝고 현대적인 AI와 관련된 위험이 있습니다.오늘날 AI는 이미 허위 정보와 온라인 선전 캠페인에 사용되고 있습니다.수백만 명의 사람들이 짧은 텍스트를 생성하는 ChatGpt의 기능을 발견한 것처럼 실제로 모든 종류의 정치 조직에서는 이를 사용하여 가짜 뉴스와 "잡음"을 퍼뜨리고 있습니다.그리고 그들은 이제 막 시작하고 있습니다.

지난 월요일, 허위 정보가 논의된 회의에서 안토니오 구테레스 유엔 사무총장은 AI 측면에 국제 정치의 관심을 집중시켰고, 이러한 기술의 개발을 모니터링하기 위해 특별히 설계된 기구의 창설을 지원했습니다. 국제원자력기구(IAEA)의 틀이다.후자는 냉전이 한창이던 1957년에 설립되었으며, 원자력의 평화적 이용을 촉진하고 군사적 목적으로의 사용을 방지한다는 목표로 UN의 강력한 지원을 받았습니다.

AI와 원자력의 유사점은 우연이 아닙니다.사무총장에 따르면 실제로 인공 지능의 광범위한 확산은 "핵전쟁과 유사한 인류의 실존적 위험"을 나타낼 것이라고 합니다.실제로 두 경우 모두 연구원의 손을 벗어나거나 테러 또는 전쟁 분야에서 악용될 수 있는 첨단 기술입니다.따라서 구테레스는 AI 산업 자체의 일부에 동의하는 것처럼 보이지만 알트만과 같은 어둠의 예언자들이 말하는 것보다 비상사태가 훨씬 더 가깝고 현실적이라고 믿습니다.

기술 과학자들의 공개 서한

Guterres는 "가장 최근의 생성 인공 지능 형태에 대한 경종은 귀청이 터질 것 같다"고 말하면서 가장 근거 있는 두려움이 "이를 설계한 개발자"로부터 나오는 것임을 강조했습니다.비서의 언급은 아마도 공개서한일 것이다 서명됨 지난 3월 엘론 머스크(Elon Musk), 스티브 워즈니악(Steve Wozniak), 트리스탄 해리스(Tristan Harris) 등 기술 분야의 다양한 과학자와 기업가들은 이 기술의 개발을 "최소 6개월 동안" 중단해 줄 것을 요청했습니다. 부정적인 영향을 피하고 억제하십시오."친절한" 인공지능 분야의 작가이자 전문가 Eliezer Yudkowsky 그는 대답했다 해당 분야의 연구를 일시 중지하는 것만으로는 충분하지 않다는 내용을 서신에 명시했습니다.그냥 멈춰야 해.

앞서 언급했듯이 알트만 자신은 가장 비관적인 시나리오의 가능성을 자주 반복했으며 지난 5월 이 주제에 대한 토론에 초대되었을 때 미국 의회의 동정을 얻었습니다.일부에 따르면, 그의 전략은 바로 사람들을 공포에 떨게 하는 것을 겨냥한 전략일 것입니다. 규제기관 다가오는 위험과 아마도 이미 진행 중인 위험으로부터 주의를 돌리기 위해 킬러 AI와 대량 멸종에 대해 이야기합니다.예를 들어 가짜 뉴스의 확산, AI로 생성된 "합성" 미디어(예: 정치인이 부적절한 말과 행동을 하는 사진, 비디오, 오디오)의 생성 등이 있습니다.그들은 소위 딥페이크, 이는 정치적, 문화적 토론의 우물을 오염시킬 위험이 있으며 모든 것이 가능한 환경을 조성합니다. 될 수 있다 가짜이고 아무것도 심각하게 받아들이지 않습니다.

글쎄요, 이것은 인공지능의 위험성이지 스카이넷(영화에 등장하는 반란군 슈퍼컴퓨터 네트워크)의 각성보다는 터미네이터).구테레스는 이를 깨닫고 해당 부문에 대한 국제 모니터링 기관에 대한 자신의 아이디어를 제시한 것으로 보입니다.그는 자신이 설명했듯이 "유엔 사무총장이 아닌 회원국만이 그것을 만들 수 있다"는 것이 부끄러운 일이다.공상 과학 영화의 종말에 대해 생각하기 전에 여기부터 시작하는 것이 좋습니다.