联合国称人工智能对人类构成潜在威胁

为了打击假新闻和人工智能的漂移，联合国秘书长着眼于“核模型”。

人工智能是一个特殊的领域：有人可能会说，这是唯一一个其本国企业家周游世界谴责人类面临的风险的活动。开发 ChatGpt 的 OpenAI 公司的联合创始人兼首席执行官 Sam Altman 几个月来一直在这样做，与各国政治家谈论人工智能对人类文明生存的“危险”。我们甚至经常听到他使用“灭绝”这个词，证实了人们对他的象征性人物的恐惧——无论有无根据。日前，前 Google X 首席商务官 Mo Gawdat 甚至 邀请 人类之所以“不要孩子”，正是因为这些技术给我们的未来带来了系统性的不确定性。

人工智能的世界末日场景

但谈起来很容易 世界末日 当人工智能介入时。这是一个可怕的场景，但也以自己的方式令人着迷，让人想起科幻电影（终结者, ， 例如）;但最重要的是，这种可能性还很遥远。这可能会发生。迟早。然而，与人工智能相关的风险比奥特曼喊出的灭绝危险更接近、更现代：如今，人工智能已被用于虚假信息和在线宣传活动。正如数百万人发现 ChatGpt 生成简短书面文本的能力一样，事实上，各种政治组织正在利用它们来传播假新闻和“噪音”。而他们才刚刚开始。

上周一，在一次讨论虚假信息的会议上，联合国秘书长安东尼奥·古特雷斯提请国际政治对人工智能这一方面的关注，支持建立一个专门负责监测这些技术发展的机构，国际原子能机构（IAEA）的模型。后者成立于1957年，正值冷战最激烈的时期，得到了联合国的大力支持，旨在促进和平利用核能并防止其用于军事目的。

人工智能与核能的相似之处并非偶然：秘书长表示，事实上，人工智能的广泛传播将给“人类带来类似于核战争的生存风险”。事实上，在这两种情况下，这些都是先进技术，可能会脱离研究人员的控制或被用于恐怖主义或战争领域。因此，古特雷斯似乎同意人工智能行业本身的部分观点，但认为紧急情况比奥特曼等黑暗预言家所说的更接近、更现实。

科技科学家的公开信

古特雷斯指出，“关于最新形式的生成人工智能的警钟震耳欲聋”，强调最有根据的担忧来自“设计它们的开发人员”。秘书提到的可能是那封公开信 签署 去年 3 月，埃隆·马斯克、史蒂夫·沃兹尼亚克和特里斯坦·哈里斯等科技领域的多位科学家和企业家提出了要求，要求“暂停这项技术的开发”“至少六个月”，以便找到一种方法避免并遏制其负面影响。“友好”人工智能作家和专家 Eliezer Yudkowsky 他回答说 明确指出暂停该领域的研究还不够：你只需要阻止它。

正如前面提到的，奥特曼本人经常重申最悲观情景的可能性，并在去年五月受邀参加有关该主题的辩论时赢得了美国国会的同情。一些人认为，他的战略正是旨在恐吓人民 监管者 讲述杀手人工智能和大规模灭绝，以转移人们对迫在眉睫且可能已经持续存在的危险的注意力。例如假新闻的传播、人工智能生成的“合成”媒体的创建，即政治人物在其中发表不当言论和行为的照片、视频和音频。他们就是所谓的 深度伪造, ，这有可能污染政治和文化讨论的源泉，创造一个一切都在其中的环境 可能是 是假的，没有任何事情被认真对待。

好吧，这些都是人工智能的危险，而不是天网的觉醒（电影中反叛的超级计算机网络） 终结者）。古特雷斯似乎已经意识到了这一点，并提出了建立该行业国际监测机构的想法。遗憾的是，正如他本人所解释的那样，“只有会员国才能创建它，而联合国秘书长却不能”。在思考科幻电影中的世界末日之前，值得从这里开始。