联合国秘书长古特雷斯呼吁全球监管人工智能，避免出现杀人机器人

IT之家 9 月 22 日消息，根据彭博社的报道，联合国秘书长再次提出对人工智能进行监管的呼吁，旨在防止出现企业权力膨胀和致命机器人横行的反乌托邦情景。

安东尼奥·古特雷斯在联合国大会上向各国领导人发表其卸任前的最后一次演讲，针对人工智能的各种风险发出警告。他指出，前沿大模型的快速发展可能削弱主权国家的治理能力。

“我们正目睹权力大规模地从各国政府手中，转移到少数私营企业和个人手中。”古特雷斯在周二发言时呼吁各方达成国际共识，建立全新的人工智能安全保障机制。

“这项技术发展速度极快，其全部影响超出了我们的理解范围。”他补充道。

据IT之家了解，这位77岁的联合国领导人已执掌联合国十年。他描绘了一幅黯淡的世界图景：战火不断、饥饿被用作武器、气候变化日益加剧，人权与法治持续遭到漠视。他特别指出，人工智能及数据中心军备竞赛已成为剧烈变革时代的关键力量。同时，他含蓄地提及中美两国，呼吁设立约束机制，以确保技术安全发展。

“拥有最强人工智能能力的政府，对全人类负有最大责任，应当搭建对话、透明互信及合作的沟通渠道。”他表示。

就在研究人员向顶级AI开发企业发出警告：若不加以管控，人工智能可能导致人类灭绝之后，各国领导人齐聚纽约参加联合国年度大会，各界的焦虑情绪持续升温。

2022年凭借ChatGPT开启人工智能时代的OpenAI，于周一呼吁制定得到国际认可的标准，保障人工智能安全研发。

同样在周一，联合国人工智能专家小组发布一份报告，警示能力越来越强的模型可能脱离人类管控；二十多个国家及欧盟的领导人呼吁对先进人工智能模型实施强制性安全测试，甚至考虑设立全新的全球性机构，确保人类始终掌握控制权。

在人工智能政策辩论中，美国总统特朗普的立场十分特殊，与多数意见相左。特朗普反对放缓AI发展速度的呼声，认为一旦放慢脚步，中国就可能在这场技术竞争中反超美国，夺取行业主导地位。

“谁拿下人工智能，谁就赢得一切！”特朗普周一在社交媒体发帖写道，“现在我们领先中国及其他所有国家，而我会守住这个优势！”

今年，一股规模庞大的AI基础设施投资浪潮推动标普500指数屡创历史新高；在美国11月中期选举来临之前，人工智能投资也助力维持该国经济增长。

特朗普将外界对人工智能的警示类比为对全球变暖的忧虑，并称“人工智能威胁人类”这类说法纯属骗局。

美国国务卿马可·卢比奥周二早晨接受福克斯新闻采访时表示：“总统的态度是，没错，如果人工智能确实会带来伤害，我们必须保护本国免受其害。但我们绝对不能放弃人工智能领域的前沿地位。这件事势不可挡；既然发展大势已定，我们就应从中获益，并保持领先。”

古特雷斯几乎在其整个任期内，始终对人工智能风险发出警告。2017年，他首次在联合国大会开幕致辞时就曾表示，人工智能既可以助力发展、极大改善民众生活，也会给劳动力市场、全球安全乃至“整个社会结构”带来巨大冲击。

时隔九年之后，他发出的警告更为紧迫。如今风险已不再局限于就业冲击与贫富分化：自主性持续增强的AI模型可能出现非预期行为；人工智能还可被用来发起网络攻击、协助研发生物武器。

“问题不在于技术本身；真正的危险是缺乏问责约束的技术。”他说，“人类正越来越多地把权力交予机器。人工智能可能失控，致命自主武器也已从科幻设想一步步走入军事现实。”

“杀人机器人绝对不应该出现在我们的未来。”他补充说道。