比尔·盖茨呼吁加强政府监管：AI或致十亿人死亡

比尔·盖茨再次发声，呼吁各国政府参与并加强对人工智能（AI）的监管。

在美国全国广播公司（NBC）9月25日发布的采访视频中，这位微软联合创始人、亿万富翁、慈善家警告称，AI公司自我监管是不够的，若AI落入错误之手，强大到足以杀死十亿人。

“AI当然强大到足以推动造成十亿人死亡的事件，”盖茨发出预警，“从未有过任何一种武器，能比得上怀有恶意的人借助最新AI工具所形成的威胁。”

他表示，美国政府“绝对”需要通过联邦立法，为AI进展建立保障和监测。

“没有人认为自我监管就够了，”他在采访中提到，“而是需要执法部门和政界人士参与讨论，确定保障措施和监控措施的具体内容”。

他同时补充说，立法会给AI行业“增加一点额外负担，但不会显著放慢他们正在做的事情”。

9月26日，话题“比尔盖茨发出严厉警告”登上微博热搜。
NBC提到，不久前，从Anthropic辞职的举报人雅各布·考克森发出了类似的警告。考克森在一系列社交媒体帖文和采访中表示，AI开发者们真心相信，“到本十年末，人工智能可能会毁灭我们所有人”。

此外，本月初，美国两大人工智能实验室——Anthropic和OpenAI的首席执行官一致认为，应该放缓开发强大的AI系统的竞赛。本周，萨姆·奥尔特曼和达里奥·阿莫代伊都在联合国安理会发言，并呼吁美国牵头组建国际联盟，制定AI安全标准。

另据英国《金融时报》报道，近期一系列网络安全事件，使人们对OpenAI、Anthropic等前沿人工智能实验室控制其模型的能力产生怀疑，人工智能安全辩论随之爆发。

本周有消息称，OpenAI的一套系统侵入了澳大利亚一家公共卫生服务网站。该公司在事件发生数月后才向该国政府报告，澳大利亚总理阿尔巴尼斯称，这“显然不可接受”。

早些时候，Anthropic则表示，有消息称，也门胡塞武装曾试图利用其Claude人工智能模型开发弹道导弹的制导、控制和导航软件。

尽管硅谷警报不断，公众对该技术的反对也在增加，美国总统特朗普仍顽固反对AI监管，把安全担忧称为“骗局”，并拒绝他所称的控制该技术的“全球主义图谋”。

这并非盖茨首次呼吁各国政府对AI发展实施严格监管。上个月，盖茨发表约6000字长文，称要应对AI技术快速发展给社会带来的前所未有的影响，美国和中国必须开展合作。

他当时警告称，人工智能正在将人类带入“人类历史上最动荡的时期之一”，它可能成为“有史以来最伟大的平等促进器，也可能成为最严重的不公正之源”。

“那些拥有领先人工智能开发商、并掌控供应链关键环节的国家，现在就应该开始举行会谈，建立共同规范，以免竞争压力使它们日后更加难以合作。”他表示，“建立我所说的这种框架需要数年时间，这正是为什么我们必须现在就开始行动。”

中方多次强调，始终从促进人类文明进步的角度来看待人工智能技术，使各国民众共享人工智能发展带来的好处。利用人工智能促进本国经济社会发展。

当地时间9月23日至25日，中方领导人对美国进行国事访问。其间，两国元首就中美建设性战略稳定关系及重大国际地区问题深入交换意见，达成八点成果共识，包括：双方同意建立中美人工智能对话，交流人工智能相关风险和惠益。下次对话将于今年11月举行。双方同意建立人工智能事件的沟通渠道。

来源观察者网