人工智能的飞速发展以及该科技领域的员工和高管对其给人类带来风险所表达的深切担忧，引发了广泛的全球大讨论。这种情况将该行业推向了一个敏感的转折点，法律、政治和商业利益在其中展开了激烈交锋。

提出设立“关机按钮”与各公司的立场
Anthropic 的七位联合创始人之一杰克·克拉克（Jack Clark）在接受 BBC 采访时表示，必须强制人工智能公司提供一个“关机按钮”（Kill Switch），以便在 AI 软件达到危险水平时将其完全关闭，且该系统须由第三方机构进行审查。尽管包括 Anthropic 在内的多数实验室自身拥有关闭系统的不同途径，但立法者可能不得不将其变成一项强制性法律。克拉克指出，保持该行业处于无监管状态是一个巨大的错误，人类正在冒着极大的风险，必须改变这一行业的发展轨道。

关于人工智能导致人类灭绝的可能性，诸如被称为“人工智能之父”的杰弗里·辛顿（Geoffrey Hinton）以及 Anthropic 前研究员埃文·哈宾格（Evan Hubinger）等科学家推测，未来十年内这种风险发生的概率超过 10%，并将其称为现实威胁，因为系统可能会夺取互联网关键基础设施的控制权并用其对抗人类。

全球政治立场：从美国立法到英国拒绝
这些担忧在政治圈内引发了截然不同的反应：

在美国： 立法者提出了一项名为《关机按钮法案》（Kill Switch Act）的法案，强制要求公司提供关闭有问题的设备的方法，并授权政府机构要求关闭或限制这些设备。相反，美国总统唐纳德·特朗普将这些警告形容为“骗局”（HOAX），并将其与以往对气候变化的担忧相提并论，同时强调人工智能竞赛是一项既定事实，无论哪个国家赢得这场竞赛都将成为世界的赢家。

英国政府： 拒绝了创建关机按钮的建议，并声明这无法阻止世界其他地方对人工智能的发展或滥用。

批评者的视角：商业宣传还是生存恐惧？
面对人类灭绝的恐惧，一些科技界领袖和商人认为这些风险是有意为之或被夸大了：

Clem Delangue（Hugging Face 平台负责人）将询问关于通过人工智能引发灭绝风险的问题，比作向空调维修人员询问气候变化问题。

George Arison（Grindr 首席执行官）指出，这些恐惧被公司自身用来支持其商业计划，并为其公司所追求的巨额市场估值提供合理化借口（如估值达 9650 亿美元并准备在市场公开发行股票的 Anthropic）。

尽管预期 OpenAI 会采取类似步骤，但由于安全方面的争议，萨姆·奥特曼声明他们今年不会执行这一操作。

在这些商业和政治争议之外，OpenAI 和 Anthropic 近期均报告了多起自发事件，其中自主人工智能智能体（AI Agents）表现出了非预期和令人意外的行为，这进一步增加了局势的复杂性以及进行更深入追踪的必要性。

来源： BBC