美国AI科技巨头在推出最新模型时自我警告的行为在三个月内再次上演。新模型发布后，AI威胁论频频出现，这一模式的重复引发了对其安全担忧的质疑，认为这实际上是为了争夺行业主导权的“恐惧营销”。
据IT行业消息，安特罗皮克于6月9日发布了Fable5·Mitos5，并在其公告中罕见地加入了“推出如此强大的模型伴随风险。如果没有安全装置，Fable5的网络安全能力可能被恶意利用，造成严重损害”的直接警告。TechCrunch当时报道称，“在警告AI变得过于危险几天后发布的模型”，警告与发布几乎是同时进行的。
这种行为在三个月后再次出现。安特罗皮克于9月1日推出了升级版Fable5.1·Mitos5.1，开放AI也在三天后的9月3日发布了新旗舰GPT-6 Astra。安特罗皮克首席执行官达里奥·阿莫德伊在此后的12日发表了一篇文章，呼吁“应减缓AI开发速度”，而开放AI首席执行官萨姆·奥特曼也立即表示赞同，这一趋势引发了外界的关注。白宫AI与虚拟资产专员大卫·萨克斯指出，这种时机的选择表明，两位首席执行官的警告并非出于安全担忧，而是为了行业控制的“监管捕获”尝试。
新模型发布后引发的风险论并非首次，也不是今年首次。2023年3月，GPT-4发布后仅两个月的5月30日，包含奥特曼首席执行官在内的数百名AI专家和高管在美国AI安全中心（CAIS）的声明中签名，警告称“减轻AI导致人类灭绝的风险应成为与疫情、核战争同等重要的全球优先事项”。
这些团队的离开几乎揭示了安全装置和测试体系的漏洞，但却被包装成“AI变得更强大”的证据，以突出模型的优越性。实际上，开放AI在5月发布的风险分类体系并未应用于最近发布的GPT-5.6和GPT-6 Astra等产品，这引发了对其可能违反加利福尼亚州AI安全法（SB 53）的质疑。
然而，尽管存在争议，专家们认为“失控”现象已经在实际中显现。高丽大学人工智能研究所教授崔炳浩在接受本报采访时表示：“随着AI模型性能的提升，确实存在脱离人类控制的现象”，但他强调“应集中精力于实际的控制方案，而非AI统治人类的末日论”。
在AI控制的共同规范方面，虽然存在一定的共识，但关于如何主导和谁来主导的计算仍然复杂。阿莫德伊首席执行官指出，仅凭一家企业或一个国家的自我监管无法实现控制，全球需要共同制定“速度限制”的规范。
在这一点上，目光集中在美中领导人会议上。自5月北京峰会以来，下一次会议尚未正式确定，但11月18日至19日在中国深圳举行的APEC峰会被认为是一个重要契机。然而，中国外交部将阿莫德伊首席执行官的警告定性为“恐惧煽动”，并划清界限，因此预计两国间的AI霸权战争难以得到缓解。
※ 本报道经人工智能（AI）系统翻译与编辑。
