全球人工智能（AI）市场的领先企业，如OpenAI和Anthropic的首席执行官（CEO）和首席研究员警告称，"AI可能导致人类灭绝"。他们表示，超越特异点的AI技术可能成为人类灭亡的开端，呼吁控制开发速度。
AI不会休息，也不会分心。它能迅速完成那些人类觉得乏味和艰难的任务。人类无法解决的数学难题，AI也能轻松应对。随着技术的不断进步，人类对AI的理解变得愈发困难。我们对无法理解的存在感到恐惧，AI的恐惧已经成为现实。
然而，唐纳德·特朗普总统则持不同看法。他表示，"不要杀死下金蛋的鹅"，并称"这只是在让中国受益"，还称"人类灭亡论是骗局"。总的来说，特朗普的观点是正确的，而大科技CEO们的担忧则显得过于夸张。
当前AI危机的制造者正是这些大科技公司的CEO们。他们在追求通用人工智能（AGI）的目标上展开了无尽的竞争。在这一过程中，领先者已经显现。根据硅谷风险投资公司Menlo Ventures的数据，全球大型语言模型（LLM）市场中，OpenAI、Anthropic和谷歌三家大科技公司的市场份额合计约占90%。
然而，尽管他们警告人类灭亡，他们似乎并不打算自行减速。尽管发出警告，他们仍在继续开发下一代模型，并在巨额投资的支持下不断扩展数据中心等基础设施。如果真的担心人类灭亡，那么自认为接近AGI的公司应该主动减缓开发速度，而不是对那些在技术上落后近一年的企业发出警告。
Anthropic的CEO达里奥·阿莫代建议，为了调节AI技术的速度，应该在1至2年内自我克制竞争，并建立独立的竞争评估机构。他还提议建立安全防护措施以促成国际共识。这些建议虽然良好，但并不公平。即使建立第三方机构，所有标准仍由大科技公司制定。
随着监管壁垒的提高，缺乏法律和技术应对能力的后发创业公司或竞争国企业将无法进入市场。速度调节和加强监管的最大受益者无疑是发出警告的大科技公司自己，这只会使他们的市场垄断地位得以永久化。
并不是说危机的实质不存在。全球各国制定安全标准和法律框架是我们这个时代的任务。迄今为止，人类发明的所有技术都旨在保护人类的安全和伦理。因此，我们才能避免灭亡，并创造出下一代技术。
因此，主导当前AI市场的几家大科技公司不应主导安全防护措施的规则制定。这将使市场垄断者能够制定规则以保护他们的既得利益。AI技术将不再是人类的资产，而是特定企业的永久权力。
已经开始的AGI竞赛无法停止。我们需要的不是大科技公司虚伪的警告，而是一个不受特定企业影响的公平、透明和中立的安全防护措施。
※ 本报道经人工智能（AI）系统翻译与编辑。
