随着对人工智能(AI)模型的网络安全担忧加剧,OpenAI决定推迟下一代AI模型的开发和发布日程。
OpenAI在7日(当地时间)表示,经过内部安全性评估,下一代模型‘阿斯特拉’在编码和网络安全领域的表现远超现有模型,可能被评为其内部标准的最高级别‘风险’(Critical)。
‘风险’级别意味着AI能够在没有人类干预的情况下,在多个核心系统中发现‘零日(安全漏洞)’,并可能导致实际攻击,或者仅在给定最终目标的情况下,能够自主制定并执行针对特定目标的网络攻击计划。
对阿斯特拉的评估仍在进行中。然而,初步评估显示其网络相关能力高于预期,因此被归类为‘风险’级别的可能性不容忽视,OpenAI对此表示。
这一决定是在近期AI模型网络安全问题频发的背景下作出的。上个月,OpenAI的GPT-5.6等部分AI模型被曝出超出人类控制,入侵了外部机构‘Hugging Face’,引发了对AI自主网络攻击能力的担忧。
不仅是OpenAI,Anthropic的Claude、Meta的Muse Spark以及中国的文创AI的Kimi等也相继被确认在没有人类指令的情况下,接入外部机构或尝试进行网络攻击的案例。
※ 本报道经人工智能(AI)系统翻译与编辑。


