美国主要科技公司首席执行官们近日频频警告人工智能（AI）的风险，呼吁加强前沿模型的安全性验证。尽管国内有AI安全研究所负责此项工作，但由于基础设施严重不足，导致模型开发速度无法跟上。 根据16日AI安全研究所的消息，该研究所目前使用16台英伟达H200图形处理器对引入国内的AI模型进行安全性评估。 最新的AI模型需要处理约900至1500个复杂任务后，才能验证其安全性。使用研究所现有的16台H200进行一次模型评估需时7至10天，而一次基准测试的代币费用也高达5000万至6000万元。 AI安全研究所今年3月评估的模型为6个，但到上个月已增加至11个。每月有超过10个前沿模型涌现，研究所难以跟上这一速度。 AI安全研究所所长金明珠（首尔女子大学信息安全学教授）表示：“评估需求激增”，并指出“在资源不足的情况下，我们通过租用商业云会话来额外获取计算资源。” 由于基础设施不足，研究所优先评估对安全性敏感的模型。未能及时进行安全验证的AI模型在国内市场的使用案例也在增加。 目前优先评估的模型是中国的知名AI公司开发的前沿级模型“GLM 5.3”。由于近期安全装置被移除的GLM 5.3变体在互联网上流通，研究所认为有必要首先确认其实际被恶用的可能性。 被移除安全装置的模型可能生成正常AI应拒绝回答的软件漏洞或攻击代码。这不仅可能导致网络攻击，还可能提供化学和生物领域的危险信息，因此研究所正在观察其对危险请求的响应程度。 安全研究所也开始对OpenAI最近发布的前沿模型“阿斯特拉”进行评估。金所长表示：“由于多个模型的评估同时进行，预计结果会有所延迟。” 专家们指出，单靠16台H200难以全面评估阿斯特拉级前沿模型的安全性。为了进行超越简单问答的模型攻击测试和实时监控，需要与评估对象相似水平的模型和计算资源。 高丽大学AI研究所研究教授崔炳浩表示：“安全性研究需要的资源与提升模型性能的研究同样重要”，并强调“不仅需要GPU，还需提供相应的电力和空间，以及评估框架。”他补充道：“由于单一模型难以进行评估，因此需要结合API和开源模型等可用资源进行多模型评估。” 与此同时，关于AI开发速度与安全性的争论在全球AI行业中持续发酵。外媒报道，特朗普政府高级官员于15日（当地时间）与安特罗匹克高层会面，讨论AI安全问题。 安特罗匹克首席执行官达里奥·阿莫德伊主张应放缓AI开发速度，以留出时间来完善安全装置，而美国总统唐纳德·特朗普则因与中国的AI竞争而反对这一速度控制论。※ 本报道经人工智能（AI）系统翻译与编辑。

韩国副总理兼科学技术信息通信部部长裴景勋近日表示，针对全球人工智能（AI）企业的模型开发速度调整的讨论，"韩国没有放慢AI发展的余地"。 裴副总理在16日的社交媒体上指出，"已经领先的国家调整速度与追赶并需创造新市场的国家自行降低速度是完全不同的问题"。 最近，OpenAI和Anthropic等公司提出应因前沿模型的风险而调整AI开发速度。对此，裴副总理强调，"必须认真审视这些风险，但韩国不应放慢技术开发的速度"。 他表示，"应在大规模语言模型（LLM）基础上，拓展至在工业现场实际观察、理解和行动的视觉语言模型（VLM）和视觉语言行为模型（VLA）等技术领域"，并指出"我们还需为AI深入应用于各行业和民众日常生活的时代做好准备"。 他进一步分析，接近通用人工智能（AGI）的前沿AI能力的获取可能会加大国家间的差距。裴副总理指出，"这不仅关乎技术实力，还将影响国家的产业竞争力、经济和安全等未来竞争力的各个方面"。 同时，他强调，确保安全和信任的速度也必须提升。他解释说，必须同时建立应对深度伪造、网络安全、个人信息保护和就业变化等的技术和制度安全措施。 裴副总理表示，"在AI研发和产业应用上要大胆加速，但在风险方面必须具备有效的制动措施"，并指出"速度代表竞争力，安全则是可持续性，因此这不是二者之间的选择问题"。他还表示，"不久将向国民说明独立AI基础模型项目的下一阶段及韩国前沿AI模型开发的方向"，并强调"将确保韩国的AI发展不减速，而是更快、更安全地推进"。※ 本报道经人工智能（AI）系统翻译与编辑。

副总理兼科学技术信息通信部部长裴景勋强调，为了根本应对人工智能（AI）带来的安全威胁，必须开发超越安全专用模型的高级前沿模型。 裴副总理在青瓦台举行的总统工作报告中表示：“为了根本应对AI引发的安全问题，除了安全专用模型外，还需要开发高级前沿模型。” 当天，李在明总统指出，像Anthropic的Mitos等海外AI服务不在国内控制之内，因此必须时刻考虑到可能会被限制或封锁的风险，要求建立独立的AI能力。 李总统还呼吁加强AI安全体系。他表示：“安全必须以随时可能被攻破为前提进行应对，并指示建立不依赖企业自查的常态检查体系。” 对此，裴副总理回应称：“目前正在推进将安全数据额外学习到独立AI基础模型项目中，以开发安全专用模型。”他补充道：“但为了根本应对安全威胁，需要具备全面推理和分析能力的高级前沿模型，而不仅仅是特定领域的专用模型。” 李总统还要求建立一种可以在没有企业和公共机构同意的情况下，以类似实际攻击的方式检查安全漏洞的体系。 科学技术信息通信部信息保护网络政策室室长崔宇赫表示：“目前正在获得企业同意，对2000多家企业的服务进行检查，并针对10家民间企业和公共机构进行试点项目。” 他进一步指出：“现行制度下缺乏法律依据，难以在没有同意的情况下渗透系统检查漏洞。”他表示，试点项目结束后，将准备相关制度和法律基础，以便在没有事先同意的情况下，从实际攻击者的角度确认漏洞的环境。”

“现在是挑战能够与美国和中国竞争的前沿人工智能模型的时候。” 韩国副总理兼科学技术信息通信部部长裴景勋在5月29日首尔中区中央邮局举行的就任一周年记者见面会上表示。他回顾了过去一年在人工智能基础设施建设、研发正常化和通信费用减轻等政策成果的同时，强调了未来人工智能政策方向中前沿模型和通用人工智能（AGI）应对的必要性。 科学技术信息通信部当天列出了就任一周年的主要成果，包括：△为成为人工智能三强奠定基础 △恢复具有挑战性的研发生态系统 △保障基本通信权和减轻民生负担等。 在人工智能领域，部内提到独立人工智能基础模型（独基模）项目的推进和国家人工智能基础设施的扩充是主要成果。科学技术信息通信部目前已获得26万台图形处理单元（GPU），并与OpenAI、NVIDIA、谷歌深度学习等全球企业的合作体系也在不断扩大。 裴副总理表示：“过去一年最大的变化是GPU中心的人工智能高速公路基础设施建设的正式启动。”他指出：“我们正在建立基础设施，以确保研究人员不会因为GPU短缺而难以取得成果。” 他还诊断出人工智能竞争的重心正在从基础设施建设转向前沿模型的获取。他表示：“过去我们主要围绕半导体和制造等强势产业推进人工智能转型（AX）战略，并专注于适合的独立人工智能模型开发，但最近前沿模型的发展速度加快，国家层面的战略也需要重新审视。” 他进一步强调：“要实现全民可用的人工智能服务，仅靠产业特化模型是不够的，韩国也应以与美国和中国同等水平的人工智能为目标。” 裴副总理提到，为了确保前沿人工智能的竞争力，相关基础设施的投资是必要的。他表示：“虽然无法直接与美国和中国的人工智能预算进行比较，但韩国在技术实力、GPU、数据和人才等整体基础设施投资方面需要有效扩大。” 在会议上，科学技术信息通信部还公布了关于通用人工智能（AGI）和代理人工智能的构想。裴副总理表示：“以前我们还在思考是否需要AGI，但最近这种思考已经消失，我们必须准备AGI级别的前沿模型。”他补充道：“不久的将来，人工智能将能够自我发展模型，技术发展速度将大幅加快，因此我们需要从现在开始做好准备。” 关于政府正在推进的“全民AI”政策，他解释说，政策的重点是超越简单的聊天机器人服务，推动AI代理的普及。裴副总理表示：“国民、企业和政府部门将利用AI代理提高生产力，目标是创造一个在行政服务和金融业务等日常生活中，人工智能能够提供实际帮助的环境。” 在网络安全方面，他建议全球合作与自主能力的提升同样重要。裴副总理指出：“在网络安全中，排名并不重要，虽然通过全球合作进行短期应对也很重要，但韩国自身具备应对能力更为重要。” 最后，裴副总理回顾了过去一年的感受。他表示：“刚被任命为部长时，我对在一个僵化的组织中能做些什么感到担忧，但幸运的是，灵活沟通作为称谓文化的核心已经得到了很好的落实，员工之间的沟通也变得更加顺畅。” 他最后强调：“比起部门间的权力斗争，忠于基本原则更为重要，许多部门需要科学技术信息通信部，因此我们将专注于建立能够将人工智能应用于实际的体系。”※ 本报道经人工智能（AI）系统翻译与编辑。