网络安全成为前沿人工智能的实战测试平台，韩国应对安全特化模型
网络安全正成为前沿人工智能（AI）实战性能验证的主要测试平台。安全领域不仅需要进行简单的问答或文档生成，还需进行大规模代码分析、漏洞探测、攻击路径推断以及漏洞利用的制作，这些都成为检验AI长期推理和自主代理能力的舞台。 据韩国互联网振兴院（KISA）22日透露，政府正在加强国家层面的AI安全体系，以应对利用高性能AI的网络威胁。政府在今年5月通过了《基于AI的网络威胁应对民间信息保护推进计划》，并提出了从2027年起逐步转向基于自主AI技术的国内信息保护体系的目标。 全球AI企业也在扩大其在网络安全领域的技术竞争。最近，Anthropic的Mitos和OpenAI的“GPT-5.5-网络安全”等强化安全能力的AI模型相继推出，使得AI的应用范围从以对话和文档生成为主，扩展到漏洞分析和攻击、防御的执行。 网络安全被认为是同时验证AI推理能力和自主性的领域。实际的安全工作不仅需要简单的知识检索，还需理解复杂的代码和攻击路径，并经过多个判断步骤来验证结果。 漏洞分析和漏洞利用的制作需要高水平的推理能力。漏洞利用是将安全弱点实际应用于攻击的代码或技术，要求理解庞大代码库的上下文，追踪控制流，提出假设并通过概念验证（PoC）进行验证。因此，零日漏洞探测或CTF（黑客问题解决任务）能力被用作评估AI代理实战水平的指标。 KISA威胁应对政策团队负责人金恩成指出，安全特化AI的特点在于可以同时用于攻击和防御。除了漏洞探测和红队等攻击性安全外，还可以应用于威胁猎捕、安全监控中心（SOC）自动化、自动补丁生成等防御工作。 不仅要将AI应用于安全，保护AI本身的问题也日益重要。“为安全而AI（AI for Security）”是指利用AI提升漏洞探测、入侵事件分析和响应自动化等现有安全工作的概念。 而“为AI而安全（Security for AI）”则是指保护AI模型和系统免受提示注入、模型窃取、数据污染、供应链威胁等影响。这两个领域并不是独立的，随着AI应用的扩大，必须共同建立安全体系。 政府和KISA重视国内安全特化基础模型的获取，背景在于韩国特有的威胁环境和数据主权问题。韩国面临来自朝鲜等特定攻击主体的威胁，并暴露于韩国特有的攻击技术中，同时拥有韩文（HWP）文档、网络隔离、文档安全（DRM）等特化的工作和安全环境。 因此，KISA认为，海外通用模型难以充分反映这种环境，且将系统构成或使用软件等敏感信息传递给海外服务也并不容易。 与其在通用AI中与全球大型科技公司正面竞争，不如集中在安全等特定领域的战略。金恩成表示，虽然短期内难以缩小与通用前沿模型的差距，但如果是针对韩国安全环境进行集中学习的特化模型，则有可能提高竞争力。 他认为，直接与通用前沿AI竞争以占领市场并不容易，因此建立适合韩国安全环境的基础模型，提高专业性是一个方向。金恩成表示：“跟随一个学科、一个学科的发展是安全特化基础模型的方向。”
2026-09-22 21:24:10
