亚洲日报 - 韩国最大中文报业集团

코인정보

KOSPI 5668.04
113.82 +2.05%
KOSDAQ 794.77
33.95 +4.46%
USD 1,334.20
10.4 -0.78%
EUR 1,501.84
5.46 -0.36%
JPY 845.39
5.92 -0.7%
CNY 199.61
1.39 -0.7%

英文越南语

2026年10月17日

youtube

时政
财经
社会
文化
产业
韩中交流
访谈

观点
体育
IT
现场
图片新闻
视频新闻
AI PICK

按日期查询查看最新新闻

weibo weixin youtube

时政
财经
社会
文化
产业
韩中交流
访谈

观点
体育
IT
现场
图片新闻
视频新闻
AI Pick

按日期查询查看最新新闻

时政
财经
产业
社会
文化
体育
访谈
观点
AI PICK

亚洲日报

新闻搜索

主页搜索

搜索

选择时间

一个星期
1个月
6个月
直接搜索
最后一次约会

搜索范围

标题
正文
标题+正文
关键词
记者
全部

全部的

‘红队技术’新闻 1个

KAIST开发出一种能够发现AI隐性漏洞的安全性验证技术，效率提高7倍

韩国科学技术院(KAIST)的研究团队开发了一种新的安全性验证技术，能够比以往更全面地发现人工智能(AI)的隐性漏洞，效率提高了约7倍。 KAIST于30日宣布，由电气与电子工程系教授金俊模领导的研究团队，改进了大型语言模型(LLM)安全性验证的红队技术，开发了新的框架“稳定-生成流网络(Stable-GFlowNet)”。红队是一种安全性验证技术，通过输入攻击提示，使生成型AI产生有害或危险的回答，从而发现模型的隐性漏洞。发现多种攻击类型可以在事前消除更多漏洞，因此攻击成功率和攻击多样性都是重要的评估因素。现有的红队技术基于强化学习，虽然攻击成功率较高，但在发现多样化攻击类型方面存在局限性。相比之下，生成流网络(GFlowNet)虽然在攻击多样性上表现出色，但学习不稳定。研究团队成功将GFlowNet应用于大型语言模型(LLM)，提高了学习的稳定性，并有效发掘了多种漏洞。为了解决这一问题，研究团队开发了三项关键技术：△稳定学习过程的“对照轨迹平衡(CTB)” △去除不必要信息的“噪声梯度修剪(NGP)” △帮助生成自然攻击提示的“流畅性稳定装置(MKS)”。最终，稳定-生成流网络发现了134种攻击类型，约是现有技术发现的17种独特攻击类型的7倍，同时保持了92%的高攻击成功率。通过该技术训练的防御模型在利用不同攻击技术进行的交叉攻击评估中，能够有效防御多种攻击，证明了其高泛化性能。研究团队期待这一技术能够在新药候选物质设计等多种AI生成领域得到应用。金教授表示：“这一技术在数据较少和噪声较多的环境中，能够稳定地发现AI的多种漏洞，具有重要意义。它将成为在生成型AI实际服务应用之前，发现和防御更广泛风险因素的核心基础技术，从而推动安全可靠的AI开发。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-07-31 00:24:00

KAIST开发出一种能够发现AI隐性漏洞的安全性验证技术，效率提高7倍

韩国科学技术院(KAIST)的研究团队开发了一种新的安全性验证技术，能够比以往更全面地发现人工智能(AI)的隐性漏洞，效率提高了约7倍。 KAIST于30日宣布，由电气与电子工程系教授金俊模领导的研究团队，改进了大型语言模型(LLM)安全性验证的红队技术，开发了新的框架“稳定-生成流网络(Stable-GFlowNet)”。红队是一种安全性验证技术，通过输入攻击提示，使生成型AI产生有害或危险的回答，从而发现模型的隐性漏洞。发现多种攻击类型可以在事前消除更多漏洞，因此攻击成功率和攻击多样性都是重要的评估因素。现有的红队技术基于强化学习，虽然攻击成功率较高，但在发现多样化攻击类型方面存在局限性。相比之下，生成流网络(GFlowNet)虽然在攻击多样性上表现出色，但学习不稳定。研究团队成功将GFlowNet应用于大型语言模型(LLM)，提高了学习的稳定性，并有效发掘了多种漏洞。为了解决这一问题，研究团队开发了三项关键技术：△稳定学习过程的“对照轨迹平衡(CTB)” △去除不必要信息的“噪声梯度修剪(NGP)” △帮助生成自然攻击提示的“流畅性稳定装置(MKS)”。最终，稳定-生成流网络发现了134种攻击类型，约是现有技术发现的17种独特攻击类型的7倍，同时保持了92%的高攻击成功率。通过该技术训练的防御模型在利用不同攻击技术进行的交叉攻击评估中，能够有效防御多种攻击，证明了其高泛化性能。研究团队期待这一技术能够在新药候选物质设计等多种AI生成领域得到应用。金教授表示：“这一技术在数据较少和噪声较多的环境中，能够稳定地发现AI的多种漏洞，具有重要意义。它将成为在生成型AI实际服务应用之前，发现和防御更广泛风险因素的核心基础技术，从而推动安全可靠的AI开发。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-07-31 00:24:00

上一页
1
下一页

热门新闻

剑指三星SK海力士长鑫存储4F²架构产品年底亮相
中国人形机器人亮相韩国国政监查成功抢镜
韩国金融机构遭大规模黑客袭击 26岁中国广东男子疑为幕后黑手
三星电子交出"史诗级"成绩单第三季度狂赚107.4万亿韩元
韩国成中国游客国庆出境游首选商家争抢假日消费商机

中国仙侠题材韩国升温网文网漫与电视剧多平台开花
【亚洲人之声】影视创作不应成为政治斗争的靶心
中朝新鸭绿江大桥正式开通韩国统一部高度关注
中朝新鸭绿江大桥15日开通
赴韩医疗旅游持续升温韩国功效型护肤市场加快发展

人民日报
新华社
文汇网
中新社
人民网

公司简介
个人信息处理方针
青少年保护政策
著作权规定
读者提供新闻线索
新闻稿件投诉负责人

亚洲日报|刊号 : 서울,아04336|注册日期 : 2014年12月29日|《亚洲日报》发行人及总编辑 : 郭永吉、梁圭铉|地址 : 首尔市
钟路区钟路5街13号三共大厦11楼|创刊日期 : 2007年11月15日|青少年保护负责人 : 王海纳电话 : 02-739-2171
《亚洲日报》将遵守互联网新闻委员会制定的伦理纲领。|本网站所刊登的各种新闻、信息和各种专题专栏内容, 均受《著作权法》
保护, 未经协议授权, 禁止随意转载、复制和散布使用。|邮件 : dongclub@ajunews.com

Copyright ⓒ AJUNEWS All rights reserved.