主页搜索
搜索
选择时间
搜索范围
全部的
‘人工智能安全研究所’新闻 2个
-
卡卡与人工智能安全研究所签署AI安全性评估合作协议卡卡与人工智能安全研究所携手，致力于构建安全可靠的人工智能（AI）生态系统。卡卡于9月29日宣布，已于9月28日与人工智能安全研究所签署了AI安全性共同评估及评估体系建设的战略合作协议（MOU）。去年，卡卡与人工智能安全研究所共同对自有语言模型“卡纳纳（Kanana）-1.5-9.8B”进行了安全性评估。随着AI技术的快速发展，识别和验证模型潜在风险的AI安全性变得愈发重要。卡卡通过此次评估确认了其模型在与同规模海外模型的比较中具有较高的安全性。根据此次MOU，双方将扩大合作，建立针对AI模型和代理的客观、系统的安全性评估基础。根据协议，卡卡将提供其AI模型和AI代理作为安全性评估对象，并支持评估实施及评估工具开发所需的基础设施。人工智能安全研究所将负责评估实施和方法论的提升。双方还将共同审查评估结果，并协商公开范围，同时合作开发AI安全性评估工具。双方的合作将分为三个阶段进行。首先，将对语言模型进行发布前后的安全性评估，随后将评估范围扩大至多模态语言模型和AI代理。最后，双方计划共同开发能够更有效验证AI模型和代理安全性的评估工具。通过此次合作，卡卡计划建立一个能够前瞻性识别和验证AI模型风险的体系，同时持续提升AI安全性评估能力。特别是，基于与国内AI安全性专业研究机构的合作，卡卡希望确保全球水平的AI安全性，并为构建可信赖的AI生态系统做出贡献。卡卡AI协同成果领导者金世雄表示：“通过此次合作，卡卡的AI模型将具备更加客观和严格的安全性验证体系。我们将继续努力，提供以安全性和信任为首要目标的AI模型和服务。”人工智能安全研究所所长金明珠表示：“随着AI技术的不断提升，前瞻性识别和评估潜在风险的体系显得尤为重要。我们将竭尽全力与卡卡合作，建立符合全球标准的AI安全性评估体系。”卡卡已制定了“卡卡AI安全倡议（Kakao ASI）”，以管理AI模型开发、发布和运营全过程中可能出现的风险。基于此，卡卡对内部AI模型的风险因素进行检查，并将安全性评估结果向外部公开。※ 本报道经人工智能（AI）系统翻译与编辑。
2026-09-29 18:32:00 -
韩国政府与美国安防公司安特罗皮克讨论AI与网络安全合作政府与美国人工智能公司安特罗皮克举行会议，讨论AI与网络安全的合作方案。随着对安特罗皮克下一代AI模型“米托斯”的安全担忧加剧，韩国希望参与全球合作网络，并提升国内独立安全能力。 科学技术信息通信部于11日与相关部门及机构召开了与安特罗皮克的AI与网络安全合作方案讨论会。政府方面由科学技术信息通信部第二次官柳济明、外交部、国家情报院、金融委员会、人工智能安全研究所(AISI)、韩国互联网振兴院(KISA)、金融安全院等出席。安特罗皮克方面则有全球政策总监迈克尔·塞利托等人参与。 此次会晤是继2月在印度AI影响力峰会上，背景勋副总理兼科学技术信息通信部部长与安特罗皮克首席执行官达里奥·阿莫德讨论合作议题后的后续行动。表面上看是AI安全与信任的合作，但实际讨论的核心是米托斯与项目玻璃翅膀。 项目玻璃翅膀是安特罗皮克计划有限开放其高性能AI模型“克劳德·米托斯预览”，以进行防御目的的网络安全验证的全球合作构想。路透社报道，该项目还包括亚马逊、微软、苹果、谷歌、英伟达、CrowdStrike、Palo Alto Networks等公司，安特罗皮克正在推动扩大对主要软件基础设施管理机构的访问。 政府在此次会谈中向安特罗皮克提出了韩国企业与机构的网络安全合作建议。韩国希望利用米托斯等技术提前应对漏洞公开和安全问题，并请求相关信息共享。科学技术信息通信部介绍了AI基本法等国内AI安全与信任政策，并讨论了AISI与安特罗皮克的合作方案。 然而，项目玻璃翅膀的参与尚未确定。国内尚无参与案例，且此次会谈中并未得到实质性确认。据部分报道，AISI与KISA已正式请求作为韩国代表机构参与，但安特罗皮克方面的最终接受情况尚未确认。 围绕米托斯的争议源于AI安全能力的双面性。米托斯被认为在发现高风险软件漏洞方面具有优势，但同样的能力也可能被滥用于攻击自动化。华盛顿邮报报道，安特罗皮克可以帮助修复长期被忽视的漏洞，但也可能增强黑客的攻击能力。 在美国，关于扩大访问的谨慎声音也在增加。《华尔街日报》报道，白宫反对安特罗皮克扩大米托斯访问的计划，认为如果将强大的网络AI模型开放给更多机构，滥用风险和控制问题将加剧。 政府也在朝着短期合作与中长期自立并行的方向发展。短期内，通过与安特罗皮克等全球AI领先企业的合作，提高漏洞信息共享和防御能力；中长期则推动网络安全专用独立AI模型的开发。科学技术信息通信部计划在本月底或下月初，发布国内独立AI基础模型开发企业与安全行业意见的AI安全应对方案。 此次讨论表明，AI安全问题已超越单纯的技术合作，成为国家安全与产业竞争力的问题。AI可以提高漏洞检测与应对的速度，但攻击者也可以利用同样的技术。如果韩国无法接入全球合作网络，将在获取最新威胁信息与防御技术方面落后，反之，盲目开放又可能加大控制风险。 政府的任务十分明确。无论是否参与玻璃翅膀，国内安全企业、研究机构、金融、通信、平台企业都需要共同建立可用的验证体系。AI安全模型的性能与访问权限、用户验证、日志管理、滥用监控责任等同样重要。独立模型的开发也必须能够在实际漏洞分析与应对中发挥作用。 柳济明科学技术信息通信部第二次官表示：“前沿级AI模型的性能正在快速提升，应用范围也在扩大，创造安全的使用环境与AI创新同样是重要任务。我们将积极与全球AI领先企业合作，加强AI模型的安全性、网络安全能力等AI风险的预防与应对体系。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-12 12:27:46
-
卡卡与人工智能安全研究所签署AI安全性评估合作协议
卡卡与人工智能安全研究所携手，致力于构建安全可靠的人工智能（AI）生态系统。卡卡于9月29日宣布，已于9月28日与人工智能安全研究所签署了AI安全性共同评估及评估体系建设的战略合作协议（MOU）。去年，卡卡与人工智能安全研究所共同对自有语言模型“卡纳纳（Kanana）-1.5-9.8B”进行了安全性评估。随着AI技术的快速发展，识别和验证模型潜在风险的AI安全性变得愈发重要。卡卡通过此次评估确认了其模型在与同规模海外模型的比较中具有较高的安全性。根据此次MOU，双方将扩大合作，建立针对AI模型和代理的客观、系统的安全性评估基础。根据协议，卡卡将提供其AI模型和AI代理作为安全性评估对象，并支持评估实施及评估工具开发所需的基础设施。人工智能安全研究所将负责评估实施和方法论的提升。双方还将共同审查评估结果，并协商公开范围，同时合作开发AI安全性评估工具。双方的合作将分为三个阶段进行。首先，将对语言模型进行发布前后的安全性评估，随后将评估范围扩大至多模态语言模型和AI代理。最后，双方计划共同开发能够更有效验证AI模型和代理安全性的评估工具。通过此次合作，卡卡计划建立一个能够前瞻性识别和验证AI模型风险的体系，同时持续提升AI安全性评估能力。特别是，基于与国内AI安全性专业研究机构的合作，卡卡希望确保全球水平的AI安全性，并为构建可信赖的AI生态系统做出贡献。卡卡AI协同成果领导者金世雄表示：“通过此次合作，卡卡的AI模型将具备更加客观和严格的安全性验证体系。我们将继续努力，提供以安全性和信任为首要目标的AI模型和服务。”人工智能安全研究所所长金明珠表示：“随着AI技术的不断提升，前瞻性识别和评估潜在风险的体系显得尤为重要。我们将竭尽全力与卡卡合作，建立符合全球标准的AI安全性评估体系。”卡卡已制定了“卡卡AI安全倡议（Kakao ASI）”，以管理AI模型开发、发布和运营全过程中可能出现的风险。基于此，卡卡对内部AI模型的风险因素进行检查，并将安全性评估结果向外部公开。※ 本报道经人工智能（AI）系统翻译与编辑。
2026-09-29 18:32:00 -
韩国政府与美国安防公司安特罗皮克讨论AI与网络安全合作
政府与美国人工智能公司安特罗皮克举行会议，讨论AI与网络安全的合作方案。随着对安特罗皮克下一代AI模型“米托斯”的安全担忧加剧，韩国希望参与全球合作网络，并提升国内独立安全能力。 科学技术信息通信部于11日与相关部门及机构召开了与安特罗皮克的AI与网络安全合作方案讨论会。政府方面由科学技术信息通信部第二次官柳济明、外交部、国家情报院、金融委员会、人工智能安全研究所(AISI)、韩国互联网振兴院(KISA)、金融安全院等出席。安特罗皮克方面则有全球政策总监迈克尔·塞利托等人参与。 此次会晤是继2月在印度AI影响力峰会上，背景勋副总理兼科学技术信息通信部部长与安特罗皮克首席执行官达里奥·阿莫德讨论合作议题后的后续行动。表面上看是AI安全与信任的合作，但实际讨论的核心是米托斯与项目玻璃翅膀。 项目玻璃翅膀是安特罗皮克计划有限开放其高性能AI模型“克劳德·米托斯预览”，以进行防御目的的网络安全验证的全球合作构想。路透社报道，该项目还包括亚马逊、微软、苹果、谷歌、英伟达、CrowdStrike、Palo Alto Networks等公司，安特罗皮克正在推动扩大对主要软件基础设施管理机构的访问。 政府在此次会谈中向安特罗皮克提出了韩国企业与机构的网络安全合作建议。韩国希望利用米托斯等技术提前应对漏洞公开和安全问题，并请求相关信息共享。科学技术信息通信部介绍了AI基本法等国内AI安全与信任政策，并讨论了AISI与安特罗皮克的合作方案。 然而，项目玻璃翅膀的参与尚未确定。国内尚无参与案例，且此次会谈中并未得到实质性确认。据部分报道，AISI与KISA已正式请求作为韩国代表机构参与，但安特罗皮克方面的最终接受情况尚未确认。 围绕米托斯的争议源于AI安全能力的双面性。米托斯被认为在发现高风险软件漏洞方面具有优势，但同样的能力也可能被滥用于攻击自动化。华盛顿邮报报道，安特罗皮克可以帮助修复长期被忽视的漏洞，但也可能增强黑客的攻击能力。 在美国，关于扩大访问的谨慎声音也在增加。《华尔街日报》报道，白宫反对安特罗皮克扩大米托斯访问的计划，认为如果将强大的网络AI模型开放给更多机构，滥用风险和控制问题将加剧。 政府也在朝着短期合作与中长期自立并行的方向发展。短期内，通过与安特罗皮克等全球AI领先企业的合作，提高漏洞信息共享和防御能力；中长期则推动网络安全专用独立AI模型的开发。科学技术信息通信部计划在本月底或下月初，发布国内独立AI基础模型开发企业与安全行业意见的AI安全应对方案。 此次讨论表明，AI安全问题已超越单纯的技术合作，成为国家安全与产业竞争力的问题。AI可以提高漏洞检测与应对的速度，但攻击者也可以利用同样的技术。如果韩国无法接入全球合作网络，将在获取最新威胁信息与防御技术方面落后，反之，盲目开放又可能加大控制风险。 政府的任务十分明确。无论是否参与玻璃翅膀，国内安全企业、研究机构、金融、通信、平台企业都需要共同建立可用的验证体系。AI安全模型的性能与访问权限、用户验证、日志管理、滥用监控责任等同样重要。独立模型的开发也必须能够在实际漏洞分析与应对中发挥作用。 柳济明科学技术信息通信部第二次官表示：“前沿级AI模型的性能正在快速提升，应用范围也在扩大，创造安全的使用环境与AI创新同样是重要任务。我们将积极与全球AI领先企业合作，加强AI模型的安全性、网络安全能力等AI风险的预防与应对体系。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-12 12:27:46
