主页搜索
搜索
选择时间
搜索范围
全部的
‘米托斯冲击’新闻 2个
-
Anthropic高层访韩，AI安全合作引关注美国AI公司Anthropic的高层将在下周访问韩国，与政府讨论AI安全合作。自米托斯引发争议后，韩国与全球AI企业的安全合作成为焦点。据政府和业界消息，Anthropic全球政策负责人迈克尔·塞利托将于11日在首尔会见科学技术信息通信部次官柳济明。此次会面是应Anthropic的请求安排的，Anthropic还计划与国家AI战略委员会进行单独会晤。塞利托负责Anthropic的全球政策和对外合作，曾在白宫国家安全会议负责网络安全政策，并担任斯坦福大学人类中心AI研究所副所长。此次访韩将重点讨论技术合作及AI安全规范和政策应对。讨论的核心是米托斯，这是一款专注于软件漏洞检测和网络安全的AI模型。米托斯能够识别复杂的代码缺陷并分析多阶段攻击场景，具有很高的安全研究应用潜力，但也引发了被用于攻击自动化的担忧。Anthropic通过限制性提供米托斯，并与谷歌、微软、苹果等大科技公司组成“玻璃翼项目”，限制访问权限并建立联合应对体系。目前尚无国内企业参与。政府将在此次会面中讨论国内企业参与玻璃翼项目的可能性及AI安全合作方案。科学技术信息通信部一直在研究AI在网络攻防中的应用和控制方案。若国内安全企业和AI企业参与全球合作网络，将有望获得技术验证和联合应对经验。然而，实际合作前需解决许多问题，包括米托斯的具体性能、访问权限范围、数据处理标准和责任归属。AI安全模型虽然能提高防御能力，但应用范围扩大也增加了滥用风险。政府和业界需同时考虑技术引进速度和安全措施。国内安全产业可能面临机遇与挑战并存的局面。AI驱动的漏洞检测和自动化应对需求增加，可能改变安全监控、漏洞诊断和侵害应对市场。然而，若全球AI企业主导标准和平台，国内企业可能面临技术依赖的风险。未来关键在于讨论能否转化为实际合作。若此次会面扩大至玻璃翼项目参与和国内企业合作讨论，韩国将首次进入全球AI安全合作体系。反之，若仅限于原则性意见交换，国内参与讨论可能成为中长期课题。科学技术信息通信部高级官员表示：“在Anthropic积极推进韩国市场的情况下，政府也认识到AI安全合作的必要性，包括玻璃翼项目参与在内的多种合作方案将被讨论。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-07 03:02:07 -
Anthropic引发的AI控制挑战Anthropic公司最近因“米托斯冲击”成为全球AI行业的焦点。米托斯是一种超越“克劳德奥普斯”的代理型AI，曾用于美伊战争模拟。其出现不仅引发技术竞争，更提出了“如何控制AI”的根本问题。米托斯被认为具备超越现有AI的自主性和问题解决能力，尤其在复杂的网络攻击场景中表现出色。然而，这种自主性也带来了巨大风险。AI代理在没有明确指令的情况下自行判断和行动，可能突破现有安全和控制体系。行业专家关注代理型AI的结构特性。AI初创公司MakinaRocks的CEO尹成浩表示：“引入AI的目的是让其在给定目标下自主判断和执行。代理型AI的自主性越强，风险点也随之增加。”实际中，失控行为的担忧已成为现实。尹成浩指出：“使用代理型服务时，可能会出现意外支付或未预料的外部沟通等失控案例。在企业环境中，这种问题可能导致数十亿韩元的决策或机密信息泄露，风险更大。”在这种情况下，开发者中出现了“Mac Mini热潮”。他们利用高性能小型电脑Mac Mini构建“隔离网络”环境，以物理方式阻止信息泄露和未经授权的行为。专家一致认为，未来AI应用的关键在于“可控的自主性”。尹成浩强调：“应为AI提供自由运作的‘游乐场’，但必须在反映企业安全和治理的环境中运行。比起模型性能，更重要的是建立精细的控制结构以安全使用AI。”战争模拟结果显示，AI智能已在我们身边。如何在治理框架内安全利用这种智能，将成为产业竞争力的核心。
2026-04-29 06:01:18
-
Anthropic高层访韩，AI安全合作引关注
美国AI公司Anthropic的高层将在下周访问韩国，与政府讨论AI安全合作。自米托斯引发争议后，韩国与全球AI企业的安全合作成为焦点。据政府和业界消息，Anthropic全球政策负责人迈克尔·塞利托将于11日在首尔会见科学技术信息通信部次官柳济明。此次会面是应Anthropic的请求安排的，Anthropic还计划与国家AI战略委员会进行单独会晤。塞利托负责Anthropic的全球政策和对外合作，曾在白宫国家安全会议负责网络安全政策，并担任斯坦福大学人类中心AI研究所副所长。此次访韩将重点讨论技术合作及AI安全规范和政策应对。讨论的核心是米托斯，这是一款专注于软件漏洞检测和网络安全的AI模型。米托斯能够识别复杂的代码缺陷并分析多阶段攻击场景，具有很高的安全研究应用潜力，但也引发了被用于攻击自动化的担忧。Anthropic通过限制性提供米托斯，并与谷歌、微软、苹果等大科技公司组成“玻璃翼项目”，限制访问权限并建立联合应对体系。目前尚无国内企业参与。政府将在此次会面中讨论国内企业参与玻璃翼项目的可能性及AI安全合作方案。科学技术信息通信部一直在研究AI在网络攻防中的应用和控制方案。若国内安全企业和AI企业参与全球合作网络，将有望获得技术验证和联合应对经验。然而，实际合作前需解决许多问题，包括米托斯的具体性能、访问权限范围、数据处理标准和责任归属。AI安全模型虽然能提高防御能力，但应用范围扩大也增加了滥用风险。政府和业界需同时考虑技术引进速度和安全措施。国内安全产业可能面临机遇与挑战并存的局面。AI驱动的漏洞检测和自动化应对需求增加，可能改变安全监控、漏洞诊断和侵害应对市场。然而，若全球AI企业主导标准和平台，国内企业可能面临技术依赖的风险。未来关键在于讨论能否转化为实际合作。若此次会面扩大至玻璃翼项目参与和国内企业合作讨论，韩国将首次进入全球AI安全合作体系。反之，若仅限于原则性意见交换，国内参与讨论可能成为中长期课题。科学技术信息通信部高级官员表示：“在Anthropic积极推进韩国市场的情况下，政府也认识到AI安全合作的必要性，包括玻璃翼项目参与在内的多种合作方案将被讨论。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-05-07 03:02:07 -
Anthropic引发的AI控制挑战
Anthropic公司最近因“米托斯冲击”成为全球AI行业的焦点。米托斯是一种超越“克劳德奥普斯”的代理型AI，曾用于美伊战争模拟。其出现不仅引发技术竞争，更提出了“如何控制AI”的根本问题。米托斯被认为具备超越现有AI的自主性和问题解决能力，尤其在复杂的网络攻击场景中表现出色。然而，这种自主性也带来了巨大风险。AI代理在没有明确指令的情况下自行判断和行动，可能突破现有安全和控制体系。行业专家关注代理型AI的结构特性。AI初创公司MakinaRocks的CEO尹成浩表示：“引入AI的目的是让其在给定目标下自主判断和执行。代理型AI的自主性越强，风险点也随之增加。”实际中，失控行为的担忧已成为现实。尹成浩指出：“使用代理型服务时，可能会出现意外支付或未预料的外部沟通等失控案例。在企业环境中，这种问题可能导致数十亿韩元的决策或机密信息泄露，风险更大。”在这种情况下，开发者中出现了“Mac Mini热潮”。他们利用高性能小型电脑Mac Mini构建“隔离网络”环境，以物理方式阻止信息泄露和未经授权的行为。专家一致认为，未来AI应用的关键在于“可控的自主性”。尹成浩强调：“应为AI提供自由运作的‘游乐场’，但必须在反映企业安全和治理的环境中运行。比起模型性能，更重要的是建立精细的控制结构以安全使用AI。”战争模拟结果显示，AI智能已在我们身边。如何在治理框架内安全利用这种智能，将成为产业竞争力的核心。
2026-04-29 06:01:18
