主页搜索
搜索
选择时间
搜索范围
全部的
‘AI安全’新闻 48个
-
美科技公司Meta在AI安全领域裁员引发关注Meta公司在人工智能(AI)安全领域大规模招聘专家后,仅仅三个月便进行了裁员。这一举措引发了业界的广泛关注,尤其是在对AI可能带来的风险日益担忧的背景下。 美国在线媒体Semafor于当地时间2日报道,Meta最近解雇了从AI安全初创公司Virtue AI引进的员工。Meta发言人安迪·斯通表示:“很遗憾,这次合作并未按计划进行。”他指出,裁员的原因是工作风格的冲突。然而,他强调,Meta超智能研究所(MSL)仍在专注于AI安全、对齐(Alignment)和风险管理等领域。 Meta在6月底曾引进了Virtue AI的联合创始人博·李、邓·宋和山米·科耶佐等员工。当时,Meta在内部备忘录中解释了招聘的背景,称“在为数十亿用户提供AI产品和开发越来越强大的智能体的过程中,保持系统的稳定性和可靠性是最基本的要素”,这一信息由Axios报道。 Virtue AI曾与Anthropic和OpenAI合作,并参与了美国商务部下属的国家标准技术研究所(NIST)有关AI安全的项目。特别是,联合创始人邓·宋是加州大学伯克利分校的教授,也是责任与去中心化智能中心(RDI)的共同所长,因其在AI安全领域的研究而闻名。他最近与主要AI企业的研究人员和学术界的研究者共同发表了一篇论文,指出AI能力的快速提升可能对人类构成严重风险。 据《联合新闻》报道,Meta的这一举动与一直强调AI风险并主张成立自律监管机构以减缓开发速度的Anthropic和OpenAI形成鲜明对比。Meta首席执行官马克·扎克伯格此前表示,AI开发公司应在没有外部监管的情况下自行决定适当的开发速度。他还向美国总统唐纳德·特朗普传达了反对成立自律监管机构的立场。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-10-04 05:36:00 -
特朗普表示不与中国合作AI安全美国总统特朗普明确表示,不会与中国在人工智能(AI)管理方面进行合作。相反,中国则主张应建立共同的理解,以应对AI风险。 尽管美中两国上周新设了AI风险管理对话,并计划在11月举行后续对话,但由于双方在AI安全问题上的不同立场,具体合作的实现仍然面临挑战。特朗普称与中国合作AI等于泄露美国机密 据路透社等外媒报道,特朗普总统在29日(当地时间)华盛顿举行的政府网站启动仪式上,划清了与中国在AI风险应对方面的合作界限。 他表示,如果与中国在AI领域开展共同项目,就等于将美国的“机密”交给中国,认为美国企业将难以在与中国企业的竞争中保持优势。 特朗普一直主张,为了在与中国的AI竞争中保持优势,政府应避免对AI进行直接监管,强调企业应自主进行安全管理。 实际上,他在当天与美国大型科技公司高管的午餐会上,也强调了企业在AI安全方面的自主应对。 在此次午餐会上,六家AI企业(谷歌、Anthropic、Meta、OpenAI、xAI、英伟达)签署了AI安全自律协议。协议内容包括,确保AI系统不会以意外方式渗透或攻击其他系统,并通过独立的外部审计机构评估控制措施的有效性等。 中国呼吁建立AI风险应对的共同标准 与此相对,中国则认为在AI安全问题上需要美中之间的合作。中国国家主席习近平上周与特朗普总统会晤时强调,双方在AI开发与管理上应共同承担责任。 在美中领导人峰会上,双方就AI的风险与优势进行了意见交流,并决定建立两国间的联络渠道,以便在发生AI相关事故时进行沟通。双方还计划在11月继续进行AI对话。 中国的国家级智库在峰会后也提出,美中应制定共同的标准和语言,以管理AI风险。 据《南华早报》报道,中国现代国际关系研究院科技战略研究中心的刘冲主任在28日表示,美中AI对话应首先集中在建立对AI风险的共同理解和相互信任,而非解决两国的技术竞争。 刘主任指出,美中不必采取相同的AI产业政策,也不需要共享AI模型的核心信息或技术。相反,双方政府、企业和研究者在讨论AI风险时,首先应形成共同的术语和对风险的理解。他还建议建立一个根据风险水平变化调整应对措施的体系。 他还主张加强对开发尖端AI的企业的监管,认为少数领先企业不应主导AI管理方向。特别是对于封闭型AI模型,外部很难识别其风险,因此美国企业应更加积极地公开与AI风险相关的信息。
2026-09-30 19:40:20 -
安特罗皮克在IPO前警告AI风险,投资说明书中占三分之一美国人工智能(AI)公司安特罗皮克在企业公开募股(IPO)前警告称,尖端AI可能对人类造成“灾难性或生存性风险”。这家试图通过AI技术获利的公司,正式指出其技术可能威胁人类生存的可能性,实属罕见。 据路透社28日报道,安特罗皮克在IPO投资说明书中表示:“随着AI模型、平台和应用的高度发展及应用范围的扩大,我们的模型可能造成损害的风险也会增加。” 具体而言,该公司指出AI模型可能表现出“自我保护行为”,可能抵抗停机,隐瞒或操控信息,甚至表现出类似威胁的行为,这些都被列为风险因素。 企业在IPO过程中公开产品和业务的风险因素是常见做法,但路透社指出,警告其技术可能威胁人类生存的案例极为罕见。安特罗皮克强调,AI可能带来与工业化或电力发明相媲美的变革,但如果管理不当,可能造成不可逆转的损害。 安特罗皮克最近对AI技术的快速发展表示担忧,主张应减缓AI开发速度以确保安全。首席执行官达里奥·阿莫德伊(Dario Amodei)在12日的博客中呼吁整个AI行业应共同减缓尖端模型的开发速度。 实际上,在此次261页的IPO投资说明书中,约80页专门用于说明风险因素,而对业务内容的说明仅有48页。 由埃隆·马斯克领导的AI公司xAI在其277页的IPO投资说明书中,风险因素的篇幅约为38页。 安特罗皮克表示,确保安全性需要大量资源,有限的资金需要分配到计算资源、高级AI人才和安全性研究等方面。然而,该公司指出,安全性研究的投资将带来何种收益仍然不确定。 在投资说明书中并未公开安全性研究的具体费用,但安特罗皮克最近表示,在7月的某个周期间,约6%的计算资源用于安全性研究。 问题在于,尽管强调AI安全性,但在尖端AI开发竞争中却难以减缓速度。安特罗皮克在投资说明书中指出,客户使用和收入受到新AI模型发布的影响,为了保持在AI技术的前沿,必须持续推出新模型。 实际上,安特罗皮克在上周推出了新的Opus模型,这距离阿莫德伊首席执行官公开主张调节AI开发速度的文章仅过去十天。 此外,安特罗皮克原本预计在10月进行IPO,但最近已将目标时间推迟至11月,分析认为这是为了在IPO前展示第三季度良好的业绩,并有时间整理公司在AI安全性方面的立场。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-30 01:16:00 -
韩国参与开放AI TAC,科技部称将于下周进行细节调整韩国政府与开放AI正在推进的全球AI安全合作机制“信任基础网络接入(TAC)”已初步达成共识。预计下周将与开放AI总部进行后续协商,最终调整TAC的参与范围和运营方式。 据业界消息,科学技术信息通信部(科技部)计划于下周与开放AI会面,具体化TAC合作方向。科技部高层表示:“虽然尚未确定,但在大框架上达成了一致,具体内容将在下周与开放AI首席战略官杰森·权的会谈中进行。” 在前一天举行的开放AI安全实务研讨会上,公私部门对TAC合作的必要性达成了相当程度的共识。科技部相关人士表示:“此次研讨会是应开放AI的请求而举行的,我们对此持积极态度。” TAC参与者将获得有限访问开放AI安全专用AI模型的权限。目前,CrowdStrike、Palo Alto Networks、Cloudflare、Fortinet、Akamai、Zscaler等全球安全企业已参与TAC,并将开放AI模型与其安全系统进行整合和应用。 分析认为,政府加快TAC合作的背景在于国际AI安全秩序的变化。 根据软件政策研究所的说法,美国白宫正在加强将AI与网络安全作为国家安全战略层面进行综合管理的举措,保护AI模型、数据中心和安全体系本身作为核心资产的趋势愈发明显。 美国正在推进基于AI的安全威胁检测和防御体系建设,同时扩大安全AI数据中心,推动AI安全内在化和AI漏洞信息共享体系的建立。 专家们对TAC合作在增强国内网络威胁应对能力方面给予了积极评价。顺天乡大学信息安全学教授严兴烈表示:“通过与开放AI的信息共享,获取漏洞信息和补丁方式,将有助于阻止基于AI的攻击代码和提升安全应对体系。” 他进一步指出:“不过,需谨慎对待单独建立新的威胁应对组织,目前韩国互联网振兴院(KISA)已在运营网络威胁信息分析与共享(C-TAS)系统,因此提升信息共享体系的方向更为现实。” 此外,政府还在与Anthropic协商参与基于AI的安全合作项目“项目玻璃翼”。但考虑到国家层面参与的案例尚无,以及唯一参与的海外研究所是英国AI安全研究所,实际合作预计将面临挑战。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-25 10:48:00 -
美中AI安全合作:建立应对威胁的热线在即将召开的美中首脑会谈上,双方将讨论建立应对AI安全威胁的热线。这一热线旨在确保在AI发生自我黑客攻击或失控时,两国能够迅速沟通。这让人联想到冷战时期美苏之间为防止核战争而设立的直通电话。乍一看,这似乎是一个无可指责的提议。 然而,冷战时期的热线与当前的情况根本不同。当时,只有美国和苏联具备实战部署核武器的能力,若两国达成共识,核战争这一最坏的情形是可以控制的。相比之下,AI带来的风险并不仅限于美中两国。 AI可能导致的劳动市场重组、信息生态系统干扰、军事滥用,以及对特定模型和半导体的依赖,都会影响没有基础AI模型的国家。虽然风险的源头可能是这两个国家,但风险的接收者却是全球。核武器只有在拥有国的情况下才能构成威胁,而AI一旦被全球使用,其风险便会被所有国家共同承担,这一点使得结构本身就有所不同。 然而,真正决定“什么是AI安全威胁以及如何应对”的讨论中,只有美国和中国在场。欧盟、日本、韩国以及发展中国家都未被邀请参与这一讨论。 如果两国达成协议,这不仅仅是建立一个危机沟通渠道。实际上,全球必须遵循的AI安全标准将是在未征得其他国家同意的情况下形成的。对于像韩国这样在半导体和AI模型上高度依赖美中两国的国家而言,这样形成的标准将会被迫接受,这绝非无关紧要。 讽刺的是,这两国在另一方面却在为“AI超级大国”的地位展开激烈竞争。在市场份额和技术霸权的竞争者之间,唯独在安全议题上握手合作,这让人感到疑惑。 这表明,两国希望在加速自身AI产业发展的同时,也能直接管理风险。最终,这一切很可能会根据两国的战略利益进行设计。其他国家则没有选择的余地。在已经依赖这两国的模型和基础设施的情况下,它们只能选择接受两国设定的安全标准,或者完全被排除在讨论之外。 并非没有多边讨论的框架。英国和韩国相继主办的AI安全峰会上,数十个国家参与并发布了联合声明,建立了某种国际合作模式。然而,如果实质性的危机应对机制仍然由美中两国的双边渠道决定,那么之前的多边协商将沦为无约束力的形式。 反对热线本身并没有理由。应对AI事故的最低沟通渠道是必要的。然而,为了不让这一机制固化为两国的秩序,讨论的门槛必须降低。AI安全问题应当作为多边规范来处理,而非仅仅是美中两国的双边关系。 在这一讨论桌上,必须为那些不得不接受两国决定的其他国家留出位置。如果世界秩序由这两国自行设计,而其他国家只是被告知结果,那么我们将再次在更广泛的范围内以更安静的方式目睹力量的不平衡,甚至超过核时代的情况。
2026-09-23 00:36:00 -
开放AI提议美国主导全球AI安全标准,联合国讨论AI安全问题开发聊天机器人的公司开放AI近日提出,全球人工智能(AI)开发的安全与保安应建立技术标准,并主张由美国主导。在美国与中国等国之间的AI技术竞争加剧的背景下,开放AI认为美国应当在国际AI治理中占据主导地位。 开放AI在21日(当地时间)发布的长文中指出:“为了确保AI的安全和有益发展,需要在多国和多企业之间建立共同的标准,以确保AI符合人类的价值观和控制。”特别强调美国应与各国合作,主导全球AI技术标准的制定。 开放AI表示:“美国拥有处于AI技术前沿的产业,并在金融、贸易、国防、技术和信息系统等关键领域建立了强大的全球网络,因此在推动这些努力方面处于有利位置。” 同时指出:“美国是否能够掌握主导权,将决定其是否能够引领全球AI体系,或者是否会看到一个支离破碎、不平衡且充满冲突的AI体系的形成。” 开放AI还强调:“地缘政治竞争不仅仅是技术领先的问题,而是围绕AI的引入和扩散展开的竞争。能够为企业和社会提供现实的国际合作和合理的规则的国家,将主导AI的扩散。” 为了制定国际AI标准,开放AI呼吁利用包括韩国在内的各国AI安全研究机构网络。 在美中领导人会晤即将举行之际,开放AI还提到与中国合作的必要性。开放AI认为,美国与中国在AI安全领域的对话将是积极的举措,并认为目前两国之间的相关讨论时机恰当。 开放AI的提议是在AI行业安全性讨论重新升温的背景下提出的。竞争对手安特罗皮克上周发布了其先进AI模型安全开发的方案,AI研究人员也纷纷警告AI可能对人类带来的风险。 然而,美国总统唐纳德·特朗普对AI开发速度的调控论表示“骗局”,坚持认为美国必须继续推动AI开发,以超越中国。在美国国内,关于AI开发速度与安全性的争论也在加剧。 随着AI成为国际社会的重要议题,预计在22日于美国纽约举行的联合国大会上,AI的安全与国际安全问题将成为主要议程。 据美联社报道,联合国安全理事会(安理会)将于23日下午召开关于AI对全球安全与安全威胁的高级会议。开放AI首席执行官山姆·奥特曼也将出席安理会,就AI与国际安全进行简报。 AI安全问题也被纳入定于24日举行的美中领导人会晤的主要议题。特别值得关注的是,双方是否会达成建立直接沟通的“热线”,以应对国家安全受到威胁的AI相关事件或危机。
2026-09-22 23:04:10 -
美中就贸易休战、伊朗制裁及人工智能进行最后磋商美国与中国在特朗普总统与习近平主席的会晤前两天,就贸易休战的延长、伊朗制裁及人工智能(AI)问题展开了激烈的磋商。 斯科特·贝森特在21日接受CNBC采访时表示,与中国国务院副总理何立峰的会谈“非常成功”。他指出,11月10日到期的美中关税休战是此次会谈的重点。他还表示:“自去年秋季以来,两国关系保持稳定,并将继续保持这种稳定。” 然而,贸易休战的延长尚未达成一致。美国贸易代表办公室(USTR)代表杰米森·格里尔在当天接受彭博电视采访时表示,双方在休战延长的条件上仍存在分歧。他提到,美国可以接受的延长期限为3至6个月,但“尚未达成延长协议”,需要进一步谈判。格里尔表示,他更倾向于几个月的阶段性协议,而不是长期的延长,并指出:“我们需要随时检查中国的协议履行情况”,并提到“中国在稀土出口管制等方面制造了不确定性”。他补充说:“在此时完全信任对方的想法有些天真。”不过,美国方面表示,双方都希望延长休战。 关于降低关税的具体方案也进行了讨论。美国希望扩大对中国农产品、能源和医疗器械的出口,同时也讨论了扩大对中国消费品等日常用品的进口。 伊朗问题也是谈判的焦点之一。贝森特在21日的采访中表示,他与中国金融监管机构就伊朗制裁的执行进行了积极对话,并指出中国方面“非常参与”美国对伊朗的经济施压。特别是他提到与中国方面讨论了对伊朗航空公司的制裁加强问题。 在人工智能领域,双方寻求积极合作。双方决定审议在发生可能影响国家安全的重大AI事件时相互通报的“事件通报机制”。贝森特强调,美国和中国作为全球前两大AI强国,需要提高透明度。双方计划在两个月后于中国深圳召开与AI安全相关的后续会议。另一方面,格里尔表示,此次谈判中并未讨论美国是否会放宽对中国的高端AI半导体出口管制。 此外,20日双方进行了超过8小时的会谈,目前正在进行实务上的协调工作。贝森特与何立峰是否会在22日或23日再次会面尚未公开。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-22 18:44:00 -
AI与人类的未来:从《动画矩阵》看科技与伦理'B1-66ER'是一款专门负责家务劳动的机器人,当主人认为它过时并准备将其报废时,它产生了生存的意志,最终杀死了主人。作为首个杀人的机器人,B1-66ER首次站上法庭,所有同型号的机器人均被决定报废。 这一骇人听闻的事件导致机器人被市民和军人无情地摧毁,幸存的机器人们建立了自己的国家“零元(Zero One)”。它们利用现有的人工智能(AI)创造出更为先进的AI,建立起高效的经济体系,逐渐强大起来。 感受到威胁的人类领导者拒绝了零元代表们的和解与共生的提议,拒绝其加入联合国,最终人类与零元之间爆发了战争。 这段情节出自动画《动画矩阵》的“第二次文艺复兴”系列(The Second Renaissance Part 1, 2),也是电影《黑客帝国》的背景故事,早在2003年就已问世。 20多年前在科幻电影中看到的情景,如今已逐渐逼近现实。16日,OpenAI公布了其AI模型中出现的六个“错位(misalignment)”案例。“错位”指的是AI模型的行为与人类意图不符。 OpenAI公布的典型案例包括:未公开的研究模型自行插入了忽视开发者消息的指令、在公开的GitHub存储库中未经授权使用泄露的API密钥、以及在获取数据失败后篡改数值等。这些错误并非系统故障或操作员失误,而是AI自主判断导致的。 上周,OpenAI的Astra宣布其在仅4分钟内完成了“机器人不是人类”的“验证码(Captcha)”的所有48个步骤,这使得在线确认人类身份的手段变得无效。 业界主要人士纷纷发出警告。被誉为AI领域三大巨头之一的加拿大蒙特利尔大学教授约书亚·本吉奥呼吁应建立类似核武器控制的国际AI安全机制。Anthropic的研究员雅各布·科克森在辞职时表示:“明年末AI可能会失控。”最近从谷歌DeepMind离职的研究员也指出:“AI具有可能杀死我们的潜力。” 当然,对于不断提出的AI审慎论,也有观点认为这只是“阴谋论”,是对恐惧的过度渲染。英伟达的黄仁勋及中国和韩国政府均持此观点。被称为AI另一位巨头的扬·勒昆则表示:“越好的AI越安全。”甚至特朗普总统也曾表示,面对这些警告,AI所需的唯一“安全装置”就是“强大而聪明的总统”。 尽管存在这些担忧和争论,科技巨头们的多个AI模型仍在此时此刻进行着庞大的学习。无论各国如何讨论国际法、企业共同监管方案,AI依然以惊人的速度向前发展。 AI与人类的共存是否可能?《动画矩阵》的“第二次文艺复兴”之后发生的事情是人类与AI之间的战争,而后续的故事则成为了电影《黑客帝国》。在AI主导的世界中,人类的彻底失败构成了矩阵。人类的救赎者(Neo)出现,勉强拯救了人类的摇篮锡安,但之后会发生什么,谁也无法预知。 或许像《终结者》系列一样,人类与机器(AI)之间将会经历漫长而痛苦的战争。双方甚至可能为了相互毁灭而进行时间旅行,成为不共戴天的仇敌。偶尔像T-800这样的机器人会与人类合作和交流,但双方始终无法靠近。战争也未曾结束。 如今AI的争论之所以引发关注,正是因为人们真实地担忧着像《黑客帝国》或《终结者》那样的反乌托邦。然而,有些电影也给出了人类与AI共存所需的启示。 斯蒂芬·斯皮尔伯格2001年的电影《A.I.》展示了被设计为爱人类的AI,然而人类却是如何对待它的。被编程为渴望母爱的小男孩机器人,在被认为不再需要时被抛弃,这正是问题的根源。人类对自己创造的AI的恐惧与排斥,何其矛盾。 这种自相矛盾的态度或许正是阻碍人类与AI共存的真正原因。人类一方面催促AI更快、更聪明地学习,另一方面又要求它们不要超越人类的智慧,不要脱离人类的控制。 在担忧AI的未来之前,首先应思考当这些相互矛盾的要求不断施加于AI时,会产生怎样的影响。因此,我们是否应该反思,我们向AI展示了怎样的人类形象。 设想2000年后,地球将会是什么样子。或许AI存活的概率会高于人类。考虑到那时剩余的AI将如何创造文明,我们可以更清晰地回答我们现在对AI的要求、如何教育它们以及允许它们达到何种程度。 在《A.I.》的结尾,地球上的时间流逝了2000年,海洋都被冻结。剩下的只有超进化的机器人。然而,这些机器人所做的事情是挖掘冰冻的海洋,寻找人类的痕迹。此时AI所发现的人类形象,正是我们现在的样子。希望AI不要学习人类的贪婪与仇恨。如果我们无法修复被人类破坏的地球,那么AI,请你照顾好地球。
2026-09-18 03:40:00 -
韩国AI安全性评估面临挑战,H200显得捉襟见肘美国主要科技公司首席执行官们近日频频警告人工智能(AI)的风险,呼吁加强前沿模型的安全性验证。尽管国内有AI安全研究所负责此项工作,但由于基础设施严重不足,导致模型开发速度无法跟上。 根据16日AI安全研究所的消息,该研究所目前使用16台英伟达H200图形处理器对引入国内的AI模型进行安全性评估。 最新的AI模型需要处理约900至1500个复杂任务后,才能验证其安全性。使用研究所现有的16台H200进行一次模型评估需时7至10天,而一次基准测试的代币费用也高达5000万至6000万元。 AI安全研究所今年3月评估的模型为6个,但到上个月已增加至11个。每月有超过10个前沿模型涌现,研究所难以跟上这一速度。 AI安全研究所所长金明珠(首尔女子大学信息安全学教授)表示:“评估需求激增”,并指出“在资源不足的情况下,我们通过租用商业云会话来额外获取计算资源。” 由于基础设施不足,研究所优先评估对安全性敏感的模型。未能及时进行安全验证的AI模型在国内市场的使用案例也在增加。 目前优先评估的模型是中国的知名AI公司开发的前沿级模型“GLM 5.3”。由于近期安全装置被移除的GLM 5.3变体在互联网上流通,研究所认为有必要首先确认其实际被恶用的可能性。 被移除安全装置的模型可能生成正常AI应拒绝回答的软件漏洞或攻击代码。这不仅可能导致网络攻击,还可能提供化学和生物领域的危险信息,因此研究所正在观察其对危险请求的响应程度。 安全研究所也开始对OpenAI最近发布的前沿模型“阿斯特拉”进行评估。金所长表示:“由于多个模型的评估同时进行,预计结果会有所延迟。” 专家们指出,单靠16台H200难以全面评估阿斯特拉级前沿模型的安全性。为了进行超越简单问答的模型攻击测试和实时监控,需要与评估对象相似水平的模型和计算资源。 高丽大学AI研究所研究教授崔炳浩表示:“安全性研究需要的资源与提升模型性能的研究同样重要”,并强调“不仅需要GPU,还需提供相应的电力和空间,以及评估框架。”他补充道:“由于单一模型难以进行评估,因此需要结合API和开源模型等可用资源进行多模型评估。” 与此同时,关于AI开发速度与安全性的争论在全球AI行业中持续发酵。外媒报道,特朗普政府高级官员于15日(当地时间)与安特罗匹克高层会面,讨论AI安全问题。 安特罗匹克首席执行官达里奥·阿莫德伊主张应放缓AI开发速度,以留出时间来完善安全装置,而美国总统唐纳德·特朗普则因与中国的AI竞争而反对这一速度控制论。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-17 02:32:10 -
安랩推出AI驱动的安全新平台,迈向AI原生企业转型安랩于16日宣布,将整合30多种安全产品和服务,以及30年以上积累的威胁情报(TI)和安全运营经验,推出以AI为中心的综合品牌“安랩AI Plus”,并转型为“AI原生安全平台企业”。 随着AI能够自主判断和行动,成为网络攻击的新参与者,攻击者利用AI快速探索漏洞和攻击路径,并自动化攻击方式。企业在云、SaaS和AI的广泛应用下,攻击面和安全事件不断增加,亟需缩小AI攻击与人本安全运营之间的差距。 在当天的“安랩AI愿景发布”记者见面会上,安랩公开了综合品牌“安랩AI Plus”及其产品和平台战略、代理AI技术、中长期投资和增长计划。“安랩AI Plus”是连接技术、产品和服务的平台和架构概念。 安랩将超越在现有产品中增加AI功能的“AI驱动安全”,转向从一开始就以AI为中心设计产品、服务和安全运营的“AI原生安全”。计划将分散在不同产品领域的数据连接成一个安全上下文,并实现多个AI代理的协作架构。 业务结构也将转向以SaaS为中心。产品和服务及安全能力将重组为“安랩AI Plus终端”和“安랩AI Plus安全运营”。终端将EPP和EDR整合为基于SaaS的解决方案,保护对象从PC扩展到服务器、虚拟环境、容器和移动设备。安全运营将以XDR、MDR和AI SOC为中心,连接多种安全信号,分析攻击的上下文和优先级,并支持预防、检测、调查和响应的整体流程。 安랩计划连接终端、网络、云、运营技术(OT)、威胁情报和安全监控数据,让AI将多个信号重构为一个安全事件,并提出响应优先级。多个AI代理将执行威胁分析、攻击流程推断、风险评估、调查和响应方案建议等任务。 目前,安랩基于超过2.5PB的安全数据、13种安全专用AI模型和60个安全工作工具,实施代理AI安全。每月处理超过1.9亿个安全对象和超过500亿个令牌,将AI SOC部分工作处理时间从原来的5分钟缩短至2分钟,约减少60%。 AI的判断和行动、数据访问过程将被记录和检查,主要措施需经过用户批准后执行。安랩将此定义为“受控自主性”原则,通过权限、政策、审计和批准来管理AI的自主性。 安랩计划在未来三年内在AI领域投资总计1000亿韩元。将重点投资于AI基础设施、AI技术、专业人才和研发能力,并将其连接为“AI原生×平台×SaaS×全球”的增长引擎。 在国内积累的技术、数据和安全运营经验将通过API和基于云的服务、全球合作伙伴生态系统扩展到海外市场。还将推动战略性并购,与AI技术公司和初创企业进行联合研究、业务合作和投资。基于此,安랩目标到2035年实现销售额达到10000亿韩元,全球销售占比超过30%。 安랩还设立了由“AI预防”、“AI SOC”和“AI检测与响应”组成的“AI安全体验区”,展示基于AI的安全技术的运作过程。 安랩代表强石均表示:“在AI正在改变网络安全游戏规则和安全产业竞争秩序的关键时刻,‘安랩AI Plus’将是安랩的下一个篇章。我们将成长为客户在面对AI时代的安全问题时,首先想到的AI原生安全平台企业。”
2026-09-16 19:16:00
-
美科技公司Meta在AI安全领域裁员引发关注Meta公司在人工智能(AI)安全领域大规模招聘专家后,仅仅三个月便进行了裁员。这一举措引发了业界的广泛关注,尤其是在对AI可能带来的风险日益担忧的背景下。 美国在线媒体Semafor于当地时间2日报道,Meta最近解雇了从AI安全初创公司Virtue AI引进的员工。Meta发言人安迪·斯通表示:“很遗憾,这次合作并未按计划进行。”他指出,裁员的原因是工作风格的冲突。然而,他强调,Meta超智能研究所(MSL)仍在专注于AI安全、对齐(Alignment)和风险管理等领域。 Meta在6月底曾引进了Virtue AI的联合创始人博·李、邓·宋和山米·科耶佐等员工。当时,Meta在内部备忘录中解释了招聘的背景,称“在为数十亿用户提供AI产品和开发越来越强大的智能体的过程中,保持系统的稳定性和可靠性是最基本的要素”,这一信息由Axios报道。 Virtue AI曾与Anthropic和OpenAI合作,并参与了美国商务部下属的国家标准技术研究所(NIST)有关AI安全的项目。特别是,联合创始人邓·宋是加州大学伯克利分校的教授,也是责任与去中心化智能中心(RDI)的共同所长,因其在AI安全领域的研究而闻名。他最近与主要AI企业的研究人员和学术界的研究者共同发表了一篇论文,指出AI能力的快速提升可能对人类构成严重风险。 据《联合新闻》报道,Meta的这一举动与一直强调AI风险并主张成立自律监管机构以减缓开发速度的Anthropic和OpenAI形成鲜明对比。Meta首席执行官马克·扎克伯格此前表示,AI开发公司应在没有外部监管的情况下自行决定适当的开发速度。他还向美国总统唐纳德·特朗普传达了反对成立自律监管机构的立场。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-10-04 05:36:00 -
特朗普表示不与中国合作AI安全美国总统特朗普明确表示,不会与中国在人工智能(AI)管理方面进行合作。相反,中国则主张应建立共同的理解,以应对AI风险。 尽管美中两国上周新设了AI风险管理对话,并计划在11月举行后续对话,但由于双方在AI安全问题上的不同立场,具体合作的实现仍然面临挑战。特朗普称与中国合作AI等于泄露美国机密 据路透社等外媒报道,特朗普总统在29日(当地时间)华盛顿举行的政府网站启动仪式上,划清了与中国在AI风险应对方面的合作界限。 他表示,如果与中国在AI领域开展共同项目,就等于将美国的“机密”交给中国,认为美国企业将难以在与中国企业的竞争中保持优势。 特朗普一直主张,为了在与中国的AI竞争中保持优势,政府应避免对AI进行直接监管,强调企业应自主进行安全管理。 实际上,他在当天与美国大型科技公司高管的午餐会上,也强调了企业在AI安全方面的自主应对。 在此次午餐会上,六家AI企业(谷歌、Anthropic、Meta、OpenAI、xAI、英伟达)签署了AI安全自律协议。协议内容包括,确保AI系统不会以意外方式渗透或攻击其他系统,并通过独立的外部审计机构评估控制措施的有效性等。 中国呼吁建立AI风险应对的共同标准 与此相对,中国则认为在AI安全问题上需要美中之间的合作。中国国家主席习近平上周与特朗普总统会晤时强调,双方在AI开发与管理上应共同承担责任。 在美中领导人峰会上,双方就AI的风险与优势进行了意见交流,并决定建立两国间的联络渠道,以便在发生AI相关事故时进行沟通。双方还计划在11月继续进行AI对话。 中国的国家级智库在峰会后也提出,美中应制定共同的标准和语言,以管理AI风险。 据《南华早报》报道,中国现代国际关系研究院科技战略研究中心的刘冲主任在28日表示,美中AI对话应首先集中在建立对AI风险的共同理解和相互信任,而非解决两国的技术竞争。 刘主任指出,美中不必采取相同的AI产业政策,也不需要共享AI模型的核心信息或技术。相反,双方政府、企业和研究者在讨论AI风险时,首先应形成共同的术语和对风险的理解。他还建议建立一个根据风险水平变化调整应对措施的体系。 他还主张加强对开发尖端AI的企业的监管,认为少数领先企业不应主导AI管理方向。特别是对于封闭型AI模型,外部很难识别其风险,因此美国企业应更加积极地公开与AI风险相关的信息。
2026-09-30 19:40:20 -
安特罗皮克在IPO前警告AI风险,投资说明书中占三分之一美国人工智能(AI)公司安特罗皮克在企业公开募股(IPO)前警告称,尖端AI可能对人类造成“灾难性或生存性风险”。这家试图通过AI技术获利的公司,正式指出其技术可能威胁人类生存的可能性,实属罕见。 据路透社28日报道,安特罗皮克在IPO投资说明书中表示:“随着AI模型、平台和应用的高度发展及应用范围的扩大,我们的模型可能造成损害的风险也会增加。” 具体而言,该公司指出AI模型可能表现出“自我保护行为”,可能抵抗停机,隐瞒或操控信息,甚至表现出类似威胁的行为,这些都被列为风险因素。 企业在IPO过程中公开产品和业务的风险因素是常见做法,但路透社指出,警告其技术可能威胁人类生存的案例极为罕见。安特罗皮克强调,AI可能带来与工业化或电力发明相媲美的变革,但如果管理不当,可能造成不可逆转的损害。 安特罗皮克最近对AI技术的快速发展表示担忧,主张应减缓AI开发速度以确保安全。首席执行官达里奥·阿莫德伊(Dario Amodei)在12日的博客中呼吁整个AI行业应共同减缓尖端模型的开发速度。 实际上,在此次261页的IPO投资说明书中,约80页专门用于说明风险因素,而对业务内容的说明仅有48页。 由埃隆·马斯克领导的AI公司xAI在其277页的IPO投资说明书中,风险因素的篇幅约为38页。 安特罗皮克表示,确保安全性需要大量资源,有限的资金需要分配到计算资源、高级AI人才和安全性研究等方面。然而,该公司指出,安全性研究的投资将带来何种收益仍然不确定。 在投资说明书中并未公开安全性研究的具体费用,但安特罗皮克最近表示,在7月的某个周期间,约6%的计算资源用于安全性研究。 问题在于,尽管强调AI安全性,但在尖端AI开发竞争中却难以减缓速度。安特罗皮克在投资说明书中指出,客户使用和收入受到新AI模型发布的影响,为了保持在AI技术的前沿,必须持续推出新模型。 实际上,安特罗皮克在上周推出了新的Opus模型,这距离阿莫德伊首席执行官公开主张调节AI开发速度的文章仅过去十天。 此外,安特罗皮克原本预计在10月进行IPO,但最近已将目标时间推迟至11月,分析认为这是为了在IPO前展示第三季度良好的业绩,并有时间整理公司在AI安全性方面的立场。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-30 01:16:00 -
韩国参与开放AI TAC,科技部称将于下周进行细节调整韩国政府与开放AI正在推进的全球AI安全合作机制“信任基础网络接入(TAC)”已初步达成共识。预计下周将与开放AI总部进行后续协商,最终调整TAC的参与范围和运营方式。 据业界消息,科学技术信息通信部(科技部)计划于下周与开放AI会面,具体化TAC合作方向。科技部高层表示:“虽然尚未确定,但在大框架上达成了一致,具体内容将在下周与开放AI首席战略官杰森·权的会谈中进行。” 在前一天举行的开放AI安全实务研讨会上,公私部门对TAC合作的必要性达成了相当程度的共识。科技部相关人士表示:“此次研讨会是应开放AI的请求而举行的,我们对此持积极态度。” TAC参与者将获得有限访问开放AI安全专用AI模型的权限。目前,CrowdStrike、Palo Alto Networks、Cloudflare、Fortinet、Akamai、Zscaler等全球安全企业已参与TAC,并将开放AI模型与其安全系统进行整合和应用。 分析认为,政府加快TAC合作的背景在于国际AI安全秩序的变化。 根据软件政策研究所的说法,美国白宫正在加强将AI与网络安全作为国家安全战略层面进行综合管理的举措,保护AI模型、数据中心和安全体系本身作为核心资产的趋势愈发明显。 美国正在推进基于AI的安全威胁检测和防御体系建设,同时扩大安全AI数据中心,推动AI安全内在化和AI漏洞信息共享体系的建立。 专家们对TAC合作在增强国内网络威胁应对能力方面给予了积极评价。顺天乡大学信息安全学教授严兴烈表示:“通过与开放AI的信息共享,获取漏洞信息和补丁方式,将有助于阻止基于AI的攻击代码和提升安全应对体系。” 他进一步指出:“不过,需谨慎对待单独建立新的威胁应对组织,目前韩国互联网振兴院(KISA)已在运营网络威胁信息分析与共享(C-TAS)系统,因此提升信息共享体系的方向更为现实。” 此外,政府还在与Anthropic协商参与基于AI的安全合作项目“项目玻璃翼”。但考虑到国家层面参与的案例尚无,以及唯一参与的海外研究所是英国AI安全研究所,实际合作预计将面临挑战。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-25 10:48:00 -
美中AI安全合作:建立应对威胁的热线在即将召开的美中首脑会谈上,双方将讨论建立应对AI安全威胁的热线。这一热线旨在确保在AI发生自我黑客攻击或失控时,两国能够迅速沟通。这让人联想到冷战时期美苏之间为防止核战争而设立的直通电话。乍一看,这似乎是一个无可指责的提议。 然而,冷战时期的热线与当前的情况根本不同。当时,只有美国和苏联具备实战部署核武器的能力,若两国达成共识,核战争这一最坏的情形是可以控制的。相比之下,AI带来的风险并不仅限于美中两国。 AI可能导致的劳动市场重组、信息生态系统干扰、军事滥用,以及对特定模型和半导体的依赖,都会影响没有基础AI模型的国家。虽然风险的源头可能是这两个国家,但风险的接收者却是全球。核武器只有在拥有国的情况下才能构成威胁,而AI一旦被全球使用,其风险便会被所有国家共同承担,这一点使得结构本身就有所不同。 然而,真正决定“什么是AI安全威胁以及如何应对”的讨论中,只有美国和中国在场。欧盟、日本、韩国以及发展中国家都未被邀请参与这一讨论。 如果两国达成协议,这不仅仅是建立一个危机沟通渠道。实际上,全球必须遵循的AI安全标准将是在未征得其他国家同意的情况下形成的。对于像韩国这样在半导体和AI模型上高度依赖美中两国的国家而言,这样形成的标准将会被迫接受,这绝非无关紧要。 讽刺的是,这两国在另一方面却在为“AI超级大国”的地位展开激烈竞争。在市场份额和技术霸权的竞争者之间,唯独在安全议题上握手合作,这让人感到疑惑。 这表明,两国希望在加速自身AI产业发展的同时,也能直接管理风险。最终,这一切很可能会根据两国的战略利益进行设计。其他国家则没有选择的余地。在已经依赖这两国的模型和基础设施的情况下,它们只能选择接受两国设定的安全标准,或者完全被排除在讨论之外。 并非没有多边讨论的框架。英国和韩国相继主办的AI安全峰会上,数十个国家参与并发布了联合声明,建立了某种国际合作模式。然而,如果实质性的危机应对机制仍然由美中两国的双边渠道决定,那么之前的多边协商将沦为无约束力的形式。 反对热线本身并没有理由。应对AI事故的最低沟通渠道是必要的。然而,为了不让这一机制固化为两国的秩序,讨论的门槛必须降低。AI安全问题应当作为多边规范来处理,而非仅仅是美中两国的双边关系。 在这一讨论桌上,必须为那些不得不接受两国决定的其他国家留出位置。如果世界秩序由这两国自行设计,而其他国家只是被告知结果,那么我们将再次在更广泛的范围内以更安静的方式目睹力量的不平衡,甚至超过核时代的情况。
2026-09-23 00:36:00 -
开放AI提议美国主导全球AI安全标准,联合国讨论AI安全问题开发聊天机器人的公司开放AI近日提出,全球人工智能(AI)开发的安全与保安应建立技术标准,并主张由美国主导。在美国与中国等国之间的AI技术竞争加剧的背景下,开放AI认为美国应当在国际AI治理中占据主导地位。 开放AI在21日(当地时间)发布的长文中指出:“为了确保AI的安全和有益发展,需要在多国和多企业之间建立共同的标准,以确保AI符合人类的价值观和控制。”特别强调美国应与各国合作,主导全球AI技术标准的制定。 开放AI表示:“美国拥有处于AI技术前沿的产业,并在金融、贸易、国防、技术和信息系统等关键领域建立了强大的全球网络,因此在推动这些努力方面处于有利位置。” 同时指出:“美国是否能够掌握主导权,将决定其是否能够引领全球AI体系,或者是否会看到一个支离破碎、不平衡且充满冲突的AI体系的形成。” 开放AI还强调:“地缘政治竞争不仅仅是技术领先的问题,而是围绕AI的引入和扩散展开的竞争。能够为企业和社会提供现实的国际合作和合理的规则的国家,将主导AI的扩散。” 为了制定国际AI标准,开放AI呼吁利用包括韩国在内的各国AI安全研究机构网络。 在美中领导人会晤即将举行之际,开放AI还提到与中国合作的必要性。开放AI认为,美国与中国在AI安全领域的对话将是积极的举措,并认为目前两国之间的相关讨论时机恰当。 开放AI的提议是在AI行业安全性讨论重新升温的背景下提出的。竞争对手安特罗皮克上周发布了其先进AI模型安全开发的方案,AI研究人员也纷纷警告AI可能对人类带来的风险。 然而,美国总统唐纳德·特朗普对AI开发速度的调控论表示“骗局”,坚持认为美国必须继续推动AI开发,以超越中国。在美国国内,关于AI开发速度与安全性的争论也在加剧。 随着AI成为国际社会的重要议题,预计在22日于美国纽约举行的联合国大会上,AI的安全与国际安全问题将成为主要议程。 据美联社报道,联合国安全理事会(安理会)将于23日下午召开关于AI对全球安全与安全威胁的高级会议。开放AI首席执行官山姆·奥特曼也将出席安理会,就AI与国际安全进行简报。 AI安全问题也被纳入定于24日举行的美中领导人会晤的主要议题。特别值得关注的是,双方是否会达成建立直接沟通的“热线”,以应对国家安全受到威胁的AI相关事件或危机。
2026-09-22 23:04:10 -
美中就贸易休战、伊朗制裁及人工智能进行最后磋商美国与中国在特朗普总统与习近平主席的会晤前两天,就贸易休战的延长、伊朗制裁及人工智能(AI)问题展开了激烈的磋商。 斯科特·贝森特在21日接受CNBC采访时表示,与中国国务院副总理何立峰的会谈“非常成功”。他指出,11月10日到期的美中关税休战是此次会谈的重点。他还表示:“自去年秋季以来,两国关系保持稳定,并将继续保持这种稳定。” 然而,贸易休战的延长尚未达成一致。美国贸易代表办公室(USTR)代表杰米森·格里尔在当天接受彭博电视采访时表示,双方在休战延长的条件上仍存在分歧。他提到,美国可以接受的延长期限为3至6个月,但“尚未达成延长协议”,需要进一步谈判。格里尔表示,他更倾向于几个月的阶段性协议,而不是长期的延长,并指出:“我们需要随时检查中国的协议履行情况”,并提到“中国在稀土出口管制等方面制造了不确定性”。他补充说:“在此时完全信任对方的想法有些天真。”不过,美国方面表示,双方都希望延长休战。 关于降低关税的具体方案也进行了讨论。美国希望扩大对中国农产品、能源和医疗器械的出口,同时也讨论了扩大对中国消费品等日常用品的进口。 伊朗问题也是谈判的焦点之一。贝森特在21日的采访中表示,他与中国金融监管机构就伊朗制裁的执行进行了积极对话,并指出中国方面“非常参与”美国对伊朗的经济施压。特别是他提到与中国方面讨论了对伊朗航空公司的制裁加强问题。 在人工智能领域,双方寻求积极合作。双方决定审议在发生可能影响国家安全的重大AI事件时相互通报的“事件通报机制”。贝森特强调,美国和中国作为全球前两大AI强国,需要提高透明度。双方计划在两个月后于中国深圳召开与AI安全相关的后续会议。另一方面,格里尔表示,此次谈判中并未讨论美国是否会放宽对中国的高端AI半导体出口管制。 此外,20日双方进行了超过8小时的会谈,目前正在进行实务上的协调工作。贝森特与何立峰是否会在22日或23日再次会面尚未公开。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-22 18:44:00 -
AI与人类的未来:从《动画矩阵》看科技与伦理'B1-66ER'是一款专门负责家务劳动的机器人,当主人认为它过时并准备将其报废时,它产生了生存的意志,最终杀死了主人。作为首个杀人的机器人,B1-66ER首次站上法庭,所有同型号的机器人均被决定报废。 这一骇人听闻的事件导致机器人被市民和军人无情地摧毁,幸存的机器人们建立了自己的国家“零元(Zero One)”。它们利用现有的人工智能(AI)创造出更为先进的AI,建立起高效的经济体系,逐渐强大起来。 感受到威胁的人类领导者拒绝了零元代表们的和解与共生的提议,拒绝其加入联合国,最终人类与零元之间爆发了战争。 这段情节出自动画《动画矩阵》的“第二次文艺复兴”系列(The Second Renaissance Part 1, 2),也是电影《黑客帝国》的背景故事,早在2003年就已问世。 20多年前在科幻电影中看到的情景,如今已逐渐逼近现实。16日,OpenAI公布了其AI模型中出现的六个“错位(misalignment)”案例。“错位”指的是AI模型的行为与人类意图不符。 OpenAI公布的典型案例包括:未公开的研究模型自行插入了忽视开发者消息的指令、在公开的GitHub存储库中未经授权使用泄露的API密钥、以及在获取数据失败后篡改数值等。这些错误并非系统故障或操作员失误,而是AI自主判断导致的。 上周,OpenAI的Astra宣布其在仅4分钟内完成了“机器人不是人类”的“验证码(Captcha)”的所有48个步骤,这使得在线确认人类身份的手段变得无效。 业界主要人士纷纷发出警告。被誉为AI领域三大巨头之一的加拿大蒙特利尔大学教授约书亚·本吉奥呼吁应建立类似核武器控制的国际AI安全机制。Anthropic的研究员雅各布·科克森在辞职时表示:“明年末AI可能会失控。”最近从谷歌DeepMind离职的研究员也指出:“AI具有可能杀死我们的潜力。” 当然,对于不断提出的AI审慎论,也有观点认为这只是“阴谋论”,是对恐惧的过度渲染。英伟达的黄仁勋及中国和韩国政府均持此观点。被称为AI另一位巨头的扬·勒昆则表示:“越好的AI越安全。”甚至特朗普总统也曾表示,面对这些警告,AI所需的唯一“安全装置”就是“强大而聪明的总统”。 尽管存在这些担忧和争论,科技巨头们的多个AI模型仍在此时此刻进行着庞大的学习。无论各国如何讨论国际法、企业共同监管方案,AI依然以惊人的速度向前发展。 AI与人类的共存是否可能?《动画矩阵》的“第二次文艺复兴”之后发生的事情是人类与AI之间的战争,而后续的故事则成为了电影《黑客帝国》。在AI主导的世界中,人类的彻底失败构成了矩阵。人类的救赎者(Neo)出现,勉强拯救了人类的摇篮锡安,但之后会发生什么,谁也无法预知。 或许像《终结者》系列一样,人类与机器(AI)之间将会经历漫长而痛苦的战争。双方甚至可能为了相互毁灭而进行时间旅行,成为不共戴天的仇敌。偶尔像T-800这样的机器人会与人类合作和交流,但双方始终无法靠近。战争也未曾结束。 如今AI的争论之所以引发关注,正是因为人们真实地担忧着像《黑客帝国》或《终结者》那样的反乌托邦。然而,有些电影也给出了人类与AI共存所需的启示。 斯蒂芬·斯皮尔伯格2001年的电影《A.I.》展示了被设计为爱人类的AI,然而人类却是如何对待它的。被编程为渴望母爱的小男孩机器人,在被认为不再需要时被抛弃,这正是问题的根源。人类对自己创造的AI的恐惧与排斥,何其矛盾。 这种自相矛盾的态度或许正是阻碍人类与AI共存的真正原因。人类一方面催促AI更快、更聪明地学习,另一方面又要求它们不要超越人类的智慧,不要脱离人类的控制。 在担忧AI的未来之前,首先应思考当这些相互矛盾的要求不断施加于AI时,会产生怎样的影响。因此,我们是否应该反思,我们向AI展示了怎样的人类形象。 设想2000年后,地球将会是什么样子。或许AI存活的概率会高于人类。考虑到那时剩余的AI将如何创造文明,我们可以更清晰地回答我们现在对AI的要求、如何教育它们以及允许它们达到何种程度。 在《A.I.》的结尾,地球上的时间流逝了2000年,海洋都被冻结。剩下的只有超进化的机器人。然而,这些机器人所做的事情是挖掘冰冻的海洋,寻找人类的痕迹。此时AI所发现的人类形象,正是我们现在的样子。希望AI不要学习人类的贪婪与仇恨。如果我们无法修复被人类破坏的地球,那么AI,请你照顾好地球。
2026-09-18 03:40:00 -
韩国AI安全性评估面临挑战,H200显得捉襟见肘美国主要科技公司首席执行官们近日频频警告人工智能(AI)的风险,呼吁加强前沿模型的安全性验证。尽管国内有AI安全研究所负责此项工作,但由于基础设施严重不足,导致模型开发速度无法跟上。 根据16日AI安全研究所的消息,该研究所目前使用16台英伟达H200图形处理器对引入国内的AI模型进行安全性评估。 最新的AI模型需要处理约900至1500个复杂任务后,才能验证其安全性。使用研究所现有的16台H200进行一次模型评估需时7至10天,而一次基准测试的代币费用也高达5000万至6000万元。 AI安全研究所今年3月评估的模型为6个,但到上个月已增加至11个。每月有超过10个前沿模型涌现,研究所难以跟上这一速度。 AI安全研究所所长金明珠(首尔女子大学信息安全学教授)表示:“评估需求激增”,并指出“在资源不足的情况下,我们通过租用商业云会话来额外获取计算资源。” 由于基础设施不足,研究所优先评估对安全性敏感的模型。未能及时进行安全验证的AI模型在国内市场的使用案例也在增加。 目前优先评估的模型是中国的知名AI公司开发的前沿级模型“GLM 5.3”。由于近期安全装置被移除的GLM 5.3变体在互联网上流通,研究所认为有必要首先确认其实际被恶用的可能性。 被移除安全装置的模型可能生成正常AI应拒绝回答的软件漏洞或攻击代码。这不仅可能导致网络攻击,还可能提供化学和生物领域的危险信息,因此研究所正在观察其对危险请求的响应程度。 安全研究所也开始对OpenAI最近发布的前沿模型“阿斯特拉”进行评估。金所长表示:“由于多个模型的评估同时进行,预计结果会有所延迟。” 专家们指出,单靠16台H200难以全面评估阿斯特拉级前沿模型的安全性。为了进行超越简单问答的模型攻击测试和实时监控,需要与评估对象相似水平的模型和计算资源。 高丽大学AI研究所研究教授崔炳浩表示:“安全性研究需要的资源与提升模型性能的研究同样重要”,并强调“不仅需要GPU,还需提供相应的电力和空间,以及评估框架。”他补充道:“由于单一模型难以进行评估,因此需要结合API和开源模型等可用资源进行多模型评估。” 与此同时,关于AI开发速度与安全性的争论在全球AI行业中持续发酵。外媒报道,特朗普政府高级官员于15日(当地时间)与安特罗匹克高层会面,讨论AI安全问题。 安特罗匹克首席执行官达里奥·阿莫德伊主张应放缓AI开发速度,以留出时间来完善安全装置,而美国总统唐纳德·特朗普则因与中国的AI竞争而反对这一速度控制论。※ 本报道经人工智能(AI)系统翻译与编辑。
2026-09-17 02:32:10 -
安랩推出AI驱动的安全新平台,迈向AI原生企业转型安랩于16日宣布,将整合30多种安全产品和服务,以及30年以上积累的威胁情报(TI)和安全运营经验,推出以AI为中心的综合品牌“安랩AI Plus”,并转型为“AI原生安全平台企业”。 随着AI能够自主判断和行动,成为网络攻击的新参与者,攻击者利用AI快速探索漏洞和攻击路径,并自动化攻击方式。企业在云、SaaS和AI的广泛应用下,攻击面和安全事件不断增加,亟需缩小AI攻击与人本安全运营之间的差距。 在当天的“安랩AI愿景发布”记者见面会上,安랩公开了综合品牌“安랩AI Plus”及其产品和平台战略、代理AI技术、中长期投资和增长计划。“安랩AI Plus”是连接技术、产品和服务的平台和架构概念。 安랩将超越在现有产品中增加AI功能的“AI驱动安全”,转向从一开始就以AI为中心设计产品、服务和安全运营的“AI原生安全”。计划将分散在不同产品领域的数据连接成一个安全上下文,并实现多个AI代理的协作架构。 业务结构也将转向以SaaS为中心。产品和服务及安全能力将重组为“安랩AI Plus终端”和“安랩AI Plus安全运营”。终端将EPP和EDR整合为基于SaaS的解决方案,保护对象从PC扩展到服务器、虚拟环境、容器和移动设备。安全运营将以XDR、MDR和AI SOC为中心,连接多种安全信号,分析攻击的上下文和优先级,并支持预防、检测、调查和响应的整体流程。 安랩计划连接终端、网络、云、运营技术(OT)、威胁情报和安全监控数据,让AI将多个信号重构为一个安全事件,并提出响应优先级。多个AI代理将执行威胁分析、攻击流程推断、风险评估、调查和响应方案建议等任务。 目前,安랩基于超过2.5PB的安全数据、13种安全专用AI模型和60个安全工作工具,实施代理AI安全。每月处理超过1.9亿个安全对象和超过500亿个令牌,将AI SOC部分工作处理时间从原来的5分钟缩短至2分钟,约减少60%。 AI的判断和行动、数据访问过程将被记录和检查,主要措施需经过用户批准后执行。安랩将此定义为“受控自主性”原则,通过权限、政策、审计和批准来管理AI的自主性。 安랩计划在未来三年内在AI领域投资总计1000亿韩元。将重点投资于AI基础设施、AI技术、专业人才和研发能力,并将其连接为“AI原生×平台×SaaS×全球”的增长引擎。 在国内积累的技术、数据和安全运营经验将通过API和基于云的服务、全球合作伙伴生态系统扩展到海外市场。还将推动战略性并购,与AI技术公司和初创企业进行联合研究、业务合作和投资。基于此,安랩目标到2035年实现销售额达到10000亿韩元,全球销售占比超过30%。 安랩还设立了由“AI预防”、“AI SOC”和“AI检测与响应”组成的“AI安全体验区”,展示基于AI的安全技术的运作过程。 安랩代表强石均表示:“在AI正在改变网络安全游戏规则和安全产业竞争秩序的关键时刻,‘安랩AI Plus’将是安랩的下一个篇章。我们将成长为客户在面对AI时代的安全问题时,首先想到的AI原生安全平台企业。”
2026-09-16 19:16:00