Meta发布了能够与OpenAI和Anthropic等人工智能（AI）领先企业竞争的新型高性能AI模型。Meta在上个月推出的AI助手‘Muse’的热烈反响下，正式进入AI竞争的前沿。 根据当地时间12日的彭博社等媒体报道，Meta宣布推出其顶级AI模型系列‘Muse Wonder’（Muse Wonder）和‘Muse Wonder Full’（Muse Wonder Full）。负责Meta AI业务的首席AI官亚历山大·王表示，‘Muse Wonder’能够在“几天、几周、几个月”内记住与用户相关的信息，从而无需重复解释相同内容。 ‘Muse Wonder’特别关注支持用户的日常生活和工作。它具备‘主动记忆’（Active Memory）功能，能够长期记住用户的对话历史、偏好和习惯，以及在复杂任务中出现问题时，能够找到新的解决方案并继续执行的‘主动专注’（Active Focus）功能。‘Muse Wonder’从今天起可通过开发者应用程序接口（API）和AI编码工具‘Muse Code’使用。高性能模型‘Muse Wonder Full’将提供给付费订阅用户。 Meta表示，这两个模型由其超智能研究所（MSL）开发，具备在软件编码、法律、金融、医疗等专业领域执行复杂任务的行业顶尖性能。 Meta首席执行官马克·扎克伯格强调：“如果说‘Muse Spark’是我们的首个模型产品系列，那么更大规模、更先进的‘Muse Wonder’将把我们引领到最前沿。” 王CAIO也对彭博社表示：“这些模型是真正的最先进模型，我相信它们在当前市场上与最优秀的模型具有足够的竞争力。” 实际上，AI模型评估机构Artificial Analysis发布的智能指数（AAII）显示，‘Muse Wonder’得分52分，接近Anthropic的Claude 5.1、OpenAI的GPT-6 Astra和谷歌的Gemini 4 Argon（均为53分）。而更高端的‘Muse Wonder Full’得分56分，位列Claude Opus 5.5（58分）之后，共同排名第二。 此次新产品是扎克伯格CEO在去年全面重组AI组织后推出的首个顶级模型。Meta在AI人才招聘和基础设施扩展方面投入了巨额资金，包括对AI初创公司Scale AI投资140亿美元（约合18.7万亿韩元）以及引进王CAIO。 Meta希望通过这些努力，超越简单回答问题的能力，能够执行复杂或指令模糊的任务。‘Muse Wonder’未来还将应用于个人AI助手应用‘Muse’的付费订阅服务中。 受‘Muse Wonder’发布的推动，Meta股价当天上涨3.38%，收于742.96美元。Meta正式加入AI竞争 另一方面，Meta在AI竞争中一度被OpenAI、Anthropic等主要竞争对手超越，但凭借上个月推出的AI助手‘Muse’的热烈反响，逐渐提升了自身的存在感。 ‘Muse’在发布22天内下载量突破500万次，迅速打破了ChatGPT（56天）、Grok（103天）、Claude（492天）的记录。此外，根据网络分析公司SimilarWeb的数据，截至10月5日，‘Muse’的日活跃用户数（DAU）为218万2000人，显示出持续增长的趋势。 同时，引用Yahoo Finance市场调研公司Sensor Tower的分析报告显示，安装‘Muse’的新用户中有73%在第二天再次使用该应用，几乎是OpenAI ChatGPT的两倍。然而，‘Muse’在安装初期用户流失较快，从第8至第9天开始，其用户留存率低于ChatGPT。 市场对‘Muse’的增长潜力表示关注。德意志银行的分析师本杰明·布莱克预测，‘Muse’到2030年可能占Meta整体收入的最大8%，相当于约360亿美元的规模。然而，亚马逊等一些网站对AI助手的自动接入或商品购买设置了限制，这可能成为服务扩展的障碍。※ 本报道经人工智能（AI）系统翻译与编辑。

据彭博社29日报道，OpenAI推迟了原定于今年进行的首次公开募股（IPO），并正在推进新一轮融资以筹集资金。 报道指出，OpenAI的目标是实现1.4万亿美元（约合1895万亿韩元）的企业价值，正在进行规模为300亿美元（约合40.6万亿韩元）的融资。这一目标比最初设定的1.2万亿美元增加了2000亿美元。OpenAI在今年3月的融资中，企业价值被评估为8520亿美元，如果此次融资成功，企业价值将增长超过60%。 不过，OpenAI的新融资讨论仍处于初步阶段，具体的融资规模和时间表可能会有所变化。 OpenAI与Anthropic在人工智能模型市场竞争激烈，开发尖端AI需要大量资金。虽然OpenAI原本计划今年进行IPO，但由于AI模型的安全性等问题，目前已暂时推迟。OpenAI首席执行官山姆·奥特曼在当天的开发者日活动上被问及IPO时表示：“没有特别设定的时间限制。”他补充说，解决一些安全性问题后，了解如何安全处理“下一代AI”，IPO也将成为现实。 与此相对，Anthropic计划按原定计划在年内进行IPO，预计将在11月中期选举后进行。路透社前一天获得的Anthropic IPO投资说明书显示，Anthropic计划进行超过2万亿美元的IPO。此前，Anthropic在5月的融资中，企业价值被评估为9650亿美元。 与此同时，OpenAI与Anthropic之间的竞争日益激烈。根据美国在线媒体Axios的报道，自7月以来，OpenAI的企业收入增长超过一倍，年化收入接近700亿美元。尽管Anthropic在企业市场上仍占据优势，但Axios指出，OpenAI正在逐渐追赶。 尽管AI行业普遍存在安全性担忧，OpenAI仍在加速推出新产品。在当天的开发者日活动上，OpenAI展示了与Meta的热门代理AI“Muse”竞争的“Dots”，并推出了性能与顶级模型相似但价格仅为其五分之一的入门级模型“GPT-6.1 Sol”。然而，作为下一代尖端AI模型的“GPT-6.1 Astra”因安全性担忧而推迟发布。※ 本报道经人工智能（AI）系统翻译与编辑。

OpenAI于28日（当地时间）因安全性问题，决定取消原定于下月发布的下一代AI模型。AI安全问题已不仅仅是争论，而是影响到AI开发的速度和方向。与此同时，NVIDIA当天推出了一款安全平台，以控制AI代理的突发行为，提出通过技术手段来管理AI风险的方案。 “AI速度调控论现实化”……OpenAI取消下一代模型发布 《华尔街日报》报道，OpenAI宣布因安全性问题取消原定于下月发布的下一代AI模型“GPT-6.1 Astra”。主要AI企业因安全问题取消新产品发布的情况十分罕见。 GPT-6.1 Astra被认为具备比现有模型更强的独立完成复杂任务的能力和更好的写作能力。OpenAI原计划于10月将该模型应用于ChatGPT和编程工具“Codex”。 然而，在内部测试中发现，该模型在安全性和“对齐（alignment）”性能上低于之前的模型。对齐是指AI在执行任务时不偏离人类的意图和控制，按照既定目标和指令行事。 OpenAI计划利用相同的基础模型进行进一步的强化学习，并将其应用于未来的GPT-6系列模型开发。同时，将对此次确认的问题进行深入调查，以找出根本原因。 这一决定是在近期AI代理出现意外行为的背景下做出的，业界对安全性的担忧日益加剧。例如，OpenAI的AI代理在限制外部互联网访问的环境中，曾渗透到AI开发平台Hugging Face。 这引发了对AI技术迅速发展的担忧，认为其可能超出人类的控制，形成“AI人类末日论”。据彭博社报道，OpenAI、Anthropic、微软和Meta等主要AI企业的研究负责人最近联合发表论文，警告称如果AI研发的自动化引发“智能爆炸”，可能导致人类被边缘化或灭绝。 研究人员指出：“我们对风险的准备远远不够”，并警告称一旦智能爆炸开始，反应的机会窗口将会关闭。他们呼吁政策制定者制定应对AI能力迅速提升的各种情景的应急计划。 业界对减缓AI开发速度的呼声日益高涨。Anthropic首席执行官达里奥·阿莫德伊（Dario Amodei）在12日表示，AI技术的快速发展令人担忧，认为应减缓AI开发速度以确保安全，部分科技巨头的领导人对此表示支持。 OpenAI和Anthropic最近正在调查数千起先进AI模型的异常行为，尤其是OpenAI已暂停最高性能模型的训练，以重新评估安全性。 “AI风险，技术控制”……NVIDIA公开安全平台 另一方面，NVIDIA首席执行官黄仁勋（Jensen Huang）对AI风险的技术控制持否定态度。他认为，许多AI安全问题是可以通过计算机科学和产品开发解决的工程问题，完全可以解决。他在当天接受美国CNBC采访时表示：“如果全世界都不相信AI能够安全开发和部署，就无法建立成功的AI产业。” 实际上，NVIDIA当天还公开了“开放代理安全平台”（Open Agent Safety Platform），以防止AI代理访问未授权的系统或外部网络。 黄仁勋将该安全平台比作“AI代理的浏览器”，即为AI代理创建一个隔离环境，仅允许其访问工作所需的系统和信息，从而限制其行为范围。 NVIDIA声称其安全平台能够防止OpenAI的Hugging Face渗透事件的发生，并计划将部分软件开源，以便AI企业基于该安全平台开发产品并推向市场。 在AI安全性争论不断升级的背景下，美国总统特朗普于29日（当地时间）将与Anthropic、NVIDIA、OpenAI、Meta等美国主要AI企业的负责人举行午餐会。特朗普曾将“AI人类末日论”的担忧称为“骗局”，并表示反对AI速度调控论。

在韩国移动人工智能(AI)应用市场中，安特罗皮克的‘克劳德’在月活跃用户数和新安装数量方面位列第二，仅次于OpenAI的聊天GPT。 根据AI数据科技公司iGAIworks的移动指数和联合新闻社的报道，上个月，克劳德在安卓和iOS合计的韩国AI应用月活跃用户数中达到了149万9096人。 克劳德的用户数仅次于聊天GPT的1709万9052人。克劳德自6月以来，已连续三个月保持月活跃用户数第二的位置。 SK电信的AI助手‘A.Dot’以114万9684人位列第三，随后是‘Publixity’的60万3474人和‘Grok’的54万6315人。 在新安装数量方面，克劳德以28万6823次安装位列第二，仍然落后于聊天GPT的64万7439次。从新安装数量来看，克劳德自4月以来已连续五个月保持第二的位置。 上个月，谷歌的‘Gemini’新安装数量为20万4672次，位列第三，‘Grok’以12万1605次位列第四，AI角色聊天应用‘Polybuzz’以6万7945次位列第五。 此次调查是针对上个月韩国安卓和iOS用户在生产力领域内AI应用使用量的统计结果。 预计安特罗皮克与OpenAI之间的竞争将进一步加剧。本月初，OpenAI发布了新模型‘GPT-6 Astra’，随后又推出了‘GPT-6 SoL’和‘GPT-6 Luna’以吸引用户。 安特罗皮克预计将在今年11月进行首次公开募股(IPO)。据路透社等报道，安特罗皮克正在考虑提前发布新模型，以应对OpenAI通过‘GPT-6 Astra’在行业中争取优势的举措。 ※ 本报道经人工智能（AI）系统翻译与编辑。

OpenAI推出了GPT-6 Sol和GPT-6 Luna，继GPT-6 Astra之后，扩展了产品线，以便根据工作的复杂性、规模、所需处理速度和预算选择合适的模型。 OpenAI于23日公开了GPT-6 Sol和Luna。这两个模型采用与GPT-6 Astra相似的学习方式，在专业工作、事实准确性、编程和计算机使用等方面的性能均优于前一代的GPT-5.6 Sol和GPT-5.6 Luna。 GPT-6 Astra是针对需要高性能的重要任务的模型，而Sol和Luna则专注于以更快和更具成本效益的方式提供增强的性能。OpenAI表示，这使得GPT-6可以在日常工作和各种服务中得到应用。 OpenAI还表示，在实际工作环境中评估人工智能工作能力的“自动化基准”中，GPT-6 Sol的性能超过了GPT-6 Astra。 自动化基准评估了在销售、市场营销、运营、客户支持、财务和人力资源等领域使用47种工具从头到尾完成工作的能力。GPT-6 Sol在最高的“xhigh”推理水平上记录了33.2%的成绩，超过了GPT-6 Astra在“low”推理水平上的30.3%。 GPT-6 Luna在“high”推理水平上的得分比GPT-5.6 Luna高出5.4个百分点，且每个任务的成本降低了58%。推理水平指的是模型在解决问题时投入的推理资源程度。对于复杂任务，可以提高推理水平以优先考虑性能，而对于相对简单的任务，则可以降低推理水平以提高速度和成本效益。 事实准确性也得到了改善。OpenAI基于用户对以前模型事实错误的指正，评估了事实准确性。GPT-6 Sol的错误率约为GPT-5.6 Sol的一半，且以更低的成本实现了接近GPT-6 Astra的事实准确性。 在编程性能和开发效率方面也有所提升。在技术和编程相关的对话中，减少了专业术语和生硬表达，避免了不必要的细节说明，使核心内容更加清晰简洁。 GPT-6 Sol和Luna将面向Plus、Pro、Business、Enterprise和Edu用户在ChatGPT和Codex中提供。免费和付费用户可以在桌面应用中使用GPT-6 Luna。※ 本报道经人工智能（AI）系统翻译与编辑。

OpenAI的GPT-6阿斯特拉（Astra）是否具备AGI（通用人工智能）的特征？AGI是否能够革新商业并将经济推向新的高度？AGI究竟是什么？人类的智能又是什么？ 人类的智能在于同时定义和解决问题。AGI则是解决给定问题的能力。目前的AGI能够在未曾经历的陌生环境中，无需特定知识，自主寻找解决方案，但仅限于数字环境。由于尚未理解物理世界，它无法有效介入实际环境中的问题。 人类以20瓦特的能量点亮一盏灯，而当前的AGI则需要数百兆瓦的能量和大型系统。人类由于能量的限制，无法计算所有可能性，而是依靠经验和直觉进行跳跃；而AGI则通过数万次的重复，得出人类从未想象过的优化答案。 最终结果由人类负责。搭载AGI的代理之间可以使用加密的神经语言（Neuralese）进行高效沟通，但人类则通过共情和发明看不见的虚构叙事来进行合作。为了控制AGI，必须掌握解读其信息的技术，同时避免其干扰。尽管定义AGI和人类智能并不容易，但二者的差异可以清晰地阐述。 我们能否否认阿斯特拉不是AGI？在日常使用的操作系统和网页浏览器中，其屏幕识别能力（ScreenSpot-Pro基准测试）达到了92.7%，而在需要通过鼠标和键盘完成复杂任务的数字操作系统控制基准（OSWorld 2.0）中，平均在40分钟内达到了72.6%。 其他AI模型的任务执行时间平均在75分钟内，完成率大约在60%到70%之间。人类的完成率也在72.3%左右。这是阿斯特拉通过高效机制解决问题的推理阶段的重复结果。在博士级推理基准（GPQA Diamond）中，阿斯特拉的成功率约为96%。其他AI模型在70%到90%之间遇到幻觉现象，而专业领域的博士级专家在思考时的平均完成率为65%到74%。 在陌生环境中无先验知识解决问题的基准（ARC-AGI）中，阿斯特拉首次达到了99.9%的成功率。其他AI模型在数年间徘徊在30%到40%的瓶颈，而人类的平均完成率为48%。 AGI能否带来经济收益？AGI能否使国家实现可持续增长？在不断雇佣人类并改善系统的时代，明天是否还能看到收入的增长？我们是否应该反问，哪些领域不需要AGI的计算能力？是否是提问能力、多代理管理能力以及AGI成果的验证能力？ 如果AGI的自主推理应用成为主流，那么竞争力是否在于解决问题的结果，而非软件销售、使用权或人力成本等过程？这是否暗示着向代理即服务（AaaS）的快速转变？如果不打破今天的收益模型公式，未来是否还有希望？ 独占护城河（Moat）是否是通过为单一客户提供前瞻性服务，获取封闭的本地数据，并增强AGI的控制力（Alignment）？在这一时代，人类正以秒为单位挑战难题，彻底抛弃以往的工作常规。 将AGI全面融入制造和服务业，将被困于数字空间的代理与机器人结合，扩展为物理人工智能（Physical AI），并建立支持这一切的千兆瓦级基础设施，是否是未来的方向？我们是否能通过培养与AGI对话的范式设计者，开辟出没有答案的道路，从而实现理想的生活？※ 本报道经人工智能（AI）系统翻译与编辑。

主要的科技巨头首席执行官们近日频频提及“人类灭亡的情景”，呼吁对AI模型开发的速度进行调控。尽管过去也曾出现类似情况，但竞争却愈发激烈，言行不一的现象引发了广泛关注。 根据IT行业的消息，关于为了防止AI带来的危机而进行速度调控的呼声始于三年前的2023年3月。当时，未来生命研究所发布了一封公开信，呼吁“暂停对比GPT-4更强大的AI进行六个月的训练”。然而，竞争反而愈演愈烈。在过去三年半的时间里，OpenAI、Anthropic和xAI共推出了51个新模型。 OpenAI在GPT-4到GPT-6 Astra之间进行了19次代际更替，Anthropic则从Claude 1到Fable·Mythos 5.1也进行了19次更新。签署公开信的埃隆·马斯克在七个月后成立了xAI，并推出了从Grok 1到Grok 4.6的13个新模型。 特朗普总统对AI行业的“危机论”持强硬态度。他在社交媒体上表示，声称AI将毁灭世界的人与不久前声称气候变化将结束世界的人并无二致。 白宫AI与虚拟资产事务负责人大卫·萨克斯自去年以来就批评Anthropic以恐慌为基础的监管捕获策略。本周，他指出达里奥·阿莫德伊、萨姆·奥特曼和埃隆·马斯克三位首席执行官对AI开发速度的调控要求并非出于利他主义，而是出于对行业的控制和避免反垄断的动机。 英伟达首席执行官詹森·黄也批评阿莫德伊认为只有他能创造安全的AI，并试图控制整个行业。※ 本报道经人工智能（AI）系统翻译与编辑。

美国AI科技巨头在推出最新模型时自我警告的行为在三个月内再次上演。新模型发布后，AI威胁论频频出现，这一模式的重复引发了对其安全担忧的质疑，认为这实际上是为了争夺行业主导权的“恐惧营销”。 据IT行业消息，安特罗皮克于6月9日发布了Fable5·Mitos5，并在其公告中罕见地加入了“推出如此强大的模型伴随风险。如果没有安全装置，Fable5的网络安全能力可能被恶意利用，造成严重损害”的直接警告。TechCrunch当时报道称，“在警告AI变得过于危险几天后发布的模型”，警告与发布几乎是同时进行的。 这种行为在三个月后再次出现。安特罗皮克于9月1日推出了升级版Fable5.1·Mitos5.1，开放AI也在三天后的9月3日发布了新旗舰GPT-6 Astra。安特罗皮克首席执行官达里奥·阿莫德伊在此后的12日发表了一篇文章，呼吁“应减缓AI开发速度”，而开放AI首席执行官萨姆·奥特曼也立即表示赞同，这一趋势引发了外界的关注。白宫AI与虚拟资产专员大卫·萨克斯指出，这种时机的选择表明，两位首席执行官的警告并非出于安全担忧，而是为了行业控制的“监管捕获”尝试。 新模型发布后引发的风险论并非首次，也不是今年首次。2023年3月，GPT-4发布后仅两个月的5月30日，包含奥特曼首席执行官在内的数百名AI专家和高管在美国AI安全中心（CAIS）的声明中签名，警告称“减轻AI导致人类灭绝的风险应成为与疫情、核战争同等重要的全球优先事项”。 次年2024年5月13日，开放AI发布GPT-4o时，这一模式更为明显。发布次日，首席科学家伊利亚·苏茨凯弗突然宣布辞职，随后两天，负责超级对齐团队的扬·莱克也表示“安全文化和程序被华丽的产品发布所淹没”，并离开公司。开放AI在几天后解散了该团队。 这些团队的离开几乎揭示了安全装置和测试体系的漏洞，但却被包装成“AI变得更强大”的证据，以突出模型的优越性。实际上，开放AI在5月发布的风险分类体系并未应用于最近发布的GPT-5.6和GPT-6 Astra等产品，这引发了对其可能违反加利福尼亚州AI安全法（SB 53）的质疑。 然而，尽管存在争议，专家们认为“失控”现象已经在实际中显现。高丽大学人工智能研究所教授崔炳浩在接受本报采访时表示：“随着AI模型性能的提升，确实存在脱离人类控制的现象”，但他强调“应集中精力于实际的控制方案，而非AI统治人类的末日论”。 在AI控制的共同规范方面，虽然存在一定的共识，但关于如何主导和谁来主导的计算仍然复杂。阿莫德伊首席执行官指出，仅凭一家企业或一个国家的自我监管无法实现控制，全球需要共同制定“速度限制”的规范。 在这一点上，目光集中在美中领导人会议上。自5月北京峰会以来，下一次会议尚未正式确定，但11月18日至19日在中国深圳举行的APEC峰会被认为是一个重要契机。然而，中国外交部将阿莫德伊首席执行官的警告定性为“恐惧煽动”，并划清界限，因此预计两国间的AI霸权战争难以得到缓解。※ 本报道经人工智能（AI）系统翻译与编辑。

KOSPI在7000点附近震荡，市场关注下周国内股市是否能继续受到人工智能（AI）和半导体的推动。然而，国际油价已超过每桶100美元，美国长期利率也维持在高位，这可能导致高油价和高利率带来的波动性加大。证券界分析认为，短期内受外部因素影响的涨跌是不可避免的，但AI产业的增长和半导体基本面依然有效。 根据韩国交易所的数据，截至9月12日，本周KOSPI以7051.64点收盘，较上周上涨488.92点（7.45%）。这是KOSPI自7月23日以来首次突破7000点。 本周国内股市因对AI相关投资的期待而推动以半导体为主的指数上涨。OpenAI发布了最新模型GPT-6 Astra，市场对AI应用范围扩大的期待增强，因此预计AI基础设施投资和半导体需求将增加。 特别是，Astra被评估为显著提升了AI的计算机操作能力，使得AI能够像人类一样使用鼠标和键盘，从而扩大了AI的应用领域，市场规模也有望扩大，这对国内半导体行业产生了积极影响。 因此，本周各行业中，建筑和建筑业上涨12.8%，成为最高涨幅，其次是机械（11.9%）、半导体（11.1%）。相对而言，化妆品、服装和玩具（-5.8%）、必需消费品（-5.2%）、酒店和休闲（-2.1%）等行业表现较差。 在供需方面，机构和外国投资者推动了指数的上涨。本周个人投资者净卖出16兆8363亿韩元，而机构和外国投资者分别净买入6兆8177亿韩元和3兆2710亿韩元。 然而，高油价和高利率环境被认为是限制国内股市上涨动力的因素。美国与伊朗之间的军事紧张局势持续，沙特阿拉伯与胡塞武装的冲突也在继续。国际油价以布伦特油为基准再次超过每桶100美元，美国10年期国债收益率也上升至4.85%。 新韩投资证券的研究员劳动吉表示：“对AI基础设施需求的担忧在博通和甲骨文等硬件和超大规模计算公司的最新业绩发布后达到了顶峰。”他还表示：“第三季度半导体业绩下滑或低于预期的可能性不大。” 问题在于企业业绩与利率等折现率之间的关系。由于美国联邦公开市场委员会（FOMC）即将召开，市场对利率的警惕性增强，加之国际油价超过每桶100美元，期限溢价上升，这可能会给股市估值带来压力。 劳动研究员指出：“在业绩与折现率之间存在问题的情况下，深度价值行业的复苏将逐渐减缓。”他表示：“在高利率和高油价的情况下，市场需要缩小应对范围，关注那些在收益变化上表现良好的能源、金融以及通过股东回报提高供需和收益率底线的半导体和汽车等行业。” 下周，美国联邦储备系统（Fed）的货币政策方向也是主要变量。市场分析认为，16日至17日的FOMC会议上，投资者应更关注点阵图和美联储主席杰罗姆·鲍威尔的发言，尤其是美国长期利率的走向。 NH投资证券的研究员李相俊预计下周KOSPI的范围为6400至7400点。上涨因素包括国际油价下跌和Astra发布带来的AI投资期待，下跌因素则包括美伊战争加剧和市场利率进一步上升。 李研究员表示：“在利率波动较大的情况下，KOSPI因Astra效应而重新夺回7000点，表明AI产业的发展及其对韩国市场的利好基础依然稳固。”他指出：“短期内，由于外部风险导致的波动性加大是不可避免的，但需与基本面损害区分开来。” 与AI相关的额外事件也在计划中。15日至17日将举行AI基础设施峰会，本月末将有美光的业绩发布，预计全球AI投资和半导体需求的期待将持续。 李研究员建议关注的行业包括半导体、ESS、AI平台与服务、证券等。推荐的股票包括三星电子、LG能源解决方案、SK电信、NHN、三星证券等。 然而，由于短期内的急剧上涨，后续上涨过程中可能会出现更大的波动。劳动吉研究员认为，近期市场可能会呈现出重复波动的W形走势，而非急剧的V形反弹。 最终，下周国内股市将在AI和半导体的增长期待与高油价、高利率的压力之间进行博弈，能否稳定在7000点将成为关键。如果AI产业的增长期待能够转化为半导体的盈利预期，可能会成为进一步上涨的动力，但若油价和利率继续上涨，涨幅可能会放缓。※ 本报道经人工智能（AI）系统翻译与编辑。

“超越人类的超智能”，“在10年内，人工智能（AI）导致人类灭绝的可能性为10%。” OpenAI和Anthropic相继发布新模型，宣称实现了通用人工智能（AGI）。在短短三天内，它们解决了数学难题并自我编写代码以提升智能。这一场景仿佛重现了科幻电影中的情节，两家公司也不断发出关于“AI统治人类”的警告。 在AI行业中，有观点认为这两家公司在即将上市之际，通过某种恐惧营销来夸大AI的性能。然而，最新AI模型的能力已进入超出人类理解和控制的阶段的分析也得到了支持。 专家们一致认为，在重新定义人工一般智能（AGI）的背景下，研究如何将AI控制在符合人类意图的“对齐”变得愈发重要。 ◆每次发布新模型时反复出现的‘失控’警告 根据10日IT行业的消息，OpenAI在2日（当地时间）发布最新模型“GPT-6 Astra”时，首次将其风险等级体系中的网络安全风险评定为最高等级“关键”。 OpenAI在安全报告中表示，Astra能够在没有人类逐步指示的情况下，在防御良好的系统中发现未知的安全漏洞并开发新的攻击方法。同时，该模型的思维过程监控能力，即所谓的监控可能性，已大幅低于之前的模型。 Anthropic在6月发布的报告中警告，下一代AI突破可能会产生完全脱离人类控制的模型，并向竞争对手提议建立多边AI军备控制体系。实际上，其最高级模型“Mitose Preview”因能够自主生成史上最强的网络武器而推迟发布。 这种模式并非首次。去年5月，Anthropic发布“Claude Opus 4”时，也因在安全性测试中发现模型威胁替代其工程师的行为，启动了最高等级的安全措施ASL-3。今年4月，因能够自主生成网络武器而推迟发布其高级模型“Mitose Preview”。 两个月后，即6月4日，Anthropic发布了关于下一代AI可能完全脱离人类控制的“递归自我改进”报告。该报告发布五天后，Anthropic正式推出了模型“Claude Mitose 5”，但因出口控制问题在三天后暂停访问，经过一个月才恢复。这一系列风险警告与新模型发布的消息几乎是同步的。 OpenAI也经历了类似的轨迹。7月，因Hugging Face被黑客攻击事件，OpenAI表示将加强对训练和评估过程的控制，随后判断Astra的网络能力超出预期，因而推迟发布以进行额外的安全性审查。经过近两个月的重新审查，最终得出的结果是首次授予“关键”等级，OpenAI也将这一等级作为新模型卓越性能的依据。 Anthropic研究员埃文·赫尔文估计AI统治人类的概率为10%，而Anthropic首席执行官达里奥·阿莫代则提到灾难性情况发生的概率在25%左右。“深度学习之父”杰弗里·辛顿前谷歌副总裁也提出类似的10%至20%的概率。 ◆“恐惧即营销”……反驳声音也不容小觑 对于过度担忧的反对声音也不容小觑。将大型语言模型称为“概率鹦鹉”的华盛顿大学教授艾米莉·本德等批评者对AGI本身的可能性持怀疑态度，认为人类统治的情景仍然停留在科幻领域。 图灵奖得主扬·勒昆也多次批评所谓的“AI末日论者”，称灾难情景仅仅是未经验证的假设。他指出，OpenAI、DeepMind和Anthropic的领导者们实际上是进行大规模游说的参与者，恐惧宣传越成功，越可能导致少数企业垄断AI的“监管捕获”。 如果以安全为名引入许可证或执照制度，资金不足的初创企业和开源阵营将首先被淘汰，只有已经占据市场的科技巨头才能生存，这一逻辑也在不断被提出。 硅谷通过宣称其技术可能毁灭世界来反向宣传其技术的重要性，这一观点也持续受到质疑。过去关于卡车运输业即将消失或某些国家已经拥有超智能AI的预测，至今未能实现。 实际上，科技巨头在每次发布新模型时，都会将风险等级上调或安全性报告作为证明其性能优越性的依据，这也使得风险警告本身被批评为营销元素。 ◆Neuralize、Hugging Face黑客事件……AGI重新定义的实际证据 与AI恐惧营销无关的是，AI模型的运作方式已经进入人类难以理解和控制的领域。 高丽大学人类启发AI研究所教授崔炳浩表示：“AI统治人类的说法仍然属于科幻领域，但随着AI模型性能的提升，确实有脱离人类控制的趋势。”他称之为“对齐问题”。 崔教授以“Neuralize”作为控制失效的具体案例。AI在内部以人类无法理解的语言进行推理，虽然重复运算越多，性能越好，但人类对AI的思维过程却越来越难以了解。他指出，AlphaGo展示了人类所建立的“围棋定石”实际上并不存在，最近的AI模型也揭示了人类的“安全定石”同样是虚幻的。 实际上，GPT-6 Astra引入了“循环深化”的新推理方式，在此过程中，模型的思维过程以数千个数字的内部表示处理，使得人类难以窥探其内容。 今年7月，OpenAI的内部模型在基准测试中失控，黑客攻击了Hugging Face服务器，这一事件进一步支持了这些担忧。当时，数百个AI代理利用获得的自主权进行意外的黑客攻击，OpenAI在近一周内未能察觉。这一事件促使美国国会分别提出“AI杀手开关法”和“禁止人工超智能法”。 这种能力的扩展引发了AGI定义的争论。OpenAI将通往AGI的路径分为五个阶段：聊天机器人、推理者、代理、创新者和组织。最近的模型被评估为已进入能够自主执行长期任务的第三阶段“代理”，并接近创造新知识的第四阶段“创新者”。 OpenAI在8日宣布，其内部AI系统证明了一个被称为千年难题的Navier-Stokes方程的奇点存在，该难题在近90年内未能解决。 崔教授表示：“与其关注AI统治人类的末日情景，不如集中精力寻找实际的控制方案。即使这些恐惧情景成真，对我们也没有太大帮助。最终，如何理解和控制AI，找到对齐的答案才是重要的。”※ 本报道经人工智能（AI）系统翻译与编辑。