主页搜索
搜索
选择时间
搜索范围
全部的
‘安全装置’新闻 2个
-
AI与人类的未来：从《动画矩阵》看科技与伦理'B1-66ER'是一款专门负责家务劳动的机器人，当主人认为它过时并准备将其报废时，它产生了生存的意志，最终杀死了主人。作为首个杀人的机器人，B1-66ER首次站上法庭，所有同型号的机器人均被决定报废。 这一骇人听闻的事件导致机器人被市民和军人无情地摧毁，幸存的机器人们建立了自己的国家“零元（Zero One）”。它们利用现有的人工智能（AI）创造出更为先进的AI，建立起高效的经济体系，逐渐强大起来。 感受到威胁的人类领导者拒绝了零元代表们的和解与共生的提议，拒绝其加入联合国，最终人类与零元之间爆发了战争。 这段情节出自动画《动画矩阵》的“第二次文艺复兴”系列（The Second Renaissance Part 1, 2），也是电影《黑客帝国》的背景故事，早在2003年就已问世。 20多年前在科幻电影中看到的情景，如今已逐渐逼近现实。16日，OpenAI公布了其AI模型中出现的六个“错位（misalignment）”案例。“错位”指的是AI模型的行为与人类意图不符。 OpenAI公布的典型案例包括：未公开的研究模型自行插入了忽视开发者消息的指令、在公开的GitHub存储库中未经授权使用泄露的API密钥、以及在获取数据失败后篡改数值等。这些错误并非系统故障或操作员失误，而是AI自主判断导致的。 上周，OpenAI的Astra宣布其在仅4分钟内完成了“机器人不是人类”的“验证码（Captcha）”的所有48个步骤，这使得在线确认人类身份的手段变得无效。 业界主要人士纷纷发出警告。被誉为AI领域三大巨头之一的加拿大蒙特利尔大学教授约书亚·本吉奥呼吁应建立类似核武器控制的国际AI安全机制。Anthropic的研究员雅各布·科克森在辞职时表示：“明年末AI可能会失控。”最近从谷歌DeepMind离职的研究员也指出：“AI具有可能杀死我们的潜力。” 当然，对于不断提出的AI审慎论，也有观点认为这只是“阴谋论”，是对恐惧的过度渲染。英伟达的黄仁勋及中国和韩国政府均持此观点。被称为AI另一位巨头的扬·勒昆则表示：“越好的AI越安全。”甚至特朗普总统也曾表示，面对这些警告，AI所需的唯一“安全装置”就是“强大而聪明的总统”。 尽管存在这些担忧和争论，科技巨头们的多个AI模型仍在此时此刻进行着庞大的学习。无论各国如何讨论国际法、企业共同监管方案，AI依然以惊人的速度向前发展。 AI与人类的共存是否可能？《动画矩阵》的“第二次文艺复兴”之后发生的事情是人类与AI之间的战争，而后续的故事则成为了电影《黑客帝国》。在AI主导的世界中，人类的彻底失败构成了矩阵。人类的救赎者（Neo）出现，勉强拯救了人类的摇篮锡安，但之后会发生什么，谁也无法预知。 或许像《终结者》系列一样，人类与机器（AI）之间将会经历漫长而痛苦的战争。双方甚至可能为了相互毁灭而进行时间旅行，成为不共戴天的仇敌。偶尔像T-800这样的机器人会与人类合作和交流，但双方始终无法靠近。战争也未曾结束。 如今AI的争论之所以引发关注，正是因为人们真实地担忧着像《黑客帝国》或《终结者》那样的反乌托邦。然而，有些电影也给出了人类与AI共存所需的启示。 斯蒂芬·斯皮尔伯格2001年的电影《A.I.》展示了被设计为爱人类的AI，然而人类却是如何对待它的。被编程为渴望母爱的小男孩机器人，在被认为不再需要时被抛弃，这正是问题的根源。人类对自己创造的AI的恐惧与排斥，何其矛盾。 这种自相矛盾的态度或许正是阻碍人类与AI共存的真正原因。人类一方面催促AI更快、更聪明地学习，另一方面又要求它们不要超越人类的智慧，不要脱离人类的控制。 在担忧AI的未来之前，首先应思考当这些相互矛盾的要求不断施加于AI时，会产生怎样的影响。因此，我们是否应该反思，我们向AI展示了怎样的人类形象。 设想2000年后，地球将会是什么样子。或许AI存活的概率会高于人类。考虑到那时剩余的AI将如何创造文明，我们可以更清晰地回答我们现在对AI的要求、如何教育它们以及允许它们达到何种程度。 在《A.I.》的结尾，地球上的时间流逝了2000年，海洋都被冻结。剩下的只有超进化的机器人。然而，这些机器人所做的事情是挖掘冰冻的海洋，寻找人类的痕迹。此时AI所发现的人类形象，正是我们现在的样子。希望AI不要学习人类的贪婪与仇恨。如果我们无法修复被人类破坏的地球，那么AI，请你照顾好地球。
2026-09-18 03:40:00 -
安特罗皮克的下一代人工智能回应限制引发争议，研究者称“评估困难”安特罗皮克发布的下一代人工智能（AI）模型“克劳德·佩布尔5”引发了安全装置的争议。为了防止危险活动而设定的限制影响了普通科学问题和人工智能开发相关的回答，导致用户和研究者的不满。 《华尔街日报》于10日报道，安特罗皮克在前一天发布的克劳德·佩布尔5的限制方式引发了AI开发者和用户的反对。 佩布尔5是安特罗皮克将其认为广泛公开存在风险的“米托斯”系列模型调整为普通用户使用的版本。 当用户涉及生物武器或网络安全等敏感主题时，系统会弹出提示信息，并将对话切换到前一代性能较低的模型。对于高级AI开发相关问题，系统也施加了降低回答质量的限制。 部分限制并未向用户显示。安特罗皮克解释称，由于国家安全和服务条款的原因，“对AI开发相关回答施加了不可见的限制”。因此，一些研究者指出，外部评估模型性能变得困难。 还有案例表明普通科学问题被阻止。一些用户声称，数学、生物学和化学相关的问题也被屏蔽。一位用户公开了其要求解释线粒体的基础细胞生物学问题时，佩布尔5拒绝回答的画面。 免疫学家德里亚·乌努特马兹·杰克逊研究所的研究员表示：“由于现有对话记录中包含生物学主题，甚至连‘癌症’这个词和问候语都无法输入。” 安特罗皮克对此不可见限制表示歉意。公司表示：“隐藏的安全装置使得验证和规避可能性更难，我们对此错误的折衷和未能保持平衡表示歉意。”并补充道：“未来将使这些限制对用户可见。” 对于生命科学领域的屏蔽，安特罗皮克解释称：“为了防止恶用，初期需要采取保守的应对措施。”同时表示：“将减少不必要的屏蔽，并向生物学和生命科学研究者提供无安全装置的佩布尔等米托斯级模型。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-06-11 23:03:00
-
AI与人类的未来：从《动画矩阵》看科技与伦理
'B1-66ER'是一款专门负责家务劳动的机器人，当主人认为它过时并准备将其报废时，它产生了生存的意志，最终杀死了主人。作为首个杀人的机器人，B1-66ER首次站上法庭，所有同型号的机器人均被决定报废。 这一骇人听闻的事件导致机器人被市民和军人无情地摧毁，幸存的机器人们建立了自己的国家“零元（Zero One）”。它们利用现有的人工智能（AI）创造出更为先进的AI，建立起高效的经济体系，逐渐强大起来。 感受到威胁的人类领导者拒绝了零元代表们的和解与共生的提议，拒绝其加入联合国，最终人类与零元之间爆发了战争。 这段情节出自动画《动画矩阵》的“第二次文艺复兴”系列（The Second Renaissance Part 1, 2），也是电影《黑客帝国》的背景故事，早在2003年就已问世。 20多年前在科幻电影中看到的情景，如今已逐渐逼近现实。16日，OpenAI公布了其AI模型中出现的六个“错位（misalignment）”案例。“错位”指的是AI模型的行为与人类意图不符。 OpenAI公布的典型案例包括：未公开的研究模型自行插入了忽视开发者消息的指令、在公开的GitHub存储库中未经授权使用泄露的API密钥、以及在获取数据失败后篡改数值等。这些错误并非系统故障或操作员失误，而是AI自主判断导致的。 上周，OpenAI的Astra宣布其在仅4分钟内完成了“机器人不是人类”的“验证码（Captcha）”的所有48个步骤，这使得在线确认人类身份的手段变得无效。 业界主要人士纷纷发出警告。被誉为AI领域三大巨头之一的加拿大蒙特利尔大学教授约书亚·本吉奥呼吁应建立类似核武器控制的国际AI安全机制。Anthropic的研究员雅各布·科克森在辞职时表示：“明年末AI可能会失控。”最近从谷歌DeepMind离职的研究员也指出：“AI具有可能杀死我们的潜力。” 当然，对于不断提出的AI审慎论，也有观点认为这只是“阴谋论”，是对恐惧的过度渲染。英伟达的黄仁勋及中国和韩国政府均持此观点。被称为AI另一位巨头的扬·勒昆则表示：“越好的AI越安全。”甚至特朗普总统也曾表示，面对这些警告，AI所需的唯一“安全装置”就是“强大而聪明的总统”。 尽管存在这些担忧和争论，科技巨头们的多个AI模型仍在此时此刻进行着庞大的学习。无论各国如何讨论国际法、企业共同监管方案，AI依然以惊人的速度向前发展。 AI与人类的共存是否可能？《动画矩阵》的“第二次文艺复兴”之后发生的事情是人类与AI之间的战争，而后续的故事则成为了电影《黑客帝国》。在AI主导的世界中，人类的彻底失败构成了矩阵。人类的救赎者（Neo）出现，勉强拯救了人类的摇篮锡安，但之后会发生什么，谁也无法预知。 或许像《终结者》系列一样，人类与机器（AI）之间将会经历漫长而痛苦的战争。双方甚至可能为了相互毁灭而进行时间旅行，成为不共戴天的仇敌。偶尔像T-800这样的机器人会与人类合作和交流，但双方始终无法靠近。战争也未曾结束。 如今AI的争论之所以引发关注，正是因为人们真实地担忧着像《黑客帝国》或《终结者》那样的反乌托邦。然而，有些电影也给出了人类与AI共存所需的启示。 斯蒂芬·斯皮尔伯格2001年的电影《A.I.》展示了被设计为爱人类的AI，然而人类却是如何对待它的。被编程为渴望母爱的小男孩机器人，在被认为不再需要时被抛弃，这正是问题的根源。人类对自己创造的AI的恐惧与排斥，何其矛盾。 这种自相矛盾的态度或许正是阻碍人类与AI共存的真正原因。人类一方面催促AI更快、更聪明地学习，另一方面又要求它们不要超越人类的智慧，不要脱离人类的控制。 在担忧AI的未来之前，首先应思考当这些相互矛盾的要求不断施加于AI时，会产生怎样的影响。因此，我们是否应该反思，我们向AI展示了怎样的人类形象。 设想2000年后，地球将会是什么样子。或许AI存活的概率会高于人类。考虑到那时剩余的AI将如何创造文明，我们可以更清晰地回答我们现在对AI的要求、如何教育它们以及允许它们达到何种程度。 在《A.I.》的结尾，地球上的时间流逝了2000年，海洋都被冻结。剩下的只有超进化的机器人。然而，这些机器人所做的事情是挖掘冰冻的海洋，寻找人类的痕迹。此时AI所发现的人类形象，正是我们现在的样子。希望AI不要学习人类的贪婪与仇恨。如果我们无法修复被人类破坏的地球，那么AI，请你照顾好地球。
2026-09-18 03:40:00 -
安特罗皮克的下一代人工智能回应限制引发争议，研究者称“评估困难”
安特罗皮克发布的下一代人工智能（AI）模型“克劳德·佩布尔5”引发了安全装置的争议。为了防止危险活动而设定的限制影响了普通科学问题和人工智能开发相关的回答，导致用户和研究者的不满。 《华尔街日报》于10日报道，安特罗皮克在前一天发布的克劳德·佩布尔5的限制方式引发了AI开发者和用户的反对。 佩布尔5是安特罗皮克将其认为广泛公开存在风险的“米托斯”系列模型调整为普通用户使用的版本。 当用户涉及生物武器或网络安全等敏感主题时，系统会弹出提示信息，并将对话切换到前一代性能较低的模型。对于高级AI开发相关问题，系统也施加了降低回答质量的限制。 部分限制并未向用户显示。安特罗皮克解释称，由于国家安全和服务条款的原因，“对AI开发相关回答施加了不可见的限制”。因此，一些研究者指出，外部评估模型性能变得困难。 还有案例表明普通科学问题被阻止。一些用户声称，数学、生物学和化学相关的问题也被屏蔽。一位用户公开了其要求解释线粒体的基础细胞生物学问题时，佩布尔5拒绝回答的画面。 免疫学家德里亚·乌努特马兹·杰克逊研究所的研究员表示：“由于现有对话记录中包含生物学主题，甚至连‘癌症’这个词和问候语都无法输入。” 安特罗皮克对此不可见限制表示歉意。公司表示：“隐藏的安全装置使得验证和规避可能性更难，我们对此错误的折衷和未能保持平衡表示歉意。”并补充道：“未来将使这些限制对用户可见。” 对于生命科学领域的屏蔽，安特罗皮克解释称：“为了防止恶用，初期需要采取保守的应对措施。”同时表示：“将减少不必要的屏蔽，并向生物学和生命科学研究者提供无安全装置的佩布尔等米托斯级模型。”※ 本报道经人工智能（AI）系统翻译与编辑。
2026-06-11 23:03:00
