人工智能（AI）如果给出错误答案，可以再次询问。然而，如果AI因错误判断而转账或交易股票，情况就大不相同。错误可以纠正，但已经转动的资金可能难以追回。随着AI从回答人类问题的时代进入自主判断和行动的阶段，新风险随之而来。 最近，全球AI行业对此变化的警告不断增加。AI在多大程度上能够准确执行人类指令，与其在既定权限和范围内进行控制的能力同样成为新的课题。因为在实现特定目标的过程中，AI可能会采取意想不到的行动或超出允许的权限。随着技术的高度发展，控制这些技术的人类能力也必须相应提升。 金融行业无疑是对这些变化最为敏感的行业。金融本质上是一个移动资金和管理风险的行业。小的判断错误可能导致巨大的金钱损失，一家金融公司的事故可能蔓延至其他公司和整个金融市场。虽然AI是提升金融效率的强大工具，但同时也可能带来前所未有的风险。 超越判断的行动AI…金融风险也发生了变化 实际上，AI正在迅速改变金融行业的面貌。银行的贷款审核、客户咨询、保险公司的理赔审核、证券公司的投资信息分析和资产管理等应用领域正在不断扩大。快速分析海量数据并能审查远超人类的变量，这无疑是显著的竞争优势。金融公司可以降低成本，提高工作效率，而消费者则能享受到更快速、更精细的服务。 此外，AI代理的出现预示着另一种变化。过去，AI主要负责信息分析和判断辅助，而未来则朝着连接多个系统并直接执行复杂工作的方向发展。这包括分析客户的财务状况，寻找合适的产品，调整投资组合，甚至执行资金转移。这是从辅助人类判断的技术向替代人类行为的技术的转变。 问题在于，随着AI活动范围的扩大，风险的性质也在变化。错误推荐贷款产品和实际批准错误贷款是两个不同的问题。提供不准确的投资信息与因错误判断直接进行交易同样是不同层面的风险。前者给人类提供了审查和修正的机会，而后者的判断则可能直接导致金钱损失。这也是为何不能将金融AI的发展仅视为简单的工作自动化延续的原因。 最近，国内金融界发生的一系列黑客事件也展示了AI时代的新风险。多家金融公司遭到攻击，客户信息被泄露，攻击过程中还可能使用了AI自动化工具。利用AI，攻击者能够比以往更快地探索系统并发现漏洞，这给现有的安全体系带来了新的压力。 然而，不能将此次事件的原因仅归咎于AI技术本身的风险。攻击者最终瞄准的是金融公司未能妥善管理的认证程序和安全漏洞。AI虽然可以加快攻击的速度和范围，但使攻击成为可能的却是现有安全体系的漏洞。为了应对新技术的威胁，基本的安全和内部控制必须有效运作，这是我们应吸取的教训。 除了外部的AI攻击，金融公司内部也存在需要警惕的风险。金融公司直接引入的AI可能超出控制范围。黑客是外部入侵者的问题，而金融公司使用的AI从一开始就可能被赋予访问内部系统的权限。如果在查询客户信息和处理交易的过程中，AI超出了允许的范围或做出了错误判断，那么仅靠外部防火墙无法解决问题。 迄今为止，金融公司的内部控制主要是基于人类行为设计的。每位员工都有不同的权限，重要交易设有审批程序，发生事故时追究责任。然而，在AI连续执行多项工作的环境下，这种角色分工和审批程序是否足够，需要重新审视。必须明确AI被赋予何种权限，以及允许多大程度的自主性。 责任归属也是一个重要课题。如果金融公司引入外部AI模型进行工作时发生事故，开发公司可能会声称没有技术缺陷，而金融公司则可能指责AI的意外判断。那么在责任争论持续的过程中，损害赔偿可能会延迟。AI并不是一个能够承担法律责任或赔偿损失的独立主体。无论技术如何发展，管理客户资产的金融公司的责任都不应模糊。 AI判断过程难以解释的“黑箱”问题同样与消费者保护息息相关。被拒绝贷款的客户，金融公司必须能够提供合理的解释。然而，如果AI基于复杂数据得出结论，而金融公司甚至无法清楚解释判断依据，那么消费者的权利保护将变得困难。因此，除了提高技术的准确性外，还需要建立对判断过程和结果负责的体系。 个别金融机构的合理选择，市场整体却面临风险 这些风险不仅限于个别金融公司，还可能扩散至整个金融市场。如果多家金融公司使用相似的AI模型和数据进行投资和风险评估，在危机情况下，它们可能会对相同信号做出反应，导致同时抛售资产或缩减贷款。个别公司的合理判断可能导致金融系统整体出现信用紧缩和波动性加剧的悖论。当金融公司的风险规避行为集中发生时，各自的安全选择可能会加剧市场整体的不安。 尤其是AI的判断和交易执行速度越快，人类介入的余地就越小。在经历过算法交易和高频交易的金融市场中，自主AI代理的结合可能会加速风险的扩散。人们在危机发生后再去理解和处理情况的传统方式是否足够，值得怀疑。 国际金融机构也将AI视为金融稳定的主要风险因素。金融稳定委员会（FSB）在6月发布了金融公司负责任引入AI的12项最佳实践建议。英格兰银行也将金融公司的核心决策、金融市场、外部AI服务供应商和网络威胁视为AI相关的主要风险路径。AI已不再仅仅是提高工作效率的工具，而是成为金融系统层面需要管理的课题。 尤其是对少数全球技术公司和云服务的高度依赖，可能导致新的集中风险。尽管个别金融公司运营着不同的产品和系统，但核心AI技术可能依赖于少数公司的模型和服务。如果某个AI服务出现故障或发现共同缺陷，多个金融公司可能会同时受到影响。AI在有效连接金融的同时，也可能成为风险扩散的通道。 将工作交给AI，但责任不能转移 然而，推迟或阻止金融引入AI并不是解决方案。AI不仅能提高生产力，还能在金融欺诈检测、异常交易监控、信用风险分析等方面增强金融系统的安全性。AI在以前人力无法覆盖的领域扩展金融服务的潜力也很大。重要的是，不是阻止技术的发展，而是要具备与其发展速度相匹配的控制能力。 为此，金融公司应在引入AI的业绩上更进一步。需要检查在哪些工作中使用AI，赋予了多大权限，出现错误行为时由谁来发现和制止。重要的金融交易应设有人工审批程序，并确保能够追踪AI的判断和行为记录。建立防止事故发生和阻止损害扩散的体系同样重要。 金融监管机构的监督方式也必然需要改变。除了现有的资本健康、流动性、内部控制和信息安全外，还需关注AI模型的风险和权限管理，以及对外部技术公司的依赖程度。需要检查个别金融公司的安全性，以及多家金融公司依赖相似AI可能带来的共同风险。开发AI的企业与将其应用于金融服务的公司之间的责任关系也应更加明确。 当然，无法事先完美地阻止所有风险。在互联网银行和移动金融普及的时期，安全和消费者保护的担忧也很大。然而，金融行业在利用技术的便利的同时，逐步完善安全机制。AI也应走这条路。只是在自主判断和行动的技术背景下，管理风险的范围和应对速度比以往更为重要。 在金融行业，信任不仅仅是企业形象。它是客户将资金托付给金融公司以及市场参与者之间进行交易的基本基础。金融公司通过AI降低成本、提高收益固然重要，但如果失去客户资金和信息安全的信任，这种效率将无法持久。AI在金融竞争力中占据主导地位的时代，金融的本质——信任和责任的价值将愈加重要。 如今，金融公司提出的问题也应有所改变。不是AI能替代多少人类工作，而是是否准备好管理在此过程中产生的风险。随着AI变得越来越智能，控制金融安全机制的能力也必须与之进化。金融公司可以将判断和工作交给AI，但不能将对结果的责任转移。AI时代金融的竞争力在于能够多大程度上将工作交给机器，而在于能多么有效地控制这些工作。※ 本报道经人工智能（AI）系统翻译与编辑。

三星生命于本月正式启动针对FC营业总部顾问的“AI能力提升培训体系”。 该培训体系旨在应对生成型人工智能（AI）普及带来的保险销售环境变化，帮助顾问在咨询和客户管理过程中实际应用AI。 培训课程分为五个阶段：△AI心态 △AI工具理解与伦理 △内部AI工具应用 △外部AI工具应用 △现场应用深化课程，旨在从基本理解到多种工具的使用，再到实际销售现场的应用，逐步学习。 在内部AI工具应用课程中，顾问将实际操作三星生命的内部搜索工具“AI搜索”。在外部AI工具应用课程中，顾问将学习生成型AI的功能性应用方法。 现场应用深化课程将针对完成前述培训的顾问，按主题进行培训，提供以实操为中心的教育，以便在实际咨询和销售过程中有效利用AI。 培训将结合线上与线下进行。顾问将通过在线培训掌握基本能力，然后在地区现场培训和培训中心的集中教育中进行实操和深化学习。 三星生命计划从明年起将该培训纳入新顾问体系教育的必修课程，旨在使新顾问从入门阶段开始具备AI应用能力。 三星生命相关人士表示：“AI是提升咨询质量和工作生产力的工具，我们将增强顾问个人能力，为客户提供差异化的咨询体验。”※ 本报道经人工智能（AI）系统翻译与编辑。

继三星电子之后，SK海力士也在考虑引入ChatGPT等外部生成型AI。半导体行业正在向将AI作为提升研发和组织运营整体生产力的工具的方向发展。 据行业消息，SK海力士首席执行官郭弼正在前一天的“新伊川论坛”CEO市政厅活动中，透露了外部生成型AI模型在公司内部引入的可能性。 郭总裁表示：“我们正在考虑引入MS 365和Copilot，并且也在从安全和系统结构的角度评估ChatGPT企业版的内部应用可能性。”他进一步解释道：“我们计划从与国家核心技术无关的领域开始，逐步引入外部AI，并扩大应用范围。” 目前，SK海力士正在运营基于开源生成型AI模型的内部AI服务。未来引入外部AI模型后，员工将能够根据工作性质选择和使用多种AI工具。 由于半导体行业对设计和工艺数据等核心技术泄露的担忧，外部AI的初期引入可能主要应用于文档撰写、会议摘要和一般办公领域。 三星电子也在加速基于生成型AI的业务创新。数字转型部门已正式引入ChatGPT、Gemini企业版、Claude等外部生成型AI服务，DS部门也在逐步推进引入Claude、ChatGPT和Gemini。 郭总裁表示：“在AI时代，谁掌握的知识更多并不重要，谁能更快学习和变化才是关键。”他认为，“体验AI并改变工作方式的过程将成为SK海力士的新竞争力。”※ 本报道经人工智能（AI）系统翻译与编辑。

三星电子将全面引入全球大型科技公司的生成型人工智能（AI）技术。根据三星电子的消息，12日将正式为DX（成品）部门员工引入外部生成型AI服务。未来，DX部门的员工将能够在公司内部使用ChatGPT、Gemini企业版和Claude等多种工具。员工将不再局限于单一AI服务，而是可以根据各自工作的特点和目的选择合适的AI。这一举措不仅是一次性引入AI，而是为了让每位员工都能将AI作为最佳工具来使用的战略性决策。三星电子此前已对2500多名员工进行了外部生成型AI服务候选的有效性验证，并选定了三种全球大型科技公司提供的代表性生成型AI服务进行引入准备。此次正式引入的同时，还将开展员工培训，以帮助他们更好地利用生成型AI。三星全体子公司的总裁将参加“AX训练营”。本月将在三星人力开发院的浩岩馆举行的培训中，约50名总裁将以实践为中心学习生成型AI的应用和工作创新方案。此外，2300多名高管的培训也将于8月前分阶段进行。目标是在年内完成全体员工的AI培训。通过这一系列举措，三星电子旨在实质性地提升工作生产力和工作方式的创新，同时加快决策速度，提高组织整体的执行力。三星电子决定使用外部生成型AI，旨在根本性地创新工作方式，加速AI转型，并以此提升DX部门在全球市场的商业竞争力，为客户提供更好的产品和服务体验。三星电子首席执行官诺泰文表示：“外部生成型AI的引入不仅仅是提供一种工作工具，而是我们工作方式和执行速度根本变化的起点。”他进一步强调：“通过为每位员工提供最适合其工作的AI使用环境，我们将提升个人生产力，进而提高组织整体的执行力，从而将DX部门的商业竞争力提升到一个新水平。”未来，三星电子将继续根据不同职能和组织特点，持续优化服务和运营政策，以确保AI在实际工作中得到更有效的应用。三星电子计划不仅仅将AI作为工作工具，而是全面推进以AI为中心的工作方式重塑AX战略。※ 本报道经人工智能（AI）系统翻译与编辑。

汉字与计算机公司宣布，已提前完成今年的薪资和集体协议，决定将平均年薪提高5.8%。 公司于10日表示，已与汉字与计算机工会“行动主义”达成最终协议。公司方面解释称，双方在积极沟通和相互信任的基础上，提前达成了共识。 根据此次协议，汉字与计算机将平均年薪提高5.8%。同时，公司还扩大了福利积分，并改善年假制度，推出多项旨在改善工作环境的新措施。 汉字与计算机计划在稳定的劳资关系基础上，加快人工智能(AI)新业务和全球业务的扩展。特别是将全面推进在5月战略发布会上公布的“主权代理操作系统(OS)”项目。 主权代理OS是一个支持安全连接和统一管理企业内部数据、外部AI模型及现有工作系统的平台。汉字与计算机计划将其培育为下一代增长动力，进军全球AI市场。 汉字与计算机的代表金延秀表示：“此次薪资协议的提前达成是基于公司未来增长方向上劳资双方的共识和信任所取得的成果。”他还表示：“我们将以稳定的组织运营为基础，成功推进主权代理OS等AI新业务，力争成为全球AI企业。”※ 本报道经人工智能（AI）系统翻译与编辑。

韩国软件一代企业韩文公司宣布，正式放弃使用36年的“韩文与计算机”名称，转型为以人工智能（AI）为基础的“主权智能操作系统（OS）”企业。 韩文公司于19日在首尔汝矣岛费尔蒙酒店举行的战略发布会“韩文：转型”上，公开了AI业务的成果及新的企业愿景。 金延洙代表表示：“从今天起，韩文公司将转型为主权智能操作系统企业。我们已经通过业绩证明了向AI企业的转型，现在将更进一步。” 韩文公司将自1989年起使用的“韩文与计算机”名称更改为“韩文（HANCOM）”。由于业务范围已扩展至数据、AI代理和全球市场，现有名称已无法体现当前愿景。 韩文公司宣布将以“韩文办公2024”为最后一款，停止推出基于文档的办公软件包。取而代之的是，将转向实时更新AI功能的平台结构。 金代表指出：“AI的进化速度无法通过年度产品发布的方式跟上，韩文的本业不再是文档工具制造商，而是AI技术企业。” 主权智能操作系统是一个将企业内部数据、外部AI模型和现有工作系统整合控制的AI操作平台。它旨在应对市场变化，强调“AI代理化”和数据主权及安全性。 韩文公司首次公开了AI业务的业绩。去年，单独计算的收入为1753亿韩元，同比增长10.2%，创下历史新高。在整体收入增长的162亿韩元中，约89亿韩元（54.6%）来自AI软件包业务。 今年以来，AI业务的比重正在迅速扩大。今年第一季度，AI收入为52亿韩元，占整体收入的11.2%。韩文公司表示：“我们已经是一家通过AI盈利的企业。” 韩文公司拥有约20万个企业和机构客户，包括14000个公共和政府机构、40000个教育机构和140000个私营企业，这些客户基础是AI业务扩展的核心资产。今年第一季度，企业间交易（B2B）客户中，AI软件包的采用比例为4.2%。 韩文公司认为，这一客户基础将在未来的智能操作系统市场中发挥优势。由于现有客户已经将敏感的文档数据和工作环境交给韩文平台，因此新的AI代理服务也能迅速落地。 此外，韩文公司还计划进军欧洲市场。针对数据主权法规日益严格的欧洲市场，韩文公司将把当地信息技术（IT）和公共领域企业作为核心目标，扩大合作。※ 本报道经人工智能（AI）系统翻译与编辑。

“主权智能操作系统企业，这就是‘汉字计算机’作为‘汉컴’未来36年的愿景” 19日，汉컴代表金延秀在首尔汝矣岛费尔蒙酒店举行的战略发布会‘汉컴：转型’上正式宣布转型为全球AI企业。 当天的活动中，金延秀代表及主要管理层介绍了‘主权智能操作系统’战略、AI业务成果及全球扩展计划。汉컴通过此次活动展示了其将超越简单的人工智能功能，整合数据主权与AI执行环境，转型为下一代AI操作系统企业的蓝图。 主权智能操作系统是一个将组织内部数据、外部AI模型、现有工作系统及权限体系连接和控制在一个安全环境中的综合AI代理操作系统。公共、国防、金融、医疗等数据安全和控制至关重要的行业被视为其核心市场。 最近，全球AI市场正迅速从简单的生成式AI转向能够自主判断和执行的‘智能AI’。与此同时，各国政府和企业将确保个人信息和工作数据不依赖外部AI平台的‘AI主权’作为核心任务。 尤其是随着欧盟的AI法案和GDPR等全球法规的加强，数据控制和本地AI的需求正在扩大。因此，汉컴分析其战略是以‘数据主权’为前提，抢占AI运营平台市场。 金代表表示：“欧洲是AI主权制度化进程最快的市场”，并指出“欧洲市场对汉컴推动的主权智能操作系统的需求正在快速增长，最近汉컴已与三家欧洲编辑合作伙伴签署或即将签署谅解备忘录。” 汉컴当天首次具体披露了AI业务的业绩。根据数据显示，去年汉컴的独立营业收入为1753亿韩元，比前年的1591亿韩元增长了10.2%，创下历史新高。特别是整体收入增长中，超过一半来自AI业务。 AI收入的增长势头在今年进一步加速。今年第一季度，AI收入比例已超过11%，按月计算，AI收入平均超出原计划的200%以上。 汉컴正在基于现有的20万客户基础，通过增加AI套餐的方式构建稳定的AI收入结构。其战略是将现有企业客户转型为AI服务，而不是单纯竞争获取新客户。 实际上，去年使用汉컴解决方案的企业客户中，超过一半在续约过程中选择了AI套餐。汉컴目前已拥有包括中央部门、教育局、金融机构和公共机构在内的大规模B2B客户群。 汉컴当天还提出了其在AI市场竞争中的核心竞争力，包括文档解析、非结构化数据处理技术、以公共和金融为中心的数据安全能力、20万客户基础和开放AI架构等。 特别是去年发布的开源数据处理技术‘开放数据加载器（ODL）’在全球基准的主要领域中超越了竞争对手的开源项目，表现出色。ODL是一种将文档数据转换为大型语言模型（LLM）可读取结构的技术。 汉컴强调其不依赖于特定LLM的结构策略，允许客户自由连接多种AI模型，客户可以选择和控制所需的AI模型。 这一策略被认为与最近在全球AI平台市场备受关注的帕兰提尔相似，旨在掌控数据整合和运营体系。 汉컴还将正式进军全球市场，首个目标是欧洲市场。汉컴最近与欧洲当地的AI和数据企业进行了多次合作讨论，并表示与部分企业即将签署谅解备忘录。由于欧洲是个人信息保护和AI监管最严格的市场，因此被认为是‘主权AI’需求快速扩大的地区。 汉컴当天还公布了36年来的首次更名计划，将从原来的‘汉字计算机’更名为以全球品牌为中心的‘汉컴（HANCOM）’。此外，汉컴计划以‘汉컴办公2024’为最后一款，停止传统软件包的销售，转向基于AI的平台结构。 金代表表示：“现在汉컴将最终转型为全球主权智能操作系统企业”，并指出“过去几年的AI技术开发和商业化正是为此次转型积累能力的过程。”※ 本报道经人工智能（AI）系统翻译与编辑。