随着前沿人工智能(AI)模型可能对人类构成威胁的“AI威胁论”在全球范围内引发关注,韩国在AI安全应对方面的人力、预算和核心基础设施与主要国家相比明显不足。
根据李正汉民主党议员28日从科学技术信息通信部(科技部)和AI安全研究所获得的资料,AI安全研究所(AISI)内负责评估和应对AI威胁的核心组织“AI安全评估室”实际评估人员仅有6人。在评估室的7名成员中,除去负责法律和规范的1人,真正的技术评估人员仅为6人。
研究预算的差距也非常明显。AISI目前隶属于科技部的韩国电子通信研究院(ETRI),今年的预算为8900万元。
相比之下,英国的预算约为1216亿元,美国的预算约为232亿元。日本则在追加预算中将34亿元大幅增至800亿元以上。
韩国在自有基础设施设备方面也较为薄弱。英国安全研究所获得政府层面15亿英镑(约合2.7万亿元人民币)的国家“计算”优先分配权。
而韩国仅拥有5台图形处理器(GPU),其中2台是租用的民用云服务器。
目前,AISI作为ETRI的直属部门,难以招聘到顶级的AI安全专家。同时,缺乏独立的监管和监督权力也是一个问题。
此外,根据现行的AI基本法,违反安全措施的整改命令所处的罚款最高仅为3000万元,缺乏有效的制裁手段来应对全球大型科技公司的威胁。
李正汉议员表示:“为了应对可见的威胁,需要建立AI安全体系,修订AI基本法,赋予AISI法律独立性,并保障其独立的预算和人事权,以增强实际应对能力。”他进一步指出:“仅靠对全球大型科技公司缺乏实效的罚款规定,无法充分保障国民的安全。应当实现有效的制裁手段,以便在威胁发生时能够进行实际控制和整改,并在国家层面上建立完善的AI安全治理。”
※ 本报道经人工智能(AI)系统翻译与编辑。


