"在人工智能(AI)时代,仅依靠人类逐一验证虚假信息的方式已经不够。平台必须持续管理和公开算法的偏见性和公正性。"
7日,车美英在首尔江南区韩国科学技术会馆举行的2026世界华人科学技术大会主题演讲后接受采访时表示,AI时代应对虚假信息的方向应如此。
他进一步指出:“虚假信息的传播不再是人与人之间的传播,而是通过伪装成人类的AI账户群体长期进行。”
车美英担忧,如果AI持续注入虚假信息,不仅个人选择会受到影响,甚至民主也会受到动摇。他表示:“关键在于基于AI的内容是出于什么意图和目的。”
关于政府实施虚假操控信息根除的监管,他指出,仅靠法律和制度难以解决问题。车美英表示:“虚假新闻的责任主体非常多,包括生成虚假新闻的主体、未能阻止其在社交网络(SNS)上传播的平台以及转发的用户。”
他还提到:“全面监控所有领域在现实中是困难的。”并指出:“像选举或重要社会议题等在网络公共论坛上形成的意见需要集中监控,以便影响决策或投票。”
车美英还指出,检测AI生成内容的技术尚不完善。他表示:“虽然不断出现判断AI生成内容的技术,但规避这些技术的生成方式也在不断发展,因此还不能认为这是一个完全成熟的领域。”
他还指出,信息流通结构本身正在发生变化。过去主要依靠人类直接验证虚假信息,而最近平台利用算法管理内容的比例正在增加。
车美英表示:“现在很多人在询问他人之前,首先会向AI提问。”他指出:“AI与个人的对话在外部是不可见的,因此很难衡量AI向用户提供了什么信息,是否传递了错误信息。”
他强调,随着AI与用户对话的增加,平台在验证算法的可靠性和偏见性方面的责任也会加大。车美英表示:“在偏见和公正等多个方面建立基准,并透明地公开结果,这样才能确认平台为社会价值所做的努力。”
车美英是一位利用数据科学和人工智能(AI)研究解决虚假信息、贫困和公共行政等社会问题的专家。
他的主要研究领域是“为人类服务的数据科学”。他进行的研究包括利用AI和大数据分析虚假新闻传播机制、虚假信息检测、基于卫星影像的贫困地区分析以及公共服务AI等社会问题解决型AI研究。由于这些研究成果,他获得了2024年洪振基创造人奖和今年的科学技术勋章创新奖。
※ 本报道经人工智能(AI)系统翻译与编辑。


