李在明总统指出，若AI（人工智能）深度伪造视频和图像在没有明确标识的情况下流通，可能会被视为证明事实的证据。
 
在青瓦台迎宾馆举行的科学技术信息通信部（宇宙航空厅）、广播媒体通信委员会、个人信息保护委员会的工作报告会上，李总统表示：“如今，人工智能创作物与真实情况的区分变得越来越困难。”
 
他强调：“如果没有标识，可能会引发严重误解，若被恶意利用，后果将非常严重。人工智能创作物所带来的风险已经在现实中显现，因此必须采取应对措施。”

 
根据现行《人工智能基本法》，生成型AI制作的视频和图像必须标明其为AI生成物。尤其是对真实存在的人或现象进行AI变形的深度伪造，用户必须能够立即识别，因此有义务进行可视化标识。若违反标识义务，最高可处以3000万韩元的罚款，但相关制裁规定目前已被暂时搁置一年。
 
李总统指出，现行法律仅对AI模型开发者和使用者规定了标识义务，而对一般传播者在删除或剪切生成物后重新传播的行为并未直接进行监管。
 

他还提到，国内门户网站在当事人举报名誉损害或权利侵害后，会优先屏蔽相关帖子，并进行异议申请程序。然而，海外平台在身份验证和删除措施方面并未得到有效实施。
 
在工作报告的开头，李总统表示：“未来我们可能需要在社会的各个领域与具有人类智力或超越人类智力的人工智能共同生活。”并指出：“全球正经历AI带来的文明重大转型。”
 
他认为：“这种情况是我们面临的关键机遇，只要我们善用优势，弥补劣势，就能成为引领者，而非追随者。只要稍微领先，就能享受无限的机会。”
 
李总统还介绍道：“自政府成立以来的一年内，我们已使科学技术创新生态系统正常化，纠正了不应有的研发（R&D）预算削减和对科学技术领域的粗暴处理，并成功吸引了民间的大规模投资。”