随着人工智能（AI）聊天机器人成为青少年新的沟通和娱乐工具，韩国也开始出台直接限制使用时间和消费金额的青少年保护政策。考虑到用户在与AI对话过程中可能会沉迷并长时间使用服务，企业自发地设置了安全措施。
뤼튼科技（뤼튼）于8日宣布了加强青少年保护政策的计划。核心内容是对使用时间和消费金额设定上限。计划将青少年使用AI聊天机器人“克拉克”的每日使用时间限制为最多3小时，月消费金额不超过10万韩元。
AI聊天应用的使用时间正在快速增长。2024年4月，AI聊天应用的总使用时间约为110万小时，而到今年3月已增至约6310万小时，短短两年内增长了57倍。随着使用时间的增加，沉迷的青少年也在增加。
克拉克是一项AI娱乐服务，用户可以创建自己的AI角色或选择现有角色进行对话，并创作自己的故事和作品。基本上可以免费使用，但若想进行更深入的对话或生成图像，则需充值付费货币“克拉克币”。由于与角色的对话时间越长，付费货币的使用也可能增加，因此决定对使用时间和消费金额进行共同管理。
뤼튼单独设定使用时间上限是因为AI聊天机器人的服务结构与传统的信息搜索型AI不同。用户不是简单地提问并获得答案后结束服务，而是可以与特定角色持续对话，建立关系和故事。
뤼튼还计划加强年龄认证方式。目前，克拉克通过移动通信公司提供的身份认证服务“PASS”来区分成年人和青少年。公司正在与国内外案例一起审查包括额外认证手段在内的方案，以提高年龄确认的准确性和安全性。
内容安全措施也将进行调整。将全面检查克拉克的内容生成政策、年龄分级管理、作品审核系统、搜索和推荐限制、举报和屏蔽功能、违规账户制裁等现有青少年保护体系，以适应使用模式的变化。同时，将加强过滤不当或危险对话的额外过滤器和安全系统提示，提升AI安全技术。
此次举措被解读为뤼튼在业务增长的同时，也在加强对用户保护的责任。最近，뤼튼已启动企业公开（IPO）的主承销商选择程序，开始扩大业务。뤼튼首席执行官李世英此前也表示，致力于打造用户可以信赖和安全使用的AI。
뤼튼计划在完成制度和技术审查及系统改进后，从2027年初开始正式实施强化的青少年保护政策。
뤼튼首席产品官移动在接受采访时表示：“我们深刻认识到为所有人提供安全和健康的人工智能服务的社会责任，将在优先考虑青少年用户安全的同时，努力创造能够展现创造力的服务。”
※ 本报道经人工智能（AI）系统翻译与编辑。
