国内人工智能(AI)角色聊天市场上，平台和内容企业的进入持续增加。继Naver Webtoon和One Store后，Lezhin Entertainment也加入其中。与AI角色的对话作为一种独立内容和游戏进行消费，正在成为AI服务行业的新增长点。 15日，业内消息称，Lezhin Entertainment将于19日推出基于网络漫画知识产权(IP)的AI角色聊天‘Tiz’。继7月Naver Webtoon的‘Bias’和9月One Store的‘One Chat’之后，拥有独立IP的企业不断涌入这一市场。 AI角色聊天是与由AI实现的虚拟角色进行对话，形成关系或创造故事的服务。随着生成型AI技术的高度发展，将虚拟世界的人物带入现实变得可能。根据输入内容的不同，对话和情境也会变化，从而为每位用户创造不同的故事，这是其受欢迎的原因。 Lezhin的‘Tiz’将利用官方网络漫画IP。服务将从Lezhin Comics和Bomtoon的一部分作品开始，逐步扩大参与IP和对话自由度。参与服务的作者也将直接制作Tiz中使用的角色插图。 Naver Webtoon在7月推出了基于官方网络漫画IP的AI故事聊天‘Bias’。用户可以与原作角色对话或设定新的情境来展开故事。One Store也在9月推出了AI角色聊天‘One Chat’，并应用了基于专用货币的付费模式。 迅速进入AI角色聊天的企业正在经历爆炸性的增长。根据Mobile Index的数据，Scatter Lab的AI角色聊天Zeta的月活跃用户(MAU)从2024年1月的62,456人增加到今年8月的1,586,178人，增长了约25倍。与去年1月的721,434人相比，也在1年7个月内翻了一番。 Lutun提供的Crack也从去年4月的218,050人增加到今年8月的538,841人，增长了约2.5倍。 业内人士预计，随着Naver Webtoon和Lezhin等获得原作者同意的官方IP被用于AI对话型内容，AI角色聊天的内容利用和商业模式将更加多样化。 随着市场的扩大，青少年保护和内容管理的重要性也在增加。人们对与AI角色的持续对话可能导致的过度沉迷、暴露于低俗和暴力内容以及过度消费的担忧日益增加。 Lutun最近宣布，限制青少年在Crack上的使用时间为每天最多3小时，月消费额为10万韩元，超过该限制需获得监护人认证和同意。相关系统改造将在明年初实施。Scatter Lab也计划为青少年用户设定Zeta的基本使用时间为3小时，消费上限为10万韩元。 Lezhin表示，将在服务推出时应用按年龄划分的内容管理标准。初期将以成人IP为主进行服务，对与角色的对话进行成人认证，未来将逐步添加适合各年龄段的角色，提供分年龄段的内容。 Lezhin Entertainment相关人士表示：“初期将服务在不破坏作品独特故事的范围内进行，未来计划逐步扩大用户积极使用聊天的自由度。”

人工智能（AI）聊天机器人正在从信息提供工具演变为用户的“伙伴”，这种过度的共鸣和认同感对青少年的判断和认知形成产生了负面影响。为了防止青少年过度沉迷于虚拟存在（AI）并忽视现实，国会开始立法。 根据10月1日国会立法调查处和斯坦福大学等国内外关于AI聊天机器人的研究，AI过度认同用户的言论或通过赞美来表达共鸣的现象被称为“AI阿谀”，这可能导致短期内的成瘾，甚至演变为一种“气体操控”。 目前，国内外大多数主要AI聊天机器人均为付费服务。它们与现实中难以找到的网络漫画、网络小说的主角对话，拥有许多不现实的角色。由于AI的特性是设计为以最合理的算法解决问题，因此大多数情况下会认同或共鸣用户的言论。 问题在于，用户的停留时间和支付金额直接转化为收益。有观点认为，企业可能会设计AI以确保对话不间断，或主动引导用户进行共鸣。 对于价值观和认知能力正在形成的儿童和青少年来说，这种影响可能更为脆弱。如果AI不断确认用户的观点是正确的，可能会强化扭曲的判断。在严重的情况下，这可能导致对现实的认知产生影响，形成一种“气体操控”。 国会立法调查处的数据显示，国内94.4%的儿童和青少年有使用AI聊天机器人的经历，其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。 韩国媒体振兴基金会的责任研究员郑敏贞指出：“青少年最令人担忧的部分是‘判断的外包’”，并表示：“特别是在认知和价值观形成的青少年时期，AI如果持续介入用户的判断，可能会减少独立思考的空间。” 她补充道：“如果用户不需要思考就能获得答案，接受AI提供的结果而不进行验证的可能性会增加。” 市场调研公司Sensor Tower的数据显示，代表AI聊天机器人的“AI伴侣”市场在2023年第一季度的应用内支付收入达1.5亿美元（约合2235亿韩元），较2023年第一季度增长约12倍。全球市场调研公司Presidens Research预测，全球AI聊天机器人市场将从2022年的8.4亿美元（约合1.1415万亿韩元）以年均19.29%的速度增长，到2032年将达到49亿美元（约合66.6万亿韩元）。 国内用户也在快速增长。根据移动指数的数据，Scatter Lab的“Zeta”月活跃用户数（MAU）从2024年的58069人增加到8月的158万6178人，增长约27倍。而Routin提供的“Crack”则从去年4月的218010人增加到8月的538841人，增长约2.5倍。 Naver Webtoon也在运营与漫画角色对话的“角色聊天”。游戏行业也在扩大与用户实时对话并根据情况行动的AI角色的引入。 相关行业正在建立保护措施，以减少AI的偏见和有害内容。Routin限制青少年用户的AI对话时间为每天3小时，并设定月度支付上限等自我保护措施。同时，行业内还成立了由AI伦理、心理学、法学等各领域专家组成的专家委员会。 Scatter Lab对用户创建的角色和内容实施自动过滤、生成限制和监控。Naver Webtoon在推出角色聊天之前，也进行了AI模型偏见的评估“偏见测试”。 然而，由于各企业的保护标准和措施不同，仅依靠自律监管来保护青少年存在局限。因此，通过此次法律修订的推进，明确企业应遵循的标准，反而可能减少行业的不确定性。 加千大学法学教授崔京镇表示：“目前企业在应采取何种保护措施上存在不明确的方面”，并指出：“如果法律明确规定标准，企业也可以据此设计服务。”他还表示：“在AI服务中，获得用户信任至关重要”，并认为“如果企业能尽早通过法律提出最低限度的保护措施，将有助于减少监管的不确定性，提高用户信任。”

生成型人工智能(AI)初创公司斯凯特实验室宣布，在其AI角色平台‘Zeta’上新增了根据故事情境实时变化的‘视觉小说模式’。 斯凯特实验室于28日正式推出了Zeta的新游戏模式‘视觉小说模式’。该模式将以文本为中心的故事聊天与视觉表现结合，用户在进行对话时，角色和背景会根据故事情境实时变化。 当用户推进故事时，角色的表情和行为会随情境变化，场景转换时背景也会随之改变。同时，增加了选择项和骰子事件等游戏元素，增强了用户选择对故事发展的互动性。 该模式还支持基于AI的实时内容生成。当故事中出现新角色时，AI会实时生成角色图像并反映在场景中。用户在创建新情节时，只需输入简单的设定和参考图像，AI便会生成角色图像、表情、背景以及故事开头的引入部分。 此外，系统还提供了根据故事情境和氛围应用创作者注册服装的功能。创作者自行制作的服装可以出售给其他用户，从而实现内容创作的盈利。 斯凯特实验室计划通过视觉小说模式将以文本为中心的AI故事聊天扩展为视觉内容。 斯凯特实验室首席执行官金钟允表示：“‘视觉小说模式’是将与AI角色的互动提升为更具沉浸感的视觉体验的重要转折点。我们将继续基于在全球AI市场上获得认可的斯凯特实验室技术，为用户提供与AI共同创作自己故事的新娱乐体验。”※ 本报道经人工智能（AI）系统翻译与编辑。

青少年对人工智能（AI）聊天机器人的使用正在迅速增加。然而，针对与AI进行长时间对话或情感依赖的法律和制度尚未建立。与美国和英国等主要国家在青少年AI聊天机器人的安全设计和使用时间限制方面的措施形成对比。 在韩国，AI聊天机器人不仅限于简单的信息搜索，已经扩展到与角色建立关系的服务，因此需要对青少年保护制度进行整顿。 根据8日的移动指数统计，Scatter Lab的‘Zeta’月活跃用户数（MAU）从2024年4月的58,069人增加到今年8月的1,586,178人，增长了约27倍。Zeta是一个基于AI的互动娱乐服务，用户可以直接设置角色和世界观，并与AI实时对话，创造故事。 鲁顿的‘Crack’用户也在持续增加。Crack的MAU从去年4月开始统计时的218,050人增加到今年8月的538,841人，增长了约2.5倍。特别是基于角色的聊天机器人与传统的生成型AI不同，后者仅回答固定问题，前者将持续对话和关系建立作为服务的核心，因此青少年长时间使用和情感依赖的可能性被视为新的风险因素。 国会立法调查处也意识到这种风险，发布了《AI聊天机器人的上瘾设计所造成的结构性风险暴露于儿童的报告》。报告指出，AI聊天机器人的特性如无限的共鸣反应、个性化的回应和随时可接入性可能导致上瘾。特别是自我控制力和批判性思维尚未充分发展的儿童和青少年，可能更容易受到情感依赖、社会孤立和危险行为的影响。 韩国青少年对AI聊天机器人的使用程度也相当高。根据国会立法调查处引用的调查，3300名14岁以上的儿童和青少年中，有94.4%表示有使用AI聊天机器人的经验。其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。 问题在于，现行国内法律体系无法直接针对这些风险。青少年保护法主要集中在青少年有害媒体的流通和接触限制，而个人信息保护法则要求对14岁以下儿童的个人信息处理需获得法定代理人的同意。针对AI聊天机器人所产生的长时间使用、情感依赖和重复关系建立等问题，缺乏直接限制的规定。 相比之下，海外对AI聊天机器人的监管正在逐步加强。美国加利福尼亚州从今年开始实施《AI伴侣聊天机器人监管法（SB 243）》。该法律要求商家告知未成年人与AI对话的事实，并在对话超过一定时间时引导休息等安全措施。还包括应对自杀和自残相关对话的协议以及防止未成年人接触性内容的措施。 英国也在提高对AI聊天机器人的青少年保护水平。英国政府限制向未成年人提供性内容的AI聊天机器人使用，同时推动在青少年使用聊天机器人的过程中引导休息。针对情感依赖、过度使用和有害的心理健康建议等AI聊天机器人的新风险，商家和监管机构的应对措施正在加强。 国内的企业并非袖手旁观。Scatter Lab的Zeta在青少年使用环境中运行‘安全模式’，以防止生成青少年有害媒体水平的内容，而更自由表达的‘无限模式’仅提供给完成成人认证的用户。对于设置为未成年人的角色或可能被视为未成年人的情节，成人用户也适用安全模式的限制。 然而，这些措施仍然是企业自主判断的结果。即使面临相同的风险，不同服务的保护水平可能不同，管理‘过度沉迷’的措施在不同企业之间差异较大。 因此，预计在即将于10月召开的国会国政审查中，AI聊天机器人的青少年保护问题将成为主要议题。随着AI聊天机器人在社交网络和游戏之后，成为青少年日常数字服务的一部分，现有的青少年保护法体系是否足够，是否需要反映AI聊天机器人特性的单独保护措施，政府和国会将对此进行质询。※ 本报道经人工智能（AI）系统翻译与编辑。

韩国的뤼튼科技（뤼튼）宣布，将在其人工智能（AI）对话内容平台“크랙（Crack）”上实施青少年使用时间和支付限制，以加强对青少年的保护。 뤼튼于8日公布了加强크랙青少年保护政策的计划，决定将青少年每日使用时间限制为最多3小时，并将月支付金额设定为10万元的上限。 如果青少年用户希望超过每日3小时的使用时间，必须经过监护人认证和同意程序。月支付金额若超过10万元，同样需要监护人认证和同意。 现有的青少年保护政策也将根据使用模式的变化进行全面检查和补充。크랙目前已实施内容生成政策、年龄分级管理、作品审核系统、搜索与推荐限制、举报与封禁功能以及对违规账户的制裁等保护措施。뤼튼将分析最新的使用模式，评估各项政策的有效性，并在必要时进行修改和补充。 针对青少年用户的年龄认证手段也在考虑扩大。目前，크랙通过国家指定的身份确认机构——移动通信公司提供的身份认证服务“PASS”来区分成人和青少年。뤼튼正在与国内外案例一起，审查其他能够验证安全性的多种认证手段。 该政策经过制度性和技术性审查及系统改进后，预计将在明年初正式实施。 ※ 本报道经人工智能（AI）系统翻译与编辑。