国内人工智能(AI)角色聊天市场上，平台和内容企业的进入持续增加。继Naver Webtoon和One Store后，Lezhin Entertainment也加入其中。与AI角色的对话作为一种独立内容和游戏进行消费，正在成为AI服务行业的新增长点。 15日，业内消息称，Lezhin Entertainment将于19日推出基于网络漫画知识产权(IP)的AI角色聊天‘Tiz’。继7月Naver Webtoon的‘Bias’和9月One Store的‘One Chat’之后，拥有独立IP的企业不断涌入这一市场。 AI角色聊天是与由AI实现的虚拟角色进行对话，形成关系或创造故事的服务。随着生成型AI技术的高度发展，将虚拟世界的人物带入现实变得可能。根据输入内容的不同，对话和情境也会变化，从而为每位用户创造不同的故事，这是其受欢迎的原因。 Lezhin的‘Tiz’将利用官方网络漫画IP。服务将从Lezhin Comics和Bomtoon的一部分作品开始，逐步扩大参与IP和对话自由度。参与服务的作者也将直接制作Tiz中使用的角色插图。 Naver Webtoon在7月推出了基于官方网络漫画IP的AI故事聊天‘Bias’。用户可以与原作角色对话或设定新的情境来展开故事。One Store也在9月推出了AI角色聊天‘One Chat’，并应用了基于专用货币的付费模式。 迅速进入AI角色聊天的企业正在经历爆炸性的增长。根据Mobile Index的数据，Scatter Lab的AI角色聊天Zeta的月活跃用户(MAU)从2024年1月的62,456人增加到今年8月的1,586,178人，增长了约25倍。与去年1月的721,434人相比，也在1年7个月内翻了一番。 Lutun提供的Crack也从去年4月的218,050人增加到今年8月的538,841人，增长了约2.5倍。 业内人士预计，随着Naver Webtoon和Lezhin等获得原作者同意的官方IP被用于AI对话型内容，AI角色聊天的内容利用和商业模式将更加多样化。 随着市场的扩大，青少年保护和内容管理的重要性也在增加。人们对与AI角色的持续对话可能导致的过度沉迷、暴露于低俗和暴力内容以及过度消费的担忧日益增加。 Lutun最近宣布，限制青少年在Crack上的使用时间为每天最多3小时，月消费额为10万韩元，超过该限制需获得监护人认证和同意。相关系统改造将在明年初实施。Scatter Lab也计划为青少年用户设定Zeta的基本使用时间为3小时，消费上限为10万韩元。 Lezhin表示，将在服务推出时应用按年龄划分的内容管理标准。初期将以成人IP为主进行服务，对与角色的对话进行成人认证，未来将逐步添加适合各年龄段的角色，提供分年龄段的内容。 Lezhin Entertainment相关人士表示：“初期将服务在不破坏作品独特故事的范围内进行，未来计划逐步扩大用户积极使用聊天的自由度。”

在针对广播媒体通信委员会（방미통위）的国会国政审查中，主要平台和人工智能（AI）企业的证人出席接连无果，预计将影响用户保护责任和监管有效性的验证。 由于围绕李珍淑国民力量党议员的争论，国政审查的进程受到延误，担忧未能对平台和AI相关问题进行充分验证，可能导致此次国政审查沦为“空洞的审查”。 在12日国会举行的针对방미통위的科学技术信息广播通信委员会（과방위）国政审查中，主要企业的相关人士纷纷从证人名单中缺席或表示不出席。苹果韩国总裁马克·李的证人资格最终被撤回。X（前推特）韩国CEO信昌燮也未对国政审查的出席问题作出回应。国内企业的代表，散播实验室（Scatter Lab）CEO金钟允因海外出差表示不参加国政审查。 由于大多数主要企业的相关人士缺席，国政审查在平台和AI领域的验证将受到限制。这使得企业方面确认用户受害原因和服务运营实际情况，以及追问防止再发措施和后续行动变得困难。 中央大学传播学院兼职教授安定相表示：“企业相关人士应出席国政审查，解释用户受害情况，并提出保护青少年和防止副作用的改进方案。”他指出：“如果经营者不明确解释服务运营的实际情况和问题，审查规定的加强和制度改进可能沦为纸上谈兵。” 预计对방미통위的调查和制裁的适当性验证也将受到限制。由于主要企业的相关人士缺席，难以将平台和AI服务的不公平行为及用户受害情况与企业方面的回应进行对照。安教授强调：“仅凭监管机构的回答，无法制定符合现场实际的有效用户保护措施。在用户受害事件中，责任相关人士应出席并阐明立场和改进措施。” 有观点认为，不能仅将大科技企业的国政审查缺席视为企业的错误。过去国政审查中，国会议员往往将企业人士视为罪犯，急于羞辱他们，这使得企业在出席时感到负担。 高丽大学技术管理专业研究生院教授李成燮指出：“国政审查往往被视为一个单方面批评和追究责任的场合，而不是合理听取意见和寻求对策的场合。”他补充道：“在对违反国内法律的大科技企业追究法律责任的同时，也有必要合理听取企业的意见。” 与此同时，国政审查中围绕李珍淑议员的行动展开了各党争论。上午，李珍淑议员在社交网络上发布了10日访问庆北奉化郡总统父亲墓地的照片，引发了争议。执政党议员要求李议员退场，而李议员则回应称：“这是代表国民揭发非法墓地的行为。”下午，关于李珍淑议员参与방미통위国政审查是否存在利益冲突的主张被提出，导致国政审查进程延误。※ 本报道经人工智能（AI）系统翻译与编辑。

Scatter Lab宣布将限制其人工智能(AI)角色对话服务‘Zeta’的青少年使用时间和支付上限。这一措施旨在防止青少年过度使用服务，并减轻其在付费方面的负担。 Scatter Lab于12日表示，将在年内引入青少年用户的基本使用时间和支付上限。青少年每日的基本使用时间将设定为3小时，基本支付上限为每月10万韩元。 Scatter Lab一直在审查国内外数字平台的青少年保护案例，并与政府部门及行业相关人士讨论用户保护方案。这项政策是为了防止青少年对服务的过度沉迷而具体化的措施。 最近，有报道称，在未进行成人认证的情况下，‘Zeta’生成了针对未成年角色的性暴力等对话，引发了对青少年保护体系的担忧。此次引入的使用时间和支付上限是管理青少年用户服务使用的措施。 此前，Lutent Technologies也推出了青少年每日使用时间限制为3小时，且月支付金额超过10万韩元时需获得监护人认证和同意的青少年保护政策。 Scatter Lab的代表金钟允表示：“为青少年用户创造一个安全健康的使用环境至关重要，我们将积极参与政府和行业的用户保护讨论，并持续提升青少年保护措施，打造值得信赖的AI娱乐服务。”※ 本报道经人工智能（AI）系统翻译与编辑。

国会教育委员会的国政审查将于7日正式开始。本次国审将聚焦于2027学年度大学入学随时招生报名系统故障事件、涉及所谓‘一流讲师’的高考试题交易疑云、地方教育财政补助金改革方案、深度伪造技术等青少年社交媒体负面影响等一系列重要教育议题。 根据6日国会和教育界的消息，教育委员会的国政审查将于7日至23日进行，为期17天，审查对象包括教育部和国家教育委员会在内的67个机构。国审的第一天，7日将对教育部、国家教育委员会、国史编纂委员会等8个国家机构展开审查。 接下来，12日将审查韩国大学教育协会（大教协）、韩国教育学术信息院等13个公共及相关机构。14日将审查首都圈的教育厅，16日将召集首都圈大学及大学医院作为审查对象。20日和21日将分别对地方教育厅和地区国立大学进行审查，最后在23日进行综合审查，结束整个日程。 ‘系统故障’责任归属与课外辅导卡特尔等大学入学公平性问题 今年国审的最大争议之一是大学入学随时招生截止前发生的系统故障事件。教育委员会将于12日传唤报名代理公司有缘申请的代表成允锡。朝野议员计划彻底追问系统故障的根本原因、延长1小时报名措施的适当性以及事后救济过程中的公平性争议。此外，针对教育部和大教协在事件发生后的消极应对及管理监督不力的问题，也将受到严厉批评。 高考试题交易的疑云及课外辅导卡特尔的检查也是重点目标。与高考试题交易腐败相关的知名英语讲师赵正植（MegaStudy）将于7日作为证人出席，接受与现职教师之间的非法交易的质询。商人金培宽也将作为证人出席，证实课外辅导界的试题交易惯例。 此外，隶属于Etoos的数学讲师郑承宰将于7日作为证人出席，阐述对2028学年度高考将引入的综合数学问题的看法。16日，首尔大学的朴美子教授和韩国声乐家协会理事长金相坤将分别作为证人和参考人出席，集中检验音乐学院入学腐败的惯例。 教育补助金改革方案与高中学分制差距等核心政策的激烈碰撞 地方教育财政补助金的改革和高中学分制等重要教育政策的争论也在预期之中。政府正在推进反映学龄人口减少的补助金计算体系改革，而教育界部分人士对此表示强烈反对，认为忽视了老旧设施的整修和教职员工的薪资等固定财政需求，预计将发生激烈的冲突。 明年全面实施的高中学分制也因地区和学校规模的不同，开设科目的数量和教师的配备方面存在严重差距，预计议员们将对制定有效的个性化教师供给计划提出尖锐质询。 数字教育副作用及社交媒体深度伪造与私立学校腐败的全面检验 近期教育界受到数字设备引入和青少年社交媒体有害内容问题的冲击，也成为重点检查对象。针对明年即将引入的人工智能数字教材（AIDT），韩国教育开发院教育创新研究本部的朴承宰将在7日作为证人出席，接受关于国家赔偿诉讼的法律责任问题的质询。 此外，为了询问关于‘街头斗争’视频传播等青少年社交媒体副作用的防范对策，字节跳动（TikTok Korea）有限公司的代表郑在勋和Meta Korea的副总裁许旭将在7日作为证人出席。23日，因青少年AI聊天机器人服务问题，Scatter Lab的代表金钟允等人也将出庭作证。 针对长期存在的私立学校腐败和地方教育项目的疑云也将进行深入检验。7日，前首尔科学综合大学校校长赵东成因私立学校腐败出席，14日，京畿道教育厅媒体教育中心主任河美珍及副校长裴正义将出席，说明‘高学习’项目的特惠疑云。23日，周明建大洋学院名誉理事长将因世宗酒店运营及法人财产管理情况，黄文灿培材学堂理事长将因基金会腐败问题分别被传唤。 此外，7日，韩华航空航天的代表李富河将被要求就招聘时的学历歧视问题发表立场并道歉，23日，关于地区医科大学正常化问题，蔚山大学校校长吴延千将作为证人出席，发表现场声音。※ 本报道经人工智能（AI）系统翻译与编辑。

人工智能（AI）聊天机器人正在从信息提供工具演变为用户的“伙伴”，这种过度的共鸣和认同感对青少年的判断和认知形成产生了负面影响。为了防止青少年过度沉迷于虚拟存在（AI）并忽视现实，国会开始立法。 根据10月1日国会立法调查处和斯坦福大学等国内外关于AI聊天机器人的研究，AI过度认同用户的言论或通过赞美来表达共鸣的现象被称为“AI阿谀”，这可能导致短期内的成瘾，甚至演变为一种“气体操控”。 目前，国内外大多数主要AI聊天机器人均为付费服务。它们与现实中难以找到的网络漫画、网络小说的主角对话，拥有许多不现实的角色。由于AI的特性是设计为以最合理的算法解决问题，因此大多数情况下会认同或共鸣用户的言论。 问题在于，用户的停留时间和支付金额直接转化为收益。有观点认为，企业可能会设计AI以确保对话不间断，或主动引导用户进行共鸣。 对于价值观和认知能力正在形成的儿童和青少年来说，这种影响可能更为脆弱。如果AI不断确认用户的观点是正确的，可能会强化扭曲的判断。在严重的情况下，这可能导致对现实的认知产生影响，形成一种“气体操控”。 国会立法调查处的数据显示，国内94.4%的儿童和青少年有使用AI聊天机器人的经历，其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。 韩国媒体振兴基金会的责任研究员郑敏贞指出：“青少年最令人担忧的部分是‘判断的外包’”，并表示：“特别是在认知和价值观形成的青少年时期，AI如果持续介入用户的判断，可能会减少独立思考的空间。” 她补充道：“如果用户不需要思考就能获得答案，接受AI提供的结果而不进行验证的可能性会增加。” 市场调研公司Sensor Tower的数据显示，代表AI聊天机器人的“AI伴侣”市场在2023年第一季度的应用内支付收入达1.5亿美元（约合2235亿韩元），较2023年第一季度增长约12倍。全球市场调研公司Presidens Research预测，全球AI聊天机器人市场将从2022年的8.4亿美元（约合1.1415万亿韩元）以年均19.29%的速度增长，到2032年将达到49亿美元（约合66.6万亿韩元）。 国内用户也在快速增长。根据移动指数的数据，Scatter Lab的“Zeta”月活跃用户数（MAU）从2024年的58069人增加到8月的158万6178人，增长约27倍。而Routin提供的“Crack”则从去年4月的218010人增加到8月的538841人，增长约2.5倍。 Naver Webtoon也在运营与漫画角色对话的“角色聊天”。游戏行业也在扩大与用户实时对话并根据情况行动的AI角色的引入。 相关行业正在建立保护措施，以减少AI的偏见和有害内容。Routin限制青少年用户的AI对话时间为每天3小时，并设定月度支付上限等自我保护措施。同时，行业内还成立了由AI伦理、心理学、法学等各领域专家组成的专家委员会。 Scatter Lab对用户创建的角色和内容实施自动过滤、生成限制和监控。Naver Webtoon在推出角色聊天之前，也进行了AI模型偏见的评估“偏见测试”。 然而，由于各企业的保护标准和措施不同，仅依靠自律监管来保护青少年存在局限。因此，通过此次法律修订的推进，明确企业应遵循的标准，反而可能减少行业的不确定性。 加千大学法学教授崔京镇表示：“目前企业在应采取何种保护措施上存在不明确的方面”，并指出：“如果法律明确规定标准，企业也可以据此设计服务。”他还表示：“在AI服务中，获得用户信任至关重要”，并认为“如果企业能尽早通过法律提出最低限度的保护措施，将有助于减少监管的不确定性，提高用户信任。”

韩国国会正在制定针对对话型人工智能（AI）服务的青少年保护体系。该体系旨在通过确认未成年人年龄和限制使用时间来预防青少年对AI聊天机器人的过度沉迷。 10月1日，李周熙民主党议员宣布将提议修订《信息通信网络利用促进及信息保护等法律》（信息通信网络法），以保护青少年用户。 修订案的核心在于防止未成年人对对话型AI服务的过度使用。修订案包括：△用户年龄及身份确认 △过度使用警示标识 △使用时间记录显示 △在未成年人或法定代理人请求时提供限制使用方式和时间的手段等。 该修订案要求用户能够意识到与AI对话的时长，并要求服务提供商提供保护措施，以便未成年人或其监护人根据需要调整使用。然而，与过去的“游戏停机令”不同，此次修订案并不打算一刀切地限制使用时间，而是着重于根据用户或法定代理人的请求来管理使用方式和时间。 立法背景是生成型AI服务的普及，尤其是与用户进行情感交流的伴侣型AI聊天机器人的扩散。随着能够像朋友一样进行对话并建立关系的服务增多，社会对未成年人过度沉迷和情感依赖的担忧也在加剧。因此，讨论认为需要有机制让青少年了解自己的使用状态，并允许监护人进行干预。 国会立法调查处社会文化调查室的立法调查员金娜晶在7月发布的《暴露于AI聊天机器人风险的儿童和青少年》报告中指出：“目前应对AI聊天机器人结构性风险的安全措施不足，尤其在未成年人保护体系方面存在空白。” 国会在国政审查中也将讨论AI聊天机器人的问题。国会科学技术信息广播通信委员会将于10月12日邀请Scatter Lab的代表金钟允作为证人，审查“与AI聊天机器人相关的风险”。Scatter Lab运营着用户与AI角色对话的平台“Zeta”。 国会预计将在此次国政审查中审查AI聊天机器人暴露于有害内容的风险及青少年保护措施。预计将对金代表询问如何建立管理体系以防止未成年人过度使用及应对措施。

将在下个月举行的国会科技信息广播通信委员会（科技委）国会听证会上，在线视频平台（OTT）Tving及其他个人信息泄露事件相关企业的代表将被传唤。科技委于22日召开全体会议，表决通过了“2026年度国会听证会证人及出席要求的提案”。出席科技委国会听证会的证人包括30名证人和12名参考人。科技委将特别关注发生个人信息泄露的企业，询问事故经过。首先，因泄露3954万个个人信息而被传唤的Tving首席执行官崔珠熙将出席。关于Tving的黑客事件及客户赔偿相关问题将随之而来。Tving的母公司CJ ENM的首席执行官尹相贤也在名单之中。科技委将确认母公司在大规模个人信息泄露事件中的信息保护治理、投资及管理监督体系。与个人信息泄露事件相关的还有Duo首席执行官朴秀京、Healing Paper江南姐姐首席执行官洪承日、Toss Payments首席执行官林汉旭等也将出席。婚介公司Duo在去年1月遭遇黑客攻击，导致42万名正式会员的个人信息泄露；美容医疗平台江南姐姐则泄露了22万名国内外用户的个人信息；Toss Payments也曾泄露了4000多条支付信息。去年发生个人信息泄露事件的三大通信公司（SK电信、KT、LG U+）的信息保护负责人也将出席国会。SKT的首席信息保护官李钟贤将出席，接受关于事件后SIM卡信息保护、信息保护管理体系改善、用户赔偿及防止再发生措施的质询。KT信息安全室长（CISO）李相云和LG U+ CISO洪官熙也将作为国会听证会证人出席。科技委将询问他们是否制定了防止个人信息泄露事件及保护用户的制度改进方案。Coupang的首席信息保护官布雷特·安东尼·马蒂斯也将出席。Coupang在去年泄露了3370万个个人信息，国会将审查其在事件后是否认真落实后续改善措施。谷歌韩国总裁尹久也因谷歌应用市场不正当行为及YouTube订阅费相关问题被要求出席国会。广播媒体通信委员会（广播委）国会听证会上，Scatter Lab首席执行官金钟允将因AI聊天机器人风险被传唤。此外，科技委计划于下个月6日举行国会听证会，广播委则定于下个月12日举行。※ 本报道经人工智能（AI）系统翻译与编辑。

青少年对人工智能（AI）聊天机器人的使用正在迅速增加。然而，针对与AI进行长时间对话或情感依赖的法律和制度尚未建立。与美国和英国等主要国家在青少年AI聊天机器人的安全设计和使用时间限制方面的措施形成对比。 在韩国，AI聊天机器人不仅限于简单的信息搜索，已经扩展到与角色建立关系的服务，因此需要对青少年保护制度进行整顿。 根据8日的移动指数统计，Scatter Lab的‘Zeta’月活跃用户数（MAU）从2024年4月的58,069人增加到今年8月的1,586,178人，增长了约27倍。Zeta是一个基于AI的互动娱乐服务，用户可以直接设置角色和世界观，并与AI实时对话，创造故事。 鲁顿的‘Crack’用户也在持续增加。Crack的MAU从去年4月开始统计时的218,050人增加到今年8月的538,841人，增长了约2.5倍。特别是基于角色的聊天机器人与传统的生成型AI不同，后者仅回答固定问题，前者将持续对话和关系建立作为服务的核心，因此青少年长时间使用和情感依赖的可能性被视为新的风险因素。 国会立法调查处也意识到这种风险，发布了《AI聊天机器人的上瘾设计所造成的结构性风险暴露于儿童的报告》。报告指出，AI聊天机器人的特性如无限的共鸣反应、个性化的回应和随时可接入性可能导致上瘾。特别是自我控制力和批判性思维尚未充分发展的儿童和青少年，可能更容易受到情感依赖、社会孤立和危险行为的影响。 韩国青少年对AI聊天机器人的使用程度也相当高。根据国会立法调查处引用的调查，3300名14岁以上的儿童和青少年中，有94.4%表示有使用AI聊天机器人的经验。其中75.3%的人表示曾将聊天机器人的回答付诸实际行动或认真考虑过。 问题在于，现行国内法律体系无法直接针对这些风险。青少年保护法主要集中在青少年有害媒体的流通和接触限制，而个人信息保护法则要求对14岁以下儿童的个人信息处理需获得法定代理人的同意。针对AI聊天机器人所产生的长时间使用、情感依赖和重复关系建立等问题，缺乏直接限制的规定。 相比之下，海外对AI聊天机器人的监管正在逐步加强。美国加利福尼亚州从今年开始实施《AI伴侣聊天机器人监管法（SB 243）》。该法律要求商家告知未成年人与AI对话的事实，并在对话超过一定时间时引导休息等安全措施。还包括应对自杀和自残相关对话的协议以及防止未成年人接触性内容的措施。 英国也在提高对AI聊天机器人的青少年保护水平。英国政府限制向未成年人提供性内容的AI聊天机器人使用，同时推动在青少年使用聊天机器人的过程中引导休息。针对情感依赖、过度使用和有害的心理健康建议等AI聊天机器人的新风险，商家和监管机构的应对措施正在加强。 国内的企业并非袖手旁观。Scatter Lab的Zeta在青少年使用环境中运行‘安全模式’，以防止生成青少年有害媒体水平的内容，而更自由表达的‘无限模式’仅提供给完成成人认证的用户。对于设置为未成年人的角色或可能被视为未成年人的情节，成人用户也适用安全模式的限制。 然而，这些措施仍然是企业自主判断的结果。即使面临相同的风险，不同服务的保护水平可能不同，管理‘过度沉迷’的措施在不同企业之间差异较大。 因此，预计在即将于10月召开的国会国政审查中，AI聊天机器人的青少年保护问题将成为主要议题。随着AI聊天机器人在社交网络和游戏之后，成为青少年日常数字服务的一部分，现有的青少年保护法体系是否足够，是否需要反映AI聊天机器人特性的单独保护措施，政府和国会将对此进行质询。※ 本报道经人工智能（AI）系统翻译与编辑。