字节跳动创始人张一鸣在6日举行的集团管理层会议上指示禁止在公司AI模型开发过程中使用竞争对手的模型进行‘蒸馏’。据《中国经济周刊》7日报道,张一鸣在最近的内部会议上也曾指示不要进行蒸馏,并在6日的会议上再次确认了这一方针。
张一鸣强调,尽管由于禁止蒸馏,字节跳动的AI基础模型‘Seed’在性能评估或基准排名上可能落后于深思科技、奇米、Q1等中国竞争对手,但这也是必须承受的。
模型蒸馏是指以性能优异的AI模型为老师,让其他AI学习其回答的方式。由于利用了已验证模型的推理结果,这种方法可以大幅缩短开发周期并迅速提升性能。然而,张一鸣认为,蒸馏从长远来看可能会阻碍技术创新。他指出,如果进行竞争模型的蒸馏,就难以自我提升根本算法和推理能力。
当天,字节跳动首席执行官梁汝波也在大型语言模型(LLM)开发方面表示:“扎实基础,接受短期的落后是重要的,确保长期竞争力才是关键。”他强调:“最重要的是方向不能动摇。”他进一步解释道:“要实现通用人工智能(AGI),必须培养扎实的技术基础文化,而不是追求即时成果。”字节跳动正在开发系统,以防止开发者秘密使用外部AI模型的输出作为学习数据,并在内部应用。
※ 本报道经人工智能(AI)系统翻译与编辑。


