【太平洋科技快讯】据澎湃新闻报道,国内大模型行业竞争持续升温,字节跳动创始人张一鸣近期在内部会议针对模型研发路线发声。
字节内部知情人士透露,伴随国内多款开源大模型快速迭代,行业竞争加剧,也让字节 Seed 团队内部出现不少关于模型蒸馏路线的讨论。字节跳动创始人张一鸣极少在 Seed 团队会议上发言,但就在近日的内部会议中,张一鸣明确表示,做模型要坚持长期主义、延迟满足感,而不是用别人的输出,换一时的榜单排名。字节跳动 " 应该愿意为长期目标牺牲一部分短期收益 "。
据了解,字节跳动内部对开源模型严禁蒸馏,还通过 API 检测等技术手段在内部加强相关限 制。张一鸣认为,蒸馏会阻碍真正意义上的长期技术突破