借美 AI 练兵!路透揭中国「蒸馏」手法 恐削弱晶片管制效果
路透报导,中国企业正以日益复杂的手法,利用美国领先AI模型生成的内容来训练本土竞争模型,借此扩大AI布局,并减轻美国收紧晶片管制的冲击。
路透梳理300多份中国学术论文、专利、企业揭露文件、征才广告与政府文件发现,「蒸馏」(distillation)技术已从学术实验走向产业界的主流应用。
资料显示,中国大陆的研究人员利用美国模型回答问题、撰写程式码、解决难题,陆企随后开发软体将流程自动化,再由专门人员整理材料,训练规模较小的本土模型。
北京也鼓励采用蒸馏技术,以便降低AI成本,让制造业更容易导入AI,但政府文件并未要求企业针对美国模型进行蒸馏。
蒸馏本身不违法,在其他地区也十分普遍。它虽然无法完整复制顶尖模型的能力,也无法省去对先进算力的需求,却能让本较低的小型模型学会部分能力,这可能降低中国对美国技术的依赖,削弱晶片管制的效果。
一名阿里巴巴前工程师表示,美国模型只需回答一次难题,中国团队就能保留范例,反复用来训练本土模型。
上海交通大学的研究人员曾从OpenAI的o1模型挑选约5,000个回答,整理成双语教材,用来训练阿里巴巴的Qwen模型。但研究人员也说,过度依赖蒸馏可能抑制原创,使开发者仰赖先进模型业者的技术突破。
蒸馏的争议在于使用方式。OpenAI原则上限制用户利用其模型生成内容开发竞争模型,Anthropic也限制未经许可训练竞争系统。美方7月向中方警告,部分行为可能涉及窃取智慧财产;中方则主张蒸馏是标准技术。
一名美国官员认为,大规模的蒸馏是中国AI模型能缩小与美国差距的主因。两位了解中国开发者运作情况的人士则说,工程、演算法、数据与模型设计的进步同样重要。
知情人士透露,随著蒸馏争议升温,中国开发者近几个月已向主管机构寻求指引,以厘清正常使用外国模型与有组织搜集模型生成内容作训练资料的界限。
