把自然语言规则编译成本地小模型：一次训练，反复复用

结论先行

"按规则写正则难、按情况调提示词烦、每次都调用云端大模型又慢又贵"是工程团队处理小而重复的文本任务时的常见痛点。该论文给出的思路是：把自然语言规则当作"源代码"，让大模型当一次老师，自动出题、训练一个小适配器，得到一个只完成该任务、可在本机或端侧反复调用的神经函数。论文同时强调教师模型只在编译阶段出现，运行时不再依赖它。

事实与出处

• 来源：arXiv 2609.04199v1，题目《Compile by Training: Turning Natural Language Specifications into Local Neural Functions》。
• 方法概述：用户在编译时用自然语言描述任务（例如"把地址拆成省市区三段"），由一个或多个教师模型生成任务相关样本，再用这些样本训练一个紧致解释器上的小型适配器，得到一个可复用的神经函数；运行时不再需要教师模型。
• 论文给出的取舍判断：与"为每条输入调用远程大模型"相比，本地小函数避免了重复费用、延迟和对外部供应商的依赖；与手写规则相比，省去了对长尾语言现象的逐条维护。

我司判断

这条路线与当前端侧推理的工程趋势一致：把大模型作为一次性工具，把数据/规则蒸馏成小模型或适配器，是把 AI 能力稳定落到生产环境的常见路径。对企业而言，吸引力在于三点：一是一次训练后单位调用成本接近零；二是不再受制于供应商的可用性与价格变化；三是数据和规则掌握在内部，便于合规审计。

需要注意，论文描述的是研究层面的方法学，并未给出可商用的产品形态，泛化边界、长尾准确率、漂移与版本管理等问题仍需要在真实业务中验证。

局限

• 教师模型在编译阶段仍决定样本质量，规则模糊或任务主观时，小函数容易继承教师模型的偏差。
• 论文未披露具体任务上的准确率、推理时延和体积等量化数据，离落地参考尚有距离。
• 对版本回滚、A/B 测试、监控告警等工程化能力未展开，仍属研究阶段思路。