欢迎访问本站，持续更新中…
RSS

WikiFw 维基框架

模型开始自己改进自己 成绩从39%冲到71%

9 天前 AI4AI自我改进机器学习工程自动化

模型开始自己改进自己 成绩从39%冲到71%

AI进化训练场景

AI 编程现在的主流玩法还是"人下指令、模型写代码、人 review"。Frontis-MA1 这篇工作把链条往前推了一步：让模型在机器学习工程任务上自己完成写草稿、改进、调试、杂交的进化循环，人在旁边只维护验证环境。

四个算子：写、改、调、杂交

Frontis-MA1 是一个 350 亿参数的 AI4AI 模型，基于 OpenMLE 框架训练。框架包含可验证的任务环境、操作学习模块和长时程搜索。模型通过执行反馈驱动的强化学习和监督微调，掌握了四个程序进化算子：Draft（起草）、Improve（改进）、Debug（调试）、Crossover（交叉）。

整个过程可以这样理解：模型先写一版实现，跑任务环境拿到反馈，根据反馈改进，出错了自己调试，两个不同方案之间做交叉产生新方案，再进入下一轮。人不需要逐行介入，只负责保证验证环境可信。

放到机器学习工程的具体场景里，这个循环其实很像一个资深工程师的日常：写训练脚本，看 loss 曲线，改超参数，跑实验对比，觉得思路不对就换个方向。区别在于，这套循环跑在可验证的任务环境里，每一轮改进都有客观反馈，而不是靠人肉盯实验日志。算子里的 Debug 尤其值得注意——模型需要先定位自己实现里的错误，再修复，这比"照着提示改代码"要难一层。

39.39%到71.21%这个数字怎么读

论文在 MLE-Bench Lite 上报告了成绩：基础模型的奖牌平均分是 39.39%，叠加 OpenMLE-Evo 后到 60.61%，OpenMLE-Evo-Max 进一步到 71.21%。提升幅度相当可观，而且是在机器学习工程这类真实任务上的结果，不是玩具级 benchmark。

程序进化循环

有两点需要放在一起看。训练时对评测基准做了数据去重，这是 benchmark 可信度的基本要求，说明分数不是背题背出来的；但也要意识到，这个成绩是在特定评测集上的表现，跨任务的泛化能力还没有公开数据。

部署之前要算清楚的账

落到实际部署，这套流程有两个现实问题。

一个是算力。长时程搜索的代价是推理时要跑多轮"生成→执行→反馈→再生成"的循环，开销比单次生成高得多。生产环境要不要开这个循环、开几轮，是纯粹的成本决策。论文没有给出这部分的数据。考虑到搜索轮次和模型参数量，这个成本不是所有团队都愿意承担的。

另一个是验证反馈环。如果模型输出的改进直接进代码库，测试、静态检查、环境还原这些验证环节的可靠性，就成了安全边界。反馈信号错一次，模型就沿着错误方向迭代一轮。论文讨论的是训练方法，没有展开生产环境里验证链路怎么设计。

从工程自动化的角度看，真正值得关注的是"验证环境"在整个链路里的角色——模型自我改进能走多远，取决于反馈信号的质量，而不是模型本身。对自动化工程团队来说，与其纠结模型会不会失控，不如先把可验证的任务环境搭好。至于执行反馈驱动的强化学习会不会让模型在特定环境上过拟合，影响它在未见过的工程任务上的表现，目前没有公开数据能回答，这可能是接下来最值得追踪的问题。

关于维基框架

维基框架关注企业应用开发中的长期维护问题。在实际项目中，业务系统往往同时涉及权限、微服务、接口协议、部署环境等复杂因素，因此我们希望提供一套更容易扩展和维护的基础框架。