在软件技术领域，UIUC张令明组与BigCode组织的研究者近日发布了一款名为StarCoder2-15B-Instruct的代码大模型，该模型在代码生成任务中取得显著进展，超越了CodeLlama-70B-Instruct，位居性能榜首。
自对齐策略的突破
StarCoder2-15B-Instruct的核心优势在于其采用的纯自对齐策略，该策略避免了使用昂贵的人工标注数据或依赖于商业大模型如GPT4的数据，降低了成本并减少了版权风险。在HumanEval测试中，该模型以72.6%的Pass@1成绩超越了CodeLlama-70B-Instruct的72.0%。同样在LiveCodeBench数据集评估中，它的表现甚至超过了基于GPT-4数据训练的同类模型，展现了强大的自学能力。
技术解密
StarCoder2-Instruct的数据生成流程包括三个核心步骤：
1. 种子代码片段的采集：从The Stack v1中筛选出高质量的种子函数，以确保代码的质量和多样性。
2. 多样化指令的生成：基于种子函数中的不同编程概念生成多样化的代码指令。
3. 高质量响应的生成：采用编译运行引导的自我验证方式，确保每个指令都有一个准确且高质量的响应。
详细流程剖析
- 种子代码片段：从The Stack V1中经过严格筛选的Python种子函数，排除静态错误，避免了数据污染，并通过自身评估能力筛选文档质量。
- 指令生成：基于Self-OSS-Instruct技术生成多样化编程指令，通过范例（代码片段，概念，指令）的结构设计生成任务指令。
- 自我验证机制：生成测试用例并执行，确保每个生成的响应都是高质量的，并通过去重处理兼顾数据集的多样性和质量。
全面评估与卓越表现
StarCoder2-15B-Instruct在EvalPlus基准测试中表现出色，超越了其他大型模型，同时在LiveCodeBench和DS-1000等评估平台上也展现了强劲的竞争力。该模型的开源训练流程，为该领域的研究和发展提供了坚实的基础。
作者介绍
张令明老师，UIUC的资深学者，长期致力于AI大模型在软件合成、修复和验证方面的研究，其团队在自动软件合成和机器学习系统可靠性提升方面取得了显著成果。
未来展望
StarCoder2-15B-Instruct的成功实践预计将激励更多研究者投入到代码模型自我调优领域的研究，推动技术的进一步发展，为社会智能化发展注入新动力。
[参考资料]：
– StarCoder2-15B-Instruct-v0.1：指令调优模型
[starcoder2-self-align]：自我对齐流程
[StarCoder2-Self-OSS-Instruct]：自生成的指令调优数据集
本文整理自相关信息，并结合专业知识进行解读。
相关文章
