← 返回信息流
技术博客arXiv cs.CL·23 小时前

SwiftTrans框架弥合大模型代码翻译功能与效率差距

原标题:Bridging Functional Correctness and Runtime Efficiency Gaps in LLM-Based Code Translation

速览

尽管大语言模型提升了代码翻译的功能正确性,但翻译程序运行效率往往低于人工编写代码。为此,研究提出SwiftTrans框架,包含利用并行上下文学习生成多样候选的多视角探索阶段,以及通过显式比较差异选择最优候选的差异感知选择阶段。实验表明,该框架在CodeNet、F2SBench和新增的SwiftBench基准上,均实现了正确性与运行效率的显著提升。

AI 深度解读

弥合大模型代码翻译中的功能正确性与运行时效率鸿沟

背景

随着摩尔定律(Moore's Law)效应的逐渐减弱,软件性能优化的重要性日益凸显。在程序质量的评价体系中,**功能正确性(Functional Correctness)运行时效率(Runtime Efficiency)**正变得同等重要。

近年来,大型语言模型(LLMs)在自动化代码翻译领域取得了显著进展,极大地提升了生成代码的功能正确性。然而,相比之下,翻译后代码的运行时效率却长期被忽视。初步研究表明,由 LLM 生成的翻译代码往往比人类编写的代码运行更慢,且这一性能差距无法仅通过提示工程(Prompt Engineering)来有效弥补。

针对这一痛点,研究人员提出了一种新的代码翻译框架,旨在同时优化代码的功能正确性和执行效率。

核心内容

本文提出了一种名为 SwiftTrans 的代码翻译框架,该框架包含两个关键阶段,旨在解决 LLM 在代码翻译中“写得对但跑得慢”的问题。

1. 多视角探索(Multi-Perspective Exploration)

在这一阶段,核心组件 MpTranslator 利用**并行上下文学习(Parallel In-Context Learning, ICL)**技术,生成多样化的翻译候选方案。

  • 机制:通过并行处理不同的上下文示例,MpTranslator 能够探索多种可能的翻译路径和代码实现风格,避免陷入单一的、可能低效的翻译模式。
  • 层级引导(Hierarchical Guidance):为了帮助 LLM 更好地适应这一组件,研究引入了层级引导机制,指导模型从不同抽象层次或视角生成候选代码。

2. 差异感知选择(Difference-Aware Selection)

在生成多个候选代码后,第二阶段的核心组件 DiffSelector 负责从中识别出最优解。

  • 机制:DiffSelector 并不仅仅依赖静态的代码质量评分,而是通过**显式比较(Explicitly Comparing)**不同翻译候选之间的差异,来评估它们的性能潜力。这种差异感知机制能够捕捉到细微的代码结构变化对运行时效率的影响。
  • 序数引导(Ordinal Guidance):为了增强 DiffSelector 的选择能力,研究引入了序数引导机制,帮助模型理解不同候选方案之间的优劣排序关系。

3. 基准测试扩展

为了更准确地评估翻译代码的运行时效率,研究团队对现有的基准测试进行了扩展,并引入了一个新的基准测试 SwiftBench

  • CodeNet:原有基准的扩展。
  • F2SBench:原有基准的扩展。
  • SwiftBench:全新引入的基准,专门用于衡量代码翻译中的运行时效率指标。

关键要点

  • 问题现状:LLM 生成的代码虽然在功能上往往正确,但在运行时效率上显著低于人类编写的代码,且单纯依靠提示工程无法解决此问题。
  • 解决方案 SwiftTrans
    • 双阶段架构:由“多视角探索”和“差异感知选择”组成。
    • MpTranslator:利用并行上下文学习生成多样化候选代码。
    • DiffSelector:通过显式比较差异来筛选最优候选代码。
  • 引导机制创新
    • 为 MpTranslator 引入层级引导,提升多视角探索的质量。
    • 为 DiffSelector 引入序数引导,提升差异比较和选择的准确性。
  • 评估体系完善:扩展了 CodeNet 和 F2SBench,并新增 SwiftBench,填补了运行时效率评估的空白。
  • 实验结果:在 CodeNet、F2SBench 和 SwiftBench 三个基准测试上,SwiftTrans 均在功能正确性和运行时效率方面实现了持续且一致的改进。

意义与影响

这项研究的重要意义在于它纠正了当前 LLM 代码翻译领域过度关注“功能正确性”而忽视“运行时效率”的偏差。

  1. 性能优化的新范式:通过引入并行上下文学习和差异感知选择,SwiftTrans 证明了可以通过算法层面的创新(而非仅靠提示词优化)来显著提升 LLM 生成代码的执行效率。
  2. 工业界应用价值:随着硬件性能增长放缓,代码执行效率直接关系到云计算成本和用户体验。SwiftTrans 提供的框架有助于企业更可靠地将遗留代码迁移到现代语言或平台,同时保证性能不降级。
  3. 基准测试的进步:新增的 SwiftBench 和扩展的现有基准,为学术界和工业界提供了一个更全面的评估工具,推动了代码翻译技术向“正确且高效”的双重目标迈进。
查看原文 →arxiv.org