← 返回信息流
技术博客arXiv cs.AI·3 小时前

PoQ-Judge:去中心化大模型推理的成本感知质量评估框架

原标题:PoQ-Judge: A Multi-Architecture Evaluation Framework for Cost-Aware Proof-of-Quality in Decentralized LLM Inference

速览

针对去中心化大模型推理网络,研究提出PoQ-Judge框架,利用专用裁判模型对查询-输出对进行评分,无需真实参考。该框架对比了TextCNN、MiniLM和DeBERTa三种架构,最佳模型在无参考评分中表现优异,且级联评估可降低72.7%成本。

AI 深度解读

AI 正在阅读原文并生成深度解读…(首次约 20–40 秒,之后秒开)
查看原文 →arxiv.org