PoQ-Judge:去中心化大模型推理的成本感知质量评估框架
原标题:PoQ-Judge: A Multi-Architecture Evaluation Framework for Cost-Aware Proof-of-Quality in Decentralized LLM Inference
速览
针对去中心化大模型推理网络,研究提出PoQ-Judge框架,利用专用裁判模型对查询-输出对进行评分,无需真实参考。该框架对比了TextCNN、MiniLM和DeBERTa三种架构,最佳模型在无参考评分中表现优异,且级联评估可降低72.7%成本。
AI 深度解读
AI 正在阅读原文并生成深度解读…(首次约 20–40 秒,之后秒开)
查看原文 →arxiv.org
