arXiv q-fin· Dung Cao, Palaash Gang, Arjun Veluri·· 5 小时前AI 评分64
审计研究指出 FLARE 金融大模型基准的评分部分由答案提取规则决定而非模型能力
What FLARE's Published Numbers Actually Measure
AI 导读
这篇 12 页 arXiv 论文审计了 FLARE 金融任务套件的评分管线，发现相当一部分评分单元格的结果由答案提取规则决定，而非被测模型的实际能力。论文指出 FLARE 与它分叉的 lm-evaluation-harness 在相同生成结果上采用不同的首个匹配判定规则，准确率差异最高达 0.4216，且没有任何排行榜说明自身使用的是哪一套规则。
来源：arXiv q-fin · arxiv.org