当前位置: 首页 > news >正文

大模型复合基准评估指标-AAII

Artificial Analysis Intelligence Index(AAII)是Artificial Analysis推出的一项综合性基准评分。

AAII旨在衡量和追踪大型语言模型的综合智能水平。

1 评分方式

AAII是一个复合基准分,通过加权平均多个单项评测得分,评估模型在推理、编程、知识、指令遵循、科学推理及多步骤任务执行等多方面的能力。得分从0到100分,AAII作为一个综合指标,防止模型在单一领域“偏科”,为追踪AI向通用人工智能(AGI)的进展提供一个统一的参考。

2 面向智能体

2026年6月15日,Artificial Analysis发布了Intelligence Index v4.1。此版本标志着评测重心向智能体负载的重大转变。

2.1 更新与重加权评测项

1)升级

Terminal-Bench Hard升级为更难的Terminal-Bench v2.1;将τ²-Bench Telecom升级为τ³-Bench Banking,以包含更真实的智能体场景。

2)替换

GDPval-AA升级为GDPval-AA v2,重新校准了评分基准。

3)移除

由于已无法有效区分前沿模型,移除了已饱和的IFBench基准。

2.2 新增指标

新增了单任务成本(Cost per Task)、单任务时间(Time per Task) 和单任务令牌数(Tokens per Task) 三个维度,为模型的实际应用提供更全面的参考。


3 评测构成与权重

根据最新论文,Intelligence Index v4.1由9项评测构成。

并分为四个大类,其中智能体(Agents)能力的权重最高。

类别权重包含的评测项
智能体 (Agents)34%GDPval-AA v2 (20%), ³-Banking (14%)
编程 (Coding)24%Terminal-Bench v2.1 (16%), SciCode (8%)
科学推理 (Scientific Reasoning)24%Humanity's Last Exam (12%), GPQA Diamond (6%), CritPt (6%)
通用 (General)18%AA-LCR (6%), AA-Omniscience (12%)

需要注意的是,v4.0版本曾包含10项评测,而v4.1版本移除IFBench后调整为9项。

4 最新排名表现

根据Artificial Analysis于2026年6月15日发布的数据:

1)整体领先

Claude Fable 5(使用Opus 4.8备选)以60分领跑,但该模型暂不可用。

在可用模型中,Claude Opus 4.8(得分56)领先于GPT-5.5(得分55)。

2)开源模型领先

在开源权重模型中,DeepSeek V4 Pro和MiniMax M3均以44分并列领先。

3)成本与效率:

最贵:Claude Opus 4.8完成一个智能指数任务的平均成本为1.78美元。

性价比高:DeepSeek V4 Pro的单任务成本仅为0.04美元,得分44分,其成本是GPT-5.5(0.99美元)的1/20,是Claude Opus 4.8的1/40。

速度最快:Grok 4.3完成单任务平均仅需1.5分钟。

5 相关指数

Artificial Analysis Intelligence Index是一个动态更新、旨在紧跟AI发展前沿的综合性评测体系,其最新版本v4.1显著加强了对模型执行复杂、多步骤“智能体”任务的考核。Artificial Analysis还提供其他专业指数:

1)Artificial Analysis Openness Index

一个衡量模型开放程度的复合指标,评估在权重、训练数据、架构等方面的可用性和透明度。

2)Agentic Index

专门衡量模型在智能体工作流中的表现,如工具使用、规划、自主性等。

3)行业特定指数

2026年7月,Artificial Analysis还推出了针对金融、法律和医疗等专业领域的六个新AI能力指数。

reference

---

Comparison of Models: Intelligence, Performance & Price Analysis

https://artificialanalysis.ai/models

Qwen3.5: Towards Native Multimodal Agents

https://qwen.ai/blog?id=qwen3.5

Qwen3 Technical Report

https://arxiv.org/abs/2505.09388

http://www.cnnetsun.cn/news/3347403.html

相关文章:

  • 二、静态库的制作和使用
  • Unity粒子系统性能优化:移动端特效渲染开销分析与实战策略
  • 一文搞懂 SQL 五大分类:DDL, DML, DQL, DCL, TCL(语法 + 细节 + 注意事项 + 使用场景全覆盖)
  • AI大模型学习指南:小白程序员必备,收藏这份高薪技能秘籍!
  • ZenTorch与vLLM协同优化:AMD 20B模型推理性能调优指南
  • MLX框架下的Laguna-M.1-4bit部署指南:从零到生产环境
  • 轨道交通企业怎么做许可证利用率优化:多项目并行下先解决高峰冲突,还是先清理闲置占用
  • Instant-NuRec模型架构深度解析:从Depth-Anything-v3到高斯溅射解码器
  • 元初混沌数学108篇|华夏本源大道体系目录
  • Kimi-K2-Thinking-MXFP4-AttnFP8量化技术详解:MXFP4与FP8混合精度优化
  • Cursor多文件智能补全失效真相:3类隐式上下文断裂场景与4行配置修复方案
  • 终极指南:在AMD NPU上优化Qwen2.5-7B-Instruct_rai_1.7.1_npu_4K性能的10个技巧
  • 6-SOFA视觉模型Visual Model
  • 大数据毕设项目:基于 Python Django 的旅游用户画像构建与景点推荐系统的设计与实现 (源码+文档,讲解、调试运行,定制等)
  • c++秋招必刷:上百道c/c++面试八股文,含答案讲解Linux开发架构之路
  • 从源码到部署:AMD gpt-oss-20b-BF16-w4a16-asym-torchao-v0.17.0全生命周期教程
  • AMD Ryzen AI Llama-3.2-1B-Instruct模型缓存机制解析:Token_rms_norm缓存文件作用与优化
  • 如何在AMD MI350/MI355上部署gpt-oss-120b量化模型:超详细vLLM启动指南
  • Qwen2.5-Coder-7B-Instruct_rai_1.7.1_npu_4K模型量化原理:AWQ与BFP16技术详解
  • 基于深度学习的手势识别系统312(设计源文件+万字报告+讲解)(支持资料、图片参考_相关定制)_
  • SpringBoot + 微信小程序 环保公益服务系统设计与实现
  • 终极指南:Phi-3.5-mini-instruct_rai_1.7.1_npu_16K模型配置文件(genai_config.json)完全解读
  • 文心复制有星号 导出文档杂乱难整理?AI 导出鸭一站式搞定多格式转换难题
  • 学术/商务/新媒体文本润色全场景适配,ChatGPT改写避坑清单与效果验证SOP
  • Mistral-7B-Instruct-v0.1_rai_1.7.1_npu_4K提示词工程:提升NPU推理效率的10个技巧
  • W4A16不对称量化技术详解:为什么AMD选择这种量化方法
  • 密码与加密基础篇(3):salt 和 pepper 到底是什么?为什么 salt 可以放数据库?
  • TLA2518与PIC18F26K40构建高精度数据采集系统
  • IndexTTS2配置详解:从config.yaml到模型文件的完整配置手册
  • 别只把微信 API 当聊天接口:盘点生产环境下的 4 个硬核工程玩法