OpenELM离线使用时性能如何

AI技术
小华
2025-08-18

OpenELM离线使用时性能有以下特点:

  • 准确性:在相似参数量下,比OLMo等模型准确率更高,如11亿参数的OpenELM在ARC-C基准上准确率为42.24%,比12亿参数的OLMo高。指令微调后,平均准确率可提高1-2%。
  • 推理速度:在M2 Max平台,3B模型推理速度可达每秒34token,顶级PC配置下可达70token,但比优化后的OLMo等模型慢,因RMSNorm实现未优化,且有较多层。
亿速云提供售前/售后服务

售前业务咨询

售后技术保障

400-100-2938

7*24小时售后电话

官方微信小程序