Apertus 1.5:瑞士的完全开放模型学会了读图像和音频

苏黎世联邦理工学院、洛桑联邦理工学院和 CSCS 在 7 月 24 日发布了 Apertus 1.5:完全开放的 8B 和 70B 模型,支持图像和音频输入,上下文 262K,采用 Apache 2.0。音频理解仍处于实验阶段。

  • 新发布
  • 阅读约 3 分钟
  • 发布于

苏黎世联邦理工学院(ETH Zurich)、洛桑联邦理工学院(EPFL)和瑞士国家超级计算中心(CSCS)在 2026 年 7 月 24 日发布了 Apertus 1.5。这个模型家族有 8B 和 70B 两种规格,现在除文本外也能接受图像和音频输入,上下文窗口为 262,144 token,带有可选的思考模式,采用 Apache 2.0 许可证。

有什么新内容

Apertus 1.5 在第一代 Apertus 1.0 的基础上继续预训练:8B 模型又训练了 4 万亿 token,70B 模型又训练了 2 万亿 token,总量分别达到 19T 和 17T token。架构没有变化:采用 xIELU 激活函数的纯解码器 Transformer,用 AdEMAMix 优化器训练。图像和音频以离散 token 的形式,与文本放在同一个序列里,分别经过基于 Emu3.5 的图像分词器和 WavTokenizer 进入模型,而不是通过单独的视觉编码器,模型只生成文本。上下文窗口是 Apertus 1.0 的四倍,思考是聊天模板的一个开关,而不是另一个模型。

在技术报告里,8B 模型在知识、指令遵循和文化类基准上领先于同级别的完全开放模型,而专门的视觉和音频模型在感知任务,以及英语和其他高资源语言的转写上仍然领先。项目方称音频理解还处于实验阶段。这些都是开发者自己的评测。

运行它

BF16 权重在 8B 模型上约 18.4 GB,70B 模型约 144.6 GB。发布时,模型卡称相关支持还没有进入已发布的 Transformers 或 vLLM 版本,并指向 Swiss AI 的分支和一个 Docker 镜像。Hugging Face 上的仓库设有访问授权,下载前必须先接受访问条款。模型卡称不提供输出过滤,所以请自行添加防护措施,并建议大约每六个月更新一次权重,以便纳入数据删除请求。思考模式下不支持工具调用,也不支持视频输入,需要先抽取视频帧,再作为图像传入。

许可证

Apertus 在最完整的意义上是开放的。权重、中间检查点、数据准备流程、训练代码和评测工具全部以 Apache 2.0 发布。团队称只使用公开可得的数据训练,会追溯遵守爬虫的退出声明,并排除限制性许可的材料。基础阶段和后训练各阶段(SFT、DPO 和 RL)的检查点,以独立仓库的形式发布。

为什么重要

大多数开放权重模型只公开权重,其他内容很少。Apertus 和 OLMo 3.1 是本站目录里仅有的两个标为完全开放的模型,其中只有 Apertus 能读图像和音频。这对公共机构、大学和必须说明模型训练数据来源的公司很重要,例如为欧盟《人工智能法案》做合规工作;对想借助中间检查点复现训练过程的研究者也很重要。它在原始能力上并不领先:可以拿 Qwen3.8-27B 和 Gemma 4 来比较,报告本身也说,专门的模型在感知任务和高资源语言转写上仍然领先。

开放权重与开源的区别解释了这两者的不同。Apertus 同时收录在欧洲榜单和多模态模型榜单里。

来源

本文涉及的模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Apertus 1.5 Swiss AI Initiative 8B – 70B 256K Apache 2.0 (宽松) 5.52 GB 笔记本或手机
Olmo 3.1 Allen Institute for AI (Ai2) 7.3B – 32.2B 64K Apache 2.0 (宽松) 5.04 GB 笔记本或手机
Qwen3.8-27B Alibaba Qwen 27.8B 256K Apache 2.0 (宽松) 19 GB 游戏显卡
Gemma 4 Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (宽松) 3.52 GB 笔记本或手机