Apertus 1.5: полностью открытая модель Швейцарии читает изображения и аудио

ETH Цюрих, EPFL и CSCS выпустили Apertus 1.5 24 июля: полностью открытые модели 8B и 70B с вводом изображений и аудио, контекстом 262K и Apache 2.0. Понимание аудио — экспериментальное.

  • Новый релиз
  • 2 мин чтения
  • Опубликовано

ETH Цюрих, EPFL и Швейцарский национальный центр суперкомпьютерных вычислений (CSCS) выпустили Apertus 1.5 24 июля 2026 года. Это семейство моделей 8B и 70B, которое теперь принимает изображения и аудио в дополнение к тексту, с окном контекста в 262 144 токена, опциональным режимом размышления и лицензией Apache 2.0.

Что нового

Apertus 1.5 продолжает предобучение моделей Apertus 1.0 первого поколения ещё на 4 трлн токенов для 8B и 2 трлн для 70B — всего 19T и 17T токенов. Архитектура не изменилась: трансформер только с декодером и активацией xIELU, обученный оптимизатором AdEMAMix. Изображения и аудио входят как дискретные токены в той же последовательности, что и текст, — через токенизатор изображений на базе Emu3.5 и WavTokenizer, а не через отдельный визуальный энкодер, — и модели генерируют только текст. Окно контекста вчетверо больше, чем у Apertus 1.0, а размышление — это флаг шаблона чата, а не отдельная модель.

В техническом отчёте модель 8B ведёт среди полностью открытых моделей своего класса на бенчмарках знаний, следования инструкциям и культуры, тогда как специализированные модели зрения и аудио сохраняют преимущество в восприятии и транскрипции английского и других языков с большими ресурсами. Проект описывает понимание аудио как экспериментальное. Это оценки самих разработчиков.

Запуск

Веса BF16 весят около 18,4 ГБ для 8B и 144,6 ГБ для 70B. На момент релиза карточка модели сообщала, что поддержка ещё не вошла в выпущенные версии Transformers и vLLM, и указывала на форки Swiss AI и Docker-образ. Репозитории Hugging Face закрыты (gated): перед загрузкой нужно принять условия доступа. В карточке сказано, что фильтр вывода не предоставляется — добавьте собственные меры защиты, — и рекомендуется обновлять веса примерно раз в полгода, чтобы учитывать запросы на удаление данных. Вызов инструментов не работает в режиме размышления, ввод видео не поддерживается — извлекайте кадры и передавайте их как изображения.

Лицензия

Apertus открыт в самом полном смысле. Веса, промежуточные чекпоинты, пайплайны подготовки данных, код обучения и харнессы оценки опубликованы под Apache 2.0. Команда говорит, что обучает только на открыто доступных данных, ретроактивно учитывает отказы краулеров и исключает материалы с ограничительными лицензиями. Чекпоинты этапов базы и посттренинга (SFT, DPO и RL) опубликованы отдельными репозиториями.

Почему это важно

Большинство open-weights-моделей публикуют веса и мало что ещё. Apertus и OLMo 3.1 — две модели в нашем каталоге с пометкой fully open, и Apertus — единственная из них, читающая изображения и аудио. Это важно госорганам, университетам и компаниям, которым нужно документировать происхождение обучающих данных модели — например, для работы по EU AI Act, — и исследователям, желающим воспроизвести обучение с промежуточными чекпоинтами на руках. По чистой способности она не лидирует: модели для сравнения — Qwen3.8-27B и Gemma 4, и сам отчёт говорит, что специализированные модели сохраняют преимущество в восприятии и транскрипции языков с большими ресурсами.

Открытые веса против открытого кода объясняет разницу. Apertus также есть в списке Европы и в списке мультимодальных моделей.

Источники

Модели в этом материале

Модель Дата выпуска Параметры Контекст Лицензия Память минимального варианта
Apertus 1.5 EN Swiss AI Initiative 8B – 70B 256K Apache 2.0 (Пермиссивная) 5.52 GB Ноутбук или телефон
Olmo 3.1 EN Allen Institute for AI (Ai2) 7.3B – 32.2B 64K Apache 2.0 (Пермиссивная) 5.04 GB Ноутбук или телефон
Qwen3.8-27B EN Alibaba Qwen 27.8B 256K Apache 2.0 (Пермиссивная) 19 GB Игровая видеокарта
Gemma 4 EN Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (Пермиссивная) 3.52 GB Ноутбук или телефон