Raon-1:KRAFTON 偏重韩语的 28.8B 模型和 3.1B 端侧兄弟

KRAFTON AI 发布了从零训练的 28.8B 混合专家模型 Raon-1 mini preview,以及由它蒸馏而来的 3.1B Raon-1 nano,两者都采用 Apache 2.0,上下文 262K。

  • 新发布
  • 阅读约 4 分钟
  • 发布于

韩国游戏公司 KRAFTON 的 AI 团队 KRAFTON AI,以 Raon 为名发布了两个 Apache 2.0 语言模型。Raon-1 mini preview 于 2026 年 10 月 21 日出现在 Hugging Face,Raon-1 nano 在 11 月初跟进。

有什么新东西

Raon-1 mini preview 是 288 亿参数的混合专家模型,每个 token 激活 43 亿参数。KRAFTON 称它是为韩语对话和智能体任务从零训练的,训练语言包括韩语、英语、日语、中文、西班牙语、法语和泰语。模型卡称它是预览版,规格仍可能变化。它 25 层里只有 7 层保留 KV 缓存,每个 token 约 8 KiB,所以原生 262,144 token 的上下文存起来很便宜。

在 KRAFTON 自己的表格里,它在 GPQA Diamond(84.3)、AIME 2026(93.3)、IFBench(84.2)、SWE-bench Verified(70.8)和一个未公开的韩语对话测试上,胜过 Qwen3.6 35B-A3B 和 Gemma 4 26B-A4B。它在 MMLU-Pro 上落后于 Qwen3.6 35B-A3B,在 Terminal-Bench Lite 上也落后,得分是 47.0 对 63.3。

Raon-1 nano 是 31 亿参数的稠密模型,其中 15 亿在一张嵌入表里,所以 KRAFTON 称它有效参数 15 亿。它从 mini 模型剪枝并蒸馏而来,之后继续训练,最后用强化学习收尾。它面向韩语和英语的指令遵循、上下文遵循和工具调用。在 KRAFTON 的表格里,它在 IFBench 和韩语测试上领先于 Qwen3.5 2B、Gemma 4 E2B、MiniCPM5 2B 和 LFM3 1.7B,在函数调用上则落后。

怎么运行

主仓库是 32.7 GB 的 MXFP8 权重。KRAFTON 还发布了 17.6 GB 的 NVFP4 版本,称它能在一块 32 GB 的 RTX 5090 上运行;16.1 GB(IQ4_XS)到 30.7 GB(Q8_0)的 GGUF 文件;MLX 版本;以及 2.7 GB 的推测解码草稿模型,它测得在一块 B300 上吞吐最高可达 2.18 倍。nano 模型的 BF16 为 7.2 GB,4 位的 GGUF、MLX 和 LiteRT-LM 版本约 2 GB。Transformers 需要 trust_remote_code,模型卡的主要服务方案是 vLLM 的测试版分支。

许可证

每个仓库都带有 Apache 2.0 的 LICENSE 文件,覆盖权重和文件。KRAFTON 称这份授权不涵盖它的训练数据、方法、托管 API 和在线体验,这些另有条款。mini 的模型卡还写着访问需要申请,但我们检查时,文件无需登录就能下载。

为什么重要

自主 AI 项目的四个模型,包括 K-EXAONE 2.0,参数量都在 2500 亿以上,所以没有一个能在单张消费级 GPU 上运行。Raon-1 mini preview 是本站目录里第一个 4 位后能放进 32 GB 显卡的韩国语言模型,nano 则只需约 2 GB。所有分数都是 KRAFTON 自己的,有些基准还是内部的,所以请用你自己的韩语任务测试。参见韩国模型榜单和适合笔记本的小模型。

来源

本文涉及的模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Raon-1 mini preview KRAFTON 28.8B 激活 4.3B 256K Apache 2.0 (宽松) 18 GB 游戏显卡
Raon-1 nano KRAFTON 3.1B 256K Apache 2.0 (宽松) 1.98 GB 笔记本或手机
Qwen3.6 Alibaba Qwen 27.8B – 36B 激活 3B 256K Apache 2.0 (宽松) 19 GB 游戏显卡
Gemma 4 Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (宽松) 3.52 GB 笔记本或手机
K-EXAONE 2.0 LG AI Research 750B 激活 37B 256K Apache 2.0 (宽松) 518 GB GPU 服务器