什么是开源 AI 模型?通俗易懂的入门指南

开放 AI 模型是你可以下载并自己运行的模型。了解“开放权重”和“开源”的含义、这些模型能做什么,以及如何安全地开始使用。

  • 入门
  • 阅读约 6 分钟
  • 发布于
  • 更新于

简短回答。 开放 AI 模型是指发布了训练好的“权重”的模型,你可以下载下来,在自己的电脑或服务器上运行,而不必调用某家公司的 API。大多数模型是开放权重,而不是严格意义上的开源,具体能用它做什么,包括能不能用在企业业务里,由许可证决定。

AI 模型到底是什么

无论是语言、图像还是语音模型,从物理上看,都是一个装满数字的超大文件,再加上少量知道如何使用这些数字的代码。这些数字叫作权重,也叫参数。它们是在训练中调整出来的:模型处理海量的文本、图像或音频,直到擅长预测接下来会出现什么。训练结束后权重就固定了,用模型来获得回答的过程叫作推理。

模型的规模用参数数量来表示。“7B”模型有 70 亿个参数,而我们收录的最大开放模型超过一万亿个。规模之所以重要,是因为模型运行时,权重必须装进内存,这正是需要多少内存这篇指南要讲的内容。

“开放”是什么意思

对于闭源模型,比如各大聊天应用背后的模型,你永远拿不到权重。你把文字发送到公司的服务器,再收到答案,一切遵循公司的条款和价目表。

对于开放模型,开发者会发布权重,通常放在 Hugging Face 上,并附带许可证。你可以:

  • 在自己的硬件上运行模型,甚至离线运行;
  • 让数据留在自己的电脑上;
  • 通过微调让模型适应你的需求;
  • 在许可证允许的情况下,把它集成到产品里;
  • 研究它的行为。

不过,“开放”并不是单一的标准。大多数发布的是开放权重:数字是公开的,但训练数据和训练代码通常不公开。有些许可证完全宽松,有些则附加了营收上限或署名要求等条件。开放权重与开源的区别解释了两者的差异,AI 模型许可证详解则教你如何读懂条款。

开放模型与 API 背后的闭源模型

开放权重模型 API 背后的闭源模型
在哪里运行 你自己的硬件,或你选择的托管方 厂商的服务器
你的数据 可以留在你的电脑上 会发送给厂商
成本 硬件和电费,或托管费用 按用量或订阅付费
定制 在许可证允许的前提下可以微调 仅限厂商提供的功能
维护 你自己负责安装和更新 由厂商负责
规则 由你下载时的许可证决定 由厂商可随时更改的条款决定

两者没有哪个在所有场景下都更好。当隐私、大规模成本、离线使用或掌控权很重要时,开放模型更有吸引力;当你希望尽可能少折腾时,闭源模型更有吸引力。许多团队两种都用。

开放模型的种类

开放模型不只是聊天机器人。本站收录了五类:

每一类的内存需求都不同,如何选择开放 AI 模型说明了每一类该从哪里开始。在模型目录中可以浏览全部模型。

开放模型并不保证什么

  • 不一定可以免费商用。 下载不收费,但有些许可证限制商业使用、大型公司或特定应用场景。
  • 不一定很小。 最大的开放模型需要整机柜的服务器。关于内存的指南会教你判断自己的电脑能装下什么。
  • 不会自动保证准确和安全。 所有模型都会出错,包括幻觉。请把输出当作需要核对的草稿。
  • 不一定透明。 训练数据通常不公开,发布公告里的基准分数也是开发者自己公布的。

如何开始

  1. 查看你的硬件。 显卡或 Mac 的内存大小决定了你能运行什么。显存计算器和按显存选模型页面可以帮你。
  2. 选一个模型。 从一份精选清单入手,比如最佳开源大模型或适合笔记本的小型模型,也可以从对应的清单入手:语音、文档或检索。
  3. 运行它。 Ollama 和 LM Studio 是最容易上手的工具,如何在本地运行 AI 模型会带你一步步完成。
  4. 在工作中使用前,先阅读许可证。 可以商用的模型页面按许可证类型对模型做了分组。

常见问题

开源 AI 模型是免费的吗?
下载通常是免费的,但运行模型需要硬件、电费或托管费用,而且许可证可能限制商业使用。在基于它开发产品之前,请先查看许可证。
开放 AI 模型可以离线运行吗?
可以。权重下载完成后,Ollama、LM Studio 和 llama.cpp 等工具可以在没有网络的情况下在你的电脑上运行模型。
开放模型和主流聊天机器人背后的闭源模型一样好吗?
一些最大的开放模型在基准测试上可以和领先的闭源模型相当,但这些分数大多是开发者自己公布的,而小到能在笔记本上运行的模型,能力不如最大的模型。请在自己的任务上测试几个候选模型。
下载开放模型安全吗?
请从开发者的官方页面下载,并优先选择 safetensors 和 GGUF 这类只存放数据的文件格式。对于要求你运行额外代码的模型,要格外小心。
使用开放模型需要性能很强的电脑吗?
不一定。小模型在 16 GB 内存的普通笔记本上就能运行,而最大的开放模型需要配备多块 GPU 的服务器。每个模型页面都列出了它所需的内存。

本文关键术语

  • 微调 微调是在你自己的示例上继续训练一个预训练模型,让它在特定任务、风格或领域里表现得更好。
  • 推理(Inference) 推理是指运行已训练好的模型来得到输出,比如回答一个提示词,与“训练模型”相对。
  • 开源 AI 按开源促进会(OSI)的定义,开源 AI 是指你可以自由使用、研究、修改和分享的 AI 系统,其权重、代码以及训练数据的详细信息都必须公开。
  • 开放权重 开放权重模型是指公开了训练得到的参数(即权重)的 AI 模型,任何人都可以下载并运行,通常附带一份规定使用条件的许可证。
  • 参数 参数是模型内部在训练中被调整的数字,参数数量(如 7B 或 70B)是衡量模型规模的常用指标。
  • 宽松许可证 宽松许可证(如 Apache 2.0 或 MIT)允许你使用、修改和销售模型,附加条件很少,通常只要求保留声明。

本文提到的模型

模型 发布时间 参数量 上下文 许可证 最小版本所需内存
Gemma 4 Google DeepMind 5.1B – 30.7B 256K Apache 2.0 (宽松) 3.52 GB 笔记本或手机
gpt-oss OpenAI 21B – 117B 激活 5.1B 128K Apache 2.0 (宽松) 15 GB 笔记本或手机
Qwen3.8-27B Alibaba Qwen 27.8B 256K Apache 2.0 (宽松) 19 GB 游戏显卡
Olmo 3.1 Allen Institute for AI (Ai2) 7.3B – 32.2B 64K Apache 2.0 (宽松) 5.04 GB 笔记本或手机
FLUX 3 Image Klein Black Forest Labs 5.6B – FLUX Kommunity (附条件) 8 GB 笔记本或手机
Whisper large-v3-turbo OpenAI 810M – 1.54B – MIT (宽松) 6 GB 笔记本或手机