指南
写给初学者,同时经得起专家推敲。
- 什么是开源 AI 模型?通俗易懂的入门指南
开放 AI 模型是你可以下载并自己运行的模型。了解“开放权重”和“开源”的含义、这些模型能做什么,以及如何安全地开始使用。
- 开放权重与开源 AI:到底有什么区别?
开放权重指模型训练好的参数可以下载。按 OSI 的定义,开源 AI 还需要公开代码和训练数据信息。本文讲清两者的区别,以及为什么它很重要。
- AI 模型许可证详解:开放模型可以商用吗?
用通俗的语言讲解开放 AI 模型的许可证:Apache 2.0、MIT、带营收上限的社区许可证、仅限研究的条款和需要授权的下载,并附发布产品前的检查清单。
- 运行 AI 模型需要多少内存?一份简明指南
估算开放 AI 模型所需的显存或内存:参数量乘以字节数的规则、量化能省多少、为什么上下文长度和混合专家很重要,并附计算示例表。
- 如何在自己的电脑上运行 AI 模型
面向新手的本地运行开放语言模型教程,使用 Ollama 或 LM Studio:查看内存、选择模型、运行模型,并让其他应用连接到它。
- 量化详解:Q4、FP8、GGUF,以及你要付出的代价
量化是用更少的位数存储模型权重来缩小模型。了解 FP8、INT4、Q4_K_M、GGUF、MXFP4 和 NVFP4 的含义、能省多少内存,以及如何选择。
- 如何选择开放 AI 模型:实用决策指南
按任务、硬件、许可证和能力来选择开放模型。分步骤的决策指南,附聊天、编程、文档、图像、视频、语音、音乐、翻译和检索的精选清单。
- 开放模型微调入门:LoRA、QLoRA,以及什么时候需要微调
了解什么时候该微调开放 AI 模型,而不是只改提示词或使用 RAG;LoRA 和 QLoRA 如何降低成本,需要什么数据,以及要在许可证里检查什么。
- 如何自己评估 AI 模型:别只盯着基准测试图表
模型发布公告里的基准分数大多是自己公布的。学会建立小型测试集、公平地比较模型,并针对你的任务评判质量、速度、内存和许可证。
- 在本地运行图像和视频 AI 模型:ComfyUI、内存与许可证
如何在自己的 GPU 上运行 FLUX、Z-Image、Krea 2、MOSS-Image、Anima、Wan、LTX 和 Cosmos 3 等开放图像和视频生成模型:ComfyUI 入门、内存需求、卸载、LoRA 和许可证检查。
- 如何选择开源 OCR 模型:PDF 与扫描件的文档解析
按规模、许可证、语言和工具链对比开源 OCR 与文档解析模型,帮你判断发票、长 PDF、中文页面或笔记本电脑分别该选哪一个。
- 如何选择开源嵌入模型:搜索与 RAG 选型指南
按语言、输入长度、模态、规模和许可证挑选开放嵌入模型,并对比 BGE-M3、Qwen3-Embedding、EmbeddingGemma 2、Granite Embedding R2 等。
- 如何选择开源文字转语音(TTS)模型
按语言、延迟、声音克隆和许可证对比开放的文字转语音模型:Qwen3-TTS、VoxCPM2、Fun-CosyVoice3、OmniVoice、Voxtral TTS、Chatterbox,以及 Kokoro 这类在 CPU 上运行的微型模型。
- 如何选择开源语音转文字(ASR)模型
按语言、实时流式、说话人标签、内存和许可证对比开放的语音转文字模型:Whisper large-v3-turbo、Qwen3-ASR、Voxtral Realtime、VibeVoice-ASR 等。
- 如何选择开放模型的运行工具与推理引擎
对比 Ollama、LM Studio、llama.cpp、MLX-LM、vLLM、SGLang、TensorRT-LLM 和 KTransformers:笔记本、Mac、手机、家用服务器和生产 API 分别该用哪个。
- 自托管开放模型还是使用 API:怎么选
自己运行开放模型,还是调用托管 API?对比隐私、成本结构、硬件、许可证和维护工作,附决策清单和真实的内存数据。
- 如何为编程智能体挑选开放模型
为智能体编程选择开放模型:要检查什么(工具调用、上下文、内存、许可证),哪些模型适合单张 GPU 或服务器,以及如何在你自己的代码仓库上测试。
- 如何选择开源翻译模型
按语言覆盖、许可证、规模和指令支持对比开源翻译模型,帮你判断文档、字幕、日语、图片或笔记本电脑分别该选哪一个。
- 如何选择开源音乐生成模型
按生成内容、硬件要求和许可证对比开放的音乐与音效模型:MiniMax Music 3、YuE2、ACE-Step 1.5、HeartMuLa、Stable Audio 3、Magenta RealTime 2 和 MOSS-SoundEffect。