myWiki/concepts/build-vs-buy-llm.md

title, created, updated, type, tags, sources

title	created	updated	type	tags	sources
构建 vs 购买 — Build vs Buy (LLM)	2026-06-19	2026-06-19	concept	llm cost-optimization infrastructure api-vs-self-host	https://towardsdatascience.com/six-choices-every-ai-engineer-has-to-make-and-nobody-teaches/

构建 vs 购买（Build vs Buy）

定义

在 LLM 时代，"构建 vs 购买"不再是从零训练模型的问题。2026 年的版本更难：三个选择，每个有不同的成本曲线和失效模式。

三个选择

选择	适用场景	成本结构	失效模式
调用 API	日请求 < 10 万	按 token 付费，低开销	供应商锁定、框架迁移
微调开源模型	中等规模，专业化需求	一次性计算成本	数据准备和评估成本
自建托管	日请求 > 100 万	硬件 + 人力	人力占 70-80% 成本！

关键数据

• Omdia 调查（n=376）：95% 认为自建提供更多定制，91% 同意预构建更快——两者同时成立
• 硬件和电力仅占自托管成本的 20-30%，人力占 70-80%
• 团队平均超出 LLM 预算 340%，主因是缺少使用跟踪和成本归属

实践框架

1. 从 API 开始
2. 从第一天起记录每次调用的成本、延迟和功能归属
3. 当运算显示优势下降时再更换

参考

• ai-production-tradeoffs
• nobrega-ai-production-tradeoffs-2026