20260625:很多新内容

This commit is contained in:
2026-06-25 14:08:47 +08:00
parent 91fac5b6fc
commit 6021dea160
375 changed files with 19263 additions and 251 deletions

View File

@@ -0,0 +1,40 @@
---
title: "构建 vs 购买 — Build vs Buy (LLM)"
created: 2026-06-19
updated: 2026-06-19
type: concept
tags: [llm, cost-optimization, infrastructure, api-vs-self-host]
sources:
- https://towardsdatascience.com/six-choices-every-ai-engineer-has-to-make-and-nobody-teaches/
---
# 构建 vs 购买Build vs Buy
## 定义
在 LLM 时代,"构建 vs 购买"不再是从零训练模型的问题。2026 年的版本更难:三个选择,每个有不同的成本曲线和失效模式。
## 三个选择
| 选择 | 适用场景 | 成本结构 | 失效模式 |
|------|---------|---------|---------|
| **调用 API** | 日请求 < 10 | token 付费低开销 | 供应商锁定框架迁移 |
| **微调开源模型** | 中等规模专业化需求 | 一次性计算成本 | 数据准备和评估成本 |
| **自建托管** | 日请求 > 100 万 | 硬件 + 人力 | 人力占 70-80% 成本! |
## 关键数据
- Omdia 调查n=37695% 认为自建提供更多定制91% 同意预构建更快——**两者同时成立**
- 硬件和电力仅占自托管成本的 20-30%**人力占 70-80%**
- 团队平均超出 LLM 预算 340%,主因是缺少使用跟踪和成本归属
## 实践框架
1. **从 API 开始**
2. **从第一天起记录每次调用的成本、延迟和功能归属**
3. **当运算显示优势下降时再更换**
## 参考
- [[ai-production-tradeoffs|AI 生产权衡]]
- [[nobrega-ai-production-tradeoffs-2026|原文文章]]