---
title: "AI 工程师的 6 种生产权衡"
created: 2026-06-19
updated: 2026-06-19
type: article
tags: [ai-engineering, production-tradeoffs, prompt-engineering, fine-tuning, hitl, mlops]
sources:
  - https://towardsdatascience.com/six-choices-every-ai-engineer-has-to-make-and-nobody-teaches/
  - https://mp.weixin.qq.com/s/GESoyR0qpxP4fPtHZjonKA
---

# AI 工程师的 6 种生产权衡

> 原文：*Six Choices Every AI Engineer Has to Make (and Nobody Teaches)* — Sara Nobrega
> 翻译：陈超 | 来源：数据派THU

## 核心问题

大学课程教你怎么让模型变精确。但几乎没人教你后续的决策：什么时候完全自动化？什么时候提示词不够？批处理和实时怎么选？这些问题在工作第一周就会出现。

## 核心原则

> **决策的成本很少在决策做出的地方产生回报。** — 更复杂的模型在 6 个月后增加维护成本，实时系统需要 24/7 基础设施支撑，大规模脏数据在重训练周期上付出代价。

## 6 种权衡

### 1. [[build-vs-buy-llm|构建 vs 购买]]
日请求 < 10 万 → API。日请求 > 100 万 → 自建。但 70-80% 的自建成本是人力，不是 GPU。团队平均超预算 340%。

### 2. [[cace-principle|模型复杂度 vs 可维护性]]
CACE 原理：改变任何事物都会改变一切。为 2% 精度选复杂模型的代价是 18 个月的调试税。一年后谁拥有它？

### 3. [[data-quality-vs-quantity|数据数量 vs 数据质量]]
超过噪声阈值，更多数据会降低性能。医疗 AI 最典型：专家标注小数据集 > 不可靠标注大数据集。避免"数据沼泽"。

### 4. [[batch-vs-real-time-inference|吞吐量 vs 延迟]]
大多数业务问题不需要亚秒级预测。如果用户不会注意到预测是 5 分钟前还是 5 毫秒前，用批处理。

### 5. [[prompt-engineering-vs-fine-tuning|提示词工程 vs 微调]]
提示词快、便宜、灵活，但脆弱。微调昂贵（$1 万 + 6 周），但规模化可靠。混合模式（微调风格 + RAG 事实）日益普及。

### 6. [[human-in-the-loop|自动化 vs 人类监督]]
完全人工审查无法规模化。选择性 HITL：边缘案例、低置信度、高风险决策才触发人工。AI 处理规模，人类处理不可逆性。

## 关键概念网络

- [[ai-production-tradeoffs|AI 生产权衡]] — 六大维度的总览
- [[ml-technical-debt|ML 技术债务]] — 数据依赖比代码依赖更昂贵
- [[selective-hitl|选择性 HITL]] — 只有在最需要时引入人工
- [[data-swamp|数据沼泽]] — 存储便宜带来的隐性成本

来源：[原始存档](raw/articles/nobrega-ai-production-tradeoffs-2026.md)