在 NLP 项目开发中，选择 LLM 提示还是传统监督学习模型，是一个需要结合场景深度权衡的问题。本文基于 spacy-llm 的设计理念与文档实践，从数据、任务、成本等核心维度构建决策框架，并通过具体代码示例演示混合架构落地方法，帮助开发者快速做出技术选型。

一、核心维度对比：LLM 提示 vs 传统监督学习

我们先通过官方文档中的核心特性，梳理两种方案的本质差异：

维度	LLM 提示（spacy-llm）	传统监督学习
数据门槛	零样本 / 少样本（支持 0-100 例快速启动）	中量数据（建议≥1000 例保证泛化能力）
任务适配性	开放域任务（如摘要生成、复杂 NER）	封闭结构化任务（如固定标签分类、表格提取）
迭代效率	分钟级调整（仅修改配置文件或提示模板）	小时级周期（数据重标注 + 模型重训练 + 评估）
长期成本	按 token 付费（验证期成本低，生产期可能激增）	一次性算力投入（适合稳定期大规模部署）
可控粒度	依赖模型能力（输出格式需严格约束）	可微调至 token 级别（适合精准控制）

二、场景化选型指南：基于文档特性的实践分析

（一）优先使用 LLM 提示的 3 类场景

1. 冷启动项目的快速验证

场景痛点：新产品缺乏标注数据，需快速验证业务逻辑
解决方案：利用 spacy-llm 的零样本能力

python

# 零样本文本分类配置示例（config.cfg）
[nlp]
lang = "en"
pipeline = ["llm"]

[components.llm]
factory = "llm"
[components.llm.task]
@llm_tasks = "spacy.TextCat.v2"  # 使用内置文本分类任务
labels = ["POSITIVE", "NEGATIVE"]  # 定义分类标签

[components.llm.model]
@llm_models = "spacy.GPT-3-5.v1"  # 调用OpenAI模型
config = {"temperature": 0.1}  # 降低随机性，提升结果稳定性

执行逻辑：通过提示模板（如 "判断这段评论情感倾向：{text}"）直接调用 LLM，无需训练数据即可生成分类结果，适合电商评论情感分析等冷启动场景。

2. 多语言 / 小众领域任务

场景痛点：小语种或垂直领域标注数据稀缺
解决方案：利用 LLM 的跨语言能力和常识推理

python

# 多语言NER配置示例（config.cfg）
[components.llm.task]
@llm_tasks = "spacy.NER.v3"  # 支持链式推理的NER任务
labels = ["PERSON", "ORG", "LOC"]  # 通用实体类型
prompt_template = "请识别以下法语文本中的实体：{text}"  # 自定义多语言提示

[components.llm.model]
@llm_models = "spacy.Dolly.v1"  # 调用Hugging Face开源模型
name = "databricks/dolly-v2-12b"  # 选择支持多语言的模型版本

优势体现：无需为每种语言单独训练模型，通过提示调整即可处理法语、西班牙语等小语种文本，适合跨境电商、国际新闻等场景。

3. 复杂逻辑推理任务

场景痛点：需要常识推理或多文档综合的信息抽取
解决方案：结合 spacy-llm 的 Chain-of-Thought 能力

python

# 关系抽取任务配置（config.cfg）
[components.llm.task]
@llm_tasks = "spacy.REL.v1"  # 内置关系抽取任务
labels = "CAUSE-EFFECT"  # 定义因果关系类型
few_shot_examples = "rel_examples.yml"  # 注入少样本示例增强推理

[components.llm.model]
@llm_models = "spacy.GPT-4.v1"  # 调用更强推理能力的模型

实现原理：通过少样本示例（如 "吸烟→肺癌"）引导 LLM 进行逻辑推理，适合法律文书中的责任关系抽取、医疗文档中的药物副作用关联等场景。

（二）优先使用传统模型的 3 类场景

1. 高吞吐量实时处理

场景痛点：百万级文本需要毫秒级响应
解决方案：使用 spaCy 传统组件 + GPU 加速

python

# 传统TextCat模型训练代码
import spacy
from spacy.util import minibatch, compounding

nlp = spacy.blank("en")
textcat = nlp.add_pipe("textcat")
textcat.add_label("SPAM")  # 添加固定分类标签

# 训练数据（格式：(文本, {"cats": {"SPAM": 0/1}})
train_data = [
    ("Buy now for 50% off!", {"cats": {"SPAM": 1}}),
    ("Meeting tomorrow at 3pm", {"cats": {"SPAM": 0}}),
]

optimizer = nlp.begin_training()
for epoch in range(10):
    losses = {}
    batches = minibatch(train_data, size=compounding(4, 32, 1.001))
    for batch in batches:
        texts, annotations = zip(*batch)
        nlp.update(texts, annotations, sgd=optimizer, losses=losses)
    print(f"Epoch {epoch}, Loss: {losses['textcat']}")

性能优势：训练后的模型可通过nlp.pipe(batch_size=64)批量处理，单条推理耗时 < 20ms，适合电商垃圾短信过滤等实时场景。

2. 输出严格结构化的场景

场景痛点：需要生成固定格式的 JSON / 表格
解决方案：使用 spaCy 的 SpanCat 或 EntityLinker 组件

python

# SpanCat配置示例（config.cfg）
[nlp]
lang = "en"
pipeline = ["spancat"]

[components.spancat]
@misc = "spacy.SpanCat.v1"
suggester = "spacy.SpanSuggester.v1"
suggester.sources = ["token"]  # 基于词级建议生成实体跨度

[components.spancat.model]
@architectures = "spacy.SpanCatCNN.v1"
hidden_width = 128
max_positions = 512

控制逻辑：通过训练数据明确实体边界和格式，模型输出可直接映射到doc.spans，适合金融财报中的营收数据提取、政务表格填写等场景。

3. 成本敏感的长期部署

场景痛点：大量文本处理导致 API 费用过高
解决方案：训练本地开源模型（如 FastText）

bash

# 用spaCy训练FastText分类模型
python -m spacy train configs/textcat_fasttext.cfg --output ./model

成本对比：假设每月处理 100 万条文本，LLM API 成本约$2000（按GPT-3.5计），而本地模型仅需一次性算力成本$500，后续推理成本可忽略不计，适合客服质检、日志分析等长期项目。

三、混合架构实践：动态组合发挥最大效能

spacy-llm 的核心优势在于支持LLM 组件与传统组件混合部署，我们可以根据项目阶段灵活切换：

1. 原型验证期：全 LLM 快速迭代

python

# 纯LLM管道（快速验证需求）
from spacy_llm.util import assemble
nlp = assemble("config_llm_only.cfg")  # 全部使用llm组件
doc = nlp("This product is amazing!")
print(doc.cats)  # 直接获取LLM生成的分类结果

2. 数据积累期：LLM + 传统模型并行

python

# 混合管道（LLM前置过滤+传统模型精分类）
nlp = spacy.load("en_core_web_sm")
nlp.add_pipe("llm", after="parser")  # 在句法分析后添加LLM组件
nlp.add_pipe("textcat", after="llm")   # LLM结果传递给传统分类器

# 执行逻辑：LLM先过滤明显类别，传统模型处理模糊样本
doc = nlp("The device works well but has battery issues.")
if doc.cats["LLM_PREDICTION"] > 0.8:  # LLM置信度高则直接采用
    final_label = doc.cats["LLM_PREDICTION"]
else:                                 # 否则用传统模型精分类
    final_label = doc.cats["TRADITIONAL_PREDICTION"]

3. 生产稳定期：逐步替换为传统模型

python

# 渐进式替换示例（先替换NER组件）
nlp = spacy.load("en_core_web_sm")
nlp.remove_pipe("ner")                # 删除原有的传统NER
nlp.add_pipe("llm_ner", name="custom_ner")  # 临时用LLM-NER过渡

# 当数据量达标后，重新训练传统NER并替换
nlp.remove_pipe("custom_ner")
nlp.add_pipe("ner")
nlp.from_disk("./traditional_ner_model")

四、总结：基于场景的技术组合思维

LLM 提示和传统模型并非对立，而是互补的工具链：

• 验证期用 LLM 快速试错，规避数据匮乏风险；
• 过渡期用混合架构平衡效率与成本；
• 稳定期用传统模型实现性能与可控性的最大化。

通过 spacy-llm 的模块化设计，我们可以在同一个配置文件中灵活切换组件，真正实现 “用合适的工具解决特定阶段的问题”。

如果你在实际项目中遇到选型难题，欢迎在评论区分享具体场景，我们可以一起探讨如何设计最优技术方案！ 👇

关注我，后续将分享更多 spacy-llm 混合架构实战案例，带你掌握 NLP 项目的动态调优技巧～