NLP高频面试题(四十九)大模型RAG常见面试题解析
为什么要构建RAG系统?
RAG系统通过结合信息检索和生成模型,解决了LLM在知识更新、幻觉和上下文限制等方面的挑战。它允许模型在生成响应前引用外部知识库,提高答案的准确性和相关性。
RAG与大模型微调的区别?
项目 | RAG系统 | 大模型微调 |
---|---|---|
知识更新 | 通过更新外部知识库实现 | 需要重新训练模型 |
成本 | 较低 | 高,需大量计算资源 |
灵活性 | 高,适用于多任务场景 | 低,通常针对特定任务优化 |
部署 | 简单,易于集成 | 复杂,需重新部署模型 |
RAG无需修改模型参数,而微调则需要调整模型的权重和参数。通常情况下,微调和RAG架构都可以用来自定义模型。
RAG与微调的适用场景?
-
RAG适用场景:需要频繁更新知识库、处理多任务、快速部署的应用,如企业知识问答系统。
-
微调适用场景