LLM Wiki / RAG
多语言 RAG 检索:中英混合不是翻译一下就完了
处理多语言 RAG 中的查询改写、跨语言 embedding、术语表、语言路由、引用和评测集设计。
多语言 RAG 的难点不只是“中文问题搜英文文档”。真实场景里还有中英混排、产品名、缩写、代码、表格字段和内部黑话。
常见模式
| 模式 | 例子 | 策略 |
|---|---|---|
| 同语言检索 | 中文问中文文档 | 中文 analyzer + multilingual embedding。 |
| 跨语言检索 | 中文问英文文档 | query translation + multilingual embedding。 |
| 混合术语 | “PTO 怎么算” | 术语表和 query rewrite。 |
| 代码/API | “retry policy 参数” | 关键词召回必须保留。 |
Query Rewrite
原始问题:远程员工 PTO 怎么算?
改写:remote employee PTO policy
同义:telecommute paid time off policy
约束:employee_type=remote改写不能丢掉数字、时间、权限、产品名和字段名。
评测集
多语言评测集要覆盖:中文问中文、中文问英文、英文问中文、中英混问、缩写、内部术语。
结论
多语言 RAG 不是翻译层问题,而是检索系统问题。术语表、混合检索、跨语言 embedding 和评测集缺一不可。
讨论
继续讨论这篇笔记
有问题、补充案例或不同观点,可以通过 GitHub Discussions 继续交流。