Мовна модель не знає ваших документів. RAG спершу знаходить відповідні фрагменти, а потім передає їх моделі, щоб відповідь спиралася на них.
Якість залежить насамперед від підготовки даних і пошуку: застаріла інструкція дасть застарілу відповідь.
Добра система показує джерело, щоб відповідь можна було перевірити, і каже «не знаю», коли даних немає.
Перед запуском якість варто виміряти на наборі реальних запитань.