Учимся отличать галлюцинации от плохого контекста
RAG‑система может выдать уверенный ответ со ссылкой на документ, который на самом деле никак не повлиял на генерацию. За одинаковым симптомом могут скрываться сбои retrieval, игнорирование контекста или генерация из параметрической памяти модели. Разберём на примерах, как отличить эти сценарии, проверить причинную связь между контекстом и ответом и определить, на каком этапе пайплайна искать проблему. Читать статью