Depository of News

Дообучать LLM или дать ей документы: сначала выясните, что сломалось

habrahabr.ru · world

«Давайте дообучим модель на наших данных» — эту фразу я слышу почти в каждом разговоре о внедрении LLM. Обычно к этому моменту лечение уже выбрано, а диагноза ещё нет. Допустим, агент ошибся в условиях возврата товара. Ему вообще передали актуальный регламент? Поиск нашёл нужный пункт? В базе одна версия правил или три, и все помечены как действующие? Пока это не выяснено, говорить об обучении рано: у плохого ответа часто вполне административная причина. Моя позиция такая. Начинать стоит с документов, инструкций и проверки на реальных задачах. Дообучение понадобится, когда найдётся конкретная проблема, которую оно умеет решать. А вот данные для будущей модели нужно собирать с первого дня — потом их не восстановить. Читать далее

Read full article →