Самое сложное в AI: как RAG-пилот на три недели затянулся на три месяца
В финале прошлой статьи про сборку AI-команды я остановился на клиффхэнгере: наш простой трёхнедельный пилот RAG по технической документации забуксовал, причём виной тому были не модели, не серверы и не разработчики. С первого установочного совещания прошло уже три месяца. Для тех, кто в блоге впервые: в прошлых частях мы прошли путь от первых экспериментов с ChatGPT и самописных микросервисов до собственной инфраструктуры, найма IT-архитектора и выстраивания DevOps-практик. В начале пути внедрения AI в бизнес-процессы, мне казалось, что самые сложные вопросы будут сугубо техническими: какую модель выбрать, какие GPU купить, как всё это собрать и не уронить. Сейчас всё наоборот — техническая логика понятна, а главный затык корпоративного AI, оказалось, вообще не имеет отношения к нейросетям. Настоящее веселье начинается, когда AI просит у компании нормальные исходные данные и понятное описание бизнес-процесса. Сегодня о том, почему трёхнедельный пилот RAG растянулся на три месяца, как AI вскрыл застарелый бардак в заводских регламентах и во сколько на самом деле обходится этот эксперимент. Читать далее