Требования заказчиков к LLM/AI Firewall
Корпоративный ИИ перестал быть пилотным проектом в одном департаменте. Запросы к моделям идут из IDE, внутренних ассистентов, агентных контуров и «теневых» чатов сотрудников. При этом поверхность атаки выглядит иначе, чем у классического периметра: промпт-инъекция, утечка ПДн во внешнюю модель, неконтролируемый расход токенов, вызов инструмента ИИ-агентом без права на это действие. В этой статье сделаем разбор реальной матрицы требований к LLM/AI Firewall . Цель статьи – не каталог фич, а карта того, что Заказчик считает обязательным , и как эти требования складываются в архитектуру контроля, где важны границы доверия, деньги, регуляторика и управляемость. За последний год сильно изменились требования крупных enterprise компании к защите генеративного ИИ. Сначала это был короткий перечень задач к «прокси для ChatGPT». Сейчас это матрица на десятки страниц, в которой описаны более 500 формализованных требований : сначала стандартные задачи, а затем том требований к ИИ-агентам, MCP, 152-ФЗ, цепочке поставок моделей и т.д. Это уже не запрос на фильтр. Это запрос на контрольный контур. Читать далее