Depository of News

Эволюция ИИ харнеса

newsdepo.com · world

За последние несколько лет обвязка вокруг LLM-модели выросла из чатика и файла с правилами в редакторе до самостоятельного технологического слоя — харнеса — со своими протоколами, стандартами и фундаментом, а привязка клиента у вендоров сместилась с уровня конкретной LLM-модели на уровень этого харнеса. Определения: 1. Модель — LLM, нейросеть, генерирующая текст по запросу. Сама по себе stateless (не помнит предыдущие вызовы), не имеет доступа к внешнему миру и не способна к действию — только к порождению следующего токена или в итоге вероятного набора фраз по входному контексту. 2. Харнес — программно-инфраструктурная обвязка вокруг модели, превращающая её из генератора текста в систему, которая может производить "осмысленные" действия. Харнес обеспечивает модель функционалом: инструменты (доступ к внешнему миру), контекст-менеджмент (память, сессии, компактизация), правила/инструкции (поведение), разрешения и права (безопасность), опционально усиление — хуки, скилы, оркестрацию. Харнес — «тело», модель — «семантический мозг». 3. ИИ Агент — это модель, помещённая в харнес и потому способная действовать, то есть воспринимать состояние среды через инструменты, сохранять контекст между шагами, планировать и выполнять многошаговые задачи. Агент не компонент, а результат сочетания модели и харнеса. Далее — как примерно происходило развитие идей и наполнение харнеса и к чему пришло. Читать далее

Read full article →