В погоне за ИИ-эффективностью: ошибки и потери бизнеса, роль философской рефлексии
Все обширнее внедряя ИИ в жизнь, интегрируя ИИ в бизнес-процессы мы сталкиваемся с 2 феноменами, которые не удастся обойти. Это: 1. Требование ускорения и расширение круга задач. По моему мнению, именно на этом основан все больший дрейф от инженерно-рациональной постановки задачи к общению на если не на «естественном», то слабо формализованном языке. Речь идет, конечно же, о промптах (будь то агентские сценарии или просто диалоговое окно). Отчасти я уже говорил об этой проблематике, обсуждая проблемы Software 3.0 ., но в данном случае нас интересует не разработка софта, а взаимодействие с ИИ-инструментами в решении аналитических задач, внедрении диалоговых систем и разного рода помощников (чат-боты) и т.д.. 2. Все возрастающий анимизм и антропоморфизм в отношении искусственных систем. И связан он не только с нашим стремлением к антропоморфизации объектов окружающего нас мира, но и с откровенной эксплуатацией этой нашей склонности со стороны поставщиков разного рода ПО. Основная проблема здесь – снижение критичности мышления. Наличие этих феноменов, на мой взгляд, приводит к возникновению целого ряда тенденций, которые становятся опасными с точки зрения бизнеса. По сути, мы должны говорить о возникновении нового класса скрытых угроз. Здесь мы можем оставить общечеловеческие, гуманистические аспекты проблемы, а сосредоточиться на тех ошибках, которые приводят ко вполне конкретным финансовым и репутационным потерям компаний. Однако, на сколько безнадежна ситуация? Мне кажется, что нет, но требуется внести ряд новаций в саму корпоративную культуру в части работы с ИИ. Начиная с разработки методик оценки применимости ИИ, и заканчивая самой стилистикой тех документов, которые готовятся в компаниях. Читать далее