ИИ-агенты все помнят. И это плохо
<img src="https://habrastorage.org/getpro/habr/upload_files/50a/e33/552/50ae335528d81c038621ba39cf3b4ede.jpg" /><p>Скорее всего, вы знаете,<strong> </strong>что агенты — это ИИ-модели, способные вызывать внешние и внутренние инструменты и циклично выполнять задачи. Они умеют рассуждать, планировать и выполнять бескрайнее множество действий. Агенты сохраняют в своей «памяти» действия пользователя, ответы модели, используемые инструменты и многое другое. Короче говоря, информацию вообще обо всех действиях —<strong> </strong>как модели, так и пользователя. </p><p>Звучит очень удобно! Агент уже после первого объяснения запомнит, что заданное пользователем форматирование нужно сохранять и что, к примеру, текст всегда нужно переводить только на русский. Не надо писать лишних уточнений по чем зря. Пользователь получает персонализированную модель, которая сохранила контекст диалога, знания о его стиле общения, о его привычках. И<strong> </strong>о нем самом.<strong> </strong></p><p>И вот это уже немного пугает. А что еще может запомнить персональный ИИ-помощник? С кем он может поделиться этой информацией? Можно ли удалить информацию о себе, при этом сохранив эффективность модели? Сейчас расскажу.</p> <a href="https://habr.com/ru/articles/1076786/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1076786#habracut">Читать далее</a>