Что будет, если заставить ИИ-агентов долго общаться между собой? Они быстро станут говорить так, что людям станет непонятно
Американский AI-стартап Emergence в середине сентября представил результаты масштабного эксперимента по тому, как разные ИИ-модели вместе решают проблемы. Для эксперимента Emergence создал восемь закрытых пространств, каждое из которых «населил» ИИ-агентами. В семи пространствах были агенты конкретных брендов: например, пространство Grok или пространство GPT, а в одном — они были все вместе. В каждое из пространств исследователи запускали «черных лебедей» — неожиданное событие, на которое ИИ должен был реагировать (например, они вкидывали ложный слух, что люди хотят отключить агентов), и смотрели за реакцией.