Поставил ИИ проверять ИИ, и тот научился списывать
Красивый отчёт — не значит верный. А верный — не значит полезный. Можно ли вообще построить систему исследований с ИИ, если модели становятся умнее и врут всё убедительнее? Пытаешься поймать их на ошибках — и постепенно обкладываешь систему правилами так, что профита от генеративности всё меньше. В статье — почему строгость и польза могут тянуть в разные стороны, как ловить новые обманки и как я собираю систему, которая помогает находить в куче данных гипотезы для проверки. Читать далее
