Если ваш ИИ настолько крут, готовы ли вы дать ему дробовик?
Допустим, завтра компания объявляет, что создала AGI и решила проблему alignment: система понимает намерения разработчиков, соблюдает ограничения и действует именно так, как от неё ожидают. А теперь компания предлагает разрешить этой системе самостоятельно применять силу. Вы готовы дать ей дробовик? Три вопроса позволяют проверить переход от «система работает как задумано» к «ей можно доверить реальную власть над другими людьми». Читать далее