Три закона робототехники, которые никогда не работали. Даже у Азимова
Спросите любого человека, далёкого от робототехники, какие правила должны соблюдать роботы. Девять из десяти вспомнят: робот не может причинить вред человеку. Кто-то процитирует все три закона целиком, с «бездействием» и «самосохранением». Законы Азимова прочно сидят в культуре: их цитируют журналисты, на них ссылаются в комментариях под любой новостью про автоматизацию, их всерьёз вспоминают чиновники, когда речь заходит про ИИ. Иногда кажется, что большая часть этих людей действительно считает три закона робототехники каким-то техническим документом. Если это так, то они не читали Азимова. В реальности ни один из трёх законов не работает. И в книгах Азимова они тоже толком никогда не работали. Давайте пройдёмся по самым интересным «багрепортам» из книг — и посмотрим, как Азимов сам, шаг за шагом, разбирал собственную систему, пока не был вынужден пристроить к ней нулевой закон. А во второй половине статьи попробуем применить законы к современному миру. И сравним, что вместо них написано в настоящих стандартах. Читать далее