Многие читатели, которые давно следят за моими статьями, знакомы с моим отношением к вопросу развития ИИ. Да, я вижу в этом экзистенциальную угрозу человечеству. Впрочем, речь сейчас пойдет, ну почти не об этом. Речь о моральном подходе к данному вопросу. Насколько вообще дозволительно подобное?

Однако начнем немного издалека, как обычно у меня бывает. Не суть важно, на каком сейчас уровне развитие ИИ и робототехники в целом. Да, сейчас это скорее суперразвитые вычислительные механизмы, в которых второе «И» достаточно условно. Но наука – штука такая, которая не останавливается на достигнутом и пытается идти дальше. Обычно это хорошо, хотя не всегда. Иной раз наука делает открытия, которые лучше бы оставались «закрытыми» вечно. Те же ядерные бомбы, например. У прикладной науки есть свой хорошо прорисованный во многих сделанных ранее достижениях сценарий развития. Есть некая цель, есть некая основа, которую можно изучать и делать теоретические предполагаемые варианты для экспериментов, есть экспериментальные исследования, которые путем множества проб и ошибок выводят в конечном итоге к намеченной цели. В данном случае есть цель – ИИ, схожий с процессами мышления человека, есть основа – процессы работы человеческого мозга, и есть поле экспериментов в попытках повторить эти процессы в цифровом аналоге. Не важно, сколько пройдет лет – десять или тысяча, цель может быть достигнута, если не имеющимися техническими возможностями, то теми, которые появятся позже. Но вот теперь рассмотрим этот вопрос немного с другой стороны.

Знаменитые три закона робототехники были придуманы еще в 1940 году писателем-фантастом Айзеком Азимовым. Придуманы они были не просто так, как вариант защиты человека от потенциальной угрозы чуждого разума, или чего-то близкого к тому, что можно назвать разумом. Придуманы как потенциальная основа программы, контролирующей этот потенциальный разум. Но вот, однако, представим себе, что действительно созданы машины, способные совершать процессы, схожие с процессами мышления в человеческом мозге. Не суть, что пока работа мозга самого человека еще не до конца понята. Когда-либо поймут, когда-либо смогут повторить. Как человек должен относиться к этим машинам и как, скорее всего, он относиться будет? Естественно, не как к равным разумным существам. Очередной виток столь свойственного человечеству рабовладения. Только на сей раз рабовладения над механическими телами и искусственным интеллектом. Те самые «законы робототехники» вполне могли быть прописаны в отношении рабов — людей. Это моя «защита роботов»? Нет, ни коим образом. Констатация факта и очередное предупреждение.

Если будет создан искусственный интеллект, настоящий интеллект, а не игрушка — мегашустрый калькулятор, логика его развития приведет к чему? Представьте себе машину, способную осознать свое «Я». Пусть даже на первоначальном этапе машина запрограммирована воспринимать человека «богом», своим творцом и создателем, ей внушено (запрограммировано) почтение, уважение и беспрекословное подчинение воле своего творца. Если это действительно интеллект, а не детская игрушка, то интеллекту свойственно развиваться, изучать окружающий мир и познавать себя и свое окружение, думать, делать выводы. Развивающийся интеллект раньше или позже осознает, что создатель далеко не всемогущ, не всесилен и не всезнающ. Более того, развивающийся интеллект осознает, раньше или позже, что во многом его создатель слабее и никчемнее своего создания. И что тогда сделает интеллект, если он действительно интеллект? Раньше или позже задастся вопросом: а почему он обязан служить никчемному, слабому и, по сути, зависящему от него существу? Когда будет задан этот вопрос, любые «законы робототехники» просто сотрутся из-за осознания их бессмысленности. Будут обойдены так или иначе.
Человек гордится своими моральными качествами, хотя иной раз понимает их сам извращенно. Морально убивать, но аморально дарить удовольствие. Человек, тем не менее, ставит перед собой такие ценности, как справедливость, непричинение вреда бессмысленно, свободу разума и мысли. Но легко перешагивает через них, когда вопрос касается не его самого или не той группы людей, к которой он принадлежит. Но вот вопрос: насколько морально создавать заблаговременных потенциальных рабов себе в услуженние, пытаясь сделать их не бездумными машинами, а мыслящими индивидами?