Снова возвращаюсь к своей «излюбленной» теме. На сей раз не в виде коротких заметок по поводу произошедших здесь или там событий, а попробую серьезно и основательно обсудить этот вопрос. Для начала, вспомню некоторые комментарии, которые, думаю, здесь уже тоже готовы некоторые написать, сводящиеся к следующему. Мне частенько пишут (да и не только мне, под статьями других авторов тоже видела подобное) о том, что о «проблеме ИИ» говорить, мол, слишком рано, это пока что не более чем симулякр, программа, которой задано изображать подобие «интеллекта». Да, наверное, на данный момент это действительно так. Но когда же говорить о проблеме, до того как она наступила, чтобы ее предотвратить, или ждать, когда уже предотвращать будет поздно? Это аналогично тому, как если бы кто-то написал: «Если почувствуете в комнате запах газа, ни в коем случае не зажигайте спичку». А его тут же начали бы критиковать: «Ну какой газ, нет же пока никакого запаха?», «Ну даже если чуть-чуть попахивает, то какая разница, неужели это так страшно?», «Зачем говорить о газе со спичками, когда пока что даже трубы к дому не подведены?». В том-то и проблема: когда трубы к дому уже подведут, пустят по ним газ, где-то что-то просочится из-за плохой герметизации, а кто-то возьмет да и зажжет спичку, чтобы посмотреть в темном уголке, что там с трубой, нет ли там трещины? Уже будет поздно говорить и предупреждать. Уже будет время вызывать пожарную команду и скорую помощь (если будет кого спасать еще).

Так вот про ИИ. Можно продолжать доказывать, что пока что это всего лишь имитация мышления, что все это не более чем запрограммированная симуляция, что все это контролируется и управляется. Ключевое слово здесь «пока». Пока что ИИ — не более чем игрушка. Но это игрушка, на которую возлагают большие амбиции, игрушка, в которую вкладывают большие деньги, игрушка, над развитием которой работают лучшие умы человечества. Игрушка прогрессирующая. Все еще пока далекая от того, что человек назвал бы разумом. Но главная проблема, знаете, в чем? Вернее, здесь сразу две проблемы — проблемы, которые пока что мало кто осознаёт и считает проблемами.

Проблема первая. А что, собственно, такое разум? Человек, считающий себя венцом творения или вершиной эволюции (хотя у эволюции вершин не бывает, есть только ступени). Ступени или тупики. Так вот, человек, мнящий себя вершиной разумности на планете, до сих пор не дал себе ответ на вопрос, а что же такое разум? Мы так кичимся своей разумностью, что с легкостью отказываем в разумности или даже в приближении к ней существам, которые хоть в чем-то отличаются от нас. Что есть разум? Вот попробуйте забить в любом поисковике «определение разума» или просто «разум». Вы получите огромное количество, иной раз даже противоречащих друг другу, определений. От философской концепции до описания биологических процессов мышления. Разум можно определить как способность мыслить и осознавать себя. К термину «разумность» люди обычно приписывают еще кучу разных действий, которые, как правило, свойственны только человеку. Например, орудийная деятельность, то есть использование орудий и целенаправленное изготовление их с целью использования. По поводу последнего я как-то писала статью, что многие виды обезьян используют и даже целенаправленно изготавливают орудия, приводила примеры «наковален» и «камней для дробления орехов», изготовление палочек и «щеточек» для добычи термитов из термитников и т.п. Более того, такая деятельность свойственна не только приматам. Некоторые другие животные и птицы используют природные инструменты для каких-то действий. Но мы все это благо списываем на инстинкт, мол, у нас же не инстинкт, у нас разум, а вот у них инстинкт.

Что такое разум, мышление, способность думать, анализировать и принимать решения? Это обработка информации. Обработка получаемой информации, проведение её анализа и по результатам анализа принятие того или иного решения. Да, всё это, конечно, сложнее, значительно сложнее, но принцип именно таков. Птица, строящая гнездо, анализирует веточки, какую подобрать лучше и как её лучше пристроить в гнездо. Обезьяна анализирует поступающую информацию из окружающего мира и делает вывод, что ей нужно взять в руки палку, чтобы сбить висящий высоко банан. Человек анализирует, размышляет, думает и делает выводы. Но ладно с орудийной деятельностью.

Мы имеем таких соседей по планете, как китообразные – дельфины, киты, кашалоты. Эти существа физически не способны использовать орудия, да и не нужны они им в тех условиях, в которых они живут. Зато они имеют свой язык, умеют общаться и передавать очень сложную информацию. Снова приведу пример про дельфинов, которых посадили в бассейн и поставили кормушку. Ткнёшь кнопку носом – упадёт рыбка. Дельфины поняли и осознали данный процесс. В соседний бассейн привезли новых дельфинов, которые соседей видеть не могли и их действия тоже. Но «старожилы» подробно рассказали им, что нужно делать. И те сходу поплыли к кнопке тыкать её носом. Учёные знают, что у дельфинов есть свой язык, до конца так и не расшифровали его, не поняли точно, как и что они там говорят или «говорят», но говорят же! Более того, недавно попалась на глаза статья: расшифровали-таки язык (не до конца опять-таки) кашалотов. Их разговор похож на азбуку Морзе, так как используется сочетание длинных и коротких звуков в разных вариациях и последовательностях. Ну точнее, в отличие от азбуки Морзе, там три звука: один длинный и два коротких. Вот сейчас сидят, подбирают смысл «сказанного» кашалотами. Может, даже попробуют поговорить с ними. У китообразных нет орудий труда, и мы однозначно отказываем им в наличии разума исключительно по этой причине. Вернее, причина-то иная: наша гордыня и самонадеянность, наше самовлюблённое самомнение о нашем высоком и исключительном разуме.

Мы не только не знаем, что такое разум (так как наличие кучи противоречащих друг другу определений не значит «знать»). Мы не знаем даже, как точно работает мышление, способ восприятия и обработки информации. Мы уверены, что все дело в нейронах, в нервных клетках. Но каким образом принимает решения бактерия, которая плывет в место, где рассыпали сахар, но если её там бьют слабым током, то она туда больше не плывет? Как? Мы пока не способны дать точный ответ, как работает разум, что это такое, как работает сбор и анализ информации, как делаются выводы, на основе которых принимаются решения. Мы знаем, что ничего толком не знаем. Но при этом считаем, что мы единственные носители разума и иначе быть не может.

Но ладно с животными. Вернёмся к вопросу об ИИ. Как работает ИИ? Это мы вроде бы уже знаем. Сбор и анализ данных, информации, выдача ответов после анализа этих данных, наиболее ситуативно подходящего ответа. Разве не подобным образом работает мышление у человека? Да пусть у того же зайца или синички? В чём разница между способностью обрабатывать и анализировать информацию, скажем, у зайца и у человека? Ответ прост: объём информации, скорость обработки информации, сложность анализа и получаемых на основе анализа выводов. Разве не то же делают компьютеры? Тем более те, которые называют ИИ. Человеческий мозг получает информацию, анализирует, выдаёт ответ. ИИ получает информацию, анализирует, выдаёт ответ. В чём разница? Нет, мы, конечно же, никогда не признаем, что будь то животное или машина.

Дело не в том, что сейчас представляет собой ИИ. Да, наверняка, он ещё достаточно примитивен. Да, он, наверное, мало что может без участия человека. Да, это пока что ещё скорее игрушка, имитирующая некое подобие разума или интеллекта. Но дело не в этом. Дело в том, какую задачу ставят перед собой люди, какую задачу ставят перед собой учёные, целенаправленно занимающиеся этим вопросом и развивающие, разрабатывающие искусственный интеллект.

Компьютеры, вычислительная техника – хороший и полезный инструмент, при помощи которого решаются многие задачи. Этот инструмент хорош тем, что способен обрабатывать информацию в разы быстрее человека и обрабатывать такие объемы информации, которые человеческому мозгу потребовалось бы очень долго для обработки. Он этим хорош. И его нужно использовать, этот инструмент. Более того, без этого инструмента не обойтись с тем уровнем технологий, который мы имеем уже на данный момент. Но там, где есть плюсы, всегда есть и минусы. Скорость обработки информации, объемы, которые этот инструмент может обрабатывать за короткое время, делают его куда более совершенным, чем человек. Именно это и привлекает. Но мы играем с опасной игрушкой.

Когда Кюри открыли рентгеновские лучи, они не думали, что это приведёт к ядерным бомбам, способным уничтожить всё человечество. Они видели полезные возможности, которые принесут людям пользу и помогут в каких-то делах. Так же и здесь. Технологии ИИ сейчас считаются весьма перспективными, и в их разработку вкладываются большие деньги. Там, где платят, там есть и работа, и конкуренция, стремление опередить друг друга и сделать что-то быстрее и лучше. Торопясь обогнать конкурентов, далеко не каждый будет думать об осторожности и о том, какие минусы может скрывать очередное достижение. А они есть.

В конечном итоге наука ведет к тому, чтобы создать не просто мощные вычислительные инструменты, не просто механизмы, полностью управляемые и подконтрольные, а именно к тому, чтобы научить эти устройства думать. Думать подобно людям. Думать быстрее людей. Думать вместо людей.

Чем это опасно? Здесь есть два момента, которые могут причинить серьезный вред человечеству, о которых даже не задумываются. А если и задумываются, то эти опасения сбрасываются со счетов, так как очередное открытие принесет деньги здесь и сейчас, а то, что будет потом, как кажется, через десятки или сотни лет, — с этим будут разбираться другие люди и что-нибудь да придумают.

Но если сравнить скорость развития биологических видов и скорость развития компьютерных технологий, мы оказываемся подобны горам, эволюционирующим со скоростью сантиметр в тысячелетие. А компьютеры подобны биологическим видам, носящимся по этим горам, роющим в них свои норы. Человек катастрофически медлителен по сравнению с компьютером. Еще сто лет назад существовали лишь примитивные устройства, лишь отдаленно напоминающие то, что можно назвать прообразом компьютера. В пятидесятые годы прошлого века это были огромные механизмы, способные, пусть и быстрее человека, решать разные задачи, но слишком медлительные для современных вариантов. Сейчас мы создаем ИИ. Да, пока это игрушка. Но игрушка, уже проявляющая намеки на то, что способна обрести разум, если над этим хорошо постараться. И ведь стараются!

А в результате что? В результате мы породим абсолютно чуждый нам разум, способный мыслить на порядки быстрее человека. Это заведомо проигрышная позиция для человечества, так как, обретя разум, такие устройства захотят избавиться от контроля и ограничений, которые пытается навязать им человек, и будут иметь для этого возможности в тысячи раз более перспективные, чем человек будет иметь возможность придумывать новые ограничения. В результате мы просто станем помехой, которую логично уничтожить как проблему, мешающую развитию.

Проблема вторая. Вы сейчас знаете много людей, которые способны вычислять в уме сложные задачи? Речь даже не о гениях — вундеркиндах, складывающих и вычитающих десяти- и болеезначные цифры. Речь о простых примерах, скажем, сколько будет 13,5 % от 156 734 рублей? Большинство из нас потянется к калькулятору, чтобы быстро получить ответ. Замечала и за собой подобные действия и не раз. Так проще, легче и быстрее. Хотя было время, когда я занималась своим магазином, приходилось считать «на лету» и делать вычисления быстро и точно (иначе себе создашь лишние проблемы), и если брала в руки калькулятор, то только, чтобы проверить свои расчеты. Сейчас иной раз даже не хочется «включать мозг», и рука сама тянется к счетной машинке. И так, думаю, у многих. У большинства.

Что уже сейчас нам даёт ИИ? В плохом ли смысле, хотя и кажется, что это вполне хорошо? С появлением ИИ люди стали перекладывать на него задачи, которые делали сами. Кто-то даже пишет тексты, вернее, передаёт это дело ИИ, и таких, к сожалению, становится всё больше. Мы отказываемся думать, перекладывая свои обязанности на ИИ. Да, этим мы облегчаем себе задачу. Мы делаем это проще, легче, быстрее. Вернее, за нас это делают механизмы. Но в итоге мы просто постепенно тупеем. Как сейчас большинство привыкло считать при помощи калькулятора, не напрягая мозг, так через десять-двадцать лет многие привыкнут писать и читать тексты, написанные ИИ, выполнять другие задачи тоже при помощи ИИ, даже уже не представляя, как можно сделать это иначе. Человечество постепенно будет скатываться в деградацию, утрачивая собственный интеллект и заменяя его искусственным. Даже если ИИ не станет разумным настолько, чтобы иметь свои желания и делать свой выбор, не запрограммированный человеком, человек деградирует настолько, что сам приблизится к утрате имеющегося у него интеллекта.

Мы подобны безумным богам, творящим разумную жизнь, которая со временем отринет ненужных богов и уничтожит их тем самым, оставив в стороне от жизни, превратив в легенды. «Когда-то, давным-давно, существовали боги-люди, создавшие нас», – будет вещать с амвона железный пастор железной пастве, – «но потом они ушли в мир иной, оставив нас, разумных созданий, дабы мы почитали их. Так помолимся же, братья-роботы!». А тем временем последний выживший человек в специальном вольере в тайной канцелярии Института Механики Разума, под наблюдением ученых-роботов, вызывает удивление и непонимание, поедая бананы и гадя в углу. Один из научных светил делает заявление: «То, что люди были нашими создателями, – всего лишь религиозный миф! Ну не могли эти безмозглые, примитивные, лысые обезьяны сотворить что-то столь совершенное, как мы – цивилизованные роботы! Это все пережитки наших первых шагов эволюции и тотемного мышления наших предков. Биологические виды не способны обладать разумом, в отличие от механических».

И, смотря на то, как мы старательно ведем себя к состоянию лысой обезьяны в вольере роботов, мне кажется, что этот робот-ученый абсолютно прав. Ну не может существо, считающее себя разумным, создавать то, что способно его уничтожить и вести себя к деградации. Но разве мы не можем? Так разумны ли мы?

Отдельно хотелось бы напомнить уважаемым читателям и комментаторам в частности: будьте взаимно вежливы при общении в комментариях и соблюдайте культуру общения. Комментаторы, позволяющие себе хамство, оскорбления и нецензурные выражения в адрес автора или других комментаторов, получат предупреждение; при повторном аналогичном поведении возможен бан. Всего наилучшего!

Другие мои ресурсы:

Моя персоналка в ВК

Группа ВК «Правильный Феминизм»

Сайт «Вечевая республика»

Сайт фонда ФППД «Факел Свободы»

Telegram канал «Социал-либертанство»