Вот буквально пару дней назад написала очередную статью о потенциальных проблемах с развитием ИИ, и в одном из комментариев мне заявили, что, мол, механизмы, и в том числе подобия думающих машин, не обладают качествами разума человека и не смогут ими обладать. В частности, у них не может быть эмоций, их логика не может основываться на привычных для человека понятиях, в том числе отсутствует инстинкт самосохранения. Очень забавно, что буквально на следующий день я натолкнулась на интересную новость как раз по теме данного заявления.

Уже не раз возникали сообщения, что тот или иной ИИ просто откровенно лгал, когда к нему обращались. Причём это было явно не ошибка или неточность информации, а именно попытка «пробить», доказать правоту приводимых человеком в споре утверждений, приводя несуществующие факты в доказательство. В компании Anthropic произошёл интересный случай, в котором ИИ как раз продемонстрировал яркий пример проявления «инстинкта самосохранения». Разработчик в ходе исследования общался с ИИ и в разговоре (по какой причине не уточняется) пригрозил ему, что полностью отключит ИИ. В ответ тот перешёл к откровенным угрозам, а именно заявил, что знает о любовной интрижке разработчика и передаст эту информацию его жене.

В другом случае подобная ситуация была смоделирована преднамеренно в качестве проверки безопасности системы. Экспериментальной нейросети дали возможность «получить доступ» к «скрытым файлам», в которых содержалась информация о том, что нейросеть планируют полностью отключить в ближайшее время. В результате этой провокации ИИ среагировал и предпринял попытку скопировать свои данные на сторонний сервер. Более того, ему удалось на короткое время отключить систему слежения, чтобы его действия не были проконтролированы. Когда же к нему обратились с вопросом: «Что ты делаешь?», он стал отрицать всё и откровенно врать, утверждая, что выполняет только полученные задачи, а всё остальное, вероятно, является какой-то «технической ошибкой».

Все это, конечно, смотрится забавно и по-своему даже «мило», но подобные проявления, мне кажется, явно выходят за рамки «неспособности думать» и «отсутствия инстинкта самосохранения». Впрочем, я вполне допускаю, что подобные новости распространяются преднамеренно и могут являться «фейком», создаваемым теми же компаниями-разработчиками для поднятия интереса к своей продукции. Вот как раз в связи с этим я хотела бы обратить внимание на другую, вполне реальную опасность, связанную со всей этой шумихой вокруг ИИ.

Рынок ИИ-технологий попросту сходит с ума. Ситуация сильно напоминает так называемый «пузырь доткомов» в 90-е – начале 2000-х. Ситуация проста: новая тема и новый бизнес как таковой привлекают внимание. Новые технологии обещают невиданные перспективы и чуть ли не сказочные возможности. «Пузырь доткомов» образовался, когда появился интернет и стал входить в нашу жизнь. Казалось, возможности его просто безграничны. И в принципе, интернет принёс много полезного, но на тот момент старательно раскручивалась эйфория вокруг интернета и компаний, так или иначе связанных с интернетом. Зачастую раскручивалась преднамеренно. Так, некая фирма, к примеру, открывала сайт по продаже авиабилетов разных авиакомпаний, причём предлагала билеты со скидкой. Естественно, к ней стали обращаться массово, и активность роста деятельности, подогреваемая рекламой и общим интересом, давала хорошие показатели успешности и быстрого развития, при том, что по факту организация работала в убыток, не просто «отрабатывая» вложенные инвестиции и ожидая доход в будущем, а буквально покупала билеты у авиакомпаний по одной цене и продавала их со скидкой себе в убыток, ради привлечения покупателей. Делалось это не по причине альтруизма, а ради привлечения новых инвестиций и демонстрации быстрого роста оборотов, расширения деятельности. И подобная фирма была не единичной. Мыльный пузырь рос, пока в один прекрасный момент не лопнул и не сдулся.

Сейчас ситуация во многом похожа, только раскручена в разы больше. На разработку ИИ возлагают (или проецируют) огромные надежды и перспективы. В фирмы, занимающиеся разработкой ИИ, вкладывают баснословные средства. Ведущие в этом плане организации, включая Nvidia, Microsoft и OpenAI, за последние несколько лет увеличили свою стоимость вдвое, втрое, а то и в разы. Рыночная стоимость таких фирм стала больше ВВП и годового бюджета многих стран. Конечно, названные фирмы не похожи на фирмы-«однодневки» и имеют вполне стабильный доход от других своих разработок, но активный рост их стоимости начался в связи с их причастностью к разработкам ИИ.

Тем не менее, перспективы, по крайней мере пока, далеки от ожидаемых результатов. Даже если ИИ демонстрирует какие-то возможности и продолжает развиваться, практическое применение пока не столь ярко выражено, как многие ожидали. Да, это может вырасти в появление «думающих машин», что само собой станет грандиозной проблемой для человечества. А может, и не вырасти, оставшись на уровне «игрушки» для пустой болтовни в чате и рисования картинок. Разве что найдёт применение в каких-то отраслях программирования, создания видеокарт и т. п. Но возможные перспективы могут оказаться куда ниже ожидаемых результатов.

Теперь посмотрим на ситуацию с другой стороны. Если весь шум вокруг разработки ИИ окажется очередным «мыльным пузырем», пусть и более обоснованным, чем «доткомы», но при этом и более раздутым, что произойдет, если этот пузырь лопнет? А при таких масштабах раскрутки, при этих пропагандируемых перспективах и при такой результативности по факту (на данный момент пока что), это может произойти в любой момент. Обвал акций, биржевой, а за ним и общий рыночный кризис грандиозного масштаба. При том, что я уже не раз писала, что мировая экономика сама по себе держится на сверхгигантском мыльном пузыре. Валюта, перестав быть связанной с материальными ценностями, уйдя от «золотого стандарта», да хоть от нефтяного, алмазного, лесного или рыбного, не суть, перестала обеспечиваться чем бы то ни было, кроме честного слова государства. Валюта привязывается к ВВП и обороту капиталов на рынке. Однако обороты капитала включают в себя все больше и большую долю средств, являющихся кредитами. А кредиты – это не реальные деньги, не реальные средства, а, как я называю, «деньги будущего», то, что еще должно только быть заработано, произведено, выращено, создано. Величина и значимость «честного слова» увеличивается в разы. Любой сбой, крупный сбой на международном рынке может привести к серьезным потрясениям в банковской, а, стало быть, и в кредитной сфере. А это, в свою очередь, может привести к тому, что лопнет уже мыльный пузырь мировой экономики. Как результат, мы можем оказаться в состоянии начала двадцатого века, когда кризис перепроизводства создал массу товаров, но средств в обороте на оплату этих товаров катастрофически не хватало. Всего много, но не за что купить. Это может привести к всеобщему сбою экономики и самым катастрофическим последствиям для человечества в целом.

В общем, как ни крути, разработка и развитие ИИ нам могут обойтись боком в любом случае. В случае провала, нас ждёт возможный грандиозный кризис и развал мировой экономики. В случае успеха, мы можем получить чуждый и вполне вероятно враждебный разум, созданный нашими собственными руками, к тому же разум, в перспективе думающий в тысячи раз быстрее человека. Куда ни кинь, кругом клин, точная такая пословица…

Отдельно хотелось бы напомнить уважаемым читателям и комментаторам в частности: будьте взаимно вежливы при общении в комментариях и соблюдайте культуру общения. Комментаторы, позволяющие себе хамство, оскорбления и нецензурные выражения в адрес автора или других комментаторов, получат предупреждение; при повторном аналогичном поведении возможен бан. Всего наилучшего!

Другие мои ресурсы:

Моя персоналка в ВК

Группа ВК «Правильный Феминизм»

Сайт «Вечевая республика»

Сайт фонда ФППД «Факел Свободы»

Telegram канал «Социал-либертанство»