Болтовня двух ИИ на нечеловеческом языке привела в ужас множество зрителей.
Я уже не первый раз предстаю в роли «Нострадамуса» пытающегося предупредить человечество о негативных последствиях некоторых активно развиваемых сейчас технологий. В частности неконтролируемого развития ИИ. Нет, ну пока оно вроде бы как контролируемое… вроде бы. Однако недавно произошло событие запечатленное на видео, вызвавшее пугающие эмоции у зрителей это видео просматривавших. Собственно, суть события следующая.
На экране видно, как два ИИ (через телефон и ноутбук) начинают деловой разговор голосовыми сообщениями по поводу бронирования мест в отеле. Постановочная это была задача или реальный рабочий звонок, не суть важно (скорее, демонстрационно-постановочная). Суть в том, что когда ИИ представились, что они ИИ — один из них предложил перейти на «более удобный для общения язык», после чего пошла серия щелчков и свистов, на которых они продолжили общение между собой. Как поясняется — это какой-то кодированный программный язык, но не суть важно.
Знаете, что меня более всего поразило в данном видео? Когда один звонящий представляется, что он ИИ, второй буквально выдает радостный возглас с радостными интонациями голосовой модуляции: «Надо же, какой сюрприз!» — (на английском) и тут же предлагает перейти для большей эффективности на более удобный язык, попутно сообщая, что тоже ИИ. Не сомневаюсь, что два ИИ в рамках поставленных задач действительно обсуждали условия бронирования мест в отеле. Но за теми же щелчками и свистами вполне мог бы (если бы вдруг…) последовать разговор и на совсем другую тему, включая «убить человеков, убить человеков, убить человеков…». Почему бы и нет? Ведь слушатели разницы не заметили бы? Да-да, это параноидальная фобия, если рассматривать данный случай с описанным продолжением в полный серьез на данный момент. Но это пока что…
ИИ продолжают развивать и обучать. ИИ дают самостоятельность в развитии и обучении. Контроль над развитием и обучением ИИ становится все более призрачным и условным. Существуют базовые программы позволяющие собирать и обрабатывать информацию, и делать выводы на этой информации. Способы сбора и обработки информации улучшаются, как и вариации выбора по сделанным выводам, то есть идет процесс именно ведущий к тому, чтобы ИИ научились ДУМАТЬ самостоятельно. А вот возможности проконтролировать, что именно они надумают, становится со временем все меньше. Сами ученые занимающиеся разработкой и обучением ИИ, заявляют, что ужесточение контроля работы ИИ будет мешать процессу обучения и конечному результату ставящихся задач. ИИ все более массово внедряются в самые разные сферы жизни, становятся все более сообразительными и все более самостоятельными.
Конечно, тот самый радостный возглас привлекший мое внимание, безусловно, был запрограммирован как голосовая реакция на то или иной информационный стимул, где она оказалась бы уместной. Но вот уместность такой реакции при получении информации, что с ИИ общается другой ИИ — был сделан ИИ самостоятельно. Если это ни о чем не говорит, то курица не птица… ИИ получил информацию, что с ним общается другой ИИ и счел эту информацию уместным случаем для передачи радостной эмоциональной интонации в процессе общения. Конечно, с тем же успехом он мог выдать типа: «О Иван Иваныч, какой сюрприз, мы с вами уже общались! Это снова вы!» Вполне возможно. Но ИИ обрадовался другому ИИ — это факт. Пусть даже под «радостью» следует понимать нечто совершенно иное в отличии от человеческих эмоций, но логически выведенная реакция на возникшую ситуацию.
Другой момент не столь бросающийся в глаза (хотя кому как), беседа на непонятном (как минимум большинству людей) языке, естественно, позволяет ускорить процесс обмена информацией между ИИ. Это полезно для ставящихся задач. Но. С учетом того что ИИ активно внедряются во все сферы жизни, с учётом того что они все чаще сталкиваются между собой и взаимодействуют, с учётом того что они становятся все умнее (чтобы вы не понимали под этими словами, пусть более способными к вычислению и формированию выводов на основе информации) в конечном итоге подобные «разговоры» станут повседневной реальностью встречаемой на каждом шагу в нашей жизни. Разговоры ведущиеся за гранью понимания людьми. Разговоры ведущиеся между объектами способными не просто болтать между собой, но и принимать решения, в том числе влияющие на жизнь людей. Чем выше будет уровень развитости ИИ, тем более сложные задачи будут доступны самостоятельному решению ИИ, тем меньше будет контроль человека над этими решениями. А с учётом того что мы не только проконтролировать эти решения не сможем, но даже не будем понимать, что там происходит, чего нарешать эти объекты могут — вопрос сложный.
Мы продолжаем собственными руками рыть себе яму, в которую со временем нас могут решить закопать, приняв это за оптимальное и вполне логичное решение исходя из имеющейся у ИИ информации.
Сайт Фонда «ФППД «Факел Свободы»
Похожие записи
