Чи варто боятися "повстання машин"

Американский кинематограф нынешнего столетия четко отобразил, какого искусственного интеллекта - Artificial Intelligence, AI - опасается человечество.

Того, который будет похож на более продвинутого всезнающего человеческого индивидуума и который сможет внезапно возненавидеть человека и легко его убить.

Эта линия прослеживается почти во всех фантастических фильмах - от старого доброго "Терминатора" до свежего Ex Machina, где сексуальный андроид обводит вокруг пальца двух мужчин благодаря навыкам женского соблазна и хитрости.

Вещие ли фильмы снимают фантасты, и насколько мы близки к созданию AI, подобного или превосходящего людской?

Недавние новости о прохождении теста Тьюринга обнадеживают.

Программе, разработанной украинцем и россиянином, удалось убедить членов жюри, что она является 13-летним мальчиком из Одессы, а не машиной.

Компьютеру пока не удается прикинуться взрослым человеком, но ребенком - уже получается. Для детей ответить на некоторые вопросы "не знаю" - это нормально.

Что дальше? Через несколько лет ученые создадут программу, которая успешно прикинется взрослым? Это и будет высшая мера искусственного интеллекта, или он каким-то образом пойдет дальше, наращивая мощь?

Наиболее полный ответ на этот вопрос дает, на мой взгляд, профессор университета Калифорнии Бенджамин Браттон в колонке в New York Times.

Основная идея автора состоит в том, что наиболее распространенное в обществе людей восприятие AI сильно "загажено" антропоцентричностью. Человек усиленно хочет увидеть в машине свое отражение. Это не позволяет ему понять, что такое AI.

В еще большее заблуждение вводят себя люди, краем уха послушав высказывания гениев Билла Гейтса и Стивена Хокинга о том, что AI может угрожать человечеству. Мозг сразу же вырисовывает в подсознании образ злой машины или мощного компьютерного вируса, который губит все живое на земле.

Настоящее машинное сознание

Однако опасность AI далеко не в том, что машина захочет убить человека. Опасаться ее можно в большей мере из-за того, что она нас проигнорирует.

На самом деле, помимо излюбленных идей сценаристов, когда искусственный разум возникает путем копирования человеческого мозга в цифровую форму, существует еще одна разновидность вселенского машинного разума.

Работает этот разум так: огромные массивы загруженных в интернет данных ежесекундно анализируют программы и выдают точные результаты поиска в Google согласно запросу или размещают рекламу, угадывая предпочтение пользователя.

Чтобы упросить понимание работы этих сложных алгоритмов, напишу так: программы сопоставляют громадные массивы данных множество раз до тех пор, пока не выдают наиболее вероятную взаимосвязь между кусками разрозненной информации. Эти процессы еще увязывают с модным словосочетанием Big Data.

Big Data - это, бесспорно, зачатки первого серьезного машинного разума. Бизнес начинает активно использовать этот механизм не только в интернет-компаниях, Google или Facebook, но и в потребительском секторе.

Такие программы молниеносно анализируют столько данных, сколько за пять лет не осилил бы целый маркетинговый отдел. Они выдают такие результаты, на которые никогда бы не обратил внимание человек, даже сильно напрягая свой мозг.

Самый распространенных пример: между американским супермаркетом и отцом одной американской семьи недавно вспыхнул конфликт. Он был оскорблен тем, что его дочери вдруг начала приходить реклама товаров для беременных.

В ходе расследования выяснилось, что девочка действительно была беременной, но об этом никто не знал. И только программа, установленная для улучшения продаж, смогла уловить какую-то связь между товарами, которые покупала девочка, и фактом ее беременности. Причем она не покупала вещи, явно связанные с ней.

Нас машинам не понять

В какой-то мере человечество должно быть счастливо, что Big Data уверенно входит в его жизнь. Многие рутинные процессы можно отдать на откуп умным программам и наслаждаться жизнью. Правда, здесь сразу же появляется серьезный риск.

Если человек со временем будет отстранен от ряда процессов, обеспечивающих его жизнедеятельность, обеспечит ли программа все его истинные потребности? Программа не думала о чувствах девочки, когда "рассказала" папе о беременности. Она не входила в ее положение, а лишь выдала наиболее оптимальный результат.

Таких случаев будет много. Можно привести наиболее банальный пример, как AI может оскорбить чувства человека. Давным-давно члены племени могли съесть тело погибшего или ослабленного родственника, так как это был наиболее простой в данной ситуации источник белка. Многие животные, кстати, до сих пор так делают.

Впоследствии в человеческих общинах зарождались более сложные взаимоотношения, и мясо близких никто уже не ел.

Мощный AI, запрограммированный на поиски наиболее эффективного сценария добычи белка на планете, может пренебречь такими "надуманными" правилами. Ведь съевший от этого не умрет. Это не навредит его биологической жизни.

Новая форма нежизни

Очевидно, тем, кто ждет от такой формы AI какой-то чувственности, можно начинать расстраиваться. Чувства - это явление, свойственное лишь человеку. Они произошли от примитивных форм первого взаимодействия между первобытными людьми и базируются на вполне закономерных потребностях этого вида.

Например, если более слабая особь хотела выжить, ей приходилось сосуществовать рядом с более сильной, которая добывала свежее мясо и защищала от хищников. Взамен ей приходилось тоже что-то делать. Вряд ли они жили вместе "по любви". В биологии такие штуки называются просто: симбиоз.

Противоположенное сильное чувство - ненависть - родилось в результате борьбы человека за жизнь с себе подобными. Если кто-то забирает твои ягоды и твое мясо, а тебе не хватает, ты должен убить или прогнать конкурента. На такое действие мозг должен настроиться химически. Появляется ярость.

Чувства любви, ненависти, зависти, страха неразрывно связаны с человеком как биологическим видом. AI биологическим видом не является. AI не имеет тела, не живет и не является формой жизни. Сопереживания от него ждать не стоит.

Понять его действия тоже можно будет не всегда. В этом-то и заключается наибольшая опасность такой формы разума. В ней будет 0,0% человечности, зато она будет на миллион порядков результативнее и работоспособнее, чем мы.

Улыбнитесь, вас снимают

Хотя любителям современной фантастики можно и немного порадоваться. Мощный AI, вероятно, будет способен воспроизводить цифровые виртуальные образы человеческого мозга. По шаблону. Благо, данных о нас к тому моменту будет хватать.

Один человек оставляет о себе определенную информацию в сети. В Facebook, к примеру. Естественно, для создания хорошей копии данных только о нем не хватит.

Если же через программы Big Data пропустить миллиарды аккаунтов, то можно будет воссоздать наиболее распространенные поведенческие шаблоны. Они будут похожи на нынешние операционные системы, только устанавливать их станут не на смартфоны, а на человекоподобных андроидов.

Торговля функциональными шаблонами для андроидов, которые будут служить для услады и обслуживания людей, - это хороший многомиллиардный бизнес будущего.

Создатели соцсетей еще не раз разбогатеют на данных о нас. Вероятно, человекообразная ОС будет состоять из базового характера, набора чувств и кусочка данных от глобального AI, например, алгоритма уборки мусора в квартире.

Можно ли будет запихнуть чувства в алгоритм? Запросто. Ведь каждое чувство имеет определенные причины возникновения, протекание и последующие реакции. Возможно, в некоторые образы андроидов, скажем, робота-сожителя, загрузят и его предысторию - смоделированную историю жизни, которую машина будет помнить.

Когда это станет реальностью? Ждать ли человечеству еще тысячелетие? Очевидно, нет. Отсчет пошел на десятилетия. Видимо, мы гораздо ближе подошли к AI, чем к освоению Марса или созданию изящного технологического тела для андроида.

Мы до сир пор не имеем развитого космического флота, до сих пор используем простейшие материалы при производстве современных гаджетов. Но благодаря стремительному развитию интернета мы вплотную приблизились к тому, что называется альтернативой человеческому разуму. Подчеркну - не жизни.

* * *

Колонка є видом матеріалу, який відображає винятково точку зору автора. Вона не претендує на об'єктивність та всебічність висвітлення теми, про яку йдеться.

Точка зору редакції "Економічної правди" та "Української правди" може не збігатися з точкою зору автора. Редакція не відповідає за достовірність та тлумачення наведеної інформації і виконує винятково роль носія.