©

Приведет ли развитие ИИ к мировой войне с роботами?

С появлением первых вычислительных машин началась компьютерная эпоха, но пожалуй, именно с того момента, когда компьютер объединился с телефонной сетью, зародилось нечто совершенно новое, мощное, единое и неизбежное. Это стало началом – началом эпохи искусственного интеллекта.

Развитие каждой эпохи подчиняется определенным трендам, и если мы говорим о технологическом прогрессе, то это не значит, что в скором времени мир “захватят роботы”. Ведь, оглядываясь назад, можно заметить, что тренды лишь определяют вектор будущего развития. Так, создание телефонной связи было лишь вопросом времени, но изобретение iPhone – не обязательно. Разработка механизма обмена мгновенными сообщения – неизбежной, но ежеминутное обновление Твиттера – нет. Поэтому, говорить о том, что всякое развитие искусственного интеллекта заведомо приведет к уничтожению человечества – это лишь свидетельство ограниченности мышления и явный признак технофобии. Но, как говорится, нет дыма без огня, и тема третьей мировой войны под эгидой искусственного интеллекта все чаще муссируется в массах. Обоснованы ли эти страхи и чем грозят современные технологии человечеству – попытаемся разобраться в деталях.

ИИ в жизни человечества: лагерь оптимистов

Вероятно, мало кто задумывался о том, что мощные “цифровые корни” уже прочно вошли в жизнь человека. Речь не только об интеллектуальном помощнике в вашем смартфоне или “умном доме”, вопрос уже в глобализации: от социальной сферы и военной промышленности до освоения космоса. Нет ни одного аспекта человеческой жизни, где бы не использовались компьютеры, вне зависимости от географии, политики и компании. И речь не о банальном использовании машины для ввода информации, а об успешном использовании ИИ для решения сложных задач, трудновыполнимых для человека.

В 2016 году Сундар Пичаи (генеральный директор Google Inc.) заявил:

“ИИ является основным источником трансформации...Мы внедряем его во все наши разработки, будь то поисковая система, Google Play или YouTube”.
Сундар Пичаи
Сундар Пичаи

И после таких заявлений, я совсем не удивлюсь, когда уже через 10 лет главным продуктом Google станет не смартфон или поисковая система, а именно ИИ. Ведь каждый из миллиардов поисковых запросов ежедневно обучает глубинный машинный интеллект, развивая его и приближая к совершенству. Ведь использование ИИ давно вышло за рамки компьютерных технологий, а интеллектуальные помощники, даже незримо, но сопровождают нас повсюду: диагностика заболеваний в медицине; определение рискованных сделок или мошенничества в финансовой сфере; таргетинговая реклама и чат-боты в e-commerce; беспилотное управление в транспортной сфере, управление дронами.

Конечно, это лишь вершина айсберга и развитие ИИ вызовет существенные сдвиги во многих устоявшихся областях. При этом исчерпают себя целые профессии, но на их место придут совершенно новые. Джек Ма (основатель и руководитель компании Alibaba Group) считает так:

“ИИ будет способствовать росту безработицы, но в свою очередь новые технологии простимулируют развитие совершенно других профессий. И главная задача будущих поколений – быть готовыми к этому. А нашим детям остаться на плаву в роботизированном мире будущего поможет лишь инновационно-креативное мышление”.
Джек Ма
Джек Ма

Кроме того, новые реалии жизни будут требовать существенных доработок законодательства, что может стать одной из возможных причин развития конфликтных ситуаций как в рамках конкретного общества, так и между суверенными государствами.

ИИ в жизни человечества: лагерь пессимистов

Тема “плохих роботов” – одна из самых популярных, когда дело касается ИИ. И дело даже не в кинематографе, где за последние несколько лет "сверхинтеллект" неустанно пытается поработить человеческую цивилизацию. А скорее, дело в том, что человек открывает для себя неизведанную территорию, результаты освоения которой не под силу предугадать никому. Но это в долгосрочной перспективе. А что касается ближайших рисков, то закономерным становится вопрос: когда таки появится всеобщий ИИ, кто будет стоять во главе и какова будет его мотивация?

На мой взгляд, в данной ситуации возможны два варианта развития событий:

  1. Управление всеобщим ИИ человеком.
  2. Управление всеобщим ИИ сверхразумом.

Сценарий первый

Рассматривая первый сценарий, на ум приходит недавнее заявление президента Российской Федерации В.В. Путина, который отметил:

“За развитием ИИ стоит будущее не только России, но и всего человечества. За неограниченными возможностями всегда таятся непредсказуемые угрозы. Очевидно лишь то, что тот, кто будет лидером в сфере ИИ – станет мировым правителем. Поэтому очень важно не допускать монополизации данной отрасли...”

В свою очередь Элон Маск (основатель и генеральный директор Tesla, PayPal, SpaceX) так прокомментировал заявление В.Путина:

“Именно конкуренция в сфере развития ИИ на межнациональном уровне – способна разжечь третью мировую войну!”

И с этим сложно не согласиться, ведь если взглянуть на прошлое, то первая техническая революция привела к Первой мировой войне, вторая техническая революция – ко Второй, а сейчас мы стоим на пороге третьей....что наталкивает на весьма обоснованные опасения.

В свою очередь Огюст Коул (руководитель проекта “Искусство будущей войны” центра национальной безопасности США) считает, что третья мировая война пойдет по совершенно другому сценарию, чем предыдущие столкновения: линия фронта развернется в космосе.

“Все без исключения государства зависят от современных технологий, в основе которых лежат навигационные системы GPS. Очевидно, что самый быстрый способ обезоружить противника – вывести из строя его спутники, развернуть массированную кибератаку на важнейшие финансовые, социальные, промышленные объекты, центры связи и коммуникаций”, – заявил профессор.

Не секрет, что многие правительства уже ведут испытания роботизированной техники, беспилотных механизмов и других достижений ИИ в военной промышленности. Современные автономные системы выявления потенциальных угроз способны самостоятельно анализировать информацию, делать выводы и предлагать варианты решения конфликтных ситуаций, не нуждаясь при этом в человеческой помощи.

По этому поводу вспыхивает немало дискуссий. Такие авторитетные личности современности, как Элон Маск, Стив Возняк и Стивен Хокинг уже не раз призывали к введению на государственном уровне запретов на использование автономных беспилотных систем в бою. Аппелируя тем, что во-первых, нет четкого юридического механизма использования ИИ в военных конфликтах. А во-вторых, главным остается аспект морального права, в рамках которого машина могла бы самостоятельно решать: кого следует уничтожить, а кого – оставить в живых.

В поддержку запрета на использование интеллектуального оружия также выступила и ООН, после того как США, Великобритания и Израиль объявили о разработке военных беспилотников, оснащенных ИИ. Ноэль Шарки (профессор робототехники и искусственного интеллекта Шеффилдского университета) так прокомментировал перспективы развития ИИ в военной промышленности:

“Не стоит опасаться того, что роботы начнут третью мировую войну. Они могут спровоцировать ее случайно, а не потому, что сами этого хотят. Все будет зависеть от человека, стоящего за ИИ. Я бы поспорил с г-ном Маском по поводу того, что машины могут захотеть нас атаковать. Компьютер, каким бы супер-умным он бы не казался – всего лишь программа. Ведь победив Каспарова в шахматной партии, машина не стала визжать от радости и “давать пять” всем присутствующим. Если бы мы отключили ее посреди партии, то ей было бы все равно. У машины нет желаний и чувств. Это лишь высокотехнологичный слуга”.
Ноэль Шарки
Ноэль Шарки

Сценарий второй

Но, если отбросить весь скепсис и представить развитие второго сценария, где за ИИ на каком-то этапе будет стоять уже не человек, а другой, более мощный Сверхразум? Тогда логично было бы предположить, что этот Сверхразум должен быть “злым” (иначе, зачем ему уничтожать человечество?!). Соответственно, ему должны быть присущи и другие людские чувства и эмоции. Тогда возникает вопрос: на этом этапе ИИ станет сознательным или просто будет казаться таким?

По одной из версий машины не получат когнитивные умения, доступные человеку, а смогут лишь развить свои суперспособности:

  • интеллект;
  • стратегическое планирование;
  • систему манипуляций социумом;
  • освоить другие полезные навыки: кодирование, дешифровку данных, получение финансовой прибыли и т.д.

Рэймонд Курцвейл (известный изобретатель и футуролог) утверждает, что:

“В конечном итоге, подобное развитие ИИ приведет к тому, что машины станут людьми, а люди – машинами. Создать дружественный человеку ИИ несложно, главная проблема – оставить его таковым”.
Процесс эволюции человека по версии Р.Курцвейла
Процесс эволюции человека по версии Р.Курцвейла

Таким образом, по мере развития ИИ, человечеству, скорее всего, придется изобрести способ предотвращения очеловечивания машин, чтобы затормозить процесс формирования у нее сознания. Но, в условия современного мира, кода IT компании стремятся к лидерству, набирая обороты, создавая все более умные системы, реализовывая свои амбиции… все меньше времени остается на элементарное – взглянуть на картину глобально и задуматься о потенциальных угрозах.

Чего ждать от развития ИИ

Очевидно, что нам не под силу бороться с неизбежным процессом развития, по-меньшей мере это глупо и непродуктивно. Совершенствование ИИ, роботизация рабочих мест, создание новых технологий и способов ведения бизнеса – это уже свершившийся факт, развитие которого происходит по инерции. И когда человек осознает это и перестанет бороться с прогрессом, он сможет получить все преимущества современных технологий. И речь не только об использовании ИИ как инструмента, но скорее – о его “приручении”. Ведь в долгосрочной перспективе именно процесс созидания, развития и даже разрушения гораздо перспективнее, чем отдельно взятый продукт технологического прогресса.

“Нищета, разорение, уничтожение человечества: все это – возможные сценарии развития суперинтеллекта, вооруженного нанотехнологиями. Но, с другой стороны, ИИ может подарить человечеству бессмертие по средствам наномедицины, остановить старение и даже “перезагрузить” человеческий интеллект”, – говорит Ник Бостром (философ и профессор Оксфордского университета).
Ник Бостром
Ник Бостром

Безусловно, человек несет ответственность за то, что создает, но он и должен определять вектор технологического развития.

“Робототехника может быть полезной в тех сферах, где человек практически бессилен: бороться с экологическими катастрофами, разрабатывать технологии эффективного продовольственного потребления ресурсов, восстанавливать экосистемы, развивать сельское хозяйство и т.д. Да, возможно это спровоцирует безработицу, но человечество не вымрет от голода или экологической катастрофы. И главная задача, которая сейчас стоит перед человеком – правильно выбрать направление для будущего развития ИИ!”, – считает Ноэль Шарки.