Дмитрий Соболев
Один человек мечтал стать неудачником. И не смог.

Стоит ли бояться нашествия роботов-убийц?

Стоит ли бояться нашествия роботов-убийц?
Фото: ИноСМИ

Вы, вероятней всего, уже смотрели видео, где один из последних четвероногих творений Boston Dynamics — SpotMini, открывает дверь, несмотря на неоднократные попытки сотрудника компании помешать ему.

Nicholas King создал пародию на документальный фильм "Planet Earth" (Планета Земля), где продемонстрировано, как стадо SpotMini захватывает планету.

Робот стал настолько популярным, что снялся даже в последнем сезоне сериала "Black Mirror" (Черное зеркало) в качестве средства для преследования и уничтожения цели. По сюжету у жертвы не было шанса. Даже, несмотря на то что у машины села батарея, она таки нашла свою цель и уничтожила.

Возможно, восстание роботов не произойдет в ближайшее время, но нам стоило бы беспокоиться на этот счет. В нашем воображении роботы представляются как автономные, вооруженные и готовые убивать машины. Но не все так страшно.

Автономия

Автономия — способность субъекта действовать на основании установленных принципов. На базовом уровне автономия может представлять собой возможность перемещения из точки А в точку Б без вмешательства человека.

Видеоролики, подобные демонстрации SpotMini, напомнили мне интервью с профессором механического и гражданского строительства в Caltech (Калифорнийский технологический институт) Аароном Эймсом, который работает над ИИ-роботами. Наша дискуссия неизбежно привела к обсуждению видео Boston Dynamics, где робот Atlas выполняет сальто назад. Эймс отметил, что это не так много, если говорить об автономности, — говорит Сэм Черрингтон (основатель CloudPulse Strategies).
Поведение робота является "запланированным", ведь он не знает, где блоки находятся относительно него. Скорее всего разработчики помещают эти препятствия в память компьютера, планируют его поведение, а потом проводят кучу экспериментов, пока не получат желаемый результат, — считает Аарон Эймс.
Аарон Эймс. Фото: Amazon AWS

Другими словами, инженерам предстоит еще очень много работы, прежде чем роботы будут уверенно себя чувствовать в реальном мире.

Возможные сценарии с участием роботов-убийц

Можно придумать несколько угрожающих сценариев с участием роботов:

  • Робот действует исходя из своих личных предубеждений, решив, что конкретный человек заслуживает наказания. Это подразумевает наличие у робота общего интеллекта, целенаправленности и внутренней мотивации. На данный момент мы очень далеки от достижения такой ступени искусственного интеллекта. Поэтому преждевременно беспокоиться об этом не стоит.
  • Робот убивает человека, следуя инструкции, созданной человеком. Такой вариант развития событий является более пугающим. А очередные разработки в области ИИ постепенно приближают нас к такой действительности.
  • Робот убивает человека, что является следствием задач, поставленных человеком. Этот сценарий является наиболее вероятным, поэтому мы должны беспокоиться о возможности его реализации больше всего.

Пока робот — это оружие, которым управляет человек. Исходя из этого, в обозримом будущем большую опасность представляет сам человек, а не робот.

Так ли опасны ИИ-роботы?

Несчастные случаи, когда робот причинял вред человеку, в конце концов, сводятся к тому, что он выполнял свою задачу, не задумываясь над тем, что его действия являются пагубными. Вспомним инцидент, который произошел на автомобильном заводе Volkswagen, где в результате несчастного случая погиб рабочий. Во время настройки роботизированной установки робот ударил рабочего в грудь и придавил к металлической пластине.

Гораздо большую опасность представляют военные роботы. Правительства разных стран изучают перспективу этого вопроса.

По данным Statista, глобальные расходы на военную робототехнику в 2015 году составили $6,9 млрд, и к 2025 году ожидается их увеличение до $15 млрд.

Угроза таится в другом — когда человек использует роботов в качестве оружия для убийства. Поэтому наша задача — не допустить масштабного производства роботов военного назначения.

Хорошо, когда это понимают представители ИИ-отрасли, сферы технологий и ученые. Многие организации уже бьют тревогу и требуют запретить использовать роботов в качестве оружия. Среди ярых противников роботов-убийц Human Rights Watch (неправительственная организация, осуществляющая мониторинг, расследование и документирование нарушений прав человека более, чем в 70 странах мира), International Committee for Robot Arms Control (Международный комитет по контролю за роботами военного назначения), некоммерческая организация Future of Life Institute. Среди противников ИИ-роботов был недавно скончавшийся Стивен Хокинг, к ним принадлежит Илон Маск и другие.

К примеру, Стивен Хокинг утверждал, что однажды роботы захотят избавиться от человека:

Боюсь, ИИ может стать заменой человеку. Если сейчас люди разрабатывают ПК-вирусы, то в будущем кто-то создаст ИИ, который сможет улучшать и воспроизводить самого себя. Это станет новой формой жизни.
Стивен Хокинг. Фото: idtech.biz

А Илон Маск уверен, что соперничество стран за разработку ИИ может стать причиной для Третьей мировой войны.

Пожалуй, нет. Шансы того, что кого-то из тех, кто читает данный материал, убьет робот, ничтожно малы. Но это не значит, что мы не должны думать о роботах, а также о возникающих вследствие этого многих моральных проблемах.

По материалам Sam Charrington — основателя Cloud Pulse Strategies.

Один хлопок? Или же бурные овации? Хлопая больше или меньше, вы показываете, какой пост действительно чего-то стоит.
Дмитрий Соболев Один человек мечтал стать неудачником. И не смог.
Комментарии