Дарина Лагода
Не получилось сегодня — получится завтра

Илон Маск и лидеры области ИИ призывают к запрету на производство роботов-убийц

Речь идет о роботе с дистанционным управлением, оснащенным пулеметом, разработанный морской пехотой США. Знатоки в области ИИ и робототехники, в том числе Илон Маск и Мустафа Сулейман (Google DeepMind), подписали петицию с призывом к Организации Объединенных Наций запретить смертоносное оружие, которое уже получило прозвище "убийственный робот". В своем заявлении группа "единомышленников", сообщает, что развитие подобной технологии может привести к третьей мировой и сравнивают робота с ядерным оружием.

Оружие может быть использовано для совершения террора, террористы могут использовать его против мирного населения стоит только получить доступ к роботу, — говорят заявители.

Заявление было было подписано 116 заявителями, занятыми в области разработки ИИ-технологий из 26 стран мира и обнародовано в эти выходные в рамках Международной совместной конференцией по ИИ (IJCAI). Данное мероприятие должно было совпасть с началом официальных переговоров ООН о введении запрета на производство вышеупомянутой техники. На переговорах должны были присутствовать 123 участника из разных стран мира, но мероприятие было отложено из-за неоплаченных сборов со стороны государств-членов.

Данный робот-убийца способен на уничтожение цели без вмешательства в этот процесс человека, что является "морально неправильным", такие действия должны регулироваться и контролироваться положением Конвенции 1983 года. Конвенция регулирует использование ряда видов оружия, включая мины, огневые бомбы и химическое оружие.

Заявители говорят, что решить этот вопрос нужно срочным образом.

Это не предполагаемый сценарий развития событий, а очень реальная картина, которая требует немедленных действий. Мы не должны упускать из виду тот факт, что в отличие от других потенциальных "проявлений" ИИ, которые до сих пор остаются в области научной фантастики, автономные системы боевого действия находятся "на пороге" уже сейчас и несут реальную угрозу для людей, — заявил Райан Гарипи, основатель Clearpath Robotics.

Ряд стран в настоящее время разрабатывают смертоносное автономное оружие, включая США, Китай, Россию и Израиль. Некоторые системы уже практически готовы, например, автономные пограничные башни, созданные южнокорейским производителем Dodaam Systems. Башни оснащены пулеметами и технически способны идентифицировать цель, а также стрелять по объектам без вмешательства человека. Сторонники автономного роботизированного оружия говорят, что такая технология может уменьшить потери на поле боя, кроме того, она умеет различать мирных жителей и военных. Тем не менее, противники технологии уверены, что такое оружие будет использоваться в более крупных масштабах, нежели сейчас, что позволит США усилить свое присутствие на Ближнем Востоке.

Увы, на данный момент ни одна страна, похоже, не собирается прекращать работу по разработке ИИ-оружия, опасаясь, что другие обойдут их.

Изучив отчет министерства обороны США, Financial Times пишет, что Минобороны призывает к увеличению инвестиции в технологию автономного оружия, чтобы США могла опередить противников. Такая гонка за производство более смертоносного оружия является тем, чего компании из области ИИ хотят избежать. Заявление, поданное в ООН, гласит:

Действовать нужно очень быстро. Как только ящик Пандоры откроется, закрыть его будет очень сложно.

Источник: TheVerge