Олег Михеев
Фанат VR, гаджетов, хороших видеоигр, книг и фильмов.

ИИ Google Duplex будет раскрывать себя в разговорах с людьми

© teknosayfa.com
© teknosayfa.com

После широкомасштабного протеста по поводу этических дилемм, поднятых новой системой Google Duplex, которая позволяет ИИ подражать человеческому голосу, Google заявила, что экспериментальная система будет иметь «встроенное раскрытие». По-видимому, это означает, что любая возможная форма, которую Дуплекс примет как потребительский продукт, будет включать в себя нечто вроде словесного объявления человеку на другом конце, объясняющего, что разговор идет с ИИ.

Мы понимаем и оцениваем дискуссию вокруг Google Duplex. Как мы уже говорили с самого начала, прозрачность технологии крайне важна, – заявил представитель компании интернет-порталу The Verge вчера вечером. – Мы разрабатываем Duplex с функцией встроенного раскрытия, для того чтобы быть уверенными в том, что система будет идентифицирована верно. То, что мы показали на I/O, является лишь ранней демоверсией, и мы с нетерпением ожидаем обратной связи, чтобы учесть все пожелания при дальнейшей разработке продукта.

Несмотря на то, что Дуплекс – это еще «сырой» продукт, тем не менее, генеральный директор Google Сундар Пичаи продемонстрировал его возможности во вторник на конференции для разработчиков. На демонстрации было показано, как реалистично может звучать Google Assistant, когда он использует новую технологию генерации звука WaveNet DeepMind и другие достижения в области обработки естественного языка.

Все это позволяет программному обеспечению более реалистично воспроизводить речевые образы человека. Например, Дуплекс настолько продвинут, что включает в свою словесную библиотеку не только разговорные фразы, но и такие звуки как «угу», «кхм», «мм» и другие. Смотрите сами:

Тем не менее, тот факт, что программа сможет целенаправленно обманывать человека, как в случае с регистратором в парикмахерской, вызвал массовые опасения среди технокритиков и тех, кто боится, что ИИ-технологии разрабатываются без надлежащего надзора и регулирования. Так, известный социолог Зейнек Туфекки назвал демо «ужасающим», а первоначальную положительную реакцию аудитории воспринял как доказательство того, что «Силиконовая долина этически потеряна, неуправляема и так ничему и не научилась».

Изначально Google посредством своего сообщения в блоге, написанного инженерами Янивом Левиафаном и Йосси Матиасом, сообщила что:

Для нас важно, чтобы пользователи и предприятия получили положительный опыт от использования сервиса и прозрачность – это его ключевая часть.

Дуэт добавил, что компания продолжит экспериментировать с Duplex и его тестирование в рамках платформы Google Assistant начнется уже этим летом.

Однако президент компании со сцены не заявлял о том, что раскрытие информации станет обязательной функцией. Позже, после основного выступления, представители Google сообщили The Verge, что компания чувствует ответственность за информирование лиц, которые сталкиваются с Duplex и что необходимы меры для защиты людей от таких злоупотреблений как спам-вызовы с использованием ИИ.

Создается впечатление, что Google предпримет дополнительные шаги, чтобы объяснить общественности свою позицию относительно прозрачности новой технологии. Это внушает уверенность в том, что в будущем в интересах всех вовлеченных сторон Duplex включит в себя функцию «самоидентификации».

По материалам TheVerge.com