Олика Янат
Редактор Hype.ru. Вдохновляюсь роком, футболом и творческими людьми.

«Эгоистичная книга» Google — тревожное видение будущего персональных данных

Внутреннее видео Google 2016 года показывает концепцию поискового гиганта, согласно которой тотальный сбор данных может изменить общество.

Корпорация Google построила многомиллиардный бизнес, не зная всего о своих пользователях. Теперь видео, выпущенное в Google и опубликованное The Verge, показывает потрясающе амбициозный и вместе с тем тревожный взгляд на то, какое применение для этой информации в будущем видят некоторые из компаний.

Ролик был создан в конце 2016 года Ником Фостером, руководителем подразделения Alphabet Google X и соучредителем лаборатории Near Future. Видео внутреннего пользования представляет собой видение будущего всеобщего сбора данных, в котором корпорация подталкивает пользователей к их целям, настраивает персонализированные устройства для сбора большего количества данных и даже направляет поведение целых групп населения для решения глобальных проблем, таких как нищета и болезни.

Естественно, это не могло не вызвать соответствующую реакцию СМИ и общественности. И от Google Х потребовали комментариев.

Мы понимаем, это вызывает беспокойство, и это соответствует плану. Это был мыслительный эксперимент с применением «спекулятивного дизайна» как метода исследования неудобных концепций и идей, — отметил представитель подразделения.

При этом заверив журналистов, что ролик не имеет ничего общего с продукцией компании ни в настоящем, ни в будущем.

Все данные, собранные на наших устройствах, так называемая «главная книга», представлены как совокупность информации, которая может быть передана другим пользователям для улучшения жизни общества © YouTube
Все данные, собранные на наших устройствах, так называемая «главная книга», представлены как совокупность информации, которая может быть передана другим пользователям для улучшения жизни общества © YouTube

9-минутный ролик «Эгоистичная книга» начинается с истории эпигенетики Ламарка, которая в целом касается передачи черт, приобретенных во время жизни организма.

Ламарк за 50 лет до Дарвина доказал происхождение вида и стал первым биологом, пытавшимся создать теорию эволюции живого мира. Его труд «Философия зоологии» ввел понятия кода внутри каждого живого существа, который при передаче через последовательные поколения определил физиологические характеристики вида.

Фостер признает, что теория, возможно, была несовершенна, если говорить о генетике, но она представляет собой полезную метафору для пользовательских данных.

Мы используем наши смартфоны, создавая «постоянно развивающееся представление о том, кто мы есть», которое Фостер назвал «главной книгой» (ledger), полагая, что эти профили данных могут быть использованы для изменения поведения и передачи от одного пользователя к другому:

Ориентированные на пользователя принципы дизайна доминировали в мире вычислений на протяжении многих десятилетий, но что, если мы посмотрим на вещи немного по-другому? Что, если такая «книга» может давать силу воли или цель, а не быть просто исторической ссылкой? Что, если бы мы сосредоточились на создании более богатой «книги» путем введения большего количества источников информации? Что, если бы мы думали о себе не как о владельцах этой информации, а как о хранителях, временных носителях или тех, кто передает ее дальше?

Так называемая «книга» наших устройств — данные о наших «действиях, решениях, предпочтениях, движениях и отношениях», это то, что можно было бы передать другим пользователям, поскольку генетическая информация передается через поколения, уверен Фостер.

Резолюцией в этом случае становится концепция общесистемной настройки, которая позволит пользователям выбирать основную цель, а затем направлять свои повседневные действия на ее достижения (надпись на экране смартфона: Помогите мне — питаться здоровее, беречь природу, поддерживать местный бизнес) © YouTube
Резолюцией в этом случае становится концепция общесистемной настройки, которая позволит пользователям выбирать основную цель, а затем направлять свои повседневные действия на ее достижения (надпись на экране смартфона: Помогите мне — питаться здоровее, беречь природу, поддерживать местный бизнес) © YouTube

Основываясь на идее главной книги, в видео представлена концептуальная Резолюция системы, в которой Google предлагает пользователям определиться с жизненной целью, чтобы затем направлять их к ней во время каждого взаимодействия со смартфоном.

Примером такой Резолюции может быть наложение информации поверх приложения продуктового магазина, который согласуется с выраженной целью пользователя (надпись на фото: Попробуйте этот местный вариант) © YouTube
Примером такой Резолюции может быть наложение информации поверх приложения продуктового магазина, который согласуется с выраженной целью пользователя (надпись на фото: Попробуйте этот местный вариант) © YouTube

Конечно, концепция основана на том, что Google имеет доступ к огромному количеству пользовательских данных и решений. Проблемы конфиденциальности или потенциальные негативные внешние эффекты при этом не упоминаются в видео. А ведь запросы такой «книги» к большему количеству данных могут быть самым неприятным аспектом презентации.

Фостер предполагает будущее, когда «представление о ведущей книге с целями становится более приемлемым», а «предложения могут быть преобразованы не пользователем, а самой книгой».

Именно здесь на первый план выходит скрытый подтекст «Черного зеркала», при этом «книга» активно пытается заполнить пробелы в своих знаниях и даже может выбирать продукты для покупки, которые, по ее мнению, могут понравиться пользователю. Пример, приведенный в видео, — это расчет масштаба ванной, потому что «книга» еще не знает, сколько ее пользователь весит. Затем видео делает еще один поворот к вызывающим тревогу научно-фантастическим фантазиям, воображая, что «книга» может стать настолько проницательной, что будет предлагать и печатать на 3D-принтере свои собственные проекты.

Концептуальная облачная обработка узлов, которая анализирует информацию пользователя и определяет отсутствие соответствующей точки данных; в этом случае, вес пользователя © YouTube
Концептуальная облачная обработка узлов, которая анализирует информацию пользователя и определяет отсутствие соответствующей точки данных; в этом случае, вес пользователя © YouTube

Видение Фостера в «книге» идет дальше инструментов самосовершенствования. Система сможет «заткнуть пробелы в своих знаниях и усовершенствовать модель поведения человека» — не только ваше конкретное поведение или мое, но и всех человеческих существ.

Если думать о пользовательских данных как о мультигенерационной системе, — объясняет Фостер, — становится возможным использовать поведение и решения предыдущих поколений для новых пользователей.
Центральным принципом «книги» является накопление как можно большего количества данных, с надеждой, что в какой-то момент она даст представление о решении серьезных глобальных проблем ©YouTube
Центральным принципом «книги» является накопление как можно большего количества данных, с надеждой, что в какой-то момент она даст представление о решении серьезных глобальных проблем ©YouTube
Поскольку циклы сбора и сравнений расширяются, — заключает Фостер, — возможно будет разработать видовое понимание сложных проблем, таких, как депрессия, здоровье и бедность.

Разумеется, концепция «книги» Фостера как лидера Google X, с присущими подразделению футуристическими целями, граничит с научной фантастикой, но она почти идеально сочетается с позицией, выраженной в существующих продуктах Google. Google Фото уже предполагает, что вы считаете главными моментами жизни, предлагая целые альбомы на основе ИИ-интерпретаций. Google Maps и Google Assistant делают предложения на основе информации о вашем обычном расположении и привычках. Тенденция идет к тому, что эти услуги направлены на все большее «любопытство» со стороны Google, касающееся наших с вами данных. Даже Gmail с недавнего времени готова заканчивать электронные письма за нас с вами.

В то время, как этика новых технологий и ИИ становится центром публичных дискуссий, Google продолжает удивляться потенциальным этическим последствиям и недостаткам своих продуктов, как это произошло с демонстрацией Google Duplex на конференции I/O. Возможность Duplex вводить в заблуждение людей, заставила Google пообещать, что его искусственный интеллект всегда будет самоопределяться как робот при звонках людям.

«Эгоистичная книга» позиционирует Google как компанию, способную решить самые сложные проблемы в мире. Правда, ценой за это будет доступность личной информации пользователей в самой высокой ее степени и легкость в управлении поведением целых групп населения.

И даже если это всего лишь мыслительный эксперимент, как уверяют в Google X, он дает осмысленное понимание идей, рождающихся внутри компании, которая уже является самым плодовитым сборщиком персональных данных в мире. И как-то на фоне этого скандал с Facebook явно мельчает.

А как вы относитесь к конфиденциальности ваших данных и идее тотальной «книги» Google?