Анна Балабанова
©

Технологические компании злоупотребляют нашими данными, потому что мы позволяем

@ Eleanor Shakespeare
@ Eleanor Shakespeare
В погоне за все более быстрыми онлайн-транзакциями мы создали «отстраненный/наблюдательный капитализм», теперь пришло время создавать сдерживающие факторы (факторы трения), – пишет в своей книге «Реинженерия человечества» профессор Бретт Фришманн.
Бретт Фришманн @ Villanova University
Бретт Фришманн @ Villanova University

Мы живем в утопическом мире электронной коммерции. Можем удаленно формировать заказы и наши требования будут удовлетворены при помощи автоматической, незаметной транзакции. Для этого достаточно попросить Алексу, или Сири, или любого другого цифрового помощника, разработанного компаниями Силиконовой долины, совершить определенную команду, и она исправно будет выполнена в угоду «человеческому боссу».

Мы строим бесконтактный, беспрекословный, обезличенный мир. Чтобы увидеть проблемы, связанные с этим процессом, мы должны остановиться и подумать: что же само по себе противоречит существованию данной технологии. Утопия индивидуальна для каждого: то, что для одного человека утопия, то для другого – чуждая ему дистопия. Вот например, вспомните людей, страдающих ожирением, в мультфильме Wall-E от студии Pixar: им не нужно передвигаться даже для того, чтобы получить пищу – не вставая со своих любимых кресел, при помощи мобильных устройств они получают все, что захотят. И в этом их счастье.

Кадр из мультфильма Wall-E @ New Statesman
Кадр из мультфильма Wall-E @ New Statesman

И дело тут совершенно не в том, что Алекса приведет нас к проблемам ожирения. Важно осознать, что интеллектуальные технологии – это уже гораздо больше, чем просто доставка еды или заказ книг онлайн. Технологии способны управлять нашими жизнями: кто мы есть и кем могли бы стать (лучше или хуже).

Очевидно, что в современной цифровой среде Силиконовая долина все больше стремится к безликим, бесконтактным транзакциям. Это по сути и привело к расцвету «наблюдательного капитализма» – извлечению и монетизации персональных данных с целью регулярного использования их для «научного» управления большинством аспектов наших жизней, чтобы с минимальными затратами сделать наше существование максимально эффективным и удобным.

Но есть люди, которым нужно гораздо больше, чем банальное стремление к таким мелким формам счастья. Преуспевающие личности, как правило, нуждаются в некотором сопротивлении в процессе принятия решений, чтобы иметь возможность «замедлить бег». Ведь в нашем гипер-насыщенном, быстро развивающемся мире, чуждом внимания, нам просто необходимо иметь возможность для передышки, чтобы остановиться и подумать. Подумать над своими действиями и, возможно, даже предугадать действия других. Так мы развиваем способность к саморефлексии, так мы экспериментируем, учимся и формируем личные убеждения, вкусы и предпочтения, так мы проходим путь самоопределения. Это и есть наша свобода выбора в действии.

Но, с другой стороны, мы не хотим гипертрофированного сопротивления: перспектива «ментального паралича» из-за постоянного анализа и сопоставления данных, довольно пугающая. Легче отказаться от каких-то обсуждений и принять нормы, часто устанавливаемые другими.

@ Megaindex.org
@ Megaindex.org

В одной из теорий экономики говорится, что мы выбираем, не имея выбора. И этот «выбор» максимально упрощен в нашей современной, гиперинформативной экономике.

Рассмотрим пример: «отношения» пользователей с Facebook. Связь зарождается, когда пользователь впервые заходит на страницу регистрации в социальной сети, которая сразу «подсовывает» стандартное пользовательское соглашение, в котором расписаны различные методы сбора и правила совместного использования данных пользователей Facebook. Затраты времени и сил на изыскательные работы минимальны, ведь во главе угла стоит Доверие.

Но, как показал недавний скандал с Cambridge Analytica, Facebook позволяла третьей стороне использовать данные пользователей для разработки сложных алгоритмов психологического профилирования и персонализации, чтобы влиять на их убеждения и голоса. В конце концов, это фиаско – яркая иллюстрация зараженной цифровой среды, оптимизированной для безликой трансляции данных для потребностей рекламы и электронной коммерции.

@ Проект SAFE
@ Проект SAFE

Некоторые технологи называют данные пользователей «новым топливом», сырьем, которое должно стимулировать экономический рост. Но цифровые данные похожи на топливо (нефть) и с другой стороны: они устраняют шероховатости и способны перестраивать среду, в которой мы обитаем (рабочие места, школы, больницы и дома), что лишь увеличивает наши риски стать более предсказуемыми и программируемыми.

Рассмотрим простой пример. Современные электронные контракты зачастую зависят от невидимого, разработанного человеком, компьютерного интерфейса. Приложение создает соглашение посредством простого нажатия виртуальной кнопки.

При этом некоторые экономисты предпочитают именно этот механизм для минимизации транзакционных издержек и юридических трений при формировании соглашений. Но подобный «выбор» опасно близорук: он фокусируется на повышении эффективности, но игнорирует влияние на автономию человека. Ведь это так просто – слепо соглашаться с пользовательскими условиями. Теперь прочитать значение терминов – кажется пустой тратой времени, иррациональным и бесполезным занятием.

Даже если вы особа любознательная, то как выбрать электронный контракт, который стоит ваших времени и усилий? В конце концов, вы так часто соглашаетесь с предлагаемыми вам условиями, распространяющимися как лесной пожар по приложениям в смарт-телевизорах, рабочих устройствах, девайсах в машине, в доме и т.д., которые предназначены (по словам гуру электронной коммерции) для интеграции в Интернет Вещей. Поэтому люди просто по умолчанию нажимают «Я согласен». Это не только предсказуемый ответ, но возможно, уже и подсознательно запрограммированный.

Беспрекословное подписание электронных контрактов – будто издевка над самой сутью заключения соглашений, которые строятся на свободе волеизъявления и независимости обеих сторон, вступающих в правовые отношения. В лучшем случае это создает иллюзию согласия посредством автоматического и даже запрограммированного поведения: повторяющееся взаимодействие с подобным механизмом вырабатывает банальную привычку к бессмысленному нажатию «одобряющей» кнопки.

@ ljpromo - LiveJournal
@ ljpromo - LiveJournal

Единственным решением для данной социальной дилеммы является намеренное сопротивление современному выбору потребителей – формированию операционных факторов торможения в самой технологии. Как это сделать? Вероятно, обилие подобных факторов приведет к остановке всей цифровой экономики. Поэтому, чтобы сохранить свою личную автономию, следует точечно внедрять некоторые цифровые «замедлители» скорости, которые будут побуждать потребителей подумать, прежде чем выполнить какую-либо операцию. Способами реализации данного пути могут стать суды, которые будут отказываться признавать автоматические контракты без доказательства фактического обсуждения с потребителями наиболее существенных условий соглашения. Или программное обеспечение может требовать от пользователя просмотр (прокрутку) условий или даже ответы на основные вопросы контракта, прежде чем будет активирована кнопка «Я согласен».


Технологические энтузиасты всецело приветствуют идею о повсеместном внедрении основ безликой, беспрепятственной коммерции. Ведь потребители хотят мгновенно удовлетворять свои желаний и предпочитают удобство в их реализации. И, конечно же, этот путь наиболее приветствуют те, кто занимается маркетингом, ведь запрограммированное решение значительно упростит пользователями процесс совершения покупок.

Но как будет выглядеть такая, казалось бы, совершенная транзакционная эффективность, в стенах нашего дома? Как это скажется на нашей силе воли? Психологи отмечают, что чувство сожаления может влиять на наше поведение перед лицом искушения. Но в какой степени это чувство зависит от возможности задуматься над своими желаниями? И что в конечном счете перевесит: удобство бесконтактных технологий или страх потерять независимость в мире потребителей без сопротивления.

Перевод с Medium

Автор: Бретт Фришманн, профессор права, бизнеса и экономики Университета Вильянова (штат Пенсильвания, США)