Екатерина Авдеева

Исследователь предупреждает: алгоритмы используют и даже контролируют нас

Профессор Университета Халла Дионисиос Деметис считает, что мы движемся к технологическому доминированию.

Исследователь предупреждает: алгоритмы используют и даже контролируют нас
© stuff.co.za

Алгоритмическая реальность

Мы окружены алгоритмами практически во всем, что делаем, начиная от просмотра веб-страниц до принятия финансовых решений. Но есть ли у нас, как у людей, право голоса в том, как эти алгоритмы формируют нашу реальность?

Согласно новому исследованию, возможно, что и нет.

Наши исследования привели нас к выводу, что со временем роль информационных технологий и людей поменялась, – написал в очерке для The Conversation профессор Центра системных исследований при Университете Халла в Йоркшире, Англия, Дионисиос Деметис. – В прошлом мы, люди, использовали технологии в качестве инструмента. Теперь технология продвинулась до такой степени, что она использует и даже контролирует нас.

Кто правит балом?

Деметис в своем очерке опирается на статью, которую он опубликовал в прошлом году в журнале Ассоциации информационных систем совместно с Алленом Ли, профессором Университета Содружества Вирджинии.

Вместо того, чтобы получить алгоритмы и машины, решения которых никак не влияют на нас, Деметис утверждает, что на самом деле, «мы глубоко затронуты ими непредсказуемым образом».

Каким образом это произошло?

Мы постепенно ограничиваем нашу способность принимать решения и позволяем делать это алгоритмам, – говорит Деметис.

В качестве доказательства Деметис приводит примеры замены юристов искусственным интеллектом; агентов по найму, слишком полагающихся на сторонние инструменты для отсеивания плохих кандидатов; и того факта, что значительное большинство операций на валютных рынках определяется не людьми, а алгоритмами, которые принимают решения в течение крошечных долей секунды.

© SteemKR
© SteemKR

Механическая голова

Эта чрезмерная зависимость от алгоритмов, по словам Деметиса, может привести к крахам рынка – не вызванным ошибкой в программировании, а заученным поведением, которое возникло в результате взаимодействия миллионов алгоритмических решений, влияющих друг на друга непредсказуемым образом.

На самом деле, люди стали препятствием.

Люди, управляющие торговой системой, стали рассматривать человеческие решения как препятствие для эффективности рынка, – написал Деметис.

В конечном счете, отказ от принятия решений в пользу машин может привести нас к мрачному будущему. В худшем случае, это приведет к технологическому доминированию. Но еще не поздно – пока что, считает профессор.

Мы должны решить, пока еще можем, что это значит для нас как для отдельных людей, так и для общества.

По материалам The Conversation