Истории|Материалы

Клик ужаса

Политолог Евгений Морозов объясняет, почему не стоит возлагать слишком большие надежды на технологическую утопию и какие скрытые угрозы в ней таятся.
Записал Андрей Бабицкий. Фотограф Диллон Марш (Dillon Marsh).

В качестве иллюстраций использована серия фотографий Диллона Марша «Инвазивные виды» об антеннах в ЮАР, которые маскируются под деревья.

Людям свойственно думать, что проблемы общественного устройства и недостатки человеческой природы можно исправить при помощи технологий. Создать компьютерные программы, которые будут выявлять правонарушителей до совершения преступления. Стимулировать гражданское сознание с помощью социальных игр в Facebook. Организовать работу институтов власти и общественных организаций по сетевым принципам. Одним словом, использовать существующие технологии как модель для переустройства человеческого общества. Считается, что это можно сделать безболезненно и ко всеобщему благу. В литературе по архитектурному планированию для описания этого явления даже есть специальный термин — «солюционизм».

Идея эта совсем не нова, но сейчас она переживает новый расцвет. В первую очередь из-за стремительного развития интернета: многие считают сеть не системой коммуникаций, а революционной платформой, способной коренным образом изменить нашу жизнь. Принципы работы интернета все чаще предлагается применять для переустройства общества. Я думаю, что это не лучшая мысль. Совсем не очевидно, что вера во всесилие интернета и желание починить общество технологическими средствами будет способствовать улучшению человеческого бытия. Распространенное убеждение, что интернет дает нам право на социальные реформы, основано оно на следующей логической цепочке: (1) интернет-технологии работают, (2) они функционируют на совсем иных принципах, чем традиционные организации, а значит, (3) у нас есть право перестроить все социально-политические институты по сетевым лекалам. Интернет становится политической философией, его воспринимают как модель мирового устройства.

Считается, например, что в «Википедии», при всей ее успешности, очень мало бюрократииВесной 2007 года только в англоязычной «Википедии» было 50 тыс. активных редакторов, то есть людей, внесших в статьи энциклопедии хотя бы пять правок за месяц. К 2012-му их число упало до 30 тыс.. В этом энтузиасты видят рецепт переустройства политических партий: минимизировать иерархию и создавать их сообща, как сетевую энциклопедию. Проблема только в том, что на самом деле мало кто понимает, как работает «Википедия». Нет сомнений, что работает, но мы не знаем, как. Однако, когда мы начинаем изучать «Википедию» внимательно, оказывается, что она содержит огромную бюрократическую систему и множество правил. Более того, правила эти кодифицированы, и масса людей неустанно следят за их исполнением. Все это сложно заметить, если не знать, где искать. Некритически перенося принципы работы «Википедии» в политику, мы можем только навредить.

Все сказанное относится и к другим институтам. Мы хотим перестроить, подражая сетевым явлениям, журналистику, критику, финансирование культуры. Интернет дает множество соблазнительных моделей для повторения: файлообменные сети, краудсорсинг, Google — есть целый набор громких слов. Современные реформаторы опираются на этот глоссарий, чтобы оправдывать свои предложения и проводить их в жизнь. Но его нельзя принимать как должное.

Критик модернистского подхода, антрополог Джеймс Скотт писал, что многие институты мы понимаем не до конца, потому что они основаны на непроговоренном знании, неписанных правилах, на которые мы опираемся. Не зная как следует принципы работы человеческих сообществ, мы рискуем ухудшить, а не улучшить их в результате вмешательства. Модернисты начала ХХ века, пишет Скотт, пренебрегали скрытыми знаниями, и потому их проекты вроде советской коллективизации или города Бразилиа не были в результате успешны.

Прогресс последних лет породил новый интерес к старому спору. Особенно это касается технологий, которые принято называть «умными», когда набор всезнающих датчиков сочетается с доступом к социальному окружению человека. Скоро два миллиарда людей по всему миру будут носить с собой смартфоныВ конце 2012 года 2,4 миллиарда людей по всему миру имели доступ к широкополосному интернету, и почти миллиард — обладали смартфонами. В некоторых странах, например в Сингапуре, уже больше 90% населения постоянно подключено к сети., в которые можно вставить датчики, и это дает огромное пространство для экспериментов. Значит, попытки улучшить человеческое бытие будут предприниматься все чаще и все в более интенсивной форме.

Технологии могут очень многое и уже сейчас становятся активными посредниками между человеком и институтами власти. В принципе, посредниками они были и раньше, но если тогда дверь была просто дверью, то теперь она может на вас посмотреть, считать сетчатку глаза и решить, пускать вас или нет и брать ли за это деньги. А после того, как вы вошли, дверь может повесить сообщение на вашу страницу в Facebook — и это совсем другой, неизвестный нам тип посредничества, который предстоит осмыслить. В зависимости от того, какую философию, логику мы воспримем, наше философское и эстетическое состояние может стать богаче или беднее. Пока что все попытки думать на эту тему, что мне встречались, намекают, что люди не задаются вопросами эстетики и философии, не размышляют об ограничениях новых подходов.

Сейчас в Америке очень популярна идея «геймификации», то есть использования механики игр для создания стимулов в экономике. Идея эта основана на том, что с помощью смартфона, который отслеживает действия человека, все его поведение можно сделать частью какой-то общественной игры. Можно присваивать людям победные очки за то, что они чистят зубы или, скажем, выбрасывают мусор, — и заставлять их соревноваться с друзьями, также участвующими в игре.

Для многих политических лидеров эта идея очень заманчива. Скоро в Америке выйдет книга, написанная бывшим мэром Сан-ФранцискоБывший мэр Сан-Франциско Гэвин Ньюсом был избран в 2010 году лейтенант-губернатором Калифорнии, занимая таким образом вторую должность в штате. Его книга «Ситизенвилль. Как сделать городскую площадь цифровой и изобрести правительство заново» начнет продаваться в США в феврале., который с большой вероятностью будет следующим губернатором Калифорнии. Он предлагает, среди прочего, использовать игры для того, чтобы возродить интерес граждан к заботе о городе и муниципальных проблемах. Его совсем не волнует вопрос, как это повлияет на самих граждан — например, будут ли они беспокоиться обо всем этом в те моменты, когда это не сулит победы в игре.


Один из самых простых, пусть и не самых страшных примеров технологического солюционизма, — «умное мусорное ведро». Представьте, что в мусорное ведро встроена камера, которая снимает все, что вы туда выбрасываете. Каждый снимок загружается на сервис, который анализирует, что же вы повыкидывали, — пока это делают люди, но в будущем работа будет автоматизирована. На основе анализа вам присуждают очки — за выполнение нормы, раздельный сбор мусора и другие достижения, а затем все загружается на вашу страничку в Facebook. В этой истории есть два ключевых элемента — сенсоры и социальные сети. С одной стороны, они умные, а с другой — могут оказывать на вас давление с помощью ваших друзей. И интересна тут не столько популярность системы, которая реально существует на уровне прототипаСистема BinCam тестируется в нескольких десятках домов в Великобритании. Каждую неделю участники эксперимента могут видеть на своей странице в Facebook сумму заработанных очков, зависящую от доли пищевых и перерабатываемых отходов в мусоре., сколько сама мысль, что есть дизайнеры, которые всерьез думают над такими системами и строят их. Другой пример — новые очки, которые Google скоро выпускает на рынок. Эти очки распознают все, что вы видите, и подсказывают необходимую информацию. Если вы, например, встречаетесь с другом, вы увидите карту, маршрут и место встречи. Но очки создают и массу новых поводов для интервенций. Например, вы идете в ресторан, и они понимают, сколько калорий вы потребляете каждый день, а потому могут подсказать вам, что не стоит сегодня заказывать бифштекс, или того хуже — вообще убрать его из вашего меню. И это не такое уж далекое будущее — Google Glasses уже выходят на рынок.

Солюционистские подходы используются и для борьбы с преступностью. Существует множество технологий, которые либо предсказывают преступления, либо делают их совершение невозможным. Самый простой пример — это, наверное, способы борьбы с безбилетниками в метро. В бывшем СССР такие системы легко обмануть, а в Нью-Йорке турникеты стоят в полный рост — через них нельзя перепрыгнуть. Нельзя обмануть сам дизайн системы. В берлинском метро системы архитектурного и дизайнерского контроля отсутствуют вообще, и люди платят штрафы. Это два очень разных подхода к тому, как нам стоит устраивать общество, и какую роль в нем должны играть архитектура и дизайн.

Эти подходы по-разному влияют на нас как на граждан. Первый, технологический, развивается независимо от обществаПолиция города Лос-Анджелеса последние два года использует превентивную систему борьбы с преступлениями. Алгоритм рисует на карте участки, где с большей вероятностью могут случиться преступления (в первую очередь грабежи), и полицейские посещают их, когда появляется время в рабочую смену. Система, по данным полицейского департамента, снизила число некоторых преступлений на десятки процентов, а журнал Times внес ее в список важнейших инноваций 2011 года.. Второй работает принципиально иначе: люди нарушают закон, потом идут в суд, их судят по закону, закон обсуждают, в обществе возникают дискуссии. Может быть, законодатели когда-нибудь подумают, что закон стоит отменить, начнут испытывать давление избирателей. Это совсем не так уж плохо: вероятно, не так страшно перевести правоприменение из архитектурного в какой-то другой регистр.

Выбирать между двумя подходами нужно очень осторожно, и есть масса причин, чтобы разрешить людям нарушать закон. Одно дело — предотвращать пьянство за рулем с помощью сенсоров, и совсем другое — искать потенциальных террористов, анализируя книги, которые они покупают. По крайней мере, технические возможности для этого у нас есть. Раньше было очень сложно узнать, что и как читают люди. Сейчас это уже не так. Amazon не только знает наперечет все книги, которые я заказываю, но и видит, на что я обращаю внимание, когда их листаю. В моем Kindle около 600 книжек, и Amazon теоретически может посмотреть все, что я в них подчеркиваю. Принято считать, что интернет — это остров свободы, свободная распределенная сеть, но на деле мы видим совсем другое — постоянную централизацию. Компании вроде Amazon или Google, которые собирают в одном месте абсолютно все источники информации о нас с вами: видео, которое мы смотрим, билеты, которые мы покупаем, наши встречи. А когда Google достроит наконец свою машину, он еще и будет знать совершенно все о наших передвижениях в пространствеМашины на автопилоте, разработанные Google, проехали несколько сотен тысяч километров по дорогам США, не попав ни в одно ДТП. В марте 2011 года в штате Невада вступил в силу закон, разрешивший использование автономных автомобилей, еще несколько штатов рассматривают возможность его принятия.. Это жуткая централизация. Что еще хуже, многие из подобных компаний сами стремятся спасать человечество. В Google работают инженеры, которые хотят сделать мир лучше. Они не капиталисты с Уолл-стрит. Ими движет такой же солюционизм, как и архитекторами и рационалистами ХХ века.

Если бы Google отдавал свои данные правительству, у нас было бы меньше поводов для беспокойства, потому что существуют какие-то, пусть несовершенные, методы демократического контроля над ним. А вот контролировать работу Google мы не можем никак. Технологическое вмешательство в вашу жизнь не прошло через нормальный демократический процесс. Когда частный сектор становится главным мотором социальных и политических реформ, исчезает политический контроль со стороны общества. И это по-настоящему пугает.