рецензия

Я, не робот

Иван Родионов — о книге Адама Гринфилда, «Радикальные технологии. Устройство повседневной жизни».
Телеграм-канал «Хемингуэй позвонит»
Адам Гринфилд, «Радикальные технологии. Устройство повседневной жизни». Перевод Инны Кушнаревой, ИД «Дело»
Старший научный сотрудник Лондонской школы экономики Адам Гринфилд написал книгу, пугающую и обнадеживающую одновременно. Эта двойственность видна даже из её названия: жизнь у нас «повседневная», а вот технологии отчего-то «радикальные».

Гаджеты и интернет-покупки, 3D-принтеры и виртуальная реальность, криптовалюта и автоматизация производства, машинное обучение и искусственный интеллект, наконец, полная цифровизация нашей жизни — всё это будущее или уже настоящее?

Любой разговор о проникновении цифровых технологий неизбежно перетекает в антиутопию. Отличие книги Адама Гринфилда от большинства других книг на схожую тематику (как научно-популярных, так и художественных) в том, что она не столько про наше возможное завтра, сколько про сегодня. Впрочем, без щепотки футурологии в «Радикальных технологиях» тоже не обходится.

Тон книги не столько пессимистичен, сколько трезв. Всё остальное — исключительно наше восприятие.

Это и неудивительно: общий эмоциональный фон интернета вещей, в котором мы и живём (как ни странно это звучит), по Гринфилду — меланхолия. Когда нам постоянно предлагают повысить работоспособность, преодолеть хроническую усталость, избавиться от одиночества, вполне разумно предположить, что нам этого не предлагали бы, не будь мы действительно усталыми и одинокими. А повальная мировая фетишизация психологических и психических отклонений (реальных и мнимых) только подтверждает это.
Общий эмоциональный фон интернета вещей, в котором мы и живём (как ни странно это звучит), по Гринфилду — меланхолия.
Адам Гринфилд
Всё как в песне Fitter Happier королей печали Radiohead, строки из которой приводит Адам Гринфилд:

Fitter, happier more productive
Comfortable
Not drinking too much
Regular exercise at the gym (3 days a week).

Мы действительно стали здоровее, эффективнее, мало пьём и ходим в тренажёрные залы — но действительно ли мы стали счастливее?

Всякая новая возможность по умолчанию открывает новые же виды опасности.

Что плохого, например, в 3D-принтерах? А вот юный криптоанархист из Арканзаса по имени Коди Уилсон. Он изобрёл технологию, позволяющую каждому, имеющем доступ к такому принтеру, создавать оружие. Что доказывает: люди обратятся к цифровом производству в первую очередь за теми вещами, которые рынок предоставить им не в состоянии. Чёрный рынок на дому.

Или очевидная возможность массовых увольнений при увеличении автоматизации производства.

Именно ему и посвящена наиболее мрачная глава книги. Автоматизация производства не просто уничтожает рабочие места. Именно сейчас различные «алгоритмы оптимизации» позволяют корпорациям наподобие Amazon следить за эффективностью работников — и, соответственно, «принимать меры». Эта эффективность может измеряться по-разному, вплоть до проверки «качества» улыбки сотрудника перед клиентом:

«Crossmatch утверждает, что их система позволяет предотвращать «опоздания, проставление отметок друг за друга, лодырничание, длинные перекуры и досрочные уходы, кражи, незаконные скидки и возвраты и мошенничества с подарочными картами»; любой, работавший в розничной торговле, узнает здесь почти исчерпывающий перечень молчаливых действий, которыми работники всегда компенсировали грубость начальников, грошовую оплату и невыносимые условия труда.

Кстати, поставить отметку за друга, если он опаздывает на работу, потому что ему нужно отвезти ребёнка в детский сад или больного родственника к врачу, — это как раз то небольшое проявление солидарности, которое может спасти человека от увольнения в обстановке нулевой терпимости к нарушениям на современном рабочем месте. Но именно с такими тактиками призваны бороться эти системы контроля».

Или — это уже другая глава — система выявления потенциальных преступников. Благое начинание, не правда ли? Система, на практике приводящая к тому, что людям вполне по-оруэлловски присваивается своеобразная чёрная метка, причём до совершения какого-либо поступка или правонарушения. Что, кстати, во многом и подогрело радикализацию движения Black Lives Matter — здесь предположения Адама Гринфилда оказались пророческими.
Очевидна возможность массовых увольнений при увеличении автоматизации производства.
Не безобидно и не застраховано от ошибок и машинное обучение с так называемыми кластерами. У Tesla гибнет водитель, несмотря на автопилот, а российское приложение FindFace, позволяющее сличать любую фотографию со всеми изображениями в ВК, быстро взяли на вооружение сначала кибетролли из всяких спорный комьюнити типа «Мужского государства», а затем и правительство Москвы.

Придёт ли к нам «Зелёное изобилие» (наиболее оптимистичный сценарий, называемый также «полностью автоматизированным коммунизмом класса люкс»), «Раскручивающаяся спираль» (либертарианско-анархистский рай с полным отмиранием института государства), «Стеки плюс» (всё, как сейчас - только со скпчком развития технологий) или «Совершенная гармония» (цифровой тоталитаризм) — в любом случае, человек, которого мы знали до сих пор, постепенно исчезает.

Все мы помним первый закон работотехники, сформулированный фантастом Айзеком Азимовым: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред». Однако проблема в том, что никто не знает наверняка, причиняется подобный вред или нет. Никто: ни сам робот, ни мы. И нет никакой уверенности в том, что когда-нибудь будет можно этот самый вред убедительно просчитать.

К счастью, у нас по-прежнему есть лень, есть недоверие и есть старая добрая этика. Оттого тревожная книга Адама Гринфилда всё-таки не оставляет по прочтении послевкусия тотальной безысходности. Человеческое, слишком человеческое (по Ницше) сидит в нас прочно и глубоко, и ни могущественные корпорации, ни повальная цифровизация ничего с этим поделать не смогут.

В том и надежда.
Made on
Tilda