class="p1">Подобную тягу к замещению оспорить аргументами сложнее, чем ту логику рынка труда, которую я опроверг ранее. Это скорее предпосылка подобных идей, чем их результат, то есть нарратив, организующий данные, а не сами эмпирические данные. Но существуют и культурные нарративы противоположной направленности, предостережения о роботах, альтернативные взгляды на взаимодействие человека и машины. И ими обосновывается более гуманный подход.

В этой главе исследуются некоторые из подобных историй и сказаний, фильмов и произведений искусства. Когда скорость социальных изменений нарастает, специалисты по этике и исследователи права начинают проявлять все больший интерес к искусству и гуманитарным наукам, которые рассматриваются в качестве способов осмыслить альтернативное будущее[623]. Некоторые из них работают даже с социальной фантастикой, в которой соединяются разные жанры [624]. Подобные культурные материалы не содержат в себе готовых тезисов, скорее, они нацелены на воспитание чувств.

И их стоит принять во внимание в процессе обсуждения политики автоматизации, поскольку ни заместительные, ни дополнительные концепции роботов и ИИ не могут безусловно выводиться из самих данных, ведь они зависят от более общих представлений о природе и цели человеческого труда и технологии.

Политика, экономика и культура автоматизации

За каждой определенной идеологической позицией скрывается некоторое мировоззрение, то есть философия, которая либо отвечает на фундаментальные вопросы о природе и цели человеческого бытия, либо пытается их обойти[625]. Формулировать идеи такого мировоззрения в явном виде – значит навлекать на себя критику. Так, господствующие ныне идеологии анализа издержек и прибылей вместе с технократией стремятся избегать более общих вопросов, прикрываясь нейтралитетом и прагматизмом. Они уверяют нас, что актуальный ход событий, по сути, поменять нельзя; а если перемены и возможны, то лишь в плане незначительной корректировки стимулов. Что бы ни потребовали в будущем более надежные этические системы, сейчас они имеют малое значения. Из того, что «должно», следует то, что «можно», и не существует альтернативы господствующим в настоящее время формам экономического роста и технологического развития, которые обычно подрывают автономию работников в целом и профессий в частности ради экономической эффективности[626].

Экономике, однако, предшествует политика, причем в двух смыслах – темпоральном (право и политические программы появляются до создания всякого рынка) и философском (они намного более важны для человеческого благосостояния, чем любой допустимый ими комплекс трансакций). Данные о людях, на которых в основном построено современное машинное обучение, являются даром определенного комплекса законов о конфиденциальности и защите данных, и эти законы в любой момент могут быть отозваны или пересмотрены[627]. Законодатели установили такую защиту интеллектуальной собственности, которая выгодна крупнейшим корпоративным поставщикам робототехники, но не соответствует интересам тех, кому ИИ сегодня пытается подражать. Различные законы, защищающие потребителей и профессионалов, могут сократить значительные преимущества, которыми сегодня пользуются технологические и финансовые фирмы, борющиеся за определение того, как будет выглядеть будущее.

Но есть фактор, который предшествует самой политике, а именно культура. Учитывая различные «войны» вокруг культуры, она может оказаться настолько политизированной и сложной, что вряд ли ее можно считать полезной для анализа категорией. Однако в нашем контексте она означает просто определенный тип «глубинных историй» или базовые нарративы, которые воспроизводятся, когда люди пытаются осмыслить свое прошлое, настоящее и будущее[628]. Если привести запоминающуюся формулировку Клиффорда Гирца, культура – это система «концепций, выраженных в символической форме, посредством которых [люди] сообщают, закрепляют и развивают свои знания о жизни и установки по отношению к ней»[629]. Сегодня в значительной части культуры находит отражение миф о человеческой заменимости, заставляющий занять фаталистическую позицию по отношению к неумолимым тенденциям. Если мы долго варились в ярких и убедительных фантазиях о взаимозаменяемости человека и машины, будет трудно представить альтернативный мир, в котором люди демократически отвечают за ИИ и роботов и не могут отказаться от этой своей роли[630].

Ряд талантливых авторов и художников разработали контрнарратив, в котором меркнет блеск заместительной автоматизации и в то же время изображается такое технологическое развитие, которое облагораживает человеческую телесность, вместо того чтобы подрывать или исключать ее. В этой главе рассматриваются некоторые произведения кинематографа, поэзии и других искусств. Такие фильмы, как «Из машины» и «Она», пусть они и не лишены недостатков, рассказывают убедительные истории о провале заместительной автоматизации. Поэт Лоуренс Джозеф связывает прошлое труда с нашими сегодняшними страхами автоматизации. Художник Эрнесто Кайвано соединяет фантазии с научной фантастикой в своем методе сотворения мира, который одновременно частный и всеобщий, герметичный и открытый. В эпических рисунках и медиапроизведениях он изображает естественное и механическое так, что оно оказывается одновременно странным и обнадеживающим. Это миф, который стоит обдумать, если мы ищем мудрости, необходимой для управления огромной вычислительной мощностью, накопленной корпорациями и государствами, или для ее ограничения.

Экзальтация как самообман

Автоматизация, если она предоставлена обычным экономическим силам, грозит упрочить худшие стороны опыта человека и уничтожить лучшие. В конфликтах предложение автоматических систем, судя по всему, создает свой собственный постоянно растущий спрос благодаря механизму гонки вооружений. В социальных услугах, таких как здравоохранение и образование, скорее всего, утвердится обратная динамика: механизированные версии человеческого опыта подрывают предложения людей и постепенно выкачивают материальные ресурсы исследовательских сообществ, способных участвовать в развитии этих областей. Но почему такой дрейф, такой «технологический сомнамбулизм» (выражение Лэнгдона Виннера) настолько силен?[631] Для изучения этой иррациональности (и для того, чтобы попытаться найти лекарство от нее) мы можем обратиться к увлеченности кинематографа нашей способностью подрывать свои собственные позиции или обманывать самих себя.

В фильме «Из машины» (2015) глава технологической фирмы Нейтан стремится создать настолько умного и эмоционального робота, что тот сможет обмануть человека (его сотрудника Калеба) и заставить его поверить в то, что к нему надо относиться как к человеку. После несколько неловкого введения Натан излагает свою философию, обсуждая искусственный интеллект с Калебом: «Однажды искусственные интеллекты будут смотреть на нас так же, как мы смотрим на ископаемые скелеты из саванн Африки. Как на прямоходящую обезьяну, живущую в пыли, с грубым языком и примитивными орудиями. Обреченную на вымирание». Нейтан предполагает, что именно он будет управлять первыми стадиями этого перехода.

Для этого он желает проверить своего последнего андроида, робота по имени Ева, проведя современный вариант теста Тьюринга. В 1950 г. специалист по компьютерам и математик Алан Тьюринг предложил один из первых методов определения того, достигла ли машина человеческого интеллекта. Человек и машина должны вступить в разговор по телефону, при этом друг друга они не видят. Наблюдатель попытается определить, кто из участников человек, а кто –