Шрифт:
Закладка:
К сожалению, такое воспитание, скорее всего, будет развиваться, поскольку есть сильные экономические мотивы, заставляющие людей работать с тем же постоянством и за такие же маленькие деньги, что и роботы[681]. Прогресс в области психофармацевтических препаратов, возможно, наделит нас стальной стойкостью, предсказуемостью и бесконечной адаптивностью, которую сегодня пытаются найти в будущем ИИ и в роботах[682]. В книге Джонатана Крэри «24/7» описывается давняя история исследований химических веществ, способных снизить или исключить потребность во сне[683]. Как говорит Крэри, сон – это просто слишком большая роскошь как для капиталистических экономик, так и для воюющих армий. Лучше накачать людей препаратами, чтобы они не спали, иначе они потеряют свое преимущество. Однако этот мотив успешности нельзя принимать за предельный смысл жизни людей. Третий закон робототехники, запрещающий гонки за социальное, экономическое либо военное преимущество, предложен для того, чтобы техническая среда сглаживала подобные мотивы, а не усиливала их.
Короче говоря, метафизика и политическая экономия статуса ИИ тесно связаны друг с другом. Чем сильнее становится неравенство, тем больше власти у миллиардеров, чтобы заставить каждого относиться к их роботам так же, как к людям. Если они одержат верх, замена человека роботами покажется не такой уж неприятной, скорее, признаком модной авангардности или неизбежного прогресса. Напротив, попытки глобальной бедноты приобщиться к изобилию богатейших стран мира будут выглядеть еще менее обоснованными, если у состоятельных людей появится моральное право закачивать еще больше ресурсов в машины, призванные заменить людей. Равенство людей и роботов предвещает гигантское неравенство среди самих людей.
Искусство, подлинность и симулякры
Хайку Адама в «Машины как я» могут быть ироничной отсылкой к работам инженера из Google Рэя Курцвейла, в чьей книге «Эпоха духовных машин» различия между роботами и людьми систематически стираются. Курцвейл запрограммировал «кибернетического поэта», который порождает примерно такие хайку:
Разбросанные сандалии,
Вызов мне самому,
Столь пустой, что я отвечу эхом[684].
Он пишет и другие микропроизведения, которые могут сойти за плоды человеческого творчества. Каковы бы ни были наши оценки поэзии или искусства программ Курцвейла, люди, разрабатывающие передовой ИИ, вполне способны на создание поразительных художественных произведений в области визуального и видеоискусства, а также музыки.
Когда человек просто щелкает метафорическим выключателем, чтобы начать генерировать искусство компьютерными средствами, должен ли ИИ считаться автором произведения? Философ Шон Дорранс Келли полагает, что, даже если и правда так считать, это мало что значит, поскольку вычисления – это просто подражательство и рекомбинация, а не истинное художественное творчество. Он рассуждает о том, может ли достаточно сложная программа добиться той же стилистической новации, что и Арнольд Шенберг, великий композитор XX в. Келли в этом сомневается:
Мы считаем Шенберга подлинно творческим новатором не просто потому, что он смог придумать новый способ композиции, но поскольку люди увидели в ней определенное представление о том, каким должен быть сам мир. Идея Шенберга – это экономный, чистый, эффективный минимализм модерна. Его новация заключалась не просто в том, чтобы найти новый алгоритм для сочинения музыки; она также состояла и в поиске мысли о том, что такое музыка и что позволяет ей обращаться к тому, что требуется сегодня[685].
Другими словами, значение имеет не произведение само по себе (например, слова в исходном тесте Тьюринга)[686]. Когда мы превозносим креативность, это объясняется намного более обширными социальными условиями, которые влияют на другого человека, способного сотворить новое ценное выражение, несмотря на ограниченность человеческого существования, разбросанность современной жизни и многие другие препятствия.
Конечно, аргумент Келли является скорее этическим, чем эстетическим, и социологическим, чем научным. Философ Маргарет Боден верно отметила, что на вопрос о том, может машина на самом деле быть креативной или она просто подражает творческим способностям, невозможно ответить в абстрактном виде. «Нет безупречных ответов» на вопросы о том, обладает ли ИИ настоящим интеллектом, настоящим пониманием, настоящей креативностью, поскольку, по ее словам, «все эти понятия сами по себе крайне спорны»[687]. Но сообществам с достаточно четким набором общих нормативных принципов подобные ответы могут представляться вполне очевидными. Однако я предположил, что не все читатели этой книги являются членами такого сообщества, а потому исследовал социальные последствия признания ИИ и роботов в качестве рабочих, судей, врачей и художников, а не инструментов, способных помочь людям во всех этих занятиях. Если мы не сможем сохранить почетный термин «настоящее» для описания интеллекта, креативности, понимания и мудрости людей, составляющих основное ядро всех этих сфер занятости, мы рискуем еще больше обесценить труд, создав культ технологии и капитала.
Конечно, вычислительные процессы будут становиться все более важными медиа для некоторых художников, которые с ними работают. Например, Нао Токуй применял алгоритмы машинного обучения («сшивающие» и модифицирующие изображения улиц) и искусственные нейронные сети (для генерации саундтреков) для создания поистине восхитительных фильмов. Хито Штейерль визуализировала на основе компьютерных изображений фантасмагорические ландшафты, озвученные искусственными голосами, что позволило ей приобрести репутацию одного из ведущих современных художников. Зах Блас и Джемина Ваймам создали видеоинсталляцию “im here to learn so:))))))”, воскрешающую неудачного чат-бота компании Microsoft под названием Таи – теперь это бестелесный интеллект, пытающийся подольститься к зрителям, чтобы у него появился еще один шанс пообщаться с людьми. Многочисленные музейные экспозиции включают сегодня работы, созданные на базе ИИ и алгоритмов. Такая коллаборация художников и программистов, вычислительного подхода и подхода воображения свидетельствует о том, что мы сможем лучше ориентироваться в мире, в котором цифровые среды распространились и приобрели такое же влияние, как и естественные.
Проблема, однако, в том, чтобы не пересекать границу между креативностью, которая использует ИИ как инструмент, и фетишизацией ИИ как собственно креативного субъекта. Продажа «ИИ-произведения» Edmond de Belamy, from La Famille de Belamy на аукционе «Кристи» в 2018 г. показала, насколько такие вещи могут быть соблазнительными для журналистов, охочих до сенсаций, и арт-дилеров, стремящихся найти новые источники прибыли[688]. Что интересно в той продаже, так это не искусство само по себе, не работа с прошлыми или современными художниками, а то, что французский коллектив Obvious смог выставить работу на аукционе «Кристи», соображения и стремления покупателя, а также вероятное одобрение или отвержение этой и подобных работ галереями, дилерами, художниками, академическими учеными и другими «операторами»
