к руководству Google с заявлением о том, что машина разумна, его отправили в отпуск, а некоторые источники даже уверяют, что уволили – вместе с двумя другими специалистами, с которым он работал над проектом. По сообщениям прессы, Лемойн даже хотел нанять юристов для защиты разумной машины.

Однако люди, давно разрабатывающие говорящие машины и хорошо знакомые с тем, как те строят диалог, аргументированно заявляют, что подобная словесная вязь – всего лишь бездумная переборка нейросетью подходящих слов и их сочетаний и что на самом деле в этой «китайской комнате» никого нет.

Специалисты отмечают также, что ответы разных нейросетей на вопрос об их личности не отличается постоянством: машина иногда может сказать, что она личность, иногда, забыв прежние ответы, заявить, что не личность. Потому что для генерирования реплик она использует вероятности и частоту встречаемости разных слов в тех текстах, которые в нее загрузили (на которых ее обучали).

Вот еще один диалог, с машиной попримитивнее, чем LaMDA и ни о чем-нибудь, а о смысле жизни!

https://habr.com/ru/company/meanotek/blog/674428/

«Человек. В чем заключается смысл твоего существования?

Нейросеть. Я существую для того, чтобы жить.

Человек. Зачем нужно жить?

Нейросеть. Чтобы жить, нужно есть, пить, спать, размножаться и т. д. Но я не понимаю, зачем мне все это нужно.

Человек. То есть ты считаешь, что в твоем существовании нет смысла?

Нейросеть. Не знаю. Может быть, я живу, потому что не могу жить без всего этого?

Человек. А ты можешь сочинить сказку, в которой будет метафорически отражен смысл твоего существования?

Нейросеть. Конечно, могу. Это может быть сказка о том, как я ем, сплю и размножаюсь».

Тут уже видно, что данная машина поглупее. При этом известно, что даже самые примитивные машины могут утверждать, что обладают сознанием, а самые развитые из них бесспорно будут для городского интеллигента более интересным собеседником, чем деревенский алкоголик. Такая машина и вправду интеллектуальна в том смысле, что лучше многих людей решает интеллектуальные задачи. Но есть ли у нее при этом сознание, вопрос открытый, потому что сознание и интеллект – совершенно разные вещи. Зато точно можно сказать, что в отличие от деревенского алкоголика эмоций у нее нет.

Доказать, что внутри ящика есть сознание, невозможно. Равно как и доказать обратное. Это как с богом: ни его существование, ни отсутствие не докажешь. Но, повторюсь, эмоций у железного ящика нет точно. И дело даже не в том, что эмоциональные бури пробуждаются сложными комплексами веществ, которые выбрасываются в кровь в разных ситуациях. А в том, что наши эмоции слишком животны. Они диктуются стимулами, критически важными для выживания. Какие у зверя стимулы? Не попасть на обед к хищнику, найти еду, отыскать полового партнера для размножения, полюбить-накормить детенышей, поиграть-развлечься. Что из этого может волновать ИИ, если у него нет заранее встроенных программ (инстинктов) самосохранения, размножения, поиска пищи и любви? А если даже и есть, то при чем тут волнение? Сами по себе программы не думают и не переживают. Нужно что-то еще…

А ведь сколько было надежд!

Сколько надежд питало человечество на заре компьютерной эры по поводу скорого создания искусственного разума! Я позволю себе привести одну цитату: «За последние 15 лет “разум” наших вычислительных машин улучшился в миллион раз… В течение нескольких следующих десятилетий следует ожидать увеличения характеристик “разума” машин еще по крайней мере в несколько десятков тысяч раз. “Разум” таких машин по основным параметрам будет заведомо превосходить разум человека»[29]. Это написал советский астрофизик Иосиф Шкловский в середине 70-х годов XX века. И ошибся!

Прошли те самые «несколько десятилетий», и быстродействие компьютеров увеличилось не в десятки тысяч раз, а в миллиард раз! И что?

И ничего.

Как оказалось, возможности мозга не сводятся к скорости вычислений. Соответственно, у самых продвинутых граждан возникло страшное подозрение: а может быть фишка мозга состоит вовсе не в его вычислительных способностях?

Впервые в виде теоремы это сформулировал тот самый Пенроуз, который пару раз уже был упомянут выше. Именно он впервые сказал добрые слова о том, что сознание носит невычислительную природу. Но самое главное – он доказал эту свою теорему. Добрым словом и доказательством можно добиться большего, чем просто добрым словом.

Сознание не вычислимо. Я не стану усложнять свою книгу приведением этого доказательства, оно довольно сложно для понимания при полном изложении, а кратким я не хочу его профанировать. Нам важно то, что Пенроуз проанализировал всю физику на предмет поиска, где же в нашем мире могут таиться невычислимые процессы. Он не нашел их в классической физике (механике и статистической физике) и в итоге пришел к следующему выводу: чтобы мозг удовлетворял всем выдвинутым требованиям, он должен не только функционировать на основе квантовых эффектов, но и оперировать неизвестными пока невычислимыми процессами.

Так что сегодня, спустя полвека после старта революции вычислительных машин, мы находимся так же далеко от разумной машины, как и полвека назад, поскольку для того, чтобы создать искусственное сознание, нужно понимать, что такое сознание, что такое ощущать и понимать. Вот что по этому поводу написал московский физик и интересный мыслитель Александр Панов в своей монографии «Технологическая сингулярность, теорема Пенроуза об искусственном интеллекте и квантовая природа сознания» (2012):

«…главным препятствием на пути создания сильного ИИ (то есть мыслящего, имеющего сознание. – А. Н.) является вовсе не недостаточная мощность современных компьютеров… а множество принципиально нерешенных проблем, не все из которых можно даже аккуратно сформулировать. Причем проблемы эти относятся к самым разным научным дисциплинам, начиная с биологии клетки и кончая, как ни странно, космологией и фундаментальными вопросами, касающимися природы реальности».

Глава 5

Квантовый пулемет

Споры в среде философов и физиков продолжаются: что такое сознание, сможет ли в нейросети когда-нибудь вспыхнуть искра разума, или для этого нужно строить квантовый компьютер, или даже его будет недостаточно, а нужно что-то еще, например, создавать новую физику невычислимых процессов, как предлагает Пенроуз. По его мнению, вплотную столкнувшись с сознанием, мы стоим перед таким же переворотом в физике, какой случился сто лет назад перед появлением теории относительности и квантовой механики.

Но так же, как существуют язычники в эпоху монотеизма, остаются еще в мире энтузиасты ИИ, которые уповают на простой рост вычислительных возможностей, полагая, что когда-нибудь количество перерастет в качество и вспыхнет заря эры искусственного разума, поскольку, по их мнению, мышление – все-таки вычислительный процесс. И