что на основе разработанных правил компьютеры ничего не добьются и в лучшем случае станут тренажерами для новичков. Они считали, что в случае возникновения серьезных проблем для ремонта турбины понадобятся специалисты-люди. История доказала их правоту. Подобную строгую операционную логику (вне зависимости от того, насколько сложным был процесс поиска) нельзя назвать «интеллектом»; очень сложно симулировать человеческий опыт с помощью базы данных.

Но времена меняются.

Оглядываясь назад, я понимаю, что чем больше я работал, тем сильнее начинал бояться компьютерных систем. Система DOS 1980-х, возможно, была примитивной, но она, кроме того, была безопасной, поскольку вела себя очень просто и делала то, что ты ей приказывал. Все ее действия находились в границах предсказуемости. В то время операционные системы обладали более высокой степенью прозрачности. Говорят, что отдельные, очень терпеливые люди могли прочесть весь исходный код DOS и очистить его от самых крошечных ошибок. Но операционные системы развивались с головокружительной скоростью, и простые командные строки превратились в прекрасные и замысловатые графические интерфейсы. Подобные системы постепенно становились все более похожими на «черные ящики». Они начинали действовать непредсказуемо. Казалось, что компьютеры в одночасье превратились из невинных детей в опытных заговорщиков. Теперь подобные системы стали полностью непрозрачными. Мы можем лишь подчиняться им; никто не знает, какие мысли текут в их темных ядрах. Иногда мне кажется, что жужжание жесткого диска сервера – это басовитый злой смех и что горящие сетевые индикаторы мигают, словно многочисленные злобные глаза. Отладка подобных «лабиринтов» в «железе» и «софте» является таким же раздражающим и безнадежным процессом, как и ползание по склизким кишкам монстра. Иногда тестирование программы занимает больше времени, чем ее написание, особенно если это программа, которая отслеживает действия пользователей в Сети.

Я должен признать: все это – чистая психология. Система DOS необязательно более стабильна, чем Windows 2000 или XP, не говоря уже о строгих, твердых и надежных, как скала, операционках DCS на основе Unix, которые используют на атомных электростанциях. Но по мере эволюции компьютеров люди невольно начинают думать, что утратили контроль над чем-то. Если говорить об операционных системах, то так думает не только огромное число пользователей, но и сами разработчики. Один инженер из Microsoft однажды сказал, что разрабатывать Windows – все равно что падать в темное, липкое болото; как ни барахтайся, ты все равно уходишь на дно. Пытаться контролировать всю ситуацию в целом – это просто безумие.

Возможно, это признак того, что наступает заря эры искусственного интеллекта.

Вне зависимости от того, какую среду мы выбираем – DOS, Windows, Unix или Linux, – поведение программы является прозрачным и предсказуемым. Если вы просто потратите достаточное количество человеко-часов, то чисто теоретически сможете понять схему работы любой программы. У вас получится написать мониторинговую программу, которая будет точно записывать каждое действие других программ, создавая полный отчет о процессе обработки данных. Даже случайные числа, созданные программами, можно предсказать, потому что современные функции генерации случайных значений выдают числа не вполне случайным образом. И если удастся добиться случайности, ситуация не очень сильно изменится, поскольку вычислительный процесс по-прежнему останется прозрачным. Пока я программировал экспертную систему для паровых турбин, меня просили записывать логический процесс, который использует система, а также то, как работает функция поиска в базе знаний. Эксперты по паровым турбинам считали данное занятие невыносимо скучным, и нам, программистам, приходилось просматривать огромные папки распечаток, с древовидными диаграммами на каждой странице.

Но по мере развития технологий компьютерные системы становятся все более непрозрачными и непредсказуемыми. Хотя количественные изменения еще не перешли в качественные, добавление новой, не-фон-Неймановской архитектуры к новым программам – такой, как эволюционные алгоритмы, – возможно, станет тем событием, которое приведет к прорыву на новый уровень.

Это создает еще одну фундаментальную проблему: является ли человеческий интеллект по своей сути непредсказуемым? В природе хаотичная система является классическим примером крайне большого и непредсказуемого набора феноменов. Возможно, одной из таких хаотичных систем является мозг? Если интеллект действительно появляется в ходе взаимодействия бесчисленного количества нейронов, тогда ответ на этот вопрос – «нет». Хотя в нашем мозге столько же нейронов, сколько звезд в Млечном Пути, взаимодействия подобного вида по-прежнему остаются прозрачными и предсказуемыми; в теории кто-то мог бы понаблюдать за деятельностью мозга и записать каждую мысль. Но кто знает, какая именно непредсказуемость скрывается за этим огромным числом взаимодействий? В своей книге «Новый ум короля. О компьютерах, мышлении и законах физики» Роджер Пенроуз[19] утверждает, что компьютеры по природе своей не способны симулировать человеческий интеллект.

Предназначение науки состоит в том, чтобы сделать природу прозрачной и предсказуемой, но искусственный интеллект двигается в противоположном направлении, и это пугает. Заря эпохи ИИ станет кошмаром для человечества, однако мы – неутомимо и с энтузиазмом – продолжаем приближать этот день. Такова природа человека. Ведь, в конце концов, ни мужчинам, ни женщинам не нравятся партнеры, которые являются полностью предсказуемыми. Нас привлекает возможность создать то, что лучше нас, нечто непредсказуемое – даже если в результате мы умрем от удара током после партии в шахматы.

Стоит лишь взглянуть на Watson, суперкомпьютер компании IBM, и станет ясно, что мы живем в доисторический период, за которым настанет эпоха искусственного интеллекта.

Опубликовано на сайте Guokr.com

11 февраля 2011 г.

Сто тысяч и одна Земля

Младенцы, несомненно, слабее детенышей других животных. Жеребенок может встать на ноги и ходить без посторонней помощи всего через десять минут после рождения, но младенцы остаются в колыбели в течение очень длительного времени, и если в этот период о них никто не заботится, они погибнут. Сами по себе люди никогда не выберутся из колыбели. Этот феномен связан с требованиями эволюции; человеческий мозг так велик, что его будет сложно наращивать после полового созревания, поэтому его нужно создать заранее. Иными словами, все младенцы рождаются недоношенными.

Если мы считаем человеческую цивилизацию младенцем, то она тоже рождена до срока. Скорость развития цивилизации гораздо выше, чем у эволюции, и, на самом деле, человечество вошло в современную эпоху, обладая мозгом и телом примитивных людей. Это подводит нас к страшному вопросу: если внешний мир не будет о нас заботиться, не останется ли цивилизация людей навеки в своей колыбели?

Сейчас этот вариант кажется возможным.

В отдаленном будущем, когда люди станут вспоминать временной период от середины XX века до настоящего времени, все великие события, которые казались нам столь судьбоносными, бесследно исчезнут, перемолотые в пыль жерновами истории, и важными будут только два события, которыми