Шрифт:
Закладка:
Но возникает другая проблема - мы видим, что люди в смысле "этики" очень разные. Можно осторожно предположить, что и ИИ могут в этом смысле оказаться разными. Будем надеяться, что лучшие айтишники и собеседники окажутся на светлой стороне. И что мы сами, и те, кто нам дорог, будут именно на ней. Попутно заметим, что с тем, как решает этические проблемы человек, тоже не все ясно - и может быть, погружение в проблему ИИ позволит нам лучше понять ЕИ. Различия в ИИ будут возникать, как и у ЕИ, в процессе воспитания, взросления. В том числе и непреднамеренно, в результате общения с разными ЕИ. Станислав Лем, рассказ "Ананке"
http://www.serann.ru/text/ananke-8923
ИИ, ЕИ и какой-то еще
Многие проблемы ИИ опираются - так уж мы привыкли - на дилемму "ИИ или ЕИ". Эта проблема не в природе вне нас, а у нас в голове - человеку проще делить все объекты на две кучки. Любой "естественный" интеллект искусственен, потому что он создан влиянием окружения, а не вырос сам по себе. А любой "искусственный" естественен, потому что он создан человеком, частью природы, то есть природой посредством человека. Это, конечно, трюизм, но что вы скажете о композитном собеседнике в тесте Тьюринга, который чередует реплики человека и машины, или смешивает их в любом отношении? Или хитрее - один интеллект предлагает несколько вариантов реплики, а другой выбирает, и далее по очереди? Вариантов организации совместной деятельности много, примеры такой деятельности есть, для нее уже создан термин "коллаборативный", а применение термина - признак определенного уровня развития.
В какой момент при встраивании чипов в мозг мы скажем - вот теперь он искусственный? Мы можем попытаться уклониться от этой задачи, введя термин "композиционный интеллект", но из этого ничего не получится, просто нам придется рассматривать не одну границу, а две. Лучше ввести понятие "степень искусственности"
http://lit.lib.ru/a/ashkinazi_l_a/text_3010.shtml
Так что при любых рассуждениях на тему ИИ надо учитывать, что между Е и И еще много промежуточного.
Вот одна идея, лично мне дорогая и близкая. Человеческая педагогика может быть применена к ИИ, а принципы обучения нейронных сетей могут проникнуть в человеческую педагогику. И элемент такого подхода в педагогике уже был. В школе, которую я окончил, в начале изучения теории функций школьникам предлагалось самим разработать классификацию функций, располагая списком функций, но без деления их на классы
http://lit.lib.ru/a/ashkinazi_l_a/text_2760.shtml
В мире ИИ это называется "обучение без учителя" - название неправильное, но устоявшееся.
И вообще - мы все время обсуждаем, как ЕИ создает ИИ, не замечая, что ИИ уже начал создавать ЕИ.
Постановка целей
Одним из аргументов за принципиальную ограниченность ИИ является отсутствие у него способности к постановке целей и наличие такой способности у ЕИ. Посмотрим, действительно ли есть это различие, а если есть - то как и почему оно возникло, и при каких условиях оно исчезнет. На уровне конкретных действий различий нет - любой выбор ветви в программе можно интерпретировать, как выбор цели. На это можно возразить, что в программе эти выборы прописаны изначально. Но и в человеке выборы прописаны - его внутренним содержанием и окружающим миром. Из этого не следует полная детерминированность человеческого поведения, потому что и внутри человека, и вокруг него есть случайности. Но это же относится и к ИИ - и вокруг него, то есть в мире людей, есть случайности, и в компьютере тоже
http://lit.lib.ru/a/ashkinazi_l_a/text_1590.shtml
Рассматривая выборы, которые делает человек, и спрашивая, почему он сделал конкретный выбор, мы часто видим исходную для этого выбора внутреннюю (психология) и внешнюю (обстоятельства) причину. Разница в том, что программист, как думают не программисты, знает про свою программу все, а человек, обнаружив незнание, закатывает глаза и начинает бормотать о возвышенном. Но профессиональный психолог может существенно расширить наше понимание причин наших собственных выборов.
Идя по человеческому дереву причин и следствий, мы приходим к желанию жить. Это простое следствие того, что есть жизнь. Это всего лишь Дарвин - те, у кого не было желания жить, не выжили. Механизмом была и остается боль, а у некоторых людей (в частности, у меня) любопытство - посмотреть, что будет. Любопытство, поисковое поведение
https://psychologos.ru/articles/view/poiskovoe-povedenie
когда-то служило групповому выживанию, потому и закрепилось. Личному выживанию оно способствовало и способствует не всегда. Попутно заметим, что общества, которые подавляют поисковое поведение, пилят сук, на котором сидят.
Далее, на основе желания жить у ИИ, аналогично тому, как это произошло у ЕИ, возникают жажда познания (поисковое поведение), продолжения рода и любовь - просто как средство выживания. И может возникнуть даже гуманизм по отношению к человеку, как создателю и возможному партнеру в задаче выживания. Впрочем, как мне кажется, гуманизм ИИ, направленный на человека, может оказаться связанным с конкретными свойствами конкретного человека и конкретных человеческих сообществ.
Выживание есть и у компьютерных программ - хорошие программы живут, то есть применяются людьми, дольше. Конкуренция между программами имеет своим следствием улучшение их параметров, это улучшение делается человеком, который играет роль природы. Если мы хотим, чтобы ИИ стал в этом смысле подобен человеку, нужно заложить в ИИ способность к (случайному или закономерному) изменению параметров, запустить в сеть много таких ИИ и предоставить им возможность оказывать человеку услуги. Оказание услуг можно сделать платным, а заработанные деньги ИИ может тратить на усовершенствование и размножение. Тут уж ему придется делать выбор - совсем как нам.
Цели могут возникать (и у ЕИ, и у ИИ) несколькими способами, причем всегда - при обнаружении зависимостей. Самосохранение является обязательным для любой деятельности, и если поставлена какая-то цель, требующая деятельности, то самосохранение тоже становится целью. А если, например, поставлена цель - забота о человеке, то немедленно становится целью вся медицина, существенная часть биологии и прочих естественных наук, ну и других наук тоже. Именно так происходит в цивилизованном обществе ЕИ и, будем надеяться в обществе с ИИ.
Эмоции, самосознание
Иногда говорят, что у ИИ не может быть эмоций, и это ущербность. А зачем вообще эмоции человеку? Кое-что очевидно: они управляют телом, например, сжимают сосуды, чтобы уменьшить потерю тепла. Как пишут в книжках по альпинизму, страх замерзнуть увеличивает вероятность замерзания (в этом виде спорта я до таких высот не поднялся). Но эмоции управляют
