В мире, где хакеры проникают даже в компьютеры АНБ, передача ИИ для расчетов детализированных данных по медицинской статистике и здравоохранению, само по себе высокорисковое, может превратиться в гигантскую угрозу национальной безопасности, если эти данные окажутся у террористов и злонамеренных государств. Например, активное, но мало результативное использование ИИ для борьбы с коронавирусом уже предоставило в распоряжение не только крупнейших и крупных компаний, но и молодых многообещающих стартапов чрезвычайно чувствительные данные, такие как медицинская статистика, сведения о том, каким образом перемещались в глобальном, страновом и даже городском масштабе люди, с кем они общались, какие места посещали и т. п.

Для справки. Объединившие усилия для борьбы с пандемией корпорации Apple и Google уже к середине мая 2020 года обещали разработать интерфейсы, которые будут доступны всем странам и регионам. Однако планы технологических гигантов беспокоят экспертов, считающих, что технология может дать властям и корпорациям небывалый контроль за гражданами, а анализы и медицинские карточки пользователей могут попасть в руки страховых и фармацевтических компаний, а также преступников и террористов.

Анонсированная корпорациями технология должна работать через Bluetooth-сигналы двух телефонов, которые сохраняют запись о близких и продолжительных контактах. Если у одного пользователя подтверждается коронавирус, система отправляет уведомление его недавним близким контактам – однако имя заразившегося человека не раскрывается.

Именно по этому принципу работает сингапурское приложение TraceTogether, ставшее образцом для всех западных аналогов.

Apple и Google обещают защищать конфиденциальность пользователей – все собранные данные будут храниться в телефоне и не смогут быть переданы никому без согласия пользователя. В отличие от технологий, применяемых в Израиле, Китае, Южной Корее и на Тайване, в этой системе данные GPS-локации не отслеживаются. Они уверяют, что единой централизованной базы данных существовать не будет.

На брифингах с журналистами технологических изданий представители корпораций поясняли: они сделают функцию цифрового отслеживания контактов доступной через обновления в операционных системах – iOS 13 для айфонов и айпадов и GooglePlayServices (элемент Android).

Таким образом, функция становится автоматически доступна всем владельцам телефонов Apple и смартфонов Android с версией 6.0 и новее, – но останется добровольной, как и приложения.

Это решение – ключевой ответ на главную проблему цифрового отслеживания контактов. Для его эффективной работы власти должны следить за большинством населения (60 %, по подсчетам оксфордских ученых). Однако вряд ли больше половины граждан любой страны сами скачают официальное приложение от властей. Зато встроенная в систему телефона функция, которую можно запустить моментально, может быть более популярной.

Apple и Google начали борьбу с пандемией с выпуска программных интерфейсов, которые органы здравоохранения разных стран смогут интегрировать в собственные приложения. Эти интерфейсы будут доступны только официальным ведомствам здравоохранения отдельных стран и регионов. О планах использовать эти разработки уже заявили в Национальной службе здравоохранения Британии.

Уже после этого корпорации выпустят обновления в операционные системы, и тогда отслеживание контактов станет возможным без установки специального приложения. Однако совсем без приложений система работать не будет: операционная система сможет послать сигнал о заражении близкого контакта, но для дальнейших инструкций пользователю нужно будет скачать местное приложение.

В настоящее время многие всерьез рассматривают возможность использовать в целях борьбы с криминалом, оптимизации управления и успешного разрешения чрезвычайных ситуаций китайский опыт социального контроля. Если не принимать во внимание многочисленные научные и медийные публикации на эту тему, то следует констатировать, что в настоящее время не только непонятна эффективность системы социального контроля в Китае, но и роль в этом ИИ и БД.

Создается впечатление, что в реальности система социального контроля – это не про ИИ и БД, а про соединение полицейского государства с системой тотального видеонаблюдения и анализа результатов видеонаблюдения по выбранным китайским руководством критериям. Главным в этом случае является отнюдь не ИИ и БД, а Большой Брат и сплошное видеонаблюдение. При соответствующей мощности сетей компьютеров эта задача решается в рамках программно-алгоритмических методов, разработанных математикой в 60-80-х годах прошлого века. ИИ и БД являются своеобразными маркетинговыми игрушками и одновременно фигурами, отвлекающими внимание аналитиков и публики от подлинной сущности системы социального контроля.

Вывод о том, что ИИ сегодня это – прежде всего, система сбора, накопления и распознавания или классификации тех или иных паттернов, подтверждает опыт компании Palantir. Как известно, Palantir начал эффективно использоваться в разведывательной, полицейской и финансовой деятельности задолго до бума ИИ и БД, в период продажи публике и бизнесу решений в области больших данных как самой продвинутой инновации. Эта же платформа продолжает использоваться сегодня с большим успехом, но теперь именуется изготовителем не как цифровая платформа, а как продвинутая система ИИ.

Восьмое ИИ и предвзятость

Возможно, самую серьезную озабоченность при использовании ИИ вызывает предвзятость. Поскольку ИИ в программной части это – прежде всего, машинообученные и глубинные нейронные сети, то предвзятость вносится в его работу некорректными данными. Как правило, защитники ИИ отвергают обвинения в предвзятости данных, например, в отношении женщин, расовых или языковых меньшинств тем, что как в процессе обучения, так и в эксплуатации используются исключительно фактические, достоверные, а не придуманные данные.

Однако разработчики лукавят, либо плохо разбираются в социальных процессах. Социальные процессы отличаются от природных и биологических гораздо более высокой скоростью. Соответственно то, что справедливо сегодня, было ошибочно вчера и наоборот. Таким образом в случае, если в силу тех или иных факторов некая группа меньшинства изменила свое поведение, то это будет иметь мало значения для ИИ. Он был обучен на основе старых данных, т. е. информации о том, что было вчера и изменилось сегодня. Если для анализа такие отклонения как минимум не вредны, а возможно даже и полезны, привлекая внимание к сути дела, то применительно к принятию решений и прогнозированию они делают их предвзятыми. Справедливо сделать вывод о том, что информированный скептик ИИ должен придерживаться предположения о том, что все модели ИИ являются предвзятыми, если специально не доказано обратное.

Будущее ИИ и БД – здоровый скептицизм

Несмотря на критические аспекты современного использования ИИ и БД в противодействии пандемии, будущее развитие ИИ и БД представляется оптимистичным и способным оказывать все возрастающую помощь лицам, принимающим решения, экспертам и пользователям. По завершении борьбы с коронавирусом необходимо провести детальный разбор используемых методов анализа и прогнозирования и на основании этого анализа сделать выводы относительно направлений дальнейшего совершенствования ИИ и БД в целях повышения их ценности для лиц, принимающих решения, аналитиков и пользователей.

ИИ и БД являются быстро прогрессирующим технологическим пакетом. Однако властям,