работали с новым оборудованием и новым программным обеспечением. Как я и ожидал, это был самый сложный с научной точки зрения проект, который когда-либо пыталась осуществить моя лаборатория. Но именно миссия по-настоящему захватила наши сердца. Смысл пронизывал все, что мы делали, и из-за этого карьера, которую я знал всю свою взрослую жизнь, казалась совершенно новым миром. Личная жизнь, которую я так старался отделить от своего пути ученого, прорвалась сквозь плотину, смывая все на своем пути. Это было долгожданным.

 

"Позовите медсестру, - умоляла мама, ее слова были едва слышны между слабыми гортанными стонами. "Капельница... Она снова чешется. Там, куда воткнули иглу". Мы снова были в больнице, на этот раз для последней процедуры визуализации сердца, растянувшейся на годы, каждая из которых была чуть более интенсивной, чем предыдущая. Я позвала на помощь.

Нашей сиделкой на этот вечер была Мэнди, путешествующая медсестра из центральной Калифорнии. Она была молода, жизнерадостна и все еще работала над тем, чтобы получить сертификат и занять более постоянную должность. Я поняла, что она мне нравится, как только она вошла в комнату.

"Мне очень жаль", - начал я. "Я знаю, что мы звоним уже в третий раз за последние несколько часов".

"Вовсе нет", - настаивала она с улыбкой, которая, казалось, принадлежала совсем другому лицу, чем ее усталые глаза. От нее исходило такое тепло, которое нелегко подделать. "О, бедняжка!" - сказала она, обращаясь к моей матери и практически излучая доброжелательность. "Похоже, нам придется снова промывать капельницу. Я знаю, это была невеселая ночь".

Это зрелище я видела тысячу раз, но оно поразило меня по-другому. Возможно, дело было в невинности, которую я уловил в поведении Мэнди, или в том, что наши исследования сделали всех нас экспертами в области повседневной жизни медсестер. Но у меня в горле стоял ком, которого я никогда не чувствовал за все годы, проведенные в подобных комнатах. Сочувствие, благоговение, благодарность и множество других чувств, которым я не мог дать названия. Присутствие Мэнди - простой, меняющий жизнь акт заботы - застал меня врасплох. На моих глазах навернулись слезы.

Обычно в такие моменты я полностью сосредотачивался на маме, но работа, которую мы выполняли, навсегда изменила мои мысли. В среднем медсестра проходит четыре-пять миль за смену. Я знала, где побывала эта женщина , прежде чем прийти в нашу палату, и сколько других лиц она видела. Им приходится выполнять более 180 уникальных задач. Я знал, что она, вероятно, измотана. Смены увеличиваются, несмотря на хорошо задокументированные проблемы, связанные с усталостью сиделок. И все же она была неутомима в своей доброте. Сегодня средняя смена длится двенадцать часов. И все это она делала с улыбкой.

Если мои исследования действительно могли кому-то помочь, то такие медсестры, как Мэнди, были на первом месте в моем списке. Я не мог представить себе более достойных бенефициаров.

"Вы здесь работаете?" спросила Сьюзен. Наступило утро, а вместе с ним и новая медсестра для ранней смены.

Я посмотрел на свой значок Стэнфордской медицинской школы, который часто носил во время работы с Арни. Я понял, что забыл его снять.

"О, это?" Я хихикнула. "Нет, на самом деле я участвую в исследовательском проекте".

"Что за исследования?" - спросила она.

"Я с факультета информатики, и мы с моими студентами сотрудничаем над проектом, в котором используется искусственный интеллект для отслеживания гигиены рук".

Ее улыбка немного потускнела, она выглядела скорее вежливой, чем дружелюбной. "Значит... за нами следит камера?"

"Нет, нет, нет! Конечно, нет!" Этот вопрос задавался уже не в первый раз, но я все равно каждый раз чувствовал прилив смущения. "Это скорее датчик, чем камера. Запись не ведется. Но он предоставляет своего рода изображение для анализа нашим алгоритмом. Он учится рассматривать различные модели мытья рук. Мы еще только начинаем, в основном пытаясь понять, справляются ли алгоритмы с поставленной задачей. Но за вами никто не следит, обещаю!"

Я постарался сделать все возможное, чтобы сохранить легкость. Все, что я говорил, было правдой, конечно, но я не мог винить ее за то, что она предполагала худшее.

"Ладно, думаю, это звучит нормально", - сказала она, выдыхая. "Вы знаете, - продолжила она, понизив голос, - ваши некамеры должны обязательно присматривать за врачами". Сьюзен была такой же доброй, как и Мэнди, но в ней чувствовалась какая-то изюминка. По ее лицу расплылась кривая улыбка. "Они хуже всех. Но администраторы кричат только на нас, медсестер".

 

"Bossware".

Новый вид программного обеспечения, более вежливо называемый "мониторингом сотрудников", появлялся на складах и в офисах, внимательно изучая свои объекты до такой степени, что многие считали его инвазивным и даже дегуманизирующим. Несмотря на то, что это программное обеспечение рекламировалось как способ повысить производительность труда и обеспечить безопасность поведения в профессиональной среде, оно практически мгновенно завоевало презрение среди работников и вскоре стало постоянной темой в технологической прессе. Теперь, когда у нас еще не было шанса проявить себя, наша работа столкнулась с перспективой быть поглощенной антиутопическими коннотациями. Поначалу ассоциация казалась несправедливой - наша технология предназначалась для обеспечения безопасности пациентов, а не для оценки их работы, - но беспокойство было понятным и слишком очевидным в ретроспективе. Это была моя первая встреча с тем аспектом ИИ, который вскоре будет преследовать общественное воображение: его способность к слежке.

Оглядываясь назад, легко забыть, насколько внезапными были перемены. Это был 2015 год, и последствия ИИ для частной жизни все еще находились в фокусе внимания большинства из нас; в конце концов, прошло всего несколько лет с тех пор, как точность классификации изображений даже приблизилась к полезному порогу. Теперь же, казалось бы, в мгновение ока исследователи вроде нас столкнулись с возможностями такой мощности, что технические проблемы уступили место этическим. И наше путешествие по миру здравоохранения привело все это в нашу лабораторию.

"Никому не нужны боссовые программы", - сказал один из студентов.

Команда вернулась из детской больницы Люсиль Паккард, где надеялась нанести последние штрихи в план проведения экспериментального исследования, но поездка оказалась неожиданно неудачной. Медсестры из всех отделений, которых мы просили принять участие в исследовании, отвергли наши планы по установке партии прототипов датчиков. Это была серьезная неудача, но после разговора со Сьюзан я не мог сделать вид, что удивлен.

Это было напоминанием о том, что даже у четко сформированной междисциплинарной команды могут быть "слепые пятна". Какими бы знающими ни были наши врачи, они были скорее исследователями, чем практикующими сиделками, а это различие имело