Мой робот-терапевт: этика ИИ‑чатботов для психического здоровья детей
Доступ к услугам психического здоровья в США может быть затруднён. Страховое покрытие неполное, а число специалистов в области психического здоровья недостаточно для удовлетворения потребностей страны, что приводит к долгим очередям и дорогому лечению.
На помощь приходит искусственный интеллект (ИИ).
Приложения для психического здоровья на базе ИИ — от трекеров настроения до чатботов, имитирующих человеческих терапевтов — распространяются на рынке. Хотя они могут предложить дешёвый и доступный способ заполнить пробелы в системе, существуют этические опасения по поводу чрезмерной зависимости от ИИ в области психиатрической помощи — особенно когда речь идёт о детях.
Большинство приложений для психического здоровья на базе ИИ не регулируются и разрабатываются для взрослых, но обсуждение их использования с детьми набирает обороты. Брианна Мур, доктор философии, доцент гуманитарных наук в области здравоохранения и биоэтики Медицинского центра Университета Рочестера, стремится убедиться, что эти разговоры включают этические соображения.
«Никто не говорит о том, что отличается у детей — как работают их умы, как они встроены в семейную систему, как отличается их принятие решений», — говорит Мур, выразившая эти опасения в недавней комментарии в Journal of Pediatrics. «Дети особенно уязвимы. Их социальное, эмоциональное и когнитивное развитие находится на другой стадии по сравнению со взрослыми».
Фактически, чатботы для психического здоровья на базе ИИ могут вредить социальному развитию детей. Исследования показывают, что дети приписывают роботам «моральный статус и ментальную жизнь», что вызывает опасения, что дети — особенно маленькие — могут привязываться к чатботам в ущерб построению здоровых отношений с людьми.
Социальный контекст ребёнка — его отношения с семьёй и сверстниками — неотделим от его психического здоровья. Поэтому педиатрические терапевты не лечат детей в изоляции. Они наблюдают за семейными и социальными отношениями ребёнка, чтобы обеспечить его безопасность и вовлечь членов семьи в терапевтический процесс. Чатботы на базе ИИ не имеют доступа к этой важной контекстной информации и могут упустить возможности вмешаться, когда ребёнок находится в опасности.
Чатботы на базе ИИ — и ИИ‑системы в целом — также склонны усугублять существующие неравенства в области здравоохранения.
«ИИ хорош ровно настолько, насколько хороши данные, на которых он обучен. Чтобы построить систему, которая работает для всех, нужно использовать данные, представляющие всех», — говорит соавтор комментария Джонатан Херингтон, доктор философии, доцент кафедр философии и гуманитарных наук в области здравоохранения и биоэтики. «К сожалению, без очень тщательных усилий по созданию репрезентативных наборов данных эти чатботы не смогут служить всем».
Пол, раса, этническая принадлежность ребёнка, место его проживания и относительное благосостояние его семьи влияют на риск переживания неблагоприятных детских событий, таких как насилие, пренебрежение, заключение близкого человека под стражу или свидетелем насилия, злоупотребления психоактивными веществами или психических заболеваний в доме или сообществе. Дети, пережившие такие события, чаще нуждаются в интенсивной психиатрической помощи и реже могут получить к ней доступ.
«Дети из семей с меньшими средствами могут не иметь возможности оплатить человеческую терапию и, таким образом, начать полагаться на эти чатботы вместо терапии человек‑с‑человеком», — говорит Херингтон. «Чатботы на базе ИИ могут стать ценными инструментами, но никогда не должны заменять человеческую терапию».
В настоящее время большинство терапевтических чатботов на базе ИИ не регулируются. Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) одобрило лишь одно приложение для психического здоровья на базе ИИ для лечения большого депрессивного расстройства у взрослых. Без регулирования нет способов защититься от неправильного использования, отсутствия отчётности или неравенства в обучающих данных и доступе пользователей.
«Остаётся так много открытых вопросов, на которые не ответили или которые не чётко сформулированы», — говорит Мур. «Мы не выступаем за то, чтобы эту технологию отбрасывали. Мы не говорим отказаться от ИИ или терапевтических ботов. Мы говорим, что нужно осознанно подходить к их использованию, особенно когда речь идёт о такой популяции, как дети и их психиатрическая помощь».
Мур и Херингтон в сотрудничестве с Шерифе Текан, доктором философии, доцентом Центра биоэтики и гуманитарных наук в SUNY Upstate Medical, подготовили этот комментарий. Текан изучает философию психиатрии и когнитивных наук, а также биоэтику использования ИИ в медицине.
В дальнейшем команда надеется сотрудничать с разработчиками, чтобы лучше понимать процесс создания терапевтических чатботов на базе ИИ. В частности, их интересует, включают ли и в какой степени разработчики этические или вопросы безопасности в процесс разработки и насколько модели ИИ опираются на исследования и взаимодействие с детьми, подростками, родителями, педиатрами или терапевтами.
