Министерство здравоохранения эффективно использует ИИ? Кто-то галлюцинирует.

С первого дня работы министр здравоохранения и социальных служб Роберт Ф. Кеннеди-младший объявил «радикальную прозрачность» своим главным приоритетом, одновременно пообещав кардинально реформировать систему общественного здравоохранения с помощью искусственного интеллекта. Сегодня единственное, что, кажется, является прозрачным, — это то, что он не справляется со своим обещанием. После установления «агрессивного графика» по внедрению новейших технологий искусственного интеллекта Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США — агентство в составе министерства, ответственное за безопасность пищевых продуктов, а также за безопасность и эффективность лекарственных средств и медицинских изделий — запустило Эльзу, своего нового помощника на основе искусственного интеллекта. На Эльзу была возложена трудоемкая задача по рассмотрению клинических протоколов, выделению ключевых моментов в научных обзорах и упрощению других этапов процесса одобрения лекарственных средств. Высокопоставленные чиновники рекламировали ее как «динамичную силу», которая откроет «эру искусственного интеллекта в Управлении». Вместо этого она принесла хаос и неразбериху. После запуска Эльзы в июне сотрудники Управления с тревогой обнаружили, что она регулярно допускает ошибки и систематически искажает данные клинических испытаний. Некоторые утверждали, что помощник галлюцинирует и «выдумывает вещи» при составлении кратких изложений документов. Представители Управления утверждают, что это не соответствует действительности. Чиновник министерства настаивал, что заявления сотрудников были «вырваны из контекста» и поступили от «недовольных бывших сотрудников и источников, которые никогда даже не использовали текущую версию Эльзы». Хотя сбои могут быть обычным явлением при внедрении новых технологий в операционную деятельность организации, технологические неудачи преследуют тех, кто отвечает за «оздоровление Америки», уже несколько месяцев. В мае, за несколько недель до дебюта Эльзы, министерство выпустило отчет, документирующий проблемы с вакцинами, рецептурными лекарствами и безопасностью пищевых продуктов. Позже отчет подвергся критике за ссылки на некоторые несуществующие исследования и предоставление как минимум 21 неработающей ссылки на другие. Независимый анализ пришел к выводу, что неточности и другие проблемы, вероятно, были вызваны использованием ЧатГПТ при подготовке отчета. Эти события вызывают беспокойство — и, вероятно, последуют другие, поскольку Кеннеди и его команда надеются использовать искусственный интеллект более широко: для развития телемедицины, создания сети обмена данными, позволяющей Центрам услуг Medicare и Medicaid сотрудничать с технологическими гигантами, и для постепенного отказа от некоторых испытаний на животных, заменяя их искусственным интеллектом для определённых продуктов, стремясь получить одобрение Управления. Однако проблема не в искусственном интеллекте. Проблема в том, что министерство и его агентства, по всей видимости, используют технологию искусственного интеллекта, которая не готова или даже не подходит для решения задачи. Хотя Кеннеди большую часть своей карьеры бросал вызов и атаковал американскую пищевую и медицинскую отрасли, ему было бы разумнее изучить, как они эффективно используют искусственный интеллект для улучшения результатов в области здравоохранения и снижения затрат. Например, Healthcare, международный рецензируемый научный журнал, проанализировал 200 академических исследований о влиянии искусственного интеллекта на экономику здравоохранения и обнаружил неопровержимые доказательства того, что при правильном использовании искусственный интеллект значительно снижает затраты, экономя деньги пациентов как на диагностике, так и на лечении. Рассмотрим ожирение, возможно, самую серьезную проблему общественного здравоохранения в Соединенных Штатах. Хотя инъекционные препараты для снижения веса, такие как Вэгови и Маунджаро, помогли миллионам людей похудеть, они (как и другие фармацевтические препараты) могут быть вредными при неправильном использовании. В то время как Кеннеди стремится сократить использование этих препаратов пациентами, частные компании направляют технологии искусственного интеллекта на то, чтобы помочь пациентам использовать их более эффективно, путем подбора доз, корректировки диеты и предупреждения их, когда лечение не работает как ожидалось. Другие приложения на основе искусственного интеллекта предоставляют именно то, что хочет Кеннеди: надежный способ похудеть без побочных эффектов, связанных с лекарствами. Например, приложение для похудения Майндет использует искусственный интеллект для «переобучения мозга» таким образом, что это помогает пациентам естественным образом терять вес, и утверждается, что это в пять-семь раз эффективнее, чем стандартные диеты и физические упражнения. Потенциал искусственного интеллекта в улучшении здравоохранения беспрецедентен. Но его должны правильно использовать люди, которые понимают как его потенциал, так и его ограничения. Пока что усилия правительства под руководством Кеннеди разочаровывают и дают мало оснований ожидать улучшений. Надеяться на иное — это галлюцинация, которую даже искусственный интеллект, возможно, не сможет исправить.