Всемирная организация здравоохранения (ВОЗ) объявила о выпуске нового руководства по этике и управлению большими многофункциональными моделями (LMM) – передовой технологии генеративного искусственного интеллекта (ИИ), имеющей широкие применения в области здравоохранения.
Руководство ВОЗ включает более 40 рекомендаций, нацеленных на правительства, технологические компании и поставщиков медицинских услуг, чтобы обеспечить соответствующее использование LMM для продвижения и защиты здоровья населения.
LMM могут принимать один или несколько типов входных данных, таких как текст, видео и изображения, и генерировать разнообразные выходные данные, не ограничиваясь типом входных данных. Они уникальны своей способностью имитировать человеческое общение и выполнять задачи, на которые они не были явно запрограммированы. LMM были приняты быстрее, чем любое потребительское приложение в истории, с несколькими платформами, такими как ChatGPT, Bard и Bert, вошедшими в общественное сознание в 2023 году.
По словам доктора Джереми Фаррара, главного научного сотрудника ВОЗ, «технологии генеративного ИИ имеют потенциал улучшить здравоохранение, но только в том случае, если те, кто разрабатывает, регулирует и использует эти технологии, определят и полностью учтут связанные с ними риски». Необходимы прозрачная информация и политика для управления проектированием, разработкой и использованием LMMs для достижения лучших результатов в области здравоохранения и преодоления существующих неравенств в здравоохранении.
В новом руководстве ВОЗ описаны пять основных применений LMM в здравоохранении:
- Диагностика и клинический уход, например, ответы на письменные запросы пациентов.
- Использование ИИ пациентами, например, для исследования симптомов и лечения.
- Канцелярские и административные задачи, такие как документирование и обобщение визитов пациентов в электронных медицинских записях.
- Медицинское и сестринское образование, включая обучение стажеров моделированию контактов с пациентами;
- Научные исследования и разработка лекарств, в том числе для выявления новых соединений.
Однако существуют и риски использования LMM, такие как создание ложных, неточных, предвзятых или неполных утверждений, которые могут нанести вред людям, использующим такую информацию для принятия медицинских решений. Кроме того, LMM могут быть обучены на данных низкого качества или предвзятости.
Руководство ВОЗ подчеркивает необходимость участия различных заинтересованных сторон: правительств, технологических компаний, медицинских учреждений, пациентов и гражданского общества на всех этапах разработки и внедрения таких технологий, включая их надзор и регулирование.
Ключевые рекомендации для правительств включают инвестиции в некоммерческую или государственную инфраструктуру, включая вычислительные мощности и общедоступные наборы данных, доступ к которым предполагает соблюдение этических принципов и ценностей. Также рекомендуется использовать законы, политику и регулирование для обеспечения соответствия LMM этическим обязательствам и стандартам прав человека.
Для разработчиков LMM важно, чтобы в процессе проектирования участвовали не только ученые и инженеры, но и потенциальные пользователи и все прямые и косвенные заинтересованные стороны, включая медицинских работников, научных исследователей и пациентов.
Это руководство ВОЗ является продолжением ранее опубликованного в июне 2021 года и представляет собой важный шаг в области этического и безопасного применения ИИ в здравоохранении.
