Учитывая потенциал и недостатки "Dr. GPT-3 'в ближайшей к вам поликлинике - PSORDOC

Учитывая потенциал и недостатки «Dr. GPT-3 ‘в ближайшей к вам поликлинике

Компьютерные приложения с искусственным интеллектом на естественном языке становятся все более изощренными, что повышает вероятность того, что они могут играть более важную роль в здравоохранении, включая взаимодействие с пациентами. Но прежде, чем эти приложения поступят в клинику, необходимо тщательно изучить их потенциал и недостатки, говорится в новой статье в npj Digital Medicine .

Авторами являются Дайан М. Корнгибель, научный сотрудник Центра Гастингса, и Шон Д. Муни, главный научный сотрудник Вашингтонского медицинского университета.

«Есть многообещающие и серьезные шумихи в приложениях AI, которые генерируют естественный язык» , — пишут Корнгибель и Муни, имея в виду Generative Pre-Training Transformer 3 (GPT-3) OpenAI и аналогичные технологии. В статье потенциальные приложения здравоохранения разбиты на три категории: нереалистичные, реалистичные и выполнимые и реалистичные, но сложные.

Нереалистичные приложения

Приложения искусственного интеллекта на естественном языке в ближайшее время не заменят врачей, медсестер и другой медицинский персонал в беседе с пациентами. «Взаимодействия с GPT-3, которые выглядят (или звучат) как взаимодействия с живым, дышащим — чутким или сочувствующим — человеком — не являются», — пишут авторы. Например, в недавнем тестировании GTP-3 для консультирования по вопросам психического здоровья приложение поддерживало смоделированные высказанные пациентом мысли о самоубийстве. Кроме того, приложения искусственного интеллекта на естественном языке в настоящее время отражают человеческие предубеждения, связанные с полом, расой и религией.

Реалистичные и осуществимые приложения

Приложения на естественном языке могут избавить медицинских работников от некоторых рутинных утомительных задач, таких как навигация по сложным электронным медицинским записям. И, учитывая, что они способны к довольно естественному обмену вопросами и ответами, приложения могут улучшить поддержку в онлайн-чате обслуживания клиентов и помочь пациентам с некритическими задачами, такими как настройка оборудования при подготовке к визиту телемедицины. Но должны быть «серьезные ограждения» для всех взаимодействий в сфере здравоохранения, включая обучение приложений устранению «вредной, предвзятой или неуместной лексики».

Реалистичные, но сложные приложения

GTP-3 можно использовать для сортировки некритических пациентов, поступающих в отделения неотложной помощи. Однако разработчики технологии и люди, ее внедряющие, должны помнить о вреде. Например, приложения на естественном языке, которые не «говорят» на языке пациента, могут неправильно отсортировать этого пациента. «Внедрение должно включать другие средства сортировки тех пациентов, которые не могут или не хотят использовать разговорный агент, который также может быть слишком лингвистически однородным, чтобы предлагать использование языка с учетом культурных особенностей», — пишут авторы, добавляя, что важно поддерживать « человек в петле «. Сотрудник также должен будет просмотреть все формы сортировки.

Статья завершается рекомендациями по обеспечению равноправия приложений на естественном языке. Широкий круг заинтересованных сторон должен быть вовлечен с самого раннего этапа разработки через развертывание и оценку. И должна быть прозрачность, в том числе в используемых наборах данных и ограничениях приложений.

«Мы должны проявлять осторожный оптимизм в отношении потенциальных приложений сложных приложений обработки естественного языка для улучшения ухода за пациентами», — пишут авторы. «Будущее приближается. Вместо того, чтобы бояться его, мы должны готовиться к нему — и готовиться приносить пользу человечеству, используя эти приложения».

(1729 публикаций на сайте)

(Пока оценок нет)
Загрузка...
Понравилась статья? Поделиться с друзьями:
Добавить комментарий

;-) :| :x :twisted: :smile: :shock: :sad: :roll: :razz: :oops: :o :mrgreen: :lol: :idea: :grin: :evil: :cry: :cool: :arrow: :???: :?: :!:

Содержание

Сообщить об опечатке

Текст, который будет отправлен нашим редакторам:

Adblock
detector