Автор(ы): В.С. Олексик, С.В. Ходус
Город: Благовещенск
Учреждение: ФГБОУ ВО Амурская ГМА Минздрава России
Актуальность
За последние 25 лет было создано множество программ на базе искусственного интеллекта, направленных на улучшение процесса обучения медицинских специалистов. Возрастающий интерес к совершенствованию подготовки врачей подтверждается значительным увеличением числа научных публикаций, посвященных разработке образовательных программ с использованием ИИ. В результате на рынке медицинского симуляционного обучения появилось множество разнообразных обучающих программ, чат-ботов и моделей живых пациентов. Например, учебные боты могут вести диалог и предоставлять актуальную информацию по различным академическим темам, анализировать процесс обучения конкретного студента и предлагать рекомендации по изменению учебного плана как студенту, так и его преподавателю. Также разрабатываются модели-аналоги живых пациентов для различных нозологий, таких как абдоминальные заболевания, интерактивные обучающие платформы для анестезиологов, на рынке имеются и различные отечественные разработки (VR-симуляторы офтальмологических заболеваний с реальными патологическими изменениями, основанные на ИИ). Появляются различные программы на базе ИИ, которые позволяют обучать постановке дифференциального диагноза, отвечать на звонки, проводить консультации или попробовать себя в роли врача-терапевта. Все чаще преподаватели используют ИИ для решения рутинных задач, таких как составление тестов, заданий, сценариев, деловых игр или проверка ответов. Однако в симуляционном обучении ИИ может быть как полезным инструментом, так и источником проблем, связанных с предвзятостью или сбоями, которые подрывают доверие. Наша задача — внедрить правильные «семена» ИИ в медицинское симуляционное обучение: прозрачность, этика и человеческий надзор являются нашими основными инструментами в этом вопросе.
Цель
Проанализировать возможности применения ИИ в медицинской симуляции и потенциальные проблемы безопасности.
Результаты
Возможности ИИ в медицинской симуляции:
1) Умный ментор. Адаптивные сценарии ИИ, подстраивающиеся под уровень обучаемого в реальном времени, создавая оптимальный уровень вызова без чрезмерного стресса.
2) Расширенный видеоанализ. Автоматическое выявление паттернов коммуникации, лидерства, моментов риска в команде. Возможное считывание эмоционального состояния обучающегося с целью адаптации симуляционного сценария (при высоком психоэмоциональном напряжение, снижение трудности сценария).
3) Генерация сценариев симуляций редких/сложных событий. Создание уникальных, но реалистичных сценариев редких осложнений или каскадов событий, которые сложно воспроизвести вручную.
4) Персонализированное обучение. Анализ данных с множества сессий для выявления индивидуальных пробелов у обучаемых.
5) Раннее обнаружение сбоев. Алгоритмы мониторинга работы симуляционного оборудования для предупреждения технических неисправностей.
Несмотря на значительные возможности ИИ в улучшении медицинского симуляционного обучения, важно признать и задуматься о решении потенциальных проблем с безопасностью и этических проблем, связанных с его использованием.
Возможные проблемы использования ИИ с позиции безопасности.
1) Слепая вера алгоритму. Чрезмерная зависимость от ИИ для генерации сценариев или автоматизированной обратной связи без контроля человека.
2) Кража биометрических данных и личной информации.
3) Смещение алгоритмов. ИИ, обученный на нерепрезентативных или предвзятых данных, может создавать сценарии, закрепляющие стереотипы (например, в диагностике, демографии пациентов) или давать некорректную обратную связь.
4) Неучет контекста. ИИ может не понимать нюансов командной динамики, эмоционального состояния участников, культурных особенностей, выдавая жесткую, негибкую оценку.
5) Угроза "психологической безопасности" — обучаемые могут бояться "осуждения" алгоритма.
6) Черный ящик. Чаще всего во время оценки, человек не видит цепочку алгоритмов и становится непонятно, почему ИИ дал ту или иную оценку, что затрудняет обучение и подрывает доверие.
7) Кража и компрометация интеллектуальной собственности. Симуляционные центры разрабатывают уникальные сценарии и методики. ИИ-инструменты, используемые для их создания или анализа, или сами симуляционные системы могут быть уязвимы к хищению этой ценной информации
Выводы
Можно с уверенностью сказать, что симуляционное обучение вступает в цифровую эпоху использования ИИ, который предлагает невероятные возможности для роста реализма и персонализации. Но он же приносит новые угрозы: уязвимость "умных" манекенов к взлому, риск "алгоритмической диктатуры" в сценариях и оценке, угрозы конфиденциальности и пр. Если мы не будем "культивировать" цифровую гигиену и этичное применение ИИ, то сами корни психологической и операционной безопасности окажутся под угрозой. Давайте использовать ИИ как умного помощника, но никогда не забывать, что главными хранителями безопасности и качества обучения остаемся мы, люди. Наша ответственность – обеспечить, чтобы цифровой дождь питал наш сад, а не размывал его основы.
