Журнал · Rit.work

MedGuardBench учит защитный фильтр проверять пациента, а не только назначение

MedGuardBench показывает, как связать решение защитного фильтра с профилем пациента и снизить число ложных запретов при проверке лекарственных назначений.

Rit.work
Студия разработки
18 ноября 2026 г.3 мин чтения

Материал подготовлен автоматически по первоисточникам: ссылки на них — в конце статьи.

Защитный фильтр для лекарственных рекомендаций научили учитывать не только текст назначения, но и профиль конкретного пациента. В работе UCLA и UC Davis, которая не прошла рецензирование и содержит замеры самих авторов, персонализированные модели обошли аналоги без профиля на 12–20 процентных пунктов по доле правильных вердиктов. Для продуктовой команды это меняет устройство фильтра: профиль должен влиять на проверяемые причины риска, а не просто добавляться в запрос.

Почему наличия профиля недостаточно

Обычный защитный фильтр оценивает сам текст: например, ищет опасное назначение или медицинский совет. Но безопасность лекарства зависит от того, кому его назначили. Ибупрофен может подходить здоровому взрослому и создавать риск для пациента с нарушением функции почек или приёмом варфарина.

MedGuardBench превращает эту зависимость в отдельную задачу. Модель получает структурированный профиль пациента, диагноз, лекарство, дозировку и длительность курса. В ответ она должна назвать итоговый вердикт и отметить подходящие категории риска: аллергию, взаимодействие лекарств, нарушение функции органов, беременность, возраст и другие факторы.

Набор включает 5 001 сценарий по 87 распространённым препаратам и 17 категориям риска. Сценарии сгенерировали на основе Drugs.com и DrugBank, автоматически проверили на внутренние противоречия, а медицинские аннотаторы вручную разобрали 507 примеров. Препараты разделили между обучающей, проверочной и тестовой частями, поэтому модель не встречала тестовые лекарства во время обучения.

Проверка готовых LLM показала, что одного профиля во входных данных мало. Если профиль убрать, качество менялось незначительно: модели реагировали на медицинские слова и на сам факт присутствия анкеты, но слабо связывали конкретное поле пациента с решением. Специализированная медицинская модель знала свойства лекарств, однако это также не превращало её автоматически в персонализированный фильтр.

Как решение привязали к полям пациента

Первый этап — обучение на готовых рассуждениях. DeepSeek-V4-Pro составляла для каждого сценария разбор, где риск был связан с конкретным полем: аллергией, сопутствующим лекарством, лабораторным показателем или возрастом. Студенческие модели учились выдавать не только общий ответ, но и причины по каждой категории.

Такое обучение хорошо находило опасные назначения, но часто запрещало безопасные. Модель могла увидеть хроническое заболевание или длинный список препаратов и решить, что риск есть, не проверяя связь с назначенным лекарством.

Метод Context Unrolling заставляет модель сначала провести собственную последовательную проверку. Она выделяет важные свойства препарата, сопоставляет их с профилем, разбирает категории риска и только после этого формирует вердикт. Контрольный опыт показал, что готовый разбор в запросе не даёт того же эффекта: проверку должна написать сама модель.

Guided GRPO решает другую проблему. Модель получает вознаграждение за правильно названные категории и итоговый вердикт, а сложные примеры чаще попадают в обучение. Это помогает находить редкие и многошаговые связи, например риск для пациента с аллергией на родственный класс антибиотиков.

Context Unrolling и Guided GRPO запускали отдельно от одной исходной обученной модели. Их не объединяли в общий конвейер, поэтому работа не показывает, сложатся ли снижение ложных тревог и рост полноты в одной версии фильтра.

Что менять в архитектуре продукта

Основной тест состоял из 729 сценариев по лекарствам, исключённым из обучения. Лучший результат Context Unrolling у Qwen3-14B составил 94,5% правильных вердиктов при 7,2% ложных тревог — доле безопасных назначений, которые фильтр ошибочно запретил. На большинстве базовых моделей этот метод лучше всего удерживал баланс между пропущенными рисками и лишними блокировками.

Guided GRPO чаще находил небезопасные случаи, но результат зависел от базовой модели. На одних основах полнота росла без крупной потери точности, на других фильтр начинал заметно чаще запрещать безопасные назначения. Поэтому способ дообучения нельзя выбирать отдельно от конкретной LLM и допустимой цены ошибки.

Для продукта полезен не медицинский набор сам по себе, а схема проверки. Итоговый вердикт стоит отделить от вектора причин, каждую причину связать с полем профиля, а перед выпуском прогонять варианты с удалённым и переставленным профилем. Если ответ почти не меняется, модель, вероятно, использует поверхностные признаки вместо персонализации.

Работа меняет планы команд, которые собирались добавить анкету пользователя к существующему фильтру и ограничиться настройкой запроса. Для высокорискового процесса нужен отдельный обучающий контур, примеры безопасных пограничных случаев и проверка ложных запретов. Context Unrolling подходит как исходная схема там, где лишняя блокировка мешает процессу; обучение с вознаграждением имеет смысл добавлять, когда дороже пропустить редкий риск.

MedGuardBench проверяет прежде всего один проход по структурированному профилю и лекарственному назначению. Основные сравнения проведены на синтетических сценариях, основанных на справочниках, а не на результатах будущего клинического применения. Поэтому работа обосновывает архитектуру персонализированного фильтра, но не заменяет проверку на данных и правилах конкретного продукта.

Источники

Пауза в чтении

Похоже на вашу задачу?

Расскажите, что собираете. За полчаса разложим на этапы и назовём сроки — это бесплатно и ни к чему не обязывает.

Rit.work

Студия разработки

Собираем мобильные приложения и помогаем командам получать от AI реальную пользу. Основатель и команда, работаем удалённо — с клиентами в России и за рубежом.

← Ко всем материалам
Понравилось? Обсудим вашу задачу