|
Рубрика:
Наука и технологии /
Раздел для научных публикаций
|
Facebook
Мой мир
Вконтакте
Одноклассники
Google+
|
Винокуров А.А.,
ФГАОУ ВО «Московский государственный технический университет имени Н.Э. Баумана (национальный исследовательский университет)», Москва, patrol8@yandex.ru
Ильичев В.Ю.,
к.т.н., ФГАОУ ВО «Московский государственный технический университет имени Н.Э. Баумана (национальный исследовательский университет)», Москва, patrol8@yandex.ru
Генерация ответов
на сложные медицинские запросы в RAG-системах через интеграцию семантического векторного поиска и структурных графовых моделей знаний
Классические методы векторного поиска в RAG-системах сталкиваются с проблемой «черного ящика» и нехватки информации при анализе сложных клинических запросов. Чтобы сделать систему прозрачной, предложен подход, в котором семантический поиск интегрирован со структурными графами знаний, что расширяет базовый запрос. Хотя современные векторные модели уже обеспечивают высокую базовую точность извлечения, внедрение графов повышает полноту и достаточность контекста. Предложенная архитектура позволяет преодолеть непрозрачность векторных алгоритмов, формируя доказуемую цепочку рассуждений. Это открывает практические возможности для создания надежных и объяснимых экспертных систем в медицине.
Введение
Стремительное и беспрецедентное развитие технологий искусственного интеллекта в последние годы открывает перед современной медициной по-настоящему огромные и многообещающие перспективы, трансформируя подходы к анализу данных и взаимодействию с пациентами. Однако массовое внедрение больших языковых моделей (LLM) в непосредственную клиническую практику сталкивается с одной фундаментальной и серьезной проблемой – склонностью нейросетей к так называемым «галлюцинациям», под которыми понимается генерация убедительно звучащих, лингвически корректных, но фактически неверных или выдуманных утверждений [1]. В контексте медицинской диагностики, назначения фармакотерапии и планирования сложных хирургических вмешательств цена такой алгоритмической ошибки становится критически высокой, поскольку она может напрямую угрожать жизни и здоровью пациентов, а также подрывать доверие к цифровизации здравоохранения.
Именно поэтому в текущих условиях крайне важно найти надежные и эффективные способы жесткого контроля фактов, верифицируя каждое утверждение системы, и сделать внутреннюю работу алгоритмов максимально прозрачной и понятной для врача, чтобы специалист мог нести ответственность за принятое решение.
<...>
Ключевые слова: RAG, гибридный поиск, семантический поиск, графы знаний, интерпретируемый искусственный интеллект, векторные модели данных, системы поддержки принятия решений
Полную версию статьи читайте в журнале
Подпишитесь на журнал
Facebook
Мой мир
Вконтакте
Одноклассники
Google+
|
Генерация ответов на сложные медицинские запросы в RAG-системах через интеграцию семантического векторного поиска и структурных графовых моделей знаний
