Szakács Eszter

Nagy nyelvi modell alapú egészségügyi rendszerek tervezése, implementálása és elemzése

Pannon Egyetem

Informatikai Tudományok Doktori Iskola

Fogarassyné Vathy Ágnes

Dulai Tibor

társ

PhD

A mesterséges intelligencián belül a nagy nyelvi modellek (LLM-ek) gyors fejlődése új lehetőségeket teremt az egészségügyi rendszerek intelligens támogatására. A doktori kutatás célja olyan nyelvi modell alapú AI-ágensek tervezése és fejlesztése, amelyek képesek egészségügyi adminisztratív és/vagy betegkommunikációs feladatokban hatékonyan és megbízhatóan működni. A kutatás során vizsgálandó, hogy miként lehet domain-specifikus tudással ellátni a nyelvi modelleket, valamint milyen architektúrák segítik elő a szakszerű és kontextusnak megfelelő működést az egészségügyi környezetben. A kutatás egyik központi célja olyan módszerek kidolgozása, amelyek képesek azonosítani és csökkenteni a nagy nyelvi modellek által generált hallucinációkat, különös tekintettel az egészségügyi kontextusra, ahol a pontatlanságok kiemelten súlyos következményekkel járhatnak. A kutatási feladat magába foglalja az AI-ágensek különböző változatainak prediktív és generatív viselkedésének mélyelemzését, validációs mechanizmusok (pl. tudás-alapú ellenőrzések, hibrid AI-architektúrák, ember-a-hurokban rendszerek) kifejlesztését, valamint olyan módszerek kidolgozását, amelyek képesek a hallucináció csökkentésére. A kutatási téma előzményei az alábbi közleményekben találhatóak: [1] Ahmad, M. A., Yaramis, I., & Roy, T. D. (2023). Creating trustworthy llms: Dealing with hallucinations in healthcare ai. arXiv preprint arXiv:2311.01463. [2] Kim, Y. et al. (2025). Medical hallucinations in foundation models and their impact on healthcare. arXiv preprint arXiv:2503.05777. [3] Pal, A., Umapathi, L. K., & Sankarasubbu, M. (2023). Med-halt: Medical domain hallucination test for large language models. arXiv preprint arXiv:2307.15343. [4] Pham, D. K., & Vo, B. Q. (2024). Towards reliable medical question answering: Techniques and challenges in mitigating hallucinations in language models. arXiv preprint arXiv:2408.13808. [5] Roustan, D., & Bastardot, F. (2025). The Clinicians' Guide to Large Language Models: A General Perspective With a Focus on Hallucinations. Interactive journal of medical research, 14, e59823. [6] Vrdoljak, J., Boban, Z., Vilović, M., Kumrić, M., & Božić, J. (2025). A Review of Large Language Models in Medical Education, Clinical Decision Support, and Healthcare Administration. Healthcare, 13(6), 603.

2025-09-01

2029-08-31

2030-08-31

folyamatban lévő

Nagy nyelvi modell alapú egészségügyi rendszerek tervezése, implementálása és elemzése

Szakács Eszter: Nagy nyelvi modell alapú egészségügyi rendszerek tervezése, implementálása és elemzése