témavezető: Szűcs Gábor
helyszín (magyar oldal): Távközlési és Médiainformatikai Tanszék helyszín rövidítés: TMIT
A kutatási téma leírása:
Ma már a mesterséges intelligencia megoldások többsége a mélytanulás témakörébe tartozik, ahol mély neurális hálókat használnak a tanításhoz. Rengeteg alkalmazás készül és ezek elkészítéséhez elsősorban technológiai tudásra van szükség, de a tudományos, analitikai vizsgálat legtöbb esetben hiányzik; elindult ugyan ebbe az irányba is a kutatás nemzetközi szinten, de vannak még megoldásra váró problémák. A PhD hallgató feladata, hogy tudományos kutatást végezzen ezen az elméleti területen. Mély neurális hálókat vizsgálták már robusztusság szempontjából, amikor különböző zajokkal terhelt input adatokat adtak a betanított modell bemenetére és a zaj függvényében mérték, hogy mennyire érzékeny a kimeneti döntés. A vulnerabilitás analízisnél azonban nem a véletlen zaj elleni ellenállóképességet, hanem a szándékolt irányú módosítás hatását kezdték el vizsgálni. A szándékos megtévesztés abból áll, hogy a bemenetre egy célzottan generált input adatot adnak az osztályozónak úgy, hogy az egy adott C osztálybeli elemnek látszik, de a mély neurális háló D osztályba fogja sorolni. Erre egy példa egy olyan generált kép, ami az ember számára stop táblának látszik, de a betanított modell főútvonal táblaként ismeri fel. Az adversarial gépi tanulás az ilyen jellegű támadások ellen próbál meg előre felkészülni, ennek tudományos vizsgálata a PhD kutatás egyik célja. A másik cél új kutatási eredmények elérése játékelméleti megközelítéssel. A támadásoknál használt megoldások ugyanis nem nélkülözik a neurális hálós technológiát, így két versengő mesterséges intelligencia rendszer találkozik szembe. Ennek elméleti kutatásához a játékelmélet nem-kooperatív ágának megismerése és adaptálása szükséges. A hallgató kutatási feladata a fent megfogalmazott célok elérése érdekében kisebb részfeladatokra bontható.
Kutatási feladatok:
- Mesterséges intelligencia, gépi tanulás, gépi látás, mély tanulás, mély neurális hálók tématerületeihez kapcsolódó algoritmusok kutatása.
- Mély neurális hálók vulnerabilitás analízise és kutatása.
- Versengő mesterséges intelligencia rendszerek matematikai vizsgálata játékelméleti megközelítéssel.
további elvárások: - angol nyelvismeret
- mesterséges intelligencia valamely részének ismerete