témavezető: Szűcs Gábor
helyszín (magyar oldal): Távközlési és Médiainformatikai Tanszék helyszín rövidítés: TMIT
A kutatási téma leírása:
Ma már a mesterséges intelligencia megoldások többsége a mélytanulás témakörébe tartozik, ahol mély neurális hálókat használnak a tanításhoz. Rengeteg alkalmazás készül és ezek elkészítéséhez elsősorban technológiai tudásra van szükség, de a tudományos, analitikai vizsgálat legtöbb esetben hiányzik; elindult ugyan ebbe az irányba is a kutatás nemzetközi szinten, de vannak még megoldásra váró problémák. A PhD hallgató feladata, hogy tudományos kutatást végezzen ezen az elméleti területen. Mély neurális hálókat vizsgálták már robusztusság szempontjából, amikor különböző zajokkal terhelt input adatokat adtak a betanított modell bemenetére és a zaj függvényében mérték, hogy mennyire érzékeny a kimeneti döntés. A vulnerabilitás analízisnél azonban nem a véletlen zaj elleni ellenállóképességet, hanem a szándékolt irányú módosítás hatását kezdték el vizsgálni. A szándékos megtévesztés abból áll, hogy a bemenetre egy célzottan generált input adatot adnak az osztályozónak úgy, hogy az egy adott C osztálybeli elemnek látszik, de a mély neurális háló D osztályba fogja sorolni. Erre egy példa egy olyan generált kép, ami az ember számára stop táblának látszik, de a betanított modell főútvonal táblaként ismeri fel. Az adversarial gépi tanulás az ilyen jellegű támadások ellen próbál meg előre felkészülni, ennek tudományos vizsgálata a PhD kutatás egyik célja. A másik cél új kutatási eredmények elérése játékelméleti megközelítéssel. A támadásoknál használt megoldások ugyanis nem nélkülözik a neurális hálós technológiát, így két versengő mesterséges intelligencia rendszer találkozik szembe. Ennek elméleti kutatásához a játékelmélet nem-kooperatív ágának megismerése és adaptálása szükséges. A hallgató kutatási feladata a fent megfogalmazott célok elérése érdekében kisebb részfeladatokra bontható.
Kutatási feladatok:
- Mesterséges intelligencia, gépi tanulás, gépi látás, mély tanulás, mély neurális hálók tématerületeihez kapcsolódó algoritmusok kutatása.
- Mély neurális hálók vulnerabilitás analízise és kutatása.
- Versengő mesterséges intelligencia rendszerek matematikai vizsgálata játékelméleti megközelítéssel.
további elvárások: - angol nyelvismeret
- mesterséges intelligencia valamely részének ismerete
felvehető hallgatók száma: 1
Jelentkezési határidő: 2020-06-15
2024. IV. 17. ODT ülés Az ODT következő ülésére 2024. június 14-én, pénteken 10.00 órakor kerül sor a Semmelweis Egyetem Szenátusi termében (Bp. Üllői út 26. I. emelet).
Bejelentkezés
