Login
 Forum
 
 
Thesis topic proposal
 
Gábor Szűcs
Mély neurális hálók játékelméleti és vulnerabilitási vizsgálata adversarial gépi tanulásnál

THESIS TOPIC PROPOSAL

Institute: Budapest University of Technology and Economics
computer sciences
Doctoral School of Informatics

Thesis supervisor: Gábor Szűcs
Location of studies (in Hungarian): Távközlési és Médiainformatikai Tanszék
Abbreviation of location of studies: TMIT


Description of the research topic:

Ma már a mesterséges intelligencia megoldások többsége a mélytanulás témakörébe tartozik, ahol mély neurális hálókat használnak a tanításhoz. Rengeteg alkalmazás készül és ezek elkészítéséhez elsősorban technológiai tudásra van szükség, de a tudományos, analitikai vizsgálat legtöbb esetben hiányzik; elindult ugyan ebbe az irányba is a kutatás nemzetközi szinten, de vannak még megoldásra váró problémák. A PhD hallgató feladata, hogy tudományos kutatást végezzen ezen az elméleti területen. Mély neurális hálókat vizsgálták már robusztusság szempontjából, amikor különböző zajokkal terhelt input adatokat adtak a betanított modell bemenetére és a zaj függvényében mérték, hogy mennyire érzékeny a kimeneti döntés. A vulnerabilitás analízisnél azonban nem a véletlen zaj elleni ellenállóképességet, hanem a szándékolt irányú módosítás hatását kezdték el vizsgálni. A szándékos megtévesztés abból áll, hogy a bemenetre egy célzottan generált input adatot adnak az osztályozónak úgy, hogy az egy adott C osztálybeli elemnek látszik, de a mély neurális háló D osztályba fogja sorolni. Erre egy példa egy olyan generált kép, ami az ember számára stop táblának látszik, de a betanított modell főútvonal táblaként ismeri fel. Az adversarial gépi tanulás az ilyen jellegű támadások ellen próbál meg előre felkészülni, ennek tudományos vizsgálata a PhD kutatás egyik célja. A másik cél új kutatási eredmények elérése játékelméleti megközelítéssel. A támadásoknál használt megoldások ugyanis nem nélkülözik a neurális hálós technológiát, így két versengő mesterséges intelligencia rendszer találkozik szembe. Ennek elméleti kutatásához a játékelmélet nem-kooperatív ágának megismerése és adaptálása szükséges. A hallgató kutatási feladata a fent megfogalmazott célok elérése érdekében kisebb részfeladatokra bontható.

Kutatási feladatok:
- Mesterséges intelligencia, gépi tanulás, gépi látás, mély tanulás, mély neurális hálók tématerületeihez kapcsolódó algoritmusok kutatása.
- Mély neurális hálók vulnerabilitás analízise és kutatása.
- Versengő mesterséges intelligencia rendszerek matematikai vizsgálata játékelméleti megközelítéssel.

Further requirements: 
- angol nyelvismeret
- mesterséges intelligencia valamely részének ismerete

Number of students who can be accepted: 1

Deadline for application: 2020-06-15


2024. IV. 17.
ODT ülés
Az ODT következő ülésére 2024. június 14-én, pénteken 10.00 órakor kerül sor a Semmelweis Egyetem Szenátusi termében (Bp. Üllői út 26. I. emelet).

 
All rights reserved © 2007, Hungarian Doctoral Council. Doctoral Council registration number at commissioner for data protection: 02003/0001. Program version: 2.2358 ( 2017. X. 31. )