 Biztonsági kockázatok a szövetségi tanulásban TÉMAKIÍRÁS Intézmény: Óbudai Egyetem katonai műszaki tudományok Biztonságtudományi Doktori Iskola témavezető: Johanyák Zsolt Csaba helyszín (magyar oldal): Óbudai Egyetem - Bánki Donát Gépész és Biztonságtechnikai Mérnöki Kar - 1081 Budapest, Népszínház u. 8. helyszín rövidítés: ÓEBGK A kutatási téma leírása: A nagy mennyiségű bizalmas adat alapján történő gépi tanulás által támasztott követelmények kielégítésének egyik lehetséges megoldása a szövetségi tanulás (federated learning), amelynek lényege, hogy a tanító algoritmusokat és modelleket helyben, a klienseszközökön, például okostelefonokon vagy egyéb IoT eszközökön futtatják, majd ezeket a helyi modelleket egy központi szerver összegyűjti és egyesíti egy globális modellé. A szövetségi tanulás lehetővé teszi az adatok decentralizált kezelését, csökkentve ezzel az adatbiztonsági kockázatokat, amelyek az adatok központi tárolásából eredhetnek. Emellett hozzájárul az adatvédelemhez és a felhasználói magánélethez, mivel a modellfrissítések lokálisan történnek anélkül, hogy az adatokat a klienseszközökről kiszivárogtatnák. Azonban a szövetségi tanulás sem mentes biztonsági kockázatoktól. Az egyik ilyen kockázat az adatok védelméhez kapcsolódik. Bár a modellfrissítések helyben történnek, azok a központi szerveren összeállnak egy globális modellé, amely tartalmazhat érzékeny információkat az egyes kliensekről. Ez potenciálisan kihasználható lehet támadások vagy adatlopási kísérletek során. Egy másik kockázat az adatok integritására vonatkozik. Mivel a modellfrissítés a kliensek lokális gépén történik, fennáll annak a lehetősége, hogy az egyes kliensek manipulálhatják ezeket a frissítéseket, például hamis adatokkal vagy rosszindulatú kóddal. A kutatás célja a szövetségi tanulási megoldásokhoz kapcsolódó kockázatok beazonosítása, elemzése, valamint hatékony módszerek kidolgozása a rosszindulatú tevékenységek időben történő felismerése, illetve megelőzése érdekében. Kutatási célok: - A szövetségi tanulási keretrendszerek biztonsági sebezhetőségeinek elemzése (pl. modellmérgezési támadások, adatszivárgás, következtetési támadások). - Új védelmi mechanizmusok és robusztus tanulási algoritmusok kifejlesztése a szövetségi tanulási modellek támadásokkal szembeni ellenálló képességének növelése érdekében. - Az adatvédelmet biztosító technikák (pl. differenciális adatvédelem, homomorfikus titkosítás, biztonságos többszereplős számítás) vizsgálata az adatvédelem kockázatainak csökkentése érdekében a szövetségi tanulási megoldásokban. - A szövetségi tanulási biztonsági mechanizmusok modell teljesítményére gyakorolt hatásának vizsgálata (pl. konvergencia, kommunikációs többletköltségek). - Az új biztonsági megoldások értékelése empirikus kísérleteken valamint valós esettanulmányokon keresztül. előírt nyelvtudás: Angol B2 felvehető hallgatók száma: 1 Jelentkezési határidő: 2024-08-31 |