Regisztráció és bejelentkezés

FedMOD: Keretrendszer Federatív Multitaszk Objektum Detekció problémájára

Napjainkban az objektum detekciós algoritmusok használata egyre elterjedtebbé válik úgy vállalati, mint végfelhasználói környezetben. Alkalmazási területei közé tartoznak többek között az önvezető rendszerek, automatizált CCTV felügyelet, automatizált minőségellenőrzési folyamatok, tűzveszély monitorozás, orvosi döntéstámogatás stb. Sok esetben az ilyen jellegű szolgáltatások teljesítményének növelésében ma már a lokálisan rendelkezésre álló, felcímkézett adathalmaz mennyisége jelenti a szűk keresztmetszetet. Mivel a szigorú adatvédelmi korlátozások miatt - főként nagyvállalati környezetben vagy például egészségügyben GDPR elvek miatt - ezen tanító adatok nem oszthatók meg és nehezen bővíthetők, így a teljesítmény növelése az egymással korreláló taszkokat tanuló machine learning algoritmusok közötti kollaboráció során valósulhat meg. Különböző privát, lokális adathalmazokkal rendelkező kliensek kollaborációjára alkalmas a klasszikus federált tanulás aparátusa, ennek viszont fő korlátja, hogy az esetek többségében csak egy globális modell kollaboratív betanítása lehetséges, nem pedig több, korreláló taszkot tanuló modell teljesítményének növelése. Továbbá a létező federált multitaszk eljárások privacy-t sértő módon modell paraméterek vagy lokális adatminták megosztása által valósítják meg a kollaborációt, nem beszélve arról, hogy a publikált eljárások nagy többsége nem is alkalmazható hatékonyan olyan komplex deep learning modellek esetében, melyek a képi objektum detekció feladatát hivatottak megoldani.

Ebben a dolgozatban javasolt FedMOD eljárás képes felülkerekedni az előbbiekben említett, szakirodalomban máig megoldatlan problémákon. Eljárásunk képes megbecsülni a résztvevő kliensek által tanult taszkok közötti kereszthasznosságokat. Ezen információ alapján valósít meg hatékony tudás disztillációt, melyhez publikusan rendelkezésre álló, címkézetlen adatmintákat használ fel. A FedMOD adatok védelmét megőrző, elosztott tanulást valósít meg, melynek során a privát adatok és a lokális modell paraméterek sem kerülnek megosztásra a kliensek között. Empirikus vizsgálatok alapján a FedMOD eljárás hatása ekvivalens a kollaboráló kliensek privát adathalmazainak bővítésével (melynek mértéke akár 50% feletti is lehet) azaz ennek mértékével emeli az adathalmaz értékét a kollaboráció. A javasolt FedMOD eljárást átfogóan kiértékeltük és elemeztük, továbbá kidolgoztuk a FedAvg algoritmusnak egy, a cél problémához illeszkedő adaptációját, mely teljesítményével összevetettük a FedMOD sémát is.

szerző

  • Kádár Attila
    Mérnök informatikus szak, mesterképzés
    mesterképzés (MA/MSc)

konzulens

  • Hadházi Dániel
    tudományos segédmunkatárs, Méréstechnika és Információs Rendszerek Tanszék

helyezés

Huawei Technologies Hungary Kft. I. helyezett