Sztochasztikus optimalizáció hangolható zajforrásként működő memrisztorok segítségével
A XXI. századra a számítógépek méretcsökkentésen alapuló gyorsítási lehetősége az atomi mérettartományt megközelítve egyre nehézkesebbé vált, ezért a korábbi teljesítménynövekedés ütemének megtartása érdekében új megoldások váltak szükségessé. Egy lehetséges irány, ha a méretcsökkentés mellett architektúraszintű gyorsításra is törekszünk, melynek egy ígéretes módja az emberi agy viselkedését modellező neuromorfikus számítási eljárások alkalmazása. Az ilyen hardveresen megvalósított neurális hálózatokban megszűnik a feldolgozóegység és a memória fizikai szétválasztása [1], elősegítve komplex programozási feladatok gyors, nagyfokúan párhuzamosított elvégzését.
Az ún. memória-rezisztorok (memrisztorok) olyan áramköri elemek, melyek ellenállásállapota függ a rajtuk korábban átfolyó áramjelektől és nanométeres méretskálájú aktív tartományuknak, feszültségjelekkel történő vezérelhetőségüknek, illetve a szilícium technológiába való integrálhatóságuknak köszönhetően ideális jelöltek lehetnek hardveres neurális hálózatok megvalósítására [2]. A memrisztorok egyik gyakori és hasznos tulajdonsága, hogy ellenállásállapotuk analóg módon hangolható, így egy ún. kereszt-huzalozású memrisztormátrix (memristor crossbar array) elrendezésben akár egyetlen műveleti lépésben hardveresen megvalósítható a hagyományosan erőforrásigényes mátrix-vektor szorzás, mely a mesterséges neurális hálózatok működésének alapművelete.
Dolgozatomban a kombinatorikus optimalizáció terén használt hálózatok egyik fő csoportjával, az NP-teljes problémák reprezentálására is alkalmas, iteratívan működtetett Hopfield Neurális Hálózatokkal (HNN) foglalkozom. Korábban több publikációban is beszámoltak memrisztor-HNN sikeres megvalósításáról, ezek azonban kérdéseket is felvetnek [3]. Például érdemes-e véletlen hatásokkal (azaz zajjal) befolyásolni a hálózat működését a konvergencia gyorsítása céljából, illetve milyen összetételű eszközökkel válik megbízhatóvá a fizikai neurális hálózat működése. Ezek alapján kitűzött célom, hogy javaslatot tegyek egy ideális kereszt-huzalozású hálózat összetételére, valamint működési módjára.
Ennek érdekében munkámban összefoglalom az irodalomban ismert kísérleti elrendezéseken elért eredményeket, valamint kutatócsoportunk által SiOx, Ag2S, Ta2O5 és Nb2O5 memrisztorokon végzett zajmérések [4] eredményeit felhasználva szimulációk útján vizsgálom a hálózatok különböző variánsainak teljesítményét az alkalmazott memrisztorok ellenállástartományának és relatív zajának függvényében. Továbbá bemutatok egy eljárást, mely segítségével kísérleti zajadatok alapján szoftveresen generálható nagyszámú szimulációkban felhasználható adatsor [5].
[1] Marković, D., Mizrahi, A., Querlioz, D. et al. Physics for neuromorphic computing. Nat Rev Phys 2, 499–510 (2020). https://doi.org/10.1038/s42254-020-0208-2
[2] Zhang, Y., Wang, Z., Zhu, J., Yang, Y., Rao, M., Song, W., Zhuo, Y., Zhang, X., Cui, M., Shen, L., Huang, R., and Yang, J. J., Brain-inspired computing with memristors: Challenges in devices, circuits, and systems, Applied Physics Reviews 7, 011308 (2020). https://doi.org/10.1063/1.5124027
[3] Cai, F., Kumar, S., Van Vaerenbergh, T. et al. Power-efficient combinatorial optimization using intrinsic noise in memristor Hopfield neural networks. Nat Electron 3, 409–418 (2020). https://doi.org/10.1038/s41928-020-0436-6
[4] Sánta, B., Balogh, Z., Pósa, L., Krisztián, D., Török, T. N., Molnár, D., Sinkó, C., Hauert, R., Csontos, M., Halbritter, A., Noise Tailoring in Memristive Filaments, ACS Applied Materials & Interfaces 13, 7453-7460 (2021). https://pubs.acs.org/doi/full/10.1021/acsami.0c21156
[5] Carrettoni, M., Cremonesi, O., Generation of noise time series with arbitrary power spectrum, Computer Physics Communications 12, 1982-1985 (2010). https://doi.org/10.1016/j.cpc.2010.09.003.
szerző
-
Fehérvári János Gergő
Fizikus mesterképzési szak (MSc)
mesterképzés (MA/MSc)
konzulensek
-
Dr. Halbritter András
tanszékvezető, egyetemi tanár, Fizika Tanszék -
Balogh Zoltán
Tudományos munkatárs, Fizika Tanszék
