Postřehy z bezpečnosti: útoky na strojové učení

Root.cz 03.05.2021 17:30  V aktuálním díle Postřehů se podíváme na vektory útoku spojené s AI, na Vishing v ČR, na nebezpečnou zpětnou kompatibilitu v Excelu, řekneme si, jak vzal Flubot Evropu ztečí nebo o nebezpečné zranitelnosti v macOS. Útoky, které zneužívají chyb v návrhu nebo implementaci kódu, jsou všeobecně známé a potýkáme se s nimi každodenně. S rozvojem strojového učení ale vznikají nové, dosud nevídané a těžko detekovatelné vektory útoků. Představme si AI určenou k rozpoznávání například hub. Byl by možný útok, kdyby se do obrázku muchomůrky přidalo několik pixelů a následně by pak byla houba rozpoznaná jako hříbek? Jistě. Lze toho dosáhnout minimálně dvěma způsoby.