Az elmúlt években a mesterséges intelligencia technológiáit széles körben alkalmazták a számítógépes látásban, természetes nyelvfeldolgozásnál, az iparban, a gazdasági és egyéb területeken. A mesterséges intelligenciát használó rendszerek azonban kiszolgáltatottak a különböző támadásoknak, így ezzel korlátozzák az intelligens technológiák alkalmazását a legfontosabb biztonsági területeken. Ezért ezeknek a rendszereknek a robusztusságának javítása a támadásokkal szemben egyre fontosabb szerepet játszik a mesterséges intelligencia további fejlődésében.

Ez a tanulmány kívánja összefoglalni a mesterséges intelligencia elleni támadásokkal kapcsolatos legújabb kutatási eredményeket (itt elsősorban a mély neurális hálózatok elleni támadásokról esik szó) és a védelmi technológiákat. Bemutatjuk, hogy hogyan kategorizálhatók a gépi tanuló modellek elleni támadások, majd részletesen tárgyaljuk az adversarial mintákon alapuló támadások módszereit és az ellenük való védekezési lehetőségeket. Tanulmányunkat a különböző alkalmazási területekből vett konkrét példákkal (arcfelismerés, támadás a fizikai világ területén) zárjuk.