Mind ez ideig a rosszindulatú programok - vírusok, trójaiak, rootkitek, jelszólopók stb. - írása a kiberbűnözők (illetve az általuk felbérelt programozók) manuális tevékenysége volt. Manapság viszont az egyre terjedő gépi tanulási technológia ezen a területen is segítheti a hackerek munkáját. Az első ismert példát a gépi tanulás rosszindulatúprogram-íráshoz való felhasználásáról egy 2017-es jelentés említi meg, amelyben a szerzők megmutatják, hogy miképpen építettek fel egy generatív rosszindulatú hálózatot. Ennek algoritmusa olyan rosszindulatú programokat hoz létre, amelyek képesek megkerülni a gépi tanulás alapú észlelő rendszereket.
Egy másik esetet a 2017-es DEFCON konferencián prezentálta az Endgame biztonsági cég, amely ismertette, hogy miképpen készített egy olyan testre szabott rosszindulatú programot az Elon Musk-féle OpenAI keretrendszerrel, amelyet a biztonsági szoftverek nem tudtak észlelni. Az Endgame kísérletének a lényege az volt, hogy vettek rosszindulatúnak minősített bináris fájlokat, és megváltoztatták azok néhány részét, hogy a kód jóindulatúnak tűnjön, és az antivírus motorok ne adjanak ki riasztást.
Más kutatók pedig azt jósolják, hogy a gépi tanulást előbb-utóbb arra használhatják majd, hogy a programkódot menet közben megváltoztassák a biztonsági szoftverek kijátszására, létrehozva a polimorfikus vírusok fejlettebb változatát.
A Fortinet szerint 2018 az önállóan tanuló hivenetek és swarmbotok éve lesz, ami más szóval azt jelenti, hogy az ellenőrzésük alá vont "intelligens" IoT-eszközök segítségével hajtanak végre a hackerek nagyszabású támadásokat a sebezhető rendszerek ellen. Ezek az eszközök képesek lesznek kommunikálni egymással, és a megosztott információk alapján hajtanak majd végre akciókat, vélekedik Derek Manky, a Fortinet globális biztonsági stratégája. Ráadásul a zombik intelligenssé válnak, és úgy lesznek képesek műveleteket végrehajtani, hogy ehhez nem lesz szükségük a botnet központjának parancsaira. Ennek eredményeképpen a hivenetek képesek lesznek exponenciális növekedésre, lehetővé téve egyidejűleg több célpont megtámadását.
Manky szerint érdekes módon ezek a támadások még nem használják a swarm technológiát, amely képessé tenné a hiveneteket, hogy tanuljanak a múltbeli viselkedésükből. A mesterséges intelligencia részterülete, a swarm technológia definíciója szerint "természetes vagy mesterséges, decentralizált, önszerveződésű rendszerek kollektív viselkedése". Jelenleg a swarm technológiát drónokban és robotokban alkalmazzák.
