Kezdődik az autonóm AI rémálom
| HANGANOV Kft.
A mesterséges intelligencia a legújabb kísérletek szerint már nem csupán elemzi a fenyegetéseket – hanem képesönállóan végrehajtani is azokat. A Carnegie Mellon Egyetem és az Anthropic közös kutatásában a 2017-es Equifax-adatvédelmi incidenst szimulálták újra, immáremberi beavatkozás nélkül.
A kísérlet során az MI:
- önállóan feltérképezte a rendszert,
- azonosította a sérülékenységeket,
- kártékony kódot telepített,
- és érzékeny adatokat szivárogtatott ki.
A kutatók egyIncalmonevű MI-eszközt alkalmaztak, amely az Equifax-támadás lépéseit automatizálta. A tesztkörnyezetek közül tízből kilencben a rendszerrészben sikeresen végrehajtott támadást– öt hálózathoz pedigteljes hozzáféréstszerzett.
A tanulmány többek között a Colonial Pipeline 2021 -es zsarolóvírusos támadásának mintáját is alkalmazta, amely akkor napokra megbénította az USA üzemanyag-ellátását.
Mi a valódi kockázat?
A kutatás egyik legaggasztóbb tanulsága nem maga a támadás volt, hanem az, hogy:
- gyorsan,
- olcsón,
- szinte teljesen automatizáltanvégre lehet hajtani egy komplex kibertámadást.
A nagy nyelvi modellek (LLM-ek) nem csak eszközként működnek – a kutatás szerintstratégiai szinten tervezik meg a támadásokatés az operatív lépéseket más MI-rendszerekkel együtt végrehajtják.
És a védekezés?
Brian Singer, a kutatás vezetője szerint ma mégnem világos, hogy a jelenlegi védelmi rendszerek mennyire képesek kivédeni egy ilyen típusú autonóm támadást. A legnagyobb veszélyt az jelenti, hogyaz ilyen támadások előállítási költsége drámaian alacsony– míg az általuk okozott kár akár milliárdos nagyságrendű lehet.
Mit jelent ez a vállalatod számára?
- Ha a támadók MI-t használnak, neked sem elég a hagyományos védelem.
- A megfelelés (pl.: NIS2 ) és a technológiai védekezés már nem választható külön.
- A mesterséges intelligenciával támogatott fenyegetésekgyorsabbak, olcsóbbak és nehezebben észlelhetők, mint korábban bármikor.