Így lehet láthatatlan a Nagy Testvér világában

Így lehet láthatatlan a Nagy Testvér világában

Így lehet láthatatlan a Nagy Testvér világában

biztonság

2 perc

Sokakat aggodalommal tölt el a mesterséges intelligencián alapuló megfigyelés terjedése. Már nem könnyű elbújni a tömegben, és a kormányok egyre több helyen képesek azonosítani az állampolgárokat. Belga diákok azonban egyfajta „láthatatlanná tévő köpenyt” fejlesztettek ki.

A Leuveni Katolikus Egyetem mérnökhallgatói az arXiv tudományos oldalon számoltak be ezzel kapcsolatos eredményeikről. Vizsgálataik szerint a képeken embereket felismerni hivatott mesterséges intelligencia (AI) már egyszerű nyomtatott mintákkal is megtéveszthető.

A diákok által tervezett minták valamelyikét akár otthon kiprintelve és a ruhára erősítve az AI program úgy látja, mintha egyszerűen nem szerepelne a képen az adott személy. A kutatók úgy vélik, hogy a technikát megfelelő ruházattal kombinálva, képesek lesznek olyan pólót tervezni, amely elrejti viselőjét az automatikus térfigyelő kamerák elől. Pont, mint William Gibson Nyomtalanul (Zero History) című sci-fi novellájában.

A jelenség ugyanakkor nem ismeretlen a gépi intelligencia világában. Ezt a fajta mintázatot, amely a gépi tanulási módszerek és a neurális hálózatok számára egyfajta optikai csalódásként működik, ellenséges példának (adversarial example) nevezik. Az általában szándékos megtévesztésre létrehozott jelenség a számítógépes látás törékeny intelligenciáját kihasználva éri el, hogy a program mást észleljen, mint a valóság.

Korábban a Carnegie Mellon egyetem kutatói is ilyen ellenséges példákkal csapták be az arcfelismerő rendszereket. Bizonyos formájú és mintájú szemüvegkeretet viselve a gépi intelligencia akár egy adott ismert emberként azonosíthat bárkit. Ilyen mintákból készítettek már matricát, nyomtatták azt 3D-s tárgyakra, de erre a célra műalkotások is készültek.

Sok veszéllyel járhat

Az adversarial example azon kívül, hogy vicces tud lenni, sok veszélyt hordoz magában. Használatával megtéveszthetők például az önvezető járművek, amelyek esetleg egyszerűen nem veszik észre az előttük haladó gyalogost, vagy lámpaoszlopnak nézik a stop táblát és továbbhajtanak. De megtéveszthető vele a betegségek felismerésére alkalmazott gépi intelligencia is, amely a biztosítási csaláson túl például a világjárványok terjedésének megakadályozását nehezítheti meg.

Forrás: