Bastano pochi frame per ingannare l’AI di Google

Il sistema, utilizzato anche e soprattutto per le pubblicità mirate pre-video, viene mandato facilmente in tilt inserendo "immagini subliminali"

0
47

Non tira aria buona in casa Google, visto il periodo di crisi vissuto da uno dei settori più redditizi della società: quello degli advertising. Molte compagnie hanno infatti di abbandonare i servizi di pubblicità mirata offerti da Google, per motivi legati all’immagine: molto spesso, infatti, l’intelligenza artificiale che abbina un annuncio ad un determinato video commette degli errori clamorosi.

Bastano pochi frame per ingannare lAI di Google google ai e1457608790955 TechNinjaE così, gli spot pubblicitari di marchi prestigiosi vengono collegati a video che contengono violenza, insulti e odio razziale, casuando un danno d’immagine non indifferente. Google è al lavoro per risolvere tale situazione, e un aiuto è arrivato dalla University of Washington.

Google AI: perchè tanti errori?

Gran parte delle video-pubblicità presenti in rete passano attraverso YouTube, ancora oggi una delle principali piattaforme di video sharing: a regolare il tutto ci pensa una una AI sviluppata da Google e basata su una rete neurale che, analizzando elementi diversi (keyword, titolo e contenuto del video), abbina ad ogni contenuto un annuncio pubblicitario affine.

Non di rado accade però che tale AI si sbagli, si ipotizza anche a causa di tentativi di boicottaggio da parte di società rivali della stessa Google: come riescono queste compagnie a dare filo da torcere ad un sistema tanto potente e complesso? Una prima risposta è presente in un rapporto redatto dalla University of Washington che, tramite un’analisi empirica (basata su dati ed esperimenti pratici, e non sulla conoscenza dei poco accessibili algoritmi collegati all’AI), ha dato risultati sconcertanti.

Bastano pochi frame per ingannare lAI di Google Screen Shot 2017 04 04 at 4.11.48 PM TechNinjaI ricercatori hanno infatti scoperto che inserendo delle immagini “subliminali” in un dato video è possibile depistare l’operato dell’intelligenza artificiale: in particolare, inserendo un’unica immagine ogni 2 secondi (quindi circa un frame ogni 50, ovviamente ad una velocità di riproduzione standard di 25 fps), è possibile alterare enormemente i risultati prodotti dall’algoritmo.

E così, inserendo ogni due secondi un unico frame raffigurante un’automobile, è possibile far abbinare alla nota casa automobilistica Audi video contenenti risse, insulti et similia. Una situazione grave, che si va ad aggiungere ai già noti problemi con la censura delle oscenità: anche in quel caso basta usare abbreviazioni, errori di battitura e punteggiatura interposta per trarre in inganno la Google AI.