Stiamo tutti aspettando il momento in cui l'intelligenza artificiale, i programmi, la tecnologia impareranno a fare praticamente lo stesso, allora lo siamo. È tutto abbastanza reale. Ma finora, poche persone pensano che, comunque, questo processo non sarà lo stesso per macchine e persone.
Ad esempio, un gruppo di ricercatori della Kyushu University ha scoperto un modo per ingannare i programmi di riconoscimento dei pattern modificando un singolo pixel in un'immagine. Questo pixel è posizionato in modo tale da confondere le reti neurali responsabili dell'identificazione e iniziano a scambiare cani per gatti e cavalli per auto.
Le immagini di prova erano limitate a soli mille pixel, ma per risoluzioni più elevate e milioni di pixel, la regola funziona anche. Solo è necessario cambiare non un pixel, ma diverse centinaia.
Il secondo gruppo di ricercatori, questa volta del Massachusetts Institute of Technology, è riuscito ad andare ancora oltre. Sono stati in grado di stampare una scultura di una tartaruga utilizzando una stampante 3D, che il programma, anche vedendo da tutti i lati e da qualsiasi angolazione, ha preso per un fucile. Questo esperimento presenta un problema molto più grande per la tecnologia di riconoscimento delle immagini, poiché l'intera cosa è accaduta nella realtà e al programma è stato permesso di analizzare l'oggetto da tutte le angolazioni, ma non ha ancora determinato la sua vera forma.
Insieme, entrambi gli studi mostrano come i robot e i programmi devono viaggiare prima di raggiungere il livello umano. Dopo tutto, il nostro cervello non può essere ingannato sostituendo uno o anche cento pixel.
L'unico peccato è che le fonti non forniscono una spiegazione di come si scopre di ingannare il programma. Cosa ne pensi? Qual è il segreto dei "pixel rotti" e come puoi imbrogliare con un modello 3D?
Nikolay Kudryavtsev
Video promozionale:
