Come tutte le macchine, anche le Intelligenze Artificiali sono minacciate dagli hacker, che potrebbero confonderle e disorientarle con qualche piccolo trucco nemmeno troppo complicato.
A lanciare l'allarme sono alcuni scienziati del MIT di Boston, che nel corso dell'ultima ICML (International Conference on Machine Learning) hanno mostrato come le IA siano effettivamente ancora troppo esposte ad attacchi esterni.
Credits: Ipa-agency
Basterebbe infatti alterare leggermente un’immagine, un suono o un oggetto qualsiasi per mandare in tilt i sofisticatissimi sistemi di riconoscimento dell'IA, portandola ad esempio a scambiare una tazza di caffè per una pallina da baseball o a confondere una tartaruga per un fucile!
«È necessario ripensare completamente la nostra concezione di apprendimento automatico per renderlo più sicuro» ha affermato Aleksander Madry del MIT, poiché le IA sono sempre più coinvolte in compiti delicati e ad alto rischio: cosa succederebbe se per esempio un software di difesa non fosse più in grado di riconoscere una minaccia e agire conseguenza?