Donna Moderna
FocusJunior.it > Tecnologia > Gli scienziati avvertono: “l’Intelligenza Artificiale è facile da ingannare!”

Gli scienziati avvertono: “l’Intelligenza Artificiale è facile da ingannare!”

Stampa
Gli scienziati avvertono: “l’Intelligenza Artificiale è facile da ingannare!”
Ipa-agency

Secondo quanto emerso dall'ultima International Conference on Machine Learning, le IA sarebbero piuttosto semplici da confondere per degli hacker esperti, molto più del previsto!

Come tutte le macchine, anche le Intelligenze Artificiali sono minacciate dagli hacker, che potrebbero confonderle e disorientarle con qualche piccolo trucco nemmeno troppo complicato.

A lanciare l'allarme sono alcuni scienziati del MIT di Boston, che nel corso dell'ultima ICML (International Conference on Machine Learning) hanno mostrato come le IA siano effettivamente ancora troppo esposte ad attacchi esterni.

L'Intelligenza Artificiale è un complesso sistema di informazioni e meccanismi informatici che permette ad una macchina di elaborare dei dati in un modo molto simile a quello umano
Credits: Ipa-agency

Basterebbe infatti alterare leggermente un’immagine, un suono o un oggetto qualsiasi per mandare in tilt i sofisticatissimi sistemi di riconoscimento dell'IA, portandola ad esempio a scambiare una tazza di caffè per una pallina da baseball o a confondere una tartaruga per un fucile!

«È necessario ripensare completamente la nostra concezione di apprendimento automatico per renderlo più sicuro» ha affermato Aleksander Madry del MIT, poiché le IA sono sempre più coinvolte in compiti delicati e ad alto rischio: cosa succederebbe se per esempio un software di difesa non fosse più in grado di riconoscere una minaccia e agire conseguenza?

Alla scienza il compito di raccogliere tali risultati e approfondire a fondo il problema!