Norman: l’intelligenza artificiale psicopatica

Anche l’intelligenza artificiale può essere in qualche modo considerata “deviante”. Lo hanno scoperto gli scienziati del MIT (Massachusetts Institute of Technology) di Boston o meglio, sono stati essi stessi a crearla.

Intelligenza Artificiale-Psicopatica-Norman

Sembrerebbe l’inizio di un racconto dell’orrore e invece è la realtà. La prima intelligenza artificiale Psicopatica si chiama Norman, proprio come Norman Bates, il personaggio Killer in Psycho ideato dalla mente di Alfred Hitchcock.

MACHINE LEARNING e NORMAN

Pinar Yanardag, Manuel Cebrian e Iyad Rahwan hanno educato Norman con immagini disturbanti e violente mediante l’image captioning, un metodo di machine learning che permette alle intelligenze artificiali (AI) di descrivere le immagini a cui vengono sottoposte.

Per allenare questa AI alla descrizione delle immagini si deve attingere ovviamente a un set di raffigurazioni e informazioni molto ampio per dare modo all’algoritmo di apprendere. Nel caso di Norman i dati a cui faceva riferimento erano dati oscuri, trovati in rete e tratti in particolar modo dal canale Reddit.

Gli scienziati del MIT facendo ciò hanno creato quella che definiamo essere un’intelligenza artificiale psicopatica, vale a dire che dimostra disturbi mentali che sono tipici di persone affette da psicopatia come per esempio: la poca empatia, la paranoia e l’inganno.

AI NORMALE VS NORMAN

Una volta addestrata Norman è stata sottoposta al Test di Rorschach, e le sue risposte sono state confrontate con quelle di una rete neurale addestrata invece con un set di immagini più standard (creata rispettando un certo equilibrio) e che per semplicità definiamo ‘normale’.

Qui le risposte date da Norman

L’esperimento ha messo in luce diversi aspetti sui quali fermarsi a riflettere, in particolar modo dimostra come i dati utilizzati nella fase di allenamento contino più degli algoritmi quando si sviluppa un’intelligenza artificiale e di conseguenza sempre più impellente è la necessità di non lasciare tutto in mano ai soli programmatori.

 

Sull’Autore

Articoli Collegati