Psycho AI. La maledizione di Norman

“Uno è padrone di ciò che tace e schiavo di ciò di cui parla”, affermava Sigmund Freud in una chiara fase di autocoscienza verso quella che rappresentò innegabilmente la sua vocazione, e – contestualmente – una consapevole schiavitù. La Mente Umana e i suoi oscuri meandri.

Verosimilmente, non esiste assunto più intricato e complesso (ancora oggi, caro Sigmund…) nel mare dello scibile umano. C’è tuttavia un’altra mente, oggidì, il cui studio può forse equiparare il livello di complessità a cui il caro Freud regalò la sua intera esistenza. Un concetto che continua a catalizzare l’attenzione del Globo Terrestre che studia: la Mente Meccanica. Tutti  – chiunque voi siate, qualunque sia il vostro mestiere – avrete senza meno percepito l’interesse “folle” del mondo intero, da ognuno secondo le sue capacità a ognuno secondo i suoi bisogni, nel prender sotto braccio un oramai non più nuovissimo concept:  l’Intelligenza Artificiale (AI).

Psycho AI

Direte ora, e legittimamente: cosa c’entrano esattamente Freud & la Mente con le nuove applicazioni software e hardware a cui tutti tendono? Ebbene, quella che mi permetto di definire – arbitrariamente e umilmente –  Psycho AI è giunta tra noi. Peccato che il prezioso apporto di Sigmund non sia più auspicabile, nei rispetti della questione…

Norman, la psicopatia di AI

Qualche tempo fa, il sempre illuminante Media Lab del MIT di Boston ha sfornato lo spunto più significativo dell’intero sistema di riflessioni che l’Uomo sarà necessariamente destinato ad operare, se non vuole che questo genere di progresso divenga un’arma di distruzione di massa: la prima intelligenza artificiale psicopatica. Norman – alter ego meccanico dell’indimenticato Norman Bates, l’Anthony Perkins di Psycho (sweet, beloved Master Alfred Hitchcock…) e ancor prima protagonista assoluto della produzione letteraria di Robert Bloch – sottolinea senza appello come il futuro delle reti neurali e dei chatbot, nonchè la loro intera essenza, siano prepotentemente “nelle mani” dei dati con i quali esse vengono “addestrate”.

Essendo il primo esperimento atto alla mera emersione di quelle che consideriamo le caratteristiche primarie della psicopatia umana, Norman apre le riflessioni sui limiti oggettivi delle tecnologie di AI – ponendo l’accento su come queste evolvano e “crescano” in maniere completamente differenti, in base ai dati con cui “vengono nutrite” in fase di Machine Learning (o “addestramento”). Esatto, proprio come accade a noi Uomini. Norman viene, a tal fine, sapientemente addestrata – con capillare cura dei dettagli – direttamente dal Dark Web più profondo e ignoto, “incarnato” nel suo caso primariamente da un canale “dedito alla documentazione e all’osservazione dell’inquietante realtà della morte” in Reddit (il noto aggregatore made in USA).

Final Verdict? Un simposio del male umano, tutto nello stesso luogo dell’etere. Inganno, paranoia, empatia inesistente, crudeltà e un velo di Maya decisamente dark emergono prepotenti dai primi test su Norman. Ove sussistessero ulteriori dubbi circa l’occhio malevolo di Norman, i Ricercatori del MIT hanno operato altresì un confronto di reattività diretta con un’AI “buona”, cresciuta invece a pane e Coco Dataset (ricco in fiori & ghirlande). Sottoposte entrambe al test di Rorschach, hanno dato luogo a null’altro che la disputa ancestrale della Specie Umana, da che il verbo è verbo. Si è verificato – su un campo da gioco fatto ora di sistemi binari – il primo confronto tra il Bene e il Male della Macchina.

Psycho AI

Se la macchia d’inchiostro suggerisce alla Good AI l’immagine di uccellini appollaiati su un ramo, nella mente di Norman si concretizza  un essere umano sottoposto alla sedia elettrica. Dove la Good AI identifica un vaso di fiori, Norman scorge un uomo ferito a morte. E ancora: un gruppo di persone affacciate ad un balcone per Good AI, diviene agli occhi di Norman l’immagine di un suicidio di massa. Potremmo dilungarci per ore sulle ossessioni distorte di Norman – giacché i Ricercatori sono andati avanti a lungo, al fine di poter disporre dei dati sufficienti alla difesa dell’assunto – ma meglio arrestarsi… onde evitare di urtare le sensibilità più nobili. L’esperimento nella sua totalità è tuttavia accessibile a tutti – per chi volesse addentrarsi oltre, tra gli oscuri sentieri di Psycho AI.

Braves, you are more than welcome

Psycho AI: gusto dell’orrido, o imprescindibile riflessione?

Ponendo da parte il cupo entertainment irrimediabilmente generato da Norman, così come le fantasiose e apocalittiche riflessioni dell’opinione pubblica che sembrano non voler abbandonare mai il tema dell’AI  (a discapito delle più che concrete ed efficacissime applicazioni moderne), il senso profondo dell’esperimento è ben spiegato dall’ottimo Prof Iyad Rahwan. “Il test mette in evidenza l’idea che i dati che usiamo per addestrare le intelligenze artificiali si riflettano nel modo in cui quegli stessi sistemi percepiscono il mondo, e ne decidono il carattere comportamentale”, dichiara il Prof in un’intervista rilasciata alla BBC. La necessità di implementare Norman è la risultante di numerose riprove procedenti dalle applicazioni di AI negli States. Non è stato facile per gli sviluppatori dover rilevare pregiudizi, discriminazioni, stereotipi  e… populismi nelle reazioni delle loro stesse creature. Come se l’Uomo – da solo – non bastasse. Noto esempio ne è l’AI applicata ai sistemi di sicurezza penitenziari statunitensi, che pare abbia – all’interno di talune sezioni – cominciato a discriminare gli individui di colore. Chissà da chi avrà preso il cattivo esempio…

Ancora: di recente, l’HR system di AI implementato da Amazon pare aver operato una discriminazione autonoma dei profili femminili, in relazione a tutti i ruoli del reparto IT… E dire che la filosofia aziendale del colosso statunitense s’impernia giustappunto sulla diversity e sulle… “women who code”. Davvero un curioso risvolto, non trovate?

In nessuno dei su citati casi, ovviamente, si può affermare che vi sia stata una qualunque forma d’intenzionalità da parte degli sviluppatori coinvolti (e vivaddìo…). Semplicemente, la Macchina ha cominciato ad “apprendere il Male” in completa autonomia.

Qual è, dunque, la reale urgenza del Genere Umano? Quali gli scenari prepotentemente aperti da Norman?

Psyhco AI

“Gli ingegneri devono trovare un modo di bilanciare i dati”, aggiunge il Professore – non senza un minimo di preoccupazione negli occhi, come se ne sentisse la piena responsabilità addosso. Quel velo oscuro nello sguardo del Prof deve senza dubbio nascere dalla consapevolezza che i Programmatori – da soli – non possono ereditare l’intera responsabilità dell’assunto, poiché non dispongono delle armi adeguate. Se le applicazioni moderne del Machine Learning hanno raggiunto traguardi ad elevatissimo impatto sociale (pensiamo all’Healthcare System – dove la stragrande maggioranza dei tumori sembra avere vita sempre più difficile grazie all’AI – alla tutela ambientale del Pianeta, o ai monitoraggi stradali… Sì, si stanno concretamente salvando vite umane), al contempo si rende altrettanto  necessario un protocollo etico strutturato, e al più presto. “Il comportamento delle macchine dovrà essere studiato nello stesso modo di quello umano” – conclude il Prof, forse velatamente chiedendo “aiuto” alla comunità internazionale.

Siamo schiavi di ciò di cui parliamo, e il Prof non è in nessun modo riuscito “a liberarsi”, deo gratias, regalandoci un lascito tutt’altro che trascurabile:

Join the Moral Machine Club…

I Grandi della Terra IT, da Satya Nadella a Sunder Pichai, sembrano infatti allineati e concordi nell’affermare con voce unanime la necessità di dar forma concreta a queste riflessioni. Se si vuol continuare a considerare l’AI un insostituibile apporto per l’evoluzione positiva della Razza Umana e per la sostenibilità del Pianeta, è necessario mantenerne il controllo. Ma tempus fugit, ahi noi.

AI dallo psicologo, o necessità di “educazione siberiana”?

Circa nove mesi fa, ho avuto quella che definisco oggi fortuna sfacciata nell’incrociare sul mio cammino un paio di “personaggi” che erano già da allora destinati a cambiare completamente il mio mindset.

Siamo schiavi di ciò di cui parliamo, ma è una dolce schiavitù quella che mi guida a condividere quanto ho avuto il privilegio di sperimentare in prima persona. Li chiamo “∑ Jeff”, e sto parlando di Jeff Dean (Head of AI, Google) e Jeff Weiner (CEO, LinkedIn). Quelle che erano le mie convinzioni, dovute meramente ai miei pregiudizi “da italiana media”, sono state completamente sovvertite dall’esempio senza precedenti che questi due “filosofi moderni” sono riusciti a trasmettermi durante le nostre brevissime, ahimé, pillole d’interazione.

L’umiltà, l’onestà intellettuale, la creatività, la compassione, la bontà oggettiva e universalmente riconosciutagli dagli altri, la totale assenza di pregiudizio, la condivisione senza remora alcuna persino dei loro saperi più tecnici… io – da “italiana media” – davvero non me le aspettavo da coloro che percepivo come due tech addicted. Stiamo parlando di persone che hanno compreso e interiorizzato l’importanza di formare il futuro su base etica molti anni prima che in Italia si parlasse di AI, due persone che hanno vissuto a suon di coding  la loro totale esistenza e che – forti del loro sapere tecnico – giungono oggi all’esaltazione senza appello di un unico e immenso valore, lo stesso che ha forse mosso da sempre le più grandi opere del Genere Umano: the compassion.

Come dev’esser accaduto ai nostri ragazzi di Via Panisperna, hanno creato a mano (congiuntamente a tutti i  Developers del gotha dell’IT, la Silicon Valley) qualcosa che oggi – dopo lo sgomento e l’esaltazione iniziale che non negano – li costringe ad un monito fermo e strutturato su come questa badiale creazione di codice (AI) – così come l’intero IT System – non possa sussistere in alcun modo senza la contestuale creazione di un adeguato protocollo etico. Soprattutto, la leggono inconcepibile e irrealizzabile, in assenza di educazione delle nuove leve dell’IT imperniata su skill e valori etici. L’Uomo è chiamato oggi allo sviluppo di nuove frontiere filosofiche, che senza meno sussumano i sistemi degli antichi Padri della Filosofia, ma che abbiano anche fame di conoscenza. La stessa che mosse gl’ illustri, quando immersi nell’allora moderno buio totale.

Se siamo tutti concordi che nessun developer dell’HR System di Amazon abbia scientemente insegnato all’AI preposta alla selezione del personale la cattiva pratica di scartare a prescindere i CV delle donne, allora non possiamo negare la ragione da vendere che i due Jeff hanno quando impongono di insegnare ai developers del futuro a essere brava gente, ben prima che bravi programmatori.

Sì, ce lo diceva pure la nonna. Ma io oggi vi lascio con un Jeff. Be compassionate, ché il resto vien da sé.

 

Sull’Autore

Interprete, traduttrice, autrice. Sognatrice patologica e dipendente da ogni forma di creatività. Credo nella 'diversity' come forma naturale di crescita personale. Scrivo per bisogno primario, esattamente come respiro, bevo, mangio. Credo nel gioco vitale delle parole, e spero ancora che possano salvare il mondo.

Articoli Collegati