Può esserci «competenza» senza «consapevolezza» di quello che si fa?

Intelligenza Artificiale

Può esserci «competenza» senza «consapevolezza» di quello che si fa?

Benvenuti nel 2050!

L’intelligenza artificiale (in italiano,  IA) è una disciplina appartenente all’informatica che studia i fondamenti teorici, le metodologie e le tecniche che consentono la progettazione di sistemi hardware e sistemi di programmi software capaci di fornire prestazioni che, a un osservatore comune, sembrerebbero essere di pertinenza esclusiva dell’intelligenza umana.

Fine XVII secolo

Alla fine del XVII secolo, l’Inghilterra subì complesse trasformazioni economiche e sociali. L’invenzione di nuovi macchinari, come il telaio meccanico e la macchina a vapore,  comportarono grandi mutamenti sociali, decretando la fine del sistema produttivo legato alle grandi proprietà terriere, di impronta feudale e collettivistica.

Robert Owen, industriale dell’epoca, scrisse: «La generale diffusione delle manifatture in tutto il paese genera un nuovo carattere nei suoi abitanti; e dato che questo carattere si forma in base a un principio del tutto sfavorevole alla felicità individuale o generale, produrrà i mali più deplorevoli e duraturi, a meno che la vera tendenza non venga controbilanciata dalle interferenze e dalla direzione del governo». In effetti, la sostituzione della specializzazione e della forza muscolare con le «macchine» provocò una aspra e marcata separazione tra padroni e lavoratori, generando un grave senso di impotenza e insicurezza. In una parola: «paura». Nella notte dell’11 marzo una folla, al grido di «Ned Ludd ci ordina di farlo!» – da qui il movimento prese il nome di luddismo – prevalentemente formata da braccianti e disoccupati distrusse più di sessanta telai presso Nottingham. Nelle settimane seguenti i tumulti si diffusero in tutta la contea, con numerose incursioni notturne. In pochi giorni il numero dei telai distrutti salì a duecento … Oggi, sappiamo chi ha vinto quello battaglia.

1950

Riprodurre l’intelligenza è un sogno vecchio quanto l’uomo, ma in termini di risultati pratici possiamo fare iniziare la storia nel  1950, quando Alan Turing portò il dibattito filosofico ad un livello più pragmatico, dando una definizione operativa di intelligenza basata su un test comportamentale inventato da lui stesso, chiamato «Test di Turing».

Il test avviene usando tre stanze allineate: nella prima c’è un uomo; nella terza una donna; in quella centrale risiede l’interrogante: una «macchina». L’uomo e la donna possono comunicare messaggi di testo solamente con l’interrogante scrivendo tramite una tastiera e leggendo tramite uno schermo. L’obiettivo dell’uomo è di farsi identificare come uomo, mentre la donna deve trarre in inganno l’interrogante, facendogli credere di essere un uomo. Il test è ripetuto una seconda volta, scambiando la donna con il computer, che dovrà farsi credere un uomo.

La macchina è definita intelligente se la frequenza con cui individua correttamente l’uomo e la donna è almeno la stessa con cui la donna individua correttamente l’uomo e la macchina.

Contro questa tesi, a partire da John Searle, sono stati proposti esperimenti mentali per dimostrate che una macchina in grado di superare il Test di Turing (o come quella costruita dallo stesso Turing in grado di decriptare messaggi militari, permettendo di salvare centinaia di giovani vite), starebbe eseguendo in sequenza delle singole istruzioni senza comprendere il significato complessivo quindi non sarebbe intelligente (per lo meno non in senso forte). In sostanza, questi teorici ponevano la «consapevolezza», quindi la coscienza, come elemento imprescindibile e inimitabile alla base dell’intelligenza umana.

Sono passati 70 anni. I risultati di queste affascinanti sfide sono sotto gli occhi di tutti: non avremo costruito macchine dotate di intelligenza umana (come la intendevano Searle e colleghi), ma non per questo si dimostrano meno utili in numerose attività tipicamente umane. Ne fruiscono quotidianamente il mondo del lavoro, il sociale, l’ambiente domestico e ludico. Giocare a scacchi con un computer può essere esaltante o frustrante come con l’amico. Insomma, il problema della coscienza resta (per ora) fuori dalla porta (lasciando il posto al problema del saper «apprendere» per migliorare le proprie prestazioni senza interventi umani). Considerazioni, queste, che supportano la tesi che quello che conta è la capacità del sistema di dimostrare la sua «competenza» (limitatamente a un determinato contesto, né si vorrebbe che andassero oltre), ossia di saper fornire risultati utili all’uomo. Per tornare a Turing, poco conta se l’algoritmo usato dai motori di ricerca o quello che fruga nella nostra posta, non sanno quello che fanno, l’importante è che possano prendere delle decisioni (al servizio di chi li ha creati!) dopo aver «compreso» se chi scrive è un uomo o una donna, un adulto o un bambino, sposato o single, felice o triste, a cosa è interessato, cosa potrebbe piacergli, se sta mentendo o dicendo la verità, etc. D’altra parte, saper prendere (sbagliando il meno possibile) queste «decisioni» non è forse la manifestazione di una qualche (oscura) «intelligenza»?

Oggi

L’IA si sta diffondendo nei settori più disparati migliorando le prestazioni di tutti i dispositivi nei quali è installata. Pensiamo a Siri, ad Alexa o a Google; ai chatbot che migliorano i servizi erogati ai clienti; alle auto a guida autonoma che aprono la strada ad una maggior sicurezza per tutti; ai sistemi di diagnosi in grado di considerare e mettere coerentemente insieme tutte le pubblicazioni; ai robot che operano stando nella parte opposta del mondo.

Come è successo con l’energia (il «nemico» che volevano combattere i luddisti), dobbiamo affermare che l’intelligenza artificiale (qualunque cosa sia) decreterà la fine del mondo che abbiamo conosciuto, dando il via a vecchie «paure» e nuove «battaglie». Ma se la storia insegna qualcosa, forse è arrivato il momento di accettare con «intelligenza umana»che, come l’energia, tutte le tecnologie hanno potenzialmente un insopprimibile lato oscuro. Diversamente non sarebbero in grado di offrire irrinunciabili, se non inevitabili, occasioni di innovazione, efficienza, produttività. in altre parole, da sempre evolve nonostante le logiche «luddiste» di turno, innescando complesse trasformazioni economiche e sociali. Come suggeriva Winston Churchill «l’uomo costruisce le città e le città costruiscono l’uomo».

È così, e non può essere diversamente, da sempre. La storia ci insegna che, a differenza della «prudenza», la «paura» ha smesso di ascoltare e farsi delle domande perché pensa di avere già le risposte giuste: «Ned Ludd ci ordina di farlo!». Per questa ragione è, a prescindere dall’esito delle sue battaglie, perdente.

Chiudo, suggerendo la lettura di un libro davvero stimolante: Benvenuti nel 2050, cambiamenti, criticità, curiosità, di Cristina Pozzi, Egea.

ai