Da una domanda a un gioco

Se l’espressione intelligenza artificiale fa parte ormai del lessico comune e viene comunemente usata per indicare qualcosa che (in maniera più o meno consapevole) si suppone pacificamente esistere, non così è per la dizione parallela emozioni artificiali: essa suscita normalmente l’impressione di essere bizzarra e di indicare un oggetto inesistente o impossibile. Come è facile immaginare, c’è ben poco in realtà che non sia in qualche modo oggetto di riflessione filosofica: le “emozioni artificiali” non fanno eccezione.¹ Il motivo per cui questo campo di ricerca non è al centro dell’attenzione pubblica è evidente: è facile desiderare che ci sia qualcosa che “comprenda”, magari laddove agli esseri umani non è facile, in modo da poter usare questa comprensione esternalizzata come un surrogato; ma in che modo potrebbe essere utile un’emozione delegata ad una macchina, e in che modo essa potrebbe essere nuovamente appropriata da un essere umano? E ciononostante, raramente il punto di vista pragmatico dell’utilità è il migliore quando si tratta di studiare questioni squisitamente antropologiche. In fondo (in questo modo possiamo impostare provvisoriamente la domanda) se l’“intelligenza artificiale” dice l’attribuzione ad un’entità non umana di una facoltà che viene anzitutto compresa a partire dall’umanità, e che anzi tradizionalmente le è stata riconosciuta come elemento proprio se non addirittura essenziale (il logos come intelligenza, appunto), perché dovrebbe essere tanto diversa la domanda sull’emozione, che a prima vista anzi possiede un nesso meno forte con l’umanità? Che una risposta positiva abbia o no un’utilità pratica è, almeno in prima battuta, completamente irrilevante.

La storia dell’informatica e delle questioni connesse è un campo meno frequentato di quanto meriti. In ciò, in parte essa subisce una sorte simile alle altre storie delle scienze: discipline sì nobili e consolidate, ma inserite in quell’intersezione tra cultura scientifica e umanistica i cui abitanti rischiano, perduta la doppia cittadinanza, di diventare improvvisamente apolidi. In parte gioca però il problema specifico di una connessione evidentemente stretta con la storia materiale (anch’essa ovviamente interessante) delle macchine che hanno incoraggiato una certa forma di pensiero: e così la storia della computer science (come viene abitualmente chiamata nella cultura americana) non solo è diversa dalla storia dell’informatics (come sempre più è chiamata in Europa), ma tende a diventare una storia dei computer. Se però si cerca di rimanere nei binari di una storia dell’informatica, almeno al livello elementare di reperimento critico delle fonti, si scopre qualcosa di interessante: e cioè che, in un modo o nell’altro, la questione delle emozioni artificiali è nominata fin dalla nascita dell’informatica e, in un certo senso, fa parte del suo codice genetico. La questione delle emozioni artificiali, insomma, benché apparentemente marginale e certamente non semplice da percorrere, può servire come un filo rosso per percorrere alcuni aspetti cruciali della storia di uno dei campi culturali oggi più importanti nella vita dell’umanità. Cercheremo qui di prendere in considerazione solo un momento iniziale: certo limitato, ma molto significativo.

Tale momento è la riflessione pioneristica di Alan Turing, nota soprattutto attraverso l’articolo Computing Machinery and Intelligence: si tratta di un testo che apparentemente non ha bisogno di troppe presentazioni.² Tentiamone comunque una sintesi provvisoria. Alan Turing prende le mosse dal problema se le macchine possano “pensare”: anche se l’espressione “intelligenza artificiale” non viene usata, si tratta chiaramente del tema che a partire dalla metà degli anni 50 assumerà questa denominazione (peraltro, Turing in questo testo usa come sinonimi “pensare” ed “essere intelligenti”). In ogni caso, però, Turing giudica troppo sfuggente la domanda “se le macchine possano pensare”, e la sostituisce subito con una relativa al celebre imitation game che egli descrive.³ In realtà, il modo con cui spesso tale gioco viene riferito è sottilmente diverso dal modo in cui Turing lo descrive: non si tratta tanto di chiedersi se un computer possa far credere di essere un umano, quanto di chiedersi se un osservatore possa sbagliarsi nel distinguere le risposte di una macchina da quelle di un essere umano (senza ovviamente osservare fisicamente chi o che cosa le abbia prodotte) almeno tanto quanto egli si sbaglia nel distinguere le risposte di un uomo da quelle di una donna. Benché innumerevoli volte riprodotto e citato, l’articolo, proprio nella sua proposta cruciale, appare quindi soggetto ad una semplificazione probabilmente indebita, accresciuta (ciò che in realtà è accaduto fin dai primi commentatori) quando la nuova domanda viene interpretata come una sorta di “definizione” del pensiero. Una lettura attenta dell’articolo mostra al contrario che Turing non intende affatto fare questo, ma piuttosto (come esplicitamente dichiara) solo sostituire ad una domanda, troppo generica per poter ricevere una risposta (too meaningless, ad un certo punto egli scrive), un’altra più chiaramente circoscritta: che fa appello, come abbiamo visto, anche alle dinamiche in cui le macchine sono inserite nella vita umana, e al fatto che l’identificazione della qualità di ciò con cui gli esseri umani entrano in contatto è in ogni caso soggetta ad errori.

Il problema inafferrabile della capacità di pensiero viene insomma sostituito con la possibilità che alcune macchine particolari possano entrare, almeno in una certa misura, nelle stesse dinamiche di interazione sociale che esistono tra esseri umani, con paragonabili possibilità di errori. Rispetto al modo semplificato con cui spesso l’imitation game viene citato, bisogna anche notare che per le prime tre pagine Turing non parla affatto di “computer”, ma genericamente di “macchina”: il “digital computer” o “electronic computer” viene introdotto solo perché esso pare l’unico caso con probabilità di successo. Esso infatti è una macchina “universale” che può effettuare qualsiasi tipo di calcolo, così come verrebbe effettuato da un “human computer” (computer era all’epoca ancora il nome di una professione), seguendo regole adeguatamente programmate. L’imitation game viene quindi ulteriormente precisato dalla richiesta che la macchina in questione agisca seguendo regole specificate (ma eventualmente – aggiunta molto interessante – anche integrando una componente di casualità). Ciò valga come presentazione generale.

Un’obiezione e una cortese convenzione

La notorietà dell’articolo di Turing non ha però probabilmente avuto solo la conseguenza negativa di sostituire riferimenti approssimativi al suo effettivo filo del discorso. Vi è stata anche la conseguenza negativa di aver isolato tale testo dal complesso della riflessione di Turing, e quella di aver dimenticato il contesto dialettico in cui Turing si inserisce con la sua proposta. Come mostra una lettura appena attenta, Turing non sta affatto introducendo nel suo contesto culturale la domanda sul pensiero delle macchina: sta piuttosto entrando in un dibattito già attivo (e al quale lui stesso aveva già contribuito). Il suo articolo del 1950 è infatti una presa di posizione della quale una parte integrante (probabilmente anzi la più importante) è costituita dalle risposte ad obiezioni alla possibilità di attribuire “pensiero” alle macchine. Le obiezioni prese qui in considerazione da Turing sono nove, ma quella che ci interessa di più è la quarta. Essa è l’unica, peraltro, per la quale Turing cita un unico preciso testo: si tratta della conferenza The Mind of Mechanical Man, pubblicata nel 1949 dal neurochirurgo Geoffrey Jefferson.⁴ L’importanza che viene attribuita a questa posizione avversa è tanto grande che anzitutto un brano viene citato letteralmente:

Solo quando una macchina sarà in grado di scrivere un sonetto o di comporre un concerto grazie ai pensieri e alle emozioni provate, e non alla caduta casuale di simboli, potremo accettare che la macchina sia uguale al cervello, cioè che non solo lo scriva, ma che sappia di averlo scritto. Nessun meccanismo potrebbe provare (e non solo segnalare artificialmente, un facile espediente) piacere per i suoi successi, dolore quando le sue valvole si rompono, essere compiaciuto dall’adulazione, essere rattristato dai suoi errori, essere affascinato dal sesso, essere arrabbiato o depresso quando non può ottenere ciò che vuole.⁵

C’è da riconoscere che l’attenzione data da Turing a questa obiezione è, con il senno di poi, perfettamente giustificata. Seppure in una formulazione che devìa verso il piano fisiologico (Jefferson è un neurochirurgo e, come vedremo, interpreta il problema come la domanda sull’equivalenza tra una macchina e il cervello), le obiezioni formulate sono esattamente quelle che fanno appello da una parte ad una nobile tradizione filosofica (non per niente Turing denomina la sua contestazione come “argument from consciousness”), dall’altra a quel senso comune che, pur riconoscendo l’indubbio successo delle “macchine” nel far cose, appunto, “meccaniche”, anche raffinatissime, è riluttante ad attribuire realmente ad esse aspetti dell’esistenza che appaiono avere un sottofondo di realtà che al massimo potrà essere simboleggiato o descritto, ma non appunto messo in opera. Quando nel 1984 la Apple inserì nello schermo di errore del Macintosh l’immagine di un computer con la faccia triste, scelse sì un simbolo facile da decifrare, ma di sicuro non illuse nessuno circa la capacità del Macintosh di provare davvero tristezza.

Prima di esaminare la risposta di Turing, vale però la pena esaminare più da vicino la conferenza di Jefferson, che è prevedibilmente molto meno nota della risposta di Turing. Quest’esame è opportuno soprattutto perché la singola citazione che ne fa Turing, benché fedele, fa poco immaginare il completo filo argomentativo. Jefferson prende le mosse dal problema del rapporto tra mente e cervello, dichiarandolo un problema prematuro da affrontare e probabilmente insolubile sulla base di osservazioni sperimentali: ciò non impedisce però di formulare ipotesi che possano guidare la scienza. La domanda fondamentale è allora: può il corpo umano essere descritto come una macchina? Descartes, ricorda Jefferson, aveva sostenuto una risposta positiva, ma contemporaneamente aveva escluso la possibilità di costruire una macchina che eguagliasse un essere umano almeno da due punti di vista: anzitutto, sarebbe stato impossibile riprodurre meccanicamente l’uso del linguaggio; in secondo luogo, poi, nessun meccanismo potrebbe avere coscienza di ciò che è esso stesso. Queste, afferma Descartes, sono le caratteristiche che può conferire solo una mente, che esercita le facoltà superiori che solo gli esseri umani posseggono.

Mentre Jefferson chiaramente simpatizza con la dichiarazione di impossibilità di Descartes, il ricorso ad una mente spirituale (da lui semplicemente qualificata come una “supernatural agency”) gli pare non indispensabile: esso esprime piuttosto una scappatoia per far fronte a fenomeni ancora non spiegati. Bisogna piuttosto tener conto del fatto che il sistema nervoso, più viene studiato e conosciuto, più si mostra straordinariamente complesso. Se le parti elementari del sistema nervoso possono essere paragonate a circuiti elettrici, così non è per l’insieme: “né gli animali né gli esseri umani possono essere spiegati studiando isolatamente i meccanismi nervosi, tanto essi sono complicati dall’apparato endocrino, tanto il pensiero è colorato dall’emozione”.⁶ Questa è la complessità in cui secondo Jefferson si inserisce anche la possibilità del libero arbitrio. Libertà e determinismo anzi possono essere a seconda del punto di vista due spiegazioni entrambe corrette, analogamente a ciò che avviene in fisica secondo il principio di complementarietà di Niels Bohr.

Ora, il punto decisivo per Jefferson è che i circuiti elettrici delle macchine calcolatrici non hanno la capacità di riprodurre questa complessità: qui il suo punto di partenza è, oltre le descrizione dei primi computer costruiti appunto verso la fine degli anni 40, anche la teorizzazione della “cibernetica”, avvenuta un anno prima da parte di Norbert Wiener.⁷ Le analogie giustamente messe in luce da quest’ultimo non sono affatto sufficienti, secondo Jefferson, per poter lontanamente sperare in una macchina che riproduca adeguatamente il funzionamento del cervello, e in modo tutto particolare la sua capacità non solo di usare il linguaggio, ma anche di crearlo e modificarlo. È solo a questo punto che Jefferson giunge alla conclusione prima citata. La sua opinione è insomma che l’obiettivo di riprodurre alcune delle attività più semplici del sistema nervoso, in sé certamente raggiungibile, è lontanissimo dalla meta di riprodurre qualcosa che possa essere a giusto titolo chiamato “pensiero”.

La conferenza di Jefferson, benché documentata nei suoi dati di partenza ed equilibrata nelle sue conclusioni, difficilmente sfugge all’impressione di avere un filo del discorso non interamente coerente. Si potrebbe anzitutto obiettare che il passo problematico che egli nota in Descartes sia in fondo lo stesso che egli compie, sostituendo solo all’espressione “mente” quella di “sistema troppo complesso da essere riprodotto meccanicamente”: in entrambi i casi il punto decisivo si troverebbe nella limitata comprensione del funzionamento complessivo. Ma che cosa accadrebbe il giorno che questo limite fosse superato? Il seguito della storia peraltro mostrerà che le analogie, a prima vista decisive, tra macchine calcolatrici e cervello umano svolgeranno un ruolo sì importante, ma solo in seconda battuta. In secondo luogo, rimane difficile capire se la risposta negativa di Jefferson sia relativa al livello della tecnologia del suo tempo, e più radicalmente se egli si accorga che il problema teorico (se una macchina pensante sia teoricamente fattibile) è diverso dalla valutazione dell’attuale conoscenza del sistema nervoso umano da una parte e dell’attuale tecnologia dall’altra. Quando Wiener inserisce i calcolatori nella sua idea di “cibernetica”, la sua base teorica è il fondamentale articolo in cui Turing descrive una “macchina universale” in termini puramente teorici: ma questo retroterra sembra ignorato, o non compreso, da Jefferson.⁸

Ma non sono queste le obiezioni che Turing rivolge a Jefferson. Egli piuttosto ne mette in luce un carattere filosofico ancora più fondamentale:

Questo argomento [di Jefferson] sembra essere una negazione della validità della nostra prova. Secondo la forma più estrema di questo punto di vista, l’unico modo in cui si potrebbe esser sicuri che la macchina pensi è essere la macchina e sentirsi pensare. Si potrebbero poi descrivere queste sensazioni al mondo, ma naturalmente nessuno sarebbe giustificato a prenderle in considerazione. Allo stesso modo, secondo questo punto di vista, l’unico modo per sapere che un uomo pensa è essere quel particolare uomo. È di fatto il punto di vista solipsista. Può essere il punto di vista più logico da sostenere, ma rende difficile la comunicazione delle idee. È probabile che A creda che “A pensa ma B no”, mentre B crede che “B pensa ma A no”. Invece di discutere continuamente su questo punto, è consuetudine seguire la cortese convenzione secondo cui tutti pensano.⁹

Insomma: messo alle strette, chi sostiene l’argomento preferirebbe abbandonarlo che cadere esplicitamente nel solipsismo.¹⁰

Emozioni di una macchina, emozioni di un’idea

Ma che cosa ne è del problema delle emozioni, che compare chiaramente nella citazione di Jefferson e che (come abbiamo visto) nella sua conferenza occhieggia chiaramente almeno un’altra volta? Turing sembra estrarre questo tema e renderlo un’obiezione diversa, la quinta, in cui raccoglie “arguments from various disabilities”, quelli cioè in cui si obietta che, per quante meraviglie una macchina possa in futuro fare, qualcosa (pensato evidentemente come solo umano) le resterà pur sempre impossibile. L’elenco che Turing cita è abbastanza eterogeneo e lungo, e in esso compare anche “innamorarsi”: il caso per eccellenza dell’emozione. La sua confutazione è anzitutto di ordine generale: tutte queste impossibilità vengono semplicemente dichiarate sulla base dell’induzione, che scientificamente ha un valore molto limitato. Il fatto che finora non esistano macchine capaci di questo o quello non dice nulla sul fatto che non possano esserci in futuro. È possibile che questa sia intesa da Turing come una risposta ad hominem, perché, come già accennato, Jefferson stesso all’inizio della sua conferenza aveva decisamente contestato la cosiddetta induzione “baconiana” come fondamento della scienza.¹¹

Dopo questa confutazione di principio, diverse disabilities vengono prese in considerazione: per esempio, dire che le macchine non sono capaci di un comportamento vario come quello degli esseri umani equivale a costatare la limitatezza del loro “magazzino” (storage: il termine antropomorfico memory non era ancora di uso comune): un’affermazione dunque solo fattuale e contingente. Curiosamente, però, Turing non dedica nessuna osservazione particolare alla disability dell’impossibile innamoramento: il che lascerebbe gran parte della forza del discorso di Jefferson intatta. C’è però una rapidissima osservazione finale che mette sulla buona strada:

Le critiche che stiamo considerando sono spesso forme mascherate dell’argomento della coscienza; di solito, se si sostiene che una macchina può fare una di queste cose e si descrive il tipo di metodo che la macchina potrebbe usare, non si fa molta impressione. Si pensa che il metodo (qualunque esso sia, perché deve essere meccanico) sia piuttosto banale. Confronta la parentesi nella dichiarazione di Jefferson citata.¹²

L’osservazione è formulata in modo così sintetico da risultare un po’ enigmatica, ma chiarirla è cruciale. Sostanzialmente Turing sta dicendo che una lacuna nelle possibilità di una macchina viene colmata ideando un metodo (un procedimento, un algoritmo, potremmo anche dire): ma appena questo metodo viene appunto conosciuto, l’aura di “umanità” che prima avvolgeva quella certa operazione scompare. È questo che spontaneamente Jefferson fa quando opera una distinzione tra “provare” un sentimento e “segnalarlo artificialmente”. Si tratta quindi, sostiene Turing, sempre del medesimo argomento della coscienza: anche se una macchina mostrasse tutti i sintomi dell’innamoramento, questo non sarebbe tale agli occhi del critico perché tale sarebbe solo il suo proprio innamoramento, che egli sente in sé. Che le “emozioni artificiali” siano impossibili è quindi da questo punto di vista una tautologia, perché appena qualcosa è artificiale, non meriterebbe più i nomi che si applicano a fenomeni umani. Il punto è però, secondo Turing, che per coerenza bisognerebbe giungere a sostenere che le uniche qualità umane siano le mie.

Sullo sfondo di questa rapida annotazione vi è però qualcosa di ancora più decisivo, che nell’articolo del 1950 è sottaciuto. Per rendersene conto bisogna fare un passo indietro e leggere ciò che Turing scriveva nel 1948, in un rapporto dal titolo Intelligent Machinery, rimasto inedito per un ventennio.¹³ Il testo è in numerosi aspetti parallelo all’articolo di due anni più tardi. Per esempio, anche qui vi è un elenco di obiezioni contro la possibilità di macchine intelligenti, a cui viene data risposta (mancano ovviamente le obiezioni che derivano dalla conferenza di Jefferson). Le prime due obiezioni invece sostanzialmente coincidono (in ordine invertito): la prima consiste nella “non volontà di ammettere la possibilità che l’umanità possa avere rivali nelle sue capacità intellettuali”, la seconda nella “credenza religiosa che ogni tentativo di costruire tali macchine è una sorta di irriverenza prometeica”. Rispetto all’articolo del 1950, che risponde in termini discretamente dettagliati (soprattutto all’“argomento teologico”), il rapporto del 1948 semplicemente le scarta come irrilevanti, ma così facendo pone un problema di formidabile importanza, ripreso più tardi con dettaglio. Scrive Turing:

Le obiezioni (a) e (b), essendo puramente emozionali [emotional], non hanno bisogno di essere confutate. Se si ritiene necessario confutarle, c’è poco da dire che possa sperare di convincere, anche se la produzione effettiva delle macchine avrebbe probabilmente un certo effetto. Nella misura in cui siamo influenzati da queste argomentazioni, siamo destinati a sentirci piuttosto a disagio nei confronti dell’intero progetto, almeno per il momento. Questi argomenti non possono essere del tutto ignorati, perché l’idea di “intelligenza” è di per sé emozionale piuttosto che matematica.¹⁴

L’affermazione cruciale è ovviamente l’ultima. Ma che cosa significa affermare che l’idea di “intelligenza” è emozionale? Tanto più che questa qualifica è opposta ad un’ipotetica idea matematica, evidentemente Turing intende dire che non è esattamente definibile, ma piuttosto dipende da uno stato d’animo di chi la giudica. L’ultima pagina del rapporto è dedicata a chiarire in che senso ciò avviene:

La misura in cui riteniamo che qualcosa si comporta in modo intelligente è determinata tanto dal nostro stato mentale e dalla nostra formazione quanto dalle proprietà dell’oggetto in esame. Se siamo in grado di spiegare e prevedere il suo comportamento o se sembra che non ci sia un piano sottostante, abbiamo poca tentazione di immaginare intelligenza. Con lo stesso oggetto, quindi, è possibile che una persona lo consideri intelligente e un’altra no; la seconda avrebbe scoperto le regole del suo comportamento.¹⁵

Insomma: dato che il concetto di “intelligenza” viene attribuito a ciò che non appare una semplice esecuzione di regole, allora comprendere esattamente che cosa avviene in un processo (cioè essere in grado di descrivere le regole in base a cui esso si è svolto) significa di per sé cessare di giudicarlo intelligente, o almeno, come con elegante understatement scrive Turing, avere “poca tentazione” di chiamarlo tale: come quando aver scoperto il trucco non ci fa più considerar qualcosa come magico.¹⁶ Tale osservazione, che sembra ben corrispondere al buon senso, può essere interpretata con due sfumature differenti. La prima è quella rassicurante: se ne può infatti concludere che per definizione nessuna macchina potrà mai effettuare processi simili a quelli delle facoltà superiori umane: ovvero, usando il lessico corrente, nessuna macchina sarà mai “intelligente”, o (con quella che in Turing pare solo una variazione lessicale) nessuna macchina potrà mai “pensare”. Il suo funzionamento sarà infatti meccanico, e anche se il risultato (come Turing nel 1950 esplicitamente scriverà) può suscitare sorprese perfino in chi la ha programmata, questa sorpresa coesiste con la cognizione delle sue norme di comportamento. Ma ovviamente Turing non sta pensando a questa applicazione, visto che l’intero suo rapporto (come pure l’articolo seguente) intende suggerire il contrario. Non rimane dunque che applicare l’osservazione nella direzione opposta: concludere cioè che l’intelligenza o il pensiero che gli esseri umani “emotivamente” attribuiscono a sé stessi è l’effetto di un’ignoranza delle regole in base alle quali essi funzionano.¹⁷

Ovviamente, affermare che quella di intelligenza è un’idea “emozionale” non significa affatto affermare che l’intelligenza sia un’emozione. Significa però sì affermare che l’idea di “intelligenza artificiale” non è così diversa da quella di “emozione artificiale”: in entrambi i casi si stanno prendendo le mosse da processi che comunemente sono giudicati tipicamente umani. Ma nel momento in cui il loro funzionamento viene proiettato in regole chiare, che in quanto tali possono essere seguite da una macchina, esse rimangono disincantate e paiono svuotarsi del loro senso personale. Poco più tardi Turing espresse ancora più chiaramente questa idea: fu durante un dibattito radiofonico registrato per la BBC il 10 gennaio 1952 e trasmesso quattro giorni dopo.¹⁸ Il dibattito era coordinato dal filosofo morale Richard Braithwaite e oltre a Turing parteciparono il già noto Geoffrey Jefferson e il matematico Max Newman, prima ispiratore e poi collaboratore di Turing stesso. Dopo che Turing ha formulato ipotesi su come un calcolatore possa usare l’analogia nei propri calcoli, Braithwaite esprime la propria perplessità sul fatto che una macchina possa effettivamente eseguire tali processi. Ecco l’illuminante risposta di Turing:

Ho certamente lasciato molto all’immaginazione. Se avessi dato una spiegazione più lunga avrei potuto far sembrare più certo che ciò che stavo descrivendo fosse fattibile, ma probabilmente lei si sentirebbe piuttosto a disagio per tutto questo, e probabilmente esclamerebbe con impazienza: “Be’, sì, vedo che una macchina potrebbe fare tutto questo, ma non lo chiamerei pensare”. Non appena si riesce a vedere la causa e l’effetto che si realizzano nel cervello, si ritiene che non si tratta di pensiero, ma di una specie di lavoro stupido e ripetitivo [unimaginative donkey-work]. Da questo punto di vista si potrebbe essere tentati di definire il pensiero come l’insieme di “quei processi mentali che non comprendiamo”. Se questo è vero, allora creare una macchina pensante significa creare una macchina che fa cose interessanti senza che si capisca bene come vengono fatte.¹⁹

Se non bisogna sopravvalutare un’annotazione orale improvvisata, non se ne può neppure misconoscere la coerenza con il resto del discorso. Turing afferma che l’attribuzione del “pensiero” ad una macchina non dipende solo dalla riproduzione di processi simili a quelli compiuti dalla mente umana, ma anche dall’effetto incantatorio che tale processo svolto da una macchina può effettuare. In mancanza di questo, altrimenti, la parola “pensiero” con il suo carico emotivo semplicemente non verrebbe più usata, o comunque non verrebbe più percepito nessun aspetto problematico nell’idea di una macchina “pensante”, tanto quanto (potremmo dire) non suscita nessun disagio l’idea che esistano le automobili, macchine “semoventi”, che per di più possono spostarsi molto più velocemente di qualsiasi essere umano. Insomma: ciò che appare ripetitivo, prevedibile, facilmente meccanizzabile, non viene denominato “pensiero”, a meno che il termine stesso “pensiero” non muti radicalmente di significato.²⁰

Ciò che abbiamo detto ci consente di connettere più chiaramente alcuni punti nella posizione di Turing: la confutazione da lui presentata nei confronti dell’argomento della coscienza vale tale e quale anche riguardo all’estraniante concetto di “emozione artificiale”. Anche l’idea di “emozione” è emozionale e per essa vale esattamente quanto detto nei riguardi del pensiero (lo abbiamo intravisto nella sintetica e un po’ enigmatica annotazione dell’articolo del 1950): negare che quanto avviene in una macchina sia un’emozione condurrebbe, per coerenza, ad una sorta di solipsismo emotivo, all’affermazione che solo le proprie sono emozioni, quelle cioè che vengono vissute dall’interno, senza che quindi vi sia la possibilità di vederne direttamente regole e logica. Anche in rapporto alle emozioni potrebbe dunque essere concepito un analogo imitation game. Anche se Turing non vi fa alcun cenno (e probabilmente il tema direttamente neppure gli interessa molto), non è certo la prima volta nella storia della filosofia che si suggerisce l’idea che anche gli affetti possano essere descritti ordine geometrico.

È in effetti molto significativo che subito dopo le considerazioni sull’“intelligenza come concetto emozionale” e in chiusura del rapporto del 1948, Turing propone la sua prima versione dell’imitation game. A differenza di quanto avviene nella nota descrizione di due anni dopo, qui l’esempio scelto, indubbiamente più a portata di mano, riguarda il gioco degli scacchi: una volta stabilito che non è così difficile scrivere un programma che giochi a scacchi “non pessimamente” (Turing lo aveva effettivamente fatto), un principiante farebbe difficoltà a capire se sta giocando con un altro principiante o con tale programma. Ma in questo modo, la tattica di gioco degli scacchi è disincantata e trasformata in un insieme di regole di gioco efficace. L’unica alternativa al giudizio solipsistico secondo cui anche il giocatore è una macchina è allora ritenere anche la macchina un giocatore.

Il disincantamento e il suo possibile limite

Possiamo a questo punto, prima di porci un’ultima decisiva questione, tentare una sintesi dell’articolo di Turing del 1950 leggermente diversa da quella che abbiamo presentato all’inizio. La domanda “può una macchina pensare?” è insensata, tanto quanto la domanda “può una macchina amare?”. “Pensare” e “amare” sono infatti due termini che vengono usati non solo per indicare ciò che soggiace a certe manifestazioni percepibili, ma anche per suggerire che ciò che in essi avviene sia possibile solo agli esseri umani: sono termini cioè che esprimono la protesta emotiva di una differenza umana rispetto al resto dell’universo. Le due domande allora sono riducibili a quest’unica: “può una macchina fare ciò che è impossibile ad una macchina?”: una questione ovviamente poco interessante. L’unico modo per rendere la discussione utile è sostituire questa domanda con un’altra: può una macchina avere le stesse manifestazioni grazie a cui diciamo che un essere umano pensa, o ama? Ciò in realtà sarà sempre più possibile solo se si comprenderà qual è la logica di queste manifestazioni, man mano cioè che si sarà in grado di descriverle in procedimenti esatti (che, peraltro, possono anche includere una componente di casualità): esattamente come chiedersi se una macchina possa giocare bene a scacchi significa chiedersi se si sarà in grado di comprendere che cosa significa giocare bene a scacchi, e descrivere un buon gioco di scacchi in un insieme di regole.

La posta in gioco nella nuova domanda è insomma nient’altro che la comprensione degli esseri umani. Ma (purtroppo o per fortuna) comprendere in questo caso significa anche disincantare gli esseri umani riguardo alle loro capacità: più esse sono in questo senso comprese, meno esse diventano esclusivamente loro. È quindi certo possibile che un giorno si inizi a dire che «le macchine pensano» (Turing lo ritiene anzi più che probabile): ma ciò avverrà solo perché il concetto di pensiero sarà appunto disincantato, e la carica emotiva un tempo associata a tale parola sarà dissolta.²¹

Ma questa autocomprensione degli esseri umani sarà da valutare come un successo? Turing evidentemente è convinto di sì, e ci sono ottimi motivi per simpatizzare con lui. Abbiamo prima notato come è possibile che egli usi come risposta ad hominem nei confronti di Jefferson il rifiuto di quest’ultimo di un’idea dell’induzione come metodo della scienza. Ciò che ci pare invece probabilissimo è che questo rifiuto viene da lui desunto e reso non solo una confutazione contro una singola contestazione riguardo alla possibilità di macchine che imitino gli esseri umani, ma più in generale la via libera e l’incoraggiamento nei confronti di una nuova ricerca. Le ipotesi sono insomma in Turing quelle che consentono di creare oggetti nuovi, senza essere paralizzati da una loro apparente implausibilità:

L’opinione popolare secondo cui gli scienziati procedono inesorabilmente da un fatto ben stabilito all’altro, senza mai essere influenzati da congetture non dimostrate, è del tutto errata. Purché si chiarisca quali sono i fatti dimostrati e quali le congetture, non si possono far danni. Le congetture sono di grande importanza giacché suggeriscono utili linee di ricerca.²²

Turing, insomma, è ben lontano dall’affermare scientificamente che esisteranno macchine capaci di simulare ciò che chiamiamo “pensiero”: crede però che i tentativi in proposito devono proseguire ed essere ambiziosi. Questa fiducia molto probabilmente viene in lui formulata proprio prendendo a prestito l’idea che il suo avversario Jefferson usa per qualificare il metodo scientifico.²³

C’è però un’ultima domanda cruciale. Comprendere un’attività fino ad un certo momento intesa come tipicamente umana significa, abbiamo detto, disincantarla, dissolvere il suo significato emotivo. C’è a prima vista qualcosa d’inquietante nel fatto che comprendere un concetto avvolto di emozione significa raffreddarlo e quasi banalizzarlo: ma non è strutturalmente qualcosa di molto diverso da ciò che Aristotele dice della filosofia stessa, che prende le mosse dalla “meraviglia” per poi alla fine annullarla. La vera questione è piuttosto: si tratta di un disincantamento totale? Non necessariamente. Che il vivere dall’interno pensiero ed emozioni abbia un senso residuo non viene affatto escluso da Turing. Dopo aver confutato nell’articolo del 1950 l’obiezione principale di Jefferson, egli si affretta a precisare:

Non voglio dare l’impressione di pensare che non ci sia alcun mistero sulla coscienza. C’è, per esempio, una sorta di paradosso legato a qualsiasi tentativo di localizzazione. Ma non credo che questi misteri debbano necessariamente essere risolti prima di poter rispondere alla domanda di cui ci occupiamo in questo articolo.²⁴

Che insomma vi sia un senso in cui pensiero ed emozioni siano “proprie” ad un essere umano in un modo che non si potrebbe attribuire ad una macchina – sembra di capire – è secondo Turing ben possibile. Il tentativo di “localizzazione” non è in effetti nient’altro che l’ipotesi su qualcosa di umano che non sia soltanto corpo (un tema che pure Jefferson aveva affrontato, tentando un po’ goffamente di correggere l’ipotesi di Descartes della ghiandola pineale). Del resto, la domanda basata sull’imitation game è dichiarata come “strettamente connessa” a quella originaria sulla capacità di “pensiero” delle macchine, non “equivalente”. Anche quando Turing la cita come un “criterio per il ‘pensiero’”, la parola “pensiero” viene messa tra virgolette, e nel dibattito del 1952, più chiaramente ancora, dichiara che ciò che egli propone potrebbe essere chiamato “una prova per vedere se la macchina pensa”, ma che è meglio evitare questa formulazione.²⁵ Ciò ha una conseguenza rilevante anche riguardo al modo con cui i testi di Turing sono comunemente classificati: chiamarli fondatori per l’“intelligenza artificiale” non è certo abusivo, ma implica il dislocamento in una consuetudine linguistica che è diversa da quella che lui stesso consapevolmente usa. Da ciò che abbiamo visto, lo scarto decisivo non si trova però tanto in un significato analogico di “pensiero”, quanto nel senso differente, quasi “affettivo”, in cui la macchina può o non può essere ritenuta soggetto dei suoi processi.

In questo senso, c’è dunque una barriera evidentemente insuperabile nella possibilità di “emozioni artificiali”. Il problema che le riguarda, come abbiamo visto, non è di per sé affatto diverso da quello che concerne il “pensiero artificiale”. Ma quella che, stando alla forma del discorso di Turing, necessariamente fa eccezione, è proprio l’emozione della soggettività, quella che fa sentire come proprio il pensiero, e ogni altra emozione. Qualsiasi imitation game che la riguardasse (una macchina sa di esistere?) imporrebbe in questo caso un regresso all’infinito, perché questa sorta di sentimento di sé rimarrebbe in ogni caso sfuggente: come correttamente dice Turing, potrebbe essere accertato solo essendo quella macchina. Tutto ciò non dimostra ancora che questo sentimento abbia qualcosa di irriducibile, ma almeno che la sua consistenza e il suo senso devono essere studiati in altro modo: giacché probabilmente esso si identifica con l’esistenza stessa dell’essere umano, la quale è, in questo senso, tutt’altro che ovvia, benché, ancora parafrasando Turing, faccia parte della buona creanza supporre che gli esseri umani esistano.

Il risultato ha insomma, come accade spesso nelle grandi rivoluzioni culturali, qualcosa di paradossale. Nel momento stesso in cui Turing lancia un grande progetto scientifico e sociale di disincantamento dell’essere umano, contemporaneamente pone in filigrana il problema della consistenza ultima di un’emozione umana che forse non si lascia completamente annullare.