Discorrere di intelligenza artificiale è diventato ultimamente facilissimo e al contempo difficilissimo: facilissimo perché ormai è un argomenento sulla bocca di tutti; difficilissimo perché veramente in pochi conoscono in maniera approfondita il funzionamento e le implicazioni dell’I.A. Chatgpt © di OpenAI © è uno strumento assai utilizzato, ma solo una minoranza di persone è a conoscenza dei transformers (la T in GPT); Inoltre la conoscenza non è necessariamente sinonimo di dominanza delle tecnologie, a causa di un atteggiamento di ingenuo ottimismo pseudo-religioso, il quale porta molti individui a ritenere l’IA uno strumento perfetto e completo.
Lo scopo di queste righe è di presentare al lettore degli argomenti solidi per iniziare a comprendere cosa sia l’intelligenza artificiale. Purtroppo però, data la brevità non ci è possibile includere anche una trattazione su cosa sia l’intelligenza naturale: tratteremo l’argomento solo per sommi capi.
Il test di Turing e la metafora del computer
Alan Turing (1912-1954) è stato per molti versi la pietra angolare della programmazione (la scienza del calcolo , come viene chiamata in inglese). Nel 1950, Turing propose un test per misurare l’intelligenza artificiale: far dialogare una persona (il giudice) alternativamente con un computer ed un’altra persona, ed alla fine il giudice avrebbe dovuto indicare chi fosse l’essere umano e chi l’intelligenza artificiale.
Il test, come si può facilmente capire, non entra nel merito della questione di stabilire se una intelligenza artificiale sia o meno realmente intelligente: l’importante è che riesca ad ingannare un giudice umano, e quindi che presenti comportamenti intelligenti. Su questo punto è realmente illuminante una riflessione dello stesso Turing sul cogito di Cartesio che propone nello stesso articolo dove spiega il suo test:
il solo modo per cui si potrebbe essere sicuri che una macchina pensa è quello di essere la macchina stessa e sentire se si stesse pensando. […] Allo stesso modo, la sola via per sapere che un uomo pensa è quello di essere quell’uomo in particolare. […] Probabilmente A crederà “A pensa, mentre B no”, mentre per B è l’esatto opposto “B pensa, ma A no”. Invece di discutere in continuazione su questo punto, è normale attenersi alla educata convenzione che ognuno pensi (Alan M. Turing, Computing machinery and intelligence).
Queste parole, “educata convenzione” (the polite convention that everyone thinks), sono alla base di molte interpretazioni su cosa sia l’intelligenza (artificiale e naturale sono accomunate in questi contesti).
Ma cos’è l’intelligenza (naturale)? Per rispondere a questa domanda nel corso degli ultimi anni ci si è serviti di una metafora assolutamente deleteria, che ha influenzato negativamente l’immaginario comune, confondendo l’ombra con la sostanza delle cose. Quando abbiamo creato i primi computer, per il loro sviluppo è stata adottata una similitudine con un modello l’HIP (Human Information Processing) della conoscenza umana: si è paragonata la CPU (unità centrale per i calcoli) con il cervello umano, la RAM (memoria volatile), con la memoria a medio termine, i dischi rigidi con la memoria a lungo termine, e così via. I nomi stessi di memorie sono del tutto accettati, sebbene siano tecnicamente degli storage (sistema di stoccaggio delle informazioni).
L’uso di questa metafora è divenuto così comune e ben integrato nell’immaginario collettivo, che si è persa quasi subito la qualità analogica della metafora e si è finita per instaurare un’equazione. Di fatto, gli estremi dell’equazione sono stati scambiati, e si è finito per paragonare il modello cognitivo umano con il funzionamento del computer. Il cervello è la nostra CPU fatta di neuroni, e perciò i nostri comportamenti sono solo frutto di calcoli: la mente, l’anima, sono solo epifenomeni, programmi che girano nel nostro cervello. La volontà libera è solo un’apparenza di scelta intelligente, così la metafora, l’ombra, si è completamente sostituita alla realtà: tutto ciò è trasposizione del materialismo filosofico in area psicologica, per questo il modello HIP risulta abbastanza manchevole.
Per chi non si accontenta delle apparenze, delle metafore e di un’educata convenzione, chiaramente non si può glissare sopra la questione dell’intelligenza stabilendo che è intelligente solo quello che mostra apparenza di intelligenza. Questo velo di Maya 2.0 sembra invitarci ad andare oltre il fenomeno delle intelligenze artificiali.
Leibniz, un mulino ed uno stadio
Anche il filosofo e matematico Gottfried Leibniz (1646-1716) si è cimentato con le intelligenze artificiali. Nella sua Monadologia del 1714, sezione 17, appare un esperimento mentale chiamato il mulino. Liebnitz ci chiede di immaginare una macchina che si comporti in modo tale da pensare e avere esperienze (“percezione”).
17 D’altra parte siamo costretti a confessare che la percezione, e ciò che ne dipende, è inesplicabile per ragioni meccaniche, cioè per figure o per movimenti: e se immaginiamo una macchina, la cui struttura faccia pensare, sentire, percepire, si potrà concepire ingrandita conservando le medesime proporzioni, di maniera che vi si possa entrare come in un molino. Ciò posto, se ci faremo a visitarlo al di dentro, vi troveremo dei pezzi che si sospingono gli uni e gli altri, ma non vi troveremo giammai come spiegare una percezione: la quale perciò nella sostanza semplice, e non nel composto o nella macchina è mestieri cercarla. Così non vi è che questo, che si possa trovare nella sostanza semplice, vale a dire le percezioni e loro cambiamenti. Dunque in ciò solo possono consistere tutte le azioni interne delle sostanze semplici.
(Monadologia, 17)
Similmente, immaginando di ingigantire un computer che “pensa”, troveremo al suo interno transistor e resistenze, ma non la sede delle percezioni. L’ovvio “contro-argomento” è di pensare ad un uomo gigante, dove si possa entrare e vedere il lavoro dei neuroni; come possiamo stabilire che un uomo pensa, percepisce, ed è intelligente, se riduciamo tutto alla attività neuronale? Anche qui vediamo come la metafora del computer sia riduzionista e non controbatta con argomentazioni convincenti, ma si limiti a ritorcere l’argomento presentandolo come applicabile anche ad un modello fantoccio (straw man) del comportamento umano.
Nel 1961 Anatoly Dneprov (Mickevich) propose un altro esperimento mentale nella storia il gioco: 1400 studenti di matematica sono disposti in uno stadio come una CPU (la metafora sempre al lavoro). Ognuno di essi svolge un calcolo su una serie di numeri binari, poi passa il risultato al compagno vicino a lui. Il giorno dopo viene loro detto che hanno collettivamente tradotto una frase dal portoghese al russo; il protagonista afferma quindi: “abbiamo dimostrato che anche la simulazione più perfetta del pensiero di una macchina non è il processo di pensiero stesso” (Mickevich, A., 1961, Il gioco; v. articolo per il testo completo in inglese). D’altronde, se il funzionalismo fosse corretto, si potrebbe sostituire ogni parte del cervello con una che svolge una funzionalità equivalente, ma fatta in maniera diversa; ma se sostituiamo tutto il cervello umano con una CPU, cosa ci vieta di andare oltre e sostituire anche la CPU con un sistema più primitivo? Possiamo creare CPU fatte di biglie che cadono su leve, o di secchi che versano una certa quantità d’acqua in altri secchi. Secondo i riduzionisti dovremmo arrivare a dire che se l’acqua può sostituire una CPU ed una CPU sostituire la mente umana, allora l’acqua dovrà provare dolore ed amore. Talete sarebbe fiero di noi.
Searle e la stanza cinese
John Searle (1932-) ha proposto nel 1960 quello che indubbiamente è una delle questioni più dibattute sulla filosofia della mente ed il problema dell’intelligenza artificiale: l’argomento della stanza cinese (Chinese room argument).
È molto simile all’argomento di Dneprov, ma in Searle c’è una sola persona che agisce, in una stanza. Da sotto la porta viene passato alla persona un foglio con dei caratteri in cinese. La persona è totalmente ignorante sia della lingua cinese, sia dei suoi pittogrammi. Ma questa persona dispone di un enorme libro dove può cercare i pittogrammi e con un set di istruzioni nella sua lingua natia su come manipolare questi pittogrammi, e saltando da una pagina ad un’altra calcolare una risposta. L’uomo segue le istruzioni sul libro e scrive dei pittogrammi in risposta, che passa sotto la porta. Dall’altra parte c’è un madrelingua cinese che è stupito di constatare come la stanza risponda ad ogni sua domanda in maniera intelligente ed in cinese corretto.
Nell’argomento della stanza cinese Searle ha sostituito una CPU con un uomo ed il programma con istruzioni su di un libro. A questo punto la domanda è: la stanza cinese è un’intelligenza artificiale? Se sì, come? Dove risiede l’intelligenza? Nella complessità del sistema uomo-libro-stanza, nell’uomo solo, nel solo libro? L’uomo non ha conoscenza di cinese, esegue solo le istruzioni sul libro. Il libro è un libro, una serie di pagine con istruzioni. Il madrelingua cinese fuori la porta chiede alla stanza se è autocosciente, se senta del dolore. E la stanza dà una risposta affermativa ad entrambe le domande. Secondo Turing il madrelingua cinese dovrebbe limitarsi ad una educata convenzione di ritenere la stanza intelligente, non sapendo se contenga un altro madrelingua cinese, una sofisticatissima intelligenza artificiale, o un uomo che legge un libro. Anche attenersi alla semplice domanda, in che modo la stanza comprenda il cinese, è di ardua risposta. L’uomo ignora il cinese, il libro non “comprende” in senso stretto, la carta media questa conoscenza in qualche modo. Arriviamo al paradosso che la stanza parla in cinese, ma non comprende il cinese.
Searle stesso ha ricevuto varie critiche, o risposte, all’argomento e le ha raccolte tutte e catalogate in alcuni scritti; ci limiteremo qui alla più comune risposta del sistema ed alla sua confutazione. La risposta prevede che l’uomo non conosca il cinese, ma che questo non implichi che non si dia conoscenza del cinese nel sistema stesso: l’uomo non è altro che una componente (CPU) di un sistema più grande, il sistema-stanza, fatto di uomo, libro, e carta, esattamente come un computer è fatto di CPU, memoria e I/O (meccanismi di input/output). La risposta è quindi che mentre l’uomo non comprende il cinese, ma il sistema nella sua interezza comprende il cinese. La risposta ovviamente può essere trasferita ad una qualsiasi intelligenza artificiale: non è la CPU la sede dell’intelligenza artificiale, ma il complesso del computer in sé. Ma a questo punto, anche se non così ovviamente, la stessa risposta potrebbe essere trasferita all’uomo: non è il cervello ad essere intelligente, ma l’uomo intero.
Searle risponde a questo criticismo, chiedendoci di immaginare una situazione in cui l’uomo impari a memoria il contenuto del libro. Il libro in sé non è una grammatica del cinese, non insegna un uomo a parlare cinese. Le istruzioni nel libro servono per manipolare simboli, non per ottenere significato da essi. A questo punto l’uomo potrebbe conversare direttamente in cinese con qualcuno, ma non sapere nulla del significato delle parole che sta manipolando: esegue delle trasformazioni su dei simboli, ignorando il significato sia dei simboli, sia delle manipolazioni che compie. In questo caso, dove risiede la conoscenza del cinese? Nell’uomo ignorante e nelle istruzioni su come manipolare simboli? La risposta di Searle mostra, anche se in maniera del tutto intuitiva, come ci sia una differenza fra comprensione e manipolazione di dati.
Conclusione
La risposta di Searle al criticismo del sistema ci porta a fare una distinzione fra la conoscenza di tipo umano e la conoscenza di una intelligenza artificiale: ChatGPT (e tutti i sui predecessori e possibili successori), per quanto le sue risposte siano sbalorditive ed indicative di una certa intelligenza, non è altro che un sistema per manipolare informazioni, complesso quanto vogliamo, ma pur sempre non umano. L’intelligenza umana, similmente, non è basata solo sul cervello, anch’esso molto complesso, ma pur sempre uno strumento per manipolare informazioni. Perché si dia una intelligenza artificiale reale, c’è quindi bisogno di qualcosa in più della semplice manipolazione di dati. La differenza fra un uomo e una IA non è quantitativa, ovvero potenza di calcolo, ma qualitativa: l’intelligenza umana è di una natura necessariamente e totalmente diversa.
Davide Del Papa
Qui per l’argomento della Stanza Cinese di Searle The Chinese Room Argument, su plato.stanford.edu. URL consultato il 29 gennaio 2020.
Tutte le immagini sono con licenza.
Club Theologicum 
L’interessante articolo, in cui sono messi in luce gli aspetti fondamentali dell’Artificial Intelligence (AI), si inscrive nel confronto tra “AI forte” e “AI debole”. Agli albori della cibernetica, si pensava che l’AI dovesse replicare le funzionalità umane e quindi ragionare, comprendere ed elaborare concetti. Il fallimento di questo progetto portò a sviluppare le capacità dell’AI indipendentemente da quelle umane.
Luciano Floridi afferma che la meraviglia dell’AI è nella capacità di eseguire compiti complessi “ad intelligenza zero”: un lavoro è reso così semplice che può essere eseguito anche da una macchina. In precedenza, però, quel lavoro era eseguito da un uomo intelligente o stupido? Una calcolatrice esegue una radice quadrata velocemente, mentre noi non ricordiamo più il procedimento (algoritmo) studiato alle medie. La calcolatrice è intelligente, stupida o sfrutta l’intelligenza di chi ha scoperto il procedimento risolutore? Quante operazioni eseguiamo senza sapere o immaginare cosa realmente stiamo operando? Noi tutti guidiamo, ma chi sa spiegare il funzionamento della centralina elettronica della propria autovetture oppure come fanno il cellulare o il computer a collegarsi ad una rete Wifi? Non lo sappiamo, operiamo a “intelligenza zero” e non ci riteniamo stupidi per questo.
Se un bambino si avvicina ad una fonte di calore, viene avvertito: «attento, scotta! è caldo! non toccare che ti bruci!». Dati esperienziali che aiutano alla comprensione e, speriamo, alla prevenzione di eventi traumatici. Un dispositivo digitale che attraverso un sensore determini una temperatura anomala e, contemporaneamente, con un raggio infrarosso (come nei telecomandi) rilevi una concentrazione imprevista di calore, e cataloghi attraverso un algoritmo (=avvertimento dell’adulto) questi fenomeni come “fuoco”, si può dire (come afferma Cosimo Accoto) che abbia acquisito “dati esperienziali” semantizzandoli come “fuoco”? La capacità di esperire il mondo non è la prima condizione per elaborare un “pensiero”?
Grazie a sofisticati algoritmi di deep learning, le AI sono istruite per creare autonomamente “categorie di dati”, cioè valorizzare un dato (un’esperienza) secondo una scala a loro propria, similmente come nei giudizi morali di un essere umano. Si dirà: «ma c’è un uomo che programma l’AI!»; certo, però l’influenza del programmatore sull’AI è analoga all’ambiente socio-economico in cui è cresciuto il programmatore stesso.
Gli algoritmi sono procedimenti logico-matematici e la matematica è il linguaggio con cui descriviamo l’universo. Per questo possiamo sviluppare “modelli matematici” che descrivono fenomeni naturali e sociali, come le previsioni del tempo. Attraverso questi modelli, l’AI può conoscere il mondo esterno e reagire ad esso (dai semplici dispositivi come l’ABS sulle autovetture ai dispositivi di guida automatica dell’ATR-300 o dello Shuttle NASA).
In conclusione, il problema non è se l’AI possa sviluppare un’«intelligenza artificiale reale», ma quale intelligenza possa emergere dall’elettronica digitale così come emerge la mente dalla chimica del cervello.
"Mi piace"Piace a 1 persona
Grazie mille Edoardo
"Mi piace""Mi piace"