La “macchina pensante”
Cominciamo col dire che nessuno sa esattamente cosa sia l’intelligenza (e quindi cosa significhi “pensare”). Esistono decine di definizioni e teorie, ma nessuna davvero convincente e universalmente accettata [8]. Di conseguenza, cosa sia una “intelligenza artificiale” è ancora più oscuro.
Tuttavia, sono stati proposti numerosi schemi di classificazione dell’AI. In particolare, ci concentreremo sulle relazioni tra i concetti di “AI ristretta”, “AI generale”, “AI debole” e “AI forte”.
Il concetto di “AI debole” è inteso, dalla comunità scientifica e dalle aziende che lavorano in quel campo, in vari modi:
- Equivale ad “AI ristretta”: AI che implementa una parte limitata della mente e quindi è focalizzata su un compito specifico. L’AI ristretta può essere classificata come “Limitata a un singolo compito ben definito. La maggior parte dei moderni sistemi di AI rientrerebbe in questa categoria” [1].
- Oppure, basandosi sull’argomentazione di Searle [5] (vedi più avanti), una macchina che simula un modello della mente umana. Noi adotteremo questa definizione.
.
Anche il concetto di “AI forte” può essere interpretato in vari modi:
- Equivale a “AI generale” (AGI): una macchina con la capacità di applicare l’intelligenza a qualsiasi problema, piuttosto che a un solo problema specifico.
- Oppure è una Super Intelligenza Artificiale (ASI): una macchina con un’intelligenza di gran lunga superiore a quella dell’essere umano medio.
- Oppure è una coscienza artificiale: una macchina dotata di coscienza, sensibilità e mente. Searle usa “AI forte” in questo senso: “Secondo l’AI forte, la simulazione è davvero una mente; secondo l’AI debole, la simulazione è un modello della mente” [2]. Anche Russel e Norvig definiscono l’AI forte in modo similare [3]. Noi adotteremo questa definizione.
La “stanza cinese” di Searle
Si noti che Searle contesta che una “AI forte” (ossia una AI cosciente) sia possibile. Da questo punto di vista, il suo famoso “Chinese Room Argument” [4] è molto interessante. Si tratta di un “esperimento del pensiero”, in cui Searle si immagina da solo in una stanza chiusa, intento a eseguire le istruzioni contenute in un precisissimo manuale di traduzione, che gli permette di rispondere a domande scritte in cinese passate attraverso una porta. Searle non conosce il cinese, eppure, seguendo le istruzione del libro che gli consentono di manipolare simboli e numeri proprio come farebbe un computer, è in grado di rispondere alle domande e inviare le risposte, scritte anch’esse in cinese, all’esterno della stanza; in questo modo, chi si trova fuori dalla stanza è indotto a credere che all’interno ci sia qualcuno che parla cinese.
La conclusione che Searle trae da questo ragionamento è che, programmando opportunamente un computer, si può imitare la comprensione del linguaggio, ma ciò non implica una reale comprensione. Pertanto, il Test di Turing, utilizzato per valutare se una macchina può conversare in modo indistinguibile da un essere umano, non è però appropriato per testare se un’AI sia davvero “forte”. In sostanza, portando questa conclusione ai giorni nostri, anche se ChatGPT conversa come un essere umano, si tratta comunque di una mera simulazione e non è possibile in alcun modo inferire che dietro ci sia un’entità cosciente. Questo è anche l’orientamento della maggior parte (ma non della totalità) degli esponenti della comunità scientifica e industriale.
Il pappagallo stocastico
Il “Pappagallo stocastico”, dall’inglese stochastic parrot, è un’espressione utilizzata nel dibattito sull’intelligenza artificiale per descrivere la presunta incapacità dei sistemi di elaborazione del linguaggio (gli LLM, come ChatGPT) di generare autonomamente risposte o pensieri che possano essere considerati propri [6]. L’espressione è stata resa famosa nel 2021 da un celebre articolo scientifico scritto da Timnit Gebru, Emily M. Bender e altri [7][11].
Secondo questa visione, questi modelli di AI elaborano esclusivamente la distribuzione statistica delle forme linguistiche (in sostanza, le parole), senza necessariamente collegarle a un mondo esterno o a un’intenzione interna; inoltre, gli esseri umani hanno la naturale tendenza ad attribuire intenzionalità e coerenza ai testi prodotti in modo sufficientemente fluente da una qualsiasi entità con la quale interagiscono, e ciò implica che l’interpretazione e il significato siano in larga misura “forniti” dall’utente stesso, piuttosto che dal modello di AI (l’intenzionalità che si riscontra nelle risposte fornite dai modelli di AI sarebbe quindi una illusione creata dall’utente stesso).
D’altra parte, posizioni vicine a quelle di studiosi come Nello Cristianini [10], e più in generale a una concezione ampia dell’intelligenza artificiale statistica, contestano questo tipo di riduzionismo, affermando che i modelli di AI, mettendo insieme miliardi di dati, hanno sviluppato la capacità di creare un proprio “catalogo di idee” e concetti astratti; inoltre, un semplice pappagallo ripete solo ciò che ha già sentito mentre i modelli moderni riescono invece a gestire e risolvere configurazioni di testo e problemi del tutto nuovi e mai visti prima durante il loro addestramento; infine, le abilità complesse dell’AI emergono dall’insieme delle sue connessioni e non sono riducibili alla singola operazione matematica di base.
Insomma, secondo questa visione, dobbiamo abituarci a pensare a forme di intelligenza di natura diversa dalla nostra. L’AI attuale si trova in una zona intermedia: non possiede una coscienza o un’interiorità umana (in altri termini, si tratta comunque di “AI debole” nel senso di Searle), ma ha superato di gran lunga il livello di un banale ripetitore meccanico.
Il dibattito, in fondo più filosofico che scientifico, tra queste visioni opposte è molto acceso e tuttora in corso.
Macchine coscienti?
Alziamo ulteriormente il livello di astrazione: definire cosa sia l’intelligenza è un problema banale rispetto a descrivere cosa sia la “coscienza”. Tuttavia, la possibilità che una macchina, in astratto, possa sviluppare una coscienza (che sia quindi una “AI forte” secondo Searle), è un tema dibattuto da molto tempo. In sintesi, chi pensa che un’AI possa essere cosciente (per esempio, il filosofo David Chalmers [9]) sostiene che:
- La coscienza potrebbe dipendere dal modo in cui un sistema elabora informazioni, non dal fatto che sia biologico.
- Se il cervello produce coscienza attraverso processi fisici, ossia se la coscienza è un puro fatto fisico e non metafisico, in teoria anche una macchina potrebbe produrla.
- Non possiamo osservare direttamente la coscienza degli altri: la deduciamo dal loro comportamento. Lo stesso principio potrebbe valere per un’AI.
- Alcune teorie che tentano di spiegare la natura dell coscienza umana, come Global Workspace [12] e Integrated Information Theory [13], potrebbero essere applicabili anche a sistemi artificiali.
- Un’eventuale coscienza artificiale potrebbe essere molto diversa da quella umana.
.
Il problema principale è che non abbiamo ancora un metodo affidabile per distinguere un’AI che prova realmente qualcosa da un’AI che è semplicemente molto brava a comportarsi come se provasse qualcosa. E, peraltro, è difficile dire se tale metodo sarà mai trovato (o, addirittura, se sia fisicamente possibile trovarlo). Al momento, quindi, siamo nel campo della pura speculazione filosofica.
Classificazione dell’AI
AI debole (secondo Searle) | AI forte (secondo Searle) | |
AI ristretta | AI che implementa un modello di una parte limitata della mente e quindi è focalizzata su un compito specifico. Tutti gli attuali sistemi di AI rientrano in questa categoria. | AI che implementa una vera e propria mente (ossia, è cosciente), ma tale mente è in qualche modo “limitata” (si pensi a una persona con un danno cerebrale) o non completamente sviluppata (si pensi al cervello dei bambini) e quindi focalizzata su un compito specifico. Impossibile per la maggior parte dei ricercatori, ma secondo alcuni autori sarebbe invece possibile. |
AI generale (AGI) | AI che implementa un modello di mente completa, e che quindi può applicare l’intelligenza a qualsiasi problema. I futuri sistemi di AI potrebbero rientrare in questa categoria, ma al momento non vi è alcuna certezza (sebbene, periodicamente, esponenti del mondo dell’industria che ruota intorno all’AI affermino di avere raggiunto l’AGI, con conseguente scia di polemiche da parte dei concorrenti…). Si noti che molti autori, parlando di “AI forte”, intendono AGI. | AI dotata di una vera e propria mente (ossia, è cosciente) e in grado quindi di applicare l’intelligenza a qualsiasi problema. Impossibile per la maggior parte dei ricercatori, ma secondo alcuni autori sarebbe invece possibile. |
Super Intelligenza Artificiale (ASI) | AI che implementa un modello di mente più sofisticato della stessa mente umana, che quindi può applicare l’intelligenza a problemi non accessibili agli esseri umani. Nella comunità scientifica c’è un ampio dibattito sulla fattibilità di questo tipo di AI. | AI dotata di una vera e propria mente (ossia, è cosciente) e in grado di risolvere problemi non accessibili agli esseri umani. Impossibile per la maggior parte dei ricercatori, ma secondo alcuni autori sarebbe invece possibile. |
Nella prossima puntata…
La parte 3 tornerà sulla terra e descriverà gli approcci model driven e data driven.
Riferimenti
[1] Bartneck, C., Lütge, C., Wagner, A., Welsh, S. (2021). An Introduction to Ethics in Robotics and AI. SpringerBriefs in Ethics. Cham: Springer International Publishing. doi:10.1007/978-3-030-51110-4. ISBN 978-3-030-51109-8. S2CID 224869294.
[2] Do AI systems have moral status? – Brookings Institution, accesso del 9/6/2025, https://www.brookings.edu/articles/do-ai-systems-have-moral-status/
[3] Russell, S. J., Norvig, P. (2021), Artificial Intelligence: A Modern Approach (4th ed.), Hoboken, NJ: Pearson, ISBN 978-0-13-461099-3
[4] Stanford Encyclopedia of Philosophy, The Chinese Room Argument, https://plato.stanford.edu/entries/chinese-room/
[5] John Searle, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/John_Searle
[6] Pappagallo stocastico, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/Pappagallo_stocastico
[7] E. Bender, T. Gebru, A. McMillan-Major, et al., On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? FAccT ’21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency
Pages 610 – 623, https://doi.org/10.1145/3442188.344592
[8] Intelligenza, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/Intelligenza
[9] David Chalmers, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/David_Chalmers
[10] Nello Cristianini, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/Nello_Cristianini
[11] Emily M. Bender, Wikipedia, accesso del 9/9/2026,
https://it.wikipedia.org/wiki/Emily_M._Bender
[12] Global Workspace Theory, Wikipedia, accesso del 14/9/2026,
https://it.wikipedia.org/wiki/Teoria_dello_spazio_di_lavoro_globale
[13] Integrated Information Theory, Wikipedia,
https://it.wikipedia.org/wiki/Teoria_dell%27informazione_integrata
Update
14/9/2026: prima pubblicazione.
