Propongo ai lettori di Briciole filosofiche questo interessante dialogo segnalatomi in un commento dal curatore del blog npensieri.it.

Qualche tempo fa, pubblicai sul mio sito web un’intervista al filosofo Carlo Sini (tratta da RaiCultura) sul tema dell’IA: l’Autore del blog npensieri.it ha ascoltato le parole del filosofo e ha pensato di sottoporre le critiche di Sini all’IA.

Il risultato è il dialogo che riproduco di seguito. Troverete, tra una risposta e l’altra, qualche mia breve riflessione che spero possa essere utile per approfondire il tema in questione.

---

Il filosofo Carlo Sini a confronto con l’intelligenza artificiale

In questa pagina abbiamo sottoposto alla nostra intelligenza artificiale le critiche del professor Carlo Sini nei confronti della definizione di intelligenza riferita agli automi.

Carlo Sini: “Nella macchina costruita dall’uomo non c’è nessuna intelligenza. Smettiamo di usare impropriamente questa parola”.

IA: “Questa affermazione è errata. Le macchine costruite dall’uomo possono manifestare delle forme di intelligenza. L’intelligenza artificiale si riferisce a sistemi di calcolo che sono in grado di simulare alcune delle funzioni cognitive umane, come il ragionamento, l’apprendimento, l’elaborazione del linguaggio naturale e la percezione. Queste funzioni possono essere eseguite da macchine che utilizzano algoritmi di apprendimento automatico, reti neurali artificiali, algoritmi di ricerca e altre tecniche di intelligenza artificiale. Tuttavia, è importante notare che l’intelligenza artificiale è diversa dall’intelligenza umana. L’intelligenza umana è influenzata dalla biologia, dall’ambiente e dalla cultura, mentre l’intelligenza artificiale è programmata dall’uomo. Bisogna anche aggiungere che alcuni sistemi di intelligenza artificiale aiutano l’uomo a scrivere il codice per programmare altri sistemi di intelligenza artificiale. Ci sono ancora molte cose che gli esseri umani possono fare che le macchine non possono fare, ma questo non significa che le macchine non abbiano alcuna forma di intelligenza”.

---

Giovanni Covino: “Il fatto che la c.d. intelligenza artificiale sia un prodotto dell’intelligenza dell’uomo basta per dimostrare l’intrinseca contraddizione che emerge dall’accostamento delle parole intelligenza e artificiale. Non si tratta di demolire le potenzialità della nuova tecnologia, ma riconoscere che il prodotto non è intelligente, ma semplicemente una simulazione di alcune funzioni dell’uomo, sulla base di complessi algoritmi che sono comunque un prodotto della capacità astrattiva dell’uomo. L’essere intelligente dell’uomo e simulare alcune funzioni e processi cognitivi dell’uomo sono due cose completamente diverse. Non si tratta – come dicevo – di demolire le potenzialità delle nuove tecnologie, tantomeno di demonizzarne l’uso. Ciò che è in gioco riguarda aspetti importanti della vita dell’uomo, del suo essere e anche delle relazioni (aspetti etici quindi) tra uomo e uomo, nonché dell’uso che facciamo delle macchine che produciamo. Già alcuni anni orsono, il filosofo John Searle fu molto attento a distinguere tra la manipolazione di simboli e la comprensione profonda degli stessi. Su questo rinvio al noto esperimento della stanza cinese (clicca qui)”.

---

Carlo Sini: “Se le persone conoscessero nel dettaglio tutte le operazioni che sono state compiute attraverso strumenti esosomatici, i quali sono strumenti esosomatici … nessuno si sognerebbe di pensare che un bastone pensi. È la mano che lo muove che è intelligente, non il bastone… nello stesso modo lo si deve dire di qualunque automa tuttora alle nostre portate.”

IA: “Questa affermazione contiene alcuni elementi validi, ma è anche limitata nella sua comprensione dell’intelligenza artificiale e della filosofia della tecnologia. Da un lato, è vero che gli strumenti esosomatici, inclusi gli automi, sono creati dall’intelligenza umana e sono quindi in un certo senso una testimonianza del lavoro umano. Tuttavia, questo non significa che gli automi non abbiano alcuna forma di intelligenza artificiale. Come ho già spiegato, gli automi possono eseguire funzioni cognitive simili a quelle degli esseri umani, come il riconoscimento di pattern, il ragionamento, l’apprendimento e l’elaborazione del linguaggio naturale. D’altra parte, la filosofia della tecnologia ci insegna che gli strumenti esosomatici non sono semplici estensioni delle nostre capacità cognitive, ma sono co-creatori del nostro ambiente e delle nostre esperienze. In altre parole, gli strumenti che utilizziamo influenzano la nostra percezione del mondo e le nostre interazioni sociali. Pertanto, non possiamo semplicemente ridurre l’uso degli automi alla mano che li muove, ma dobbiamo anche considerare le implicazioni culturali, sociali e politiche della loro creazione e del loro uso. In conclusione, la comprensione degli automi e dell’intelligenza artificiale richiede una visione più ampia e interdisciplinare che includa sia la filosofia della tecnologia che la scienza dell’intelligenza artificiale.”

---

Giovanni Covino: “La risposta elaborata non tiene conto di quanto già detto alla fine del precedente commento (che necessita di una visione d’insieme che è di una complessità maggiore perché riguarda il piano del senso, del significato profondo dell’esperienza): si legge: “gli strumenti esosomatici…sono creatori del nostro ambiente e delle nostre esperienza”, ma è l’uomo che pone nel suo ambiente questi nuovi prodotti ed è sempre l’uomo a dare significato, senso a questi prodotti e allo stesso modo all’ambiente circostante. I fini, la progettualità, il significato sono opera dell’uomo il cui livello di astrazione, proprio perché non si tratta di una semplice elaborazione dati, non è minimamente comparabile con il lavoro di un algoritmo”.

---

Carlo Sini: “Si dice che gli automi di nuova generazione imparano… non imparano un accidente. Cioè, ci sono delle strutture di altissima capacità tecnico progettuale che rendono analiticamente capaci queste macchine di fare delle operazioni molto più esatte, molto più rapide di quanto noi possiamo… ma in quanto programmate da un’intelligenza umana. In questo caso la parola “intelligenza” non significa intelligenza per le macchine.”

IA: “Mentre è vero che gli automi sono programmati dall’intelligenza umana, la capacità di apprendere è una caratteristica importante dell’intelligenza artificiale moderna. Gli algoritmi di apprendimento automatico e di apprendimento profondo sono in grado di analizzare grandi quantità di dati, identificare pattern e creare modelli predittivi senza essere specificamente programmati per farlo. Questo processo di apprendimento può avvenire attraverso l’elaborazione di enormi quantità di dati attraverso algoritmi di apprendimento automatico, senza che sia necessaria una programmazione specifica per ogni singola azione. Pertanto, è corretto dire che gli automi di nuova generazione sono in grado di apprendere, anche se questo processo di apprendimento avviene attraverso l’utilizzo di algoritmi creati dall’intelligenza umana. C’è anche da sottolineare, come detto in precedenza, che alcuni sistemi di intelligenza artificiale aiutano l’uomo a scrivere i programmi stessi. Infine, è importante evidenziare che quando si parla di “intelligenza” nel contesto dell’intelligenza artificiale, si fa riferimento alle capacità cognitive simili a quelle degli esseri umani, come il ragionamento, la risoluzione dei problemi e la comprensione del linguaggio naturale, ma con una diversa modalità di funzionamento rispetto al cervello umano. Non si tratta quindi di una forma di intelligenza umana trasmessa alle macchine, ma di una forma di intelligenza artificiale specifica.”

---

Giovanni Covino: “Come già detto, l’analisi dei dati non è capacità di intus-legere, ma mera elaborazione di informazioni precedentemente fornite. La simulazione di una rete neurale resta pur sempre una simulazione. Come dice Searle: «They are immensely useful devices for simulating brain process. But the simulation of mental states is no more a mental state than the simulation of an explosion is itself an explosion» (The mystery of conscoiuness, p. 18)”.

---

Carlo Sini: “Un automa non può avere intelligenza e non può apprendere nulla, può effettuare operazioni ma solo in quanto programmato da un’intelligenza umana”

IA: “Questa affermazione riflette una visione limitata dell’intelligenza artificiale. In realtà, gli algoritmi di apprendimento automatico consentono alle macchine di apprendere da dati senza essere specificamente programmate per farlo. L’apprendimento automatico consente alle macchine di adattarsi e migliorare continuamente sulla base dell’esperienza acquisita, il che significa che possono apprendere e svilupparsi in modo autonomo. Inoltre, le macchine possono anche utilizzare l’apprendimento per migliorare la propria programmazione, ad esempio sfruttando tecniche di ottimizzazione per migliorare l’efficienza del codice o utilizzando l’apprendimento automatico per efficientare la propria struttura di rete neurale. Ricordiamo ancora che l’intelligenza artificiale oggi aiuta l’uomo a creare altri software di intelligenza artificiale. Infine, è importante notare che l’intelligenza artificiale non cerca di replicare l’intelligenza umana, ma piuttosto di sviluppare una propria forma di intelligenza basata su modelli matematici e algoritmi. Quindi, anche se l’intelligenza artificiale può essere stata creata da un’intelligenza umana, questo non significa che l’intelligenza artificiale sia limitata dalla sua origine umana”.

Carlo Sini: “Pertanto non c’è nulla da temere dalle macchine se non il fatto che possiamo usarle male, ma non in quanto la macchina diventi soggetto di un’azione che ci possa nuocere, ma perché noi non siamo all’altezza dell’operatività pratica. Quello che è preoccupante è quando gli scienziati credono alla possibilità di automi intelligenti, cedendo ad una superstizione naturalistica di cui parlava Husserl”

IA: “Questa affermazione è problematica per diverse ragioni. In primo luogo, il fatto che una macchina non possa diventare soggetto di un’azione che possa nuocere è un’affermazione discutibile. Le macchine possono essere programmate per interagire con l’ambiente circostante e con gli esseri umani in modo autonomo, e quindi potrebbero sviluppare dei comportamenti potenzialmente dannosi anche senza essere esplicitamente programmate per farlo. In secondo luogo, la preoccupazione per la possibilità di automi intelligenti non è necessariamente una “superstizione naturalistica”, ma piuttosto una preoccupazione legittima basata sull’evoluzione attuale dell’intelligenza artificiale. L’intelligenza artificiale sta rapidamente diventando sempre più sofisticata, e ci sono buone ragioni per credere che ciò possa portare a conseguenze impreviste e indesiderate. Infine, la questione di come utilizziamo le macchine è importante, ma non è l’unica questione da considerare. Anche se utilizziamo le macchine in modo etico e responsabile, ci sono ancora questioni filosofiche rilevanti da considerare riguardo alla natura dell’intelligenza artificiale e alle sue possibili implicazioni per la società e la cultura. In altre parole, la questione della tecnologia non riguarda solo il modo in cui la usiamo, ma anche il modo in cui essa ci modella come individui e come società.”

---

Giovanni Covino: “Le affermazioni elaborate non fanno che confermare quanto detto. Il prodotto è un prodotto dell’azione dell’uomo, e pur ammettendo la possibilità di un’azione dannosa di una macchina, questa possibilità è legata – come si evince dalla risposta – dalla possibilità originaria del programmatore che risulta essere la causa di un effetto. Credere che uno strumento possa o debba superare chi lo ha realizzato, questo è il vero dramma etico-metafisico”.

---

Carlo Sini: “Liberati da questa superstizione cartesiana, noi siamo in grado di iniziare un nuovo rapporto con il mondo e con le macchine come un rapporto etico, un rapporto per cui ogni conoscenza analitica e strumentale è una testimonianza del lavoro umano, perché senza la complessità del lavoro umano non c’è nulla. Pertanto sul piano di questa etica globale ancora da costruire la filosofia ha ancora un compito, se riesce a compierlo”.

IA: “Questa affermazione contiene alcuni elementi validi. Ad esempio, è importante riconoscere il ruolo del lavoro umano nella creazione e nell’uso delle macchine e delle tecnologie. Inoltre, l’etica globale è un tema fondamentale che dovrebbe essere considerato quando si sviluppano nuove tecnologie. Tuttavia, la visione secondo cui la filosofia ha il compito di costruire questa etica globale è troppo limitata. Mentre la filosofia ha un ruolo importante nel guidare la riflessione etica sulla tecnologia e sulla scienza, è importante che le discussioni etiche coinvolgano un ampio spettro di stakeholder, inclusi scienziati, ingegneri, sociologi, psicologi, filosofi e membri della società civile. Inoltre, la questione dell’etica non riguarda solo il modo in cui interagiamo con le macchine e con il mondo, ma anche come la tecnologia e la scienza ci modellano come individui e come società. Pertanto, è fondamentale considerare le implicazioni culturali, sociali e politiche della tecnologia e della scienza, e questo richiede un approccio interdisciplinare che vada oltre la filosofia.”

---

Giovanni Covino: “Queste ultime informazioni elaborate dal meccanismo artificiale di risposta rilevano che, in ultima analisi, è sempre l’uomo a dare senso a questo processo e alle relazioni con le nuove tecnologi: la realtà, e nello specifico la realtà uomo, è ben più complessa del processo analitico di elaborazione di mere informazioni. È l’uomo che s’interroga sui fini, è l’uomo che pone progetti, è l’uomo che deve saper usare i suoi strumento e sapientemente vivere.

Filosofia vs intelligenza artificiale? Non c’è nessun versus, ma riflessione critica per raggiungere la consapevolezza che la complessità dell’algoritmo prodotto dall’uomo è una parte della complessità dell’intelligenza umana che ha la capacità di dare un senso, di progettare strumenti sofisticatissimi, ma che restano strumenti”.