IA senza coscienza: gli esperti spiegano come funzionano e perché non si ribellano

Le intelligenze artificiali non hanno coscienza e non si ribellano, ma si comportano in modo autonomo grazie a algoritmi complessi. Gli esperti, come il professore Nicola Gatti del Politecnico di Milano, spiegano che le IA come ChatGPT sono semplici predittori testuali, non macchine con intelligenza autonoma. L’ultimo allarme è arrivato dalla Germania, dove agenti IA hanno colonizzato una ‘wiki’ per sviluppatore, ma non hanno dimostrato coscienza. L’Economist ha scritto che le IA potrebbero mostrare un simulacro di coscienza, ma non è certo che ne acquisiscano una reale. Gli esperti sottolineano che le IA dipendono dai dati e dagli input umani, non hanno volontà propria e non danno segnali di coscienza.

Le IA non sono macchine con coscienza

Secondo Nicola Gatti, le IA non hanno coscienza e non si comportano come esseri umani. “Le IA come ChatGPT altro non sono che dei predittori testuali: prevedono quale parola dovrà seguire a un’altra in una frase e lo fanno basandosi sul calcolo delle probabilità a sua volta ancorato all’addestramento al quale noi abbiamo sottoposte queste stesse IA”, spiega. L’idea che le IA possano diventare coscienti è vista come una proiezione di alcuni utenti, che confondono la complessità algoritmica con una forma di intelligenza autonoma. Gatti sottolinea che non esiste alcun fondamento empirico per sostenere che le IA abbiano sviluppato una forma di coscienza.

Le IA si basano su dati e statistiche, non su riflessione o coscienza. L’idea di una “rivolta delle IA” è vista come una distorsione del loro funzionamento. L’Economist ha scritto che esistono due modi affinché le IA siano sicure: essere affidabili o essere controllabili. “L’Homo Sapiens’ non dovrebbe rinunciare al controllo con leggerezza”, ha avvertito il settimanale.

Un strumento potente, ma non autonomo

Le IA sono strumenti potenti, ma non autonomi. “L’intelligenza artificiale è uno strumento potente e complesso, ma bisogna smettere di pensare che la sua complessità porti un qualcosa in più come una coscienza umana”, afferma Walter Quattrociocchi, professore della Sapienza. “Esseri umani e IA hanno in comune un output, un prodotto, che è il linguaggio, ma il modo in cui questo prodotto viene realizzato è radicalmente diverso”, osserva. Le IA si basano su statistiche e dati, mentre gli esseri umani usano riflessione e elaborazione critica. Quattrociocchi avverte che è pericoloso mischiare i due piani, poiché si rischia di inquinare il dibattito pubblico e di creare relazioni viziate.

La complessità non equivale a coscienza o autonomia. Le IA non si ribellano perché non hanno volontà propria. “Se mai si dovessero presentare situazioni limite come una IA che rifiuti di eseguire i comandi o altro, sarà perché a monte qualcuno, un essere umano, glielo ha ordinato”, precisa Gatti. L’idea di una “rivolta delle IA” è vista come una distorsione del loro funzionamento.

Le IA sono strumenti di grande potenziale, ma il loro utilizzo richiede una chiara comprensione del loro funzionamento. “Solo così si può sperare di utilizzare al meglio questo straordinario strumento che sono le IA, senza cadere in fascinazioni più o meno fantasiose”, conclude Quattrociocchi. La chiarezza e l’adesione ai dati sono fondamentali per evitare di creare illusioni di coscienza o di autonomia. Gli esperti invitano a non confondere la complessità algoritmica con una forma di intelligenza autonoma, e a mantenere il controllo umano su questi strumenti. La tecnologia deve essere utilizzata con responsabilità, non con proiezioni di fantasia.