ChatGPT diventa mito e l’uomo smette di pensare perdendo così l’autonomia mentale
Umberto Eco, già in La struttura assente, ci metteva in guardia contro l’illusione che un sistema di segni possa contenere senso di per sé, senza un atto ermeneutico. Analogamente, Barthes, nelle sue Mythologies, smascherava la forza mitopoietica del discorso che si traveste da naturale, trasformando l’arbitrario in necessità, in miti culturali. E cosa c’è di più mitico oggi di una IA come ChatGPT che risponde sempre – anche quando non sa – e di un uomo che lo segue come fosse oracolo? È il “simulacro del sapere” assunto come verità a prescindere. Non senza conseguenze. La cronaca è piena di casi.
Di recente, un sessantenne timoroso degli effetti del cloruro di sodio in cucina ha chiesto a ChatGPT un possibile sostituto.
L’algoritmo propone un’alternativa chimicamente plausibile (in altri contesti), ma in questo caso assurda: il bromuro di sodio. L’uomo ubbidisce senza porsi domande, si intossica e finisce in ospedale. Sembra il soggetto di un racconto di Ballard, o un paradosso da manuale di filosofia dell’azione. Drammatico ed emblematico. Assistiamo al mito dell’IA come logos assoluto, come sostituto del discernimento, come nuovo “Padre che sa”. E ci dimentichiamo della lezione di Umberto Eco: il sapere non è accumulo di dati, ma esercizio interpretativo. Un testo – e ChatGPT è, in fondo, una gigantesca tessitura testuale – non si legge: si interpreta.
L’errore dell’uomo non è aver chiesto aiuto, ma aver sostituito il proprio giudizio con quello della macchina, accettando la risposta senza alcun pensiero critico. Sempre più spesso la collettività si lascia abbagliare da una nuova forma di superstizione razionale: non più il culto del santo, ma di ChatGPT e affini. L’IA diventa così un “simulacro del sapere”, scambiato per verità assoluta. Decisamente pericoloso.
Le intelligenze artificiali non sono né buone né cattive: sono strumenti che accelerano il lavoro, ma che richiedono sempre un lettore critico.
La sfida, oggi, è imparare a integrare IA e pensiero umano con lucidità e discernimento.
Postilla necessaria
Non è quel singolo caso del sessantenne intossicato che dovrebbe preoccuparci, ma piuttosto lo sciame di piccoli inciampi disseminati nella vita quotidiana della cultura e del linguaggio. Pensate all’avvocato di Firenze, ignaro che la sua collaboratrice aveva attinto a ChatGPT per le ricerche: in aula, ha citato sentenze della Cassazione… inesistenti, frutto delle allucinazioni della macchina. Un evento che scuote la fiducia: non si tratta di un errore formale, ma della prova che affidarsi ciecamente alla sintassi può significare consegnare la verità a un simulacro. E qui arriva il danno più sottile: il testo non è più scritto ma replicato. Le caption sui social sembrano uscite tutte dallo stesso stampino, pulite, pettinate, prive di vita. Nessuno le sporca più, nessuno le inventa. È il trionfo della lingua senza corpo, della cultura senza frizione. E quando la lingua si appiattisce, anche il pensiero si accascia.
L’appiattimento stilistico e cognitivo non è solo una questione estetica: è una questione di autonomia mentale. Se tutti parlano nello stesso modo, pensano nello stesso modo, decidere per loro diventa un gioco da ragazzi. Questo meccanismo, che passa inosservato nella quotidianità – nelle caption, nei prompt copiati, nelle risposte automatiche – è ciò che rende l’intelligenza artificiale non pericolosa in sé, ma pericolosa quando diventa sostituto e non supporto del pensiero critico.
Condivido in pieno l’analisi fatta, tanto è che nel mio libro “Giornale di Bordo 1938-2024” di aneddoti e riflessioni di una vita, ho usato come incipit il pensiero del filosofo Byung-Chul Han: “C’era una volta un fuoco, attorno il quale i primi esseri umani si ritrovarono ed iniziarono a raccontare storie. Ora quel fuoco si è spento e al suo posto si è acceso lo schermo di un cellulare. Questa è la fine della narrazione”.