Questa volta l’idea che vi propongo non è uno strumento o un piccolo trucco, ma una riflessione, che potrà aiutarvi quando userete uno dei sistemi di intelligenza artificiale come ChatGPT, Gemini, Claude o altri.

Sul Corriere della Sera, il quotidiano italiano di maggior tiratura, il 1° maggio è uscito un articolo con inizio in prima pagina, e con una pagina e mezza di testo, con un titolo ad effetto che vedete nell’immagine qui sotto.

Sottotitolo: “Intervista a Claude, una delle più avanzate applicazioni di intelligenza artificiale”. La firma è di Walter Veltroni.

Molti ne hanno parlato, forse avrete letto l’articolo, ne approfitto per qualche considerazione.

Claude è uno dei migliori chatbot (software sul tipo del famoso ChatGPT). È un programma che crea dei testi sulla base di una domanda (in gergo prompt) a cui risponde con criteri di probabilità: crea il testo più probabile a partire dalla domanda 1 . Senza alcun accesso alla realtà e senza alcun criterio di verità.

Ci si stupisce delle risposte appropriate alle domande, senza rendersi conto che quelle risposte sono esattamente guidate dalle domande stesse. Non c’è un dialogo, ma un flusso di pensieri. Quelli dell’autore, facilitati ed espansi dal chatbot.

Non c’è nel dialogo un “altro” con una propria personalità, una propria idea, uno che possa controbattere e proporre un proprio svolgimento del discorso, o qualsiasi elemento nuovo.

Ecco quindi che la (falsa) conversazione viaggia su un binario preciso: il sistema di intelligenza artificiale restituisce all’intervistatore le sue stesse idee, ampliandole e rendendole più attraenti e fluide. Questo è uno dei problemi più grandi quando abbiamo a che fare con questi strumenti: ci danno l’impressione di arricchire la conoscenza ma la tengono entro una “bolla”, a volte confermando i nostri errori. Abbiamo l’impressione che il sistema “conosca” e di conseguenza anche noi, ma è solo un’illusione. Si chiama “Epistemia” (termine coniato dal Prof. Walter Quattrociocchi, ma già entrato nella Treccani).

Non c’è qui una intelligenza, ma c’è solo un modello di linguaggio che asseconda la domanda proponendo un testo il più possibile coerente e fluente.

Un miraggio, come se ci fosse qualcosa, che invece non c’è.

Giustamente qualcuno osserva che questi “giochini” si facevano tre anni fa, quando apparve ChatGPT, per vedere l’effetto. Ma oggi non è soltanto spreco di carta, e di tempo.

Perché il tutto sul Corriere è presentato come intervista a un qualche essere che “sente”. Senza spiegare nulla del metodo e del funzionamento.

E questo è ingannevole, e dannoso, in un momento in cui è importante per tutti capire con cosa (e non con chi!) abbiamo a che fare quando utilizziamo un sistema di intelligenza artificiale di quel tipo.

Ignoranza entusiasta? O meglio inganno voluto per conquistare i lettori? Propenderei per la seconda.

La Lettera Aperta

Nel frattempo, e giustamente, una quarantina di accademici, guidati da Enrico Nardelli (Univ. Roma Tor Vergata) e Walter Quattrociocchi (Sapienza di Roma) firmano una Lettera Aperta per fare chiarezza sull’intelligenza artificiale. Dicono tra l’altro:

Invitiamo la comunità accademica dell’informatica a contribuire attivamente a questa opera di chiarimento e formazione. Spiegare con precisione che cosa queste tecnologie sono davvero, e che cosa non sono, è un’opera di alfabetizzazione che è parte integrante del nostro lavoro di ricercatori e docenti.

Vi consiglio di leggerla.

Se volete poi un’analisi ben fatta dell’articolo, leggete quanto dice Martino Pirella.

Note

  1. Sarebbe più completo dire “a partire dalla domanda e dal contesto”. Il contesto comprende per esempio la conversazione che precede, la memoria di altre conversazioni, eventuali informazioni su chi ha posto la domanda. Ma la sostanza rimane: il sistema inizia dalla domanda e poi costruisce progressivamente i suoi testi in maniera probabilistica, collegando una frase alla successiva. ↩