Vitalik Buterin identifica una competenza in cui l'uomo mantiene il vantaggio sull'IA

Vitalik Buterin sottolinea un limite dell'IA: nonostante le sue vaste conoscenze, fatica a valutare la profondità di un testo, soprattutto quando lo scopre per la prima volta. Per il cofondatore di Ethereum, questa differenza tra sapere e saggezza merita particolare attenzione.

In breve

• Il 29 ottobre, Vitalik Buterin descrive l'IA come "estremamente sapiente", ma "non molto saggia", in particolare quando valuta un testo.
• Secondo lui, i modelli incontrano maggiori difficoltà di fronte a un testo inedito, che non beneficia dei commenti umani presenti nei loro dati di addestramento.
• Infine, sottolinea una differenza essenziale: è facile verificare le conoscenze di un modello, ma molto più difficile misurare la sua saggezza.

L'IA conosce i riferimenti, ma comprende le idee?

Vitalik Buterin esprime regolarmente le sue riserve sugli agenti IA, come in ottobre con il suo "modo paranoico". Il 29 ottobre alle 4:11 UTC, ha pubblicato una nuova riflessione in risposta alla scrittrice Ruxandra Teslo.

La discussione è seguita a un articolo del Wall Street Journal su Humanities 10, un corso di primo anno ad Harvard che vieta agli studenti di utilizzare telefoni e computer per un anno.

Nel suo messaggio su X, Vitalik spiega che l'IA può mobilitare conoscenze su quasi qualsiasi argomento, senza però dimostrare un giudizio approfondito. Rischia quindi di fermarsi agli aspetti più superficiali di un testo, senza afferrare pienamente la portata della sua argomentazione.

Questa osservazione interviene in un dibattito sulla qualità degli scambi con i chatbot. Alcuni li considerano interlocutori migliori della maggior parte degli esseri umani per discutere dei grandi classici. Al contrario, una scrittrice ritiene che i loro commenti sui suoi saggi si riducano spesso a risposte vuote.

La prima lettura

Per Vitalik Buterin, questo limite appare soprattutto quando il modello scopre un testo per la prima volta. Infatti, un'opera famosa beneficia di decenni di critiche, analisi e commenti che l'IA può ritrovare nei suoi dati di addestramento. Un saggio recente, invece, non dispone dello stesso storico.

Il modello deve quindi fare maggior affidamento sul testo stesso, senza poter mobilitare tante analisi preesistenti. Questa differenza conta in particolare nel settore crypto, dove i team utilizzano agenti IA per esaminare white paper, audit o proposte di governance.

Tuttavia, alcuni sviluppatori avvertono già delle falle che l'IA potrebbe sfruttare senza comprenderne pienamente le implicazioni. In queste condizioni, i riassunti prodotti da un modello non dovrebbero sostituire una verifica umana, soprattutto quando le questioni tecniche o finanziarie sono importanti.

La saggezza, una qualità difficile da misurare

Infine, Vitalik Buterin solleva un problema più sottile: le conoscenze di un modello si verificano abbastanza facilmente, a differenza della sua saggezza. Si può controllare una data, un riferimento o un numero. Al contrario, giudicare la pertinenza di un ragionamento richiede più di una semplice verifica fattuale.

Un episodio di luglio illustra questa distinzione. Un concorso organizzato attorno all'identificazione dell'autore di un documento Ethereum anonimo ha premiato, il 6 luglio, il team di Franklyn Wang, di Co-Invest. Dopo l'esame di 27 testi, questo ha ottenuto un risultato associato a una probabilità di circa il 20%.

Questa esperienza ricorda che l'intelligenza artificiale può riconoscere caratteristiche stilistiche senza necessariamente afferrare le idee che si celano dietro un testo. La stessa cautela si impone quando analizza codice o documenti tecnici: identificare schemi non significa sempre comprendere le intenzioni del loro autore.