Gigi Beltrame

Perché la precisione quasi perfetta dell'AI non basta

Ci sono lavori per cui ci si può accontentare di avere qualche errore, altri dove non è assolutamente accettabile

Negli ultimi due anni abbiamo assistito a un entusiasmo quasi religioso verso l'intelligenza artificiale generativa. Ogni settimana un nuovo modello promette performance "quasi umane", con tassi di accuratezza che sfiorano il 99%, il 99,9%, perfino il 99,99%. Numeri che, letti su un comunicato stampa, sembrano la soglia dell'infallibilità. Ma c'è un problema di fondo che il settore tecnologico fatica ad ammettere: in molti contesti professionali, il 99,99% di precisione non è un traguardo. È un fallimento.
Facciamo un esempio concreto. Immaginiamo un agente di intelligenza artificiale che genera bilanci aziendali con un tasso di errore dello 0,01%. Sembra straordinario, vero? Eppure, se quell'agente elabora un bilancio composto da 50.000 voci contabili, una cifra tutt'altro che insolita per una media azienda, lo 0,01% di errore si traduce in cinque voci sbagliate. Cinque numeri che non tornano. E in contabilità, un numero che non torna non è un dettaglio: è una falla che può invalidare l'intero documento.

Un bilancio non è un test scolastico dove il 99% è un voto eccellente. È un documento legale, soggetto a revisione, che deve quadrare al centesimo. Le partite doppie, per definizione, devono bilanciarsi esattamente: dare deve essere uguale ad avere. Non esiste una "quasi uguaglianza" in contabilità. O il bilancio torna, o non torna. E se non torna, non importa quanto sia stata sofisticata l'intelligenza artificiale che lo ha generato: quel documento è inutilizzabile, va rifatto, e nel frattempo ha generato un danno, non un vantaggio.
Lo stesso vale per le revisioni contabili, gli audit finanziari, le dichiarazioni fiscali. Sono processi dove l'errore non è semplicemente "accettabile in piccola percentuale": è strutturalmente incompatibile con la natura stessa dell'attività. Un revisore che certifica un bilancio con una riserva del tipo "è corretto al 99,99%" non sta facendo il suo lavoro. Sta semplicemente spostando il rischio su qualcun altro, spesso ignaro.

Il settore finanziario non è l'unico dove la soglia di tolleranza all'errore è, di fatto, pari a zero. Pensiamo alla sanità: un sistema di intelligenza artificiale che supporta la prescrizione di farmaci non può permettersi margini di errore, perché un dosaggio sbagliato può costare la vita a un paziente. Un tasso di errore dello 0,01% su migliaia di prescrizioni giornaliere, in un grande ospedale, significa comunque decine di errori potenzialmente letali all'anno.
Nell'aviazione, i sistemi di controllo del traffico aereo assistiti da IA devono avere margini di errore pressoché inesistenti: la differenza tra 99,99% e 100% può significare la differenza tra un volo sicuro e una collisione. Nel settore legale, un contratto generato o revisionato da un'IA con errori nelle clausole può invalidare accordi milionari o esporre un'azienda a cause legali devastanti. Nella cybersicurezza, un sistema che rileva minacce con il 99,99% di accuratezza lascia comunque sfuggire attacchi che, su scala aziendale, possono tradursi in violazioni di dati catastrofiche.

In tutti questi casi, il problema non è la percentuale in sé, ma la scala di applicazione. Più un sistema di AI viene utilizzato su larga scala, più anche percentuali di errore infinitesimali si traducono in numeri assoluti significativi. È la legge dei grandi numeri applicata al rischio: se fai un milione di operazioni, anche un errore su un milione diventa un evento quotidiano.
Qui arriva il punto che spesso viene trascurato nel dibattito pubblico sull'AI: esistono moltissimi workflow aziendali dove un tasso di successo del 50%, se non addirittura inferiore, è non solo accettabile, ma rappresenta già un enorme valore aggiunto.
Pensiamo alla generazione di prime bozze di email di marketing. Se un agente AI propone dieci varianti di oggetto per una newsletter e solo cinque risultano efficaci o utilizzabili, quel 50% di "successo" ha comunque fatto risparmiare ore di lavoro creativo a un copywriter, che ora deve solo scegliere e raffinare, non partire da zero. Lo stesso vale per la generazione di idee in fase di brainstorming: un'AI che propone venti concept di campagna pubblicitaria, di cui magari solo un terzo sono validi, ha comunque fornito un punto di partenza prezioso che accelera il processo creativo.

---

Nella ricerca preliminare di informazioni, penso a un analista che deve farsi un'idea generale su un mercato, un concorrente, una tendenza, un agente AI che fornisce risposte corrette nel 70% dei casi è già straordinariamente utile, perché il compito umano successivo di verifica e approfondimento è comunque previsto e preventivato. Nessuno si aspetta che una ricerca esplorativa sia perfetta al primo colpo: è un punto di partenza, non un punto di arrivo.
Allo stesso modo, nella generazione di codice per prototipazione rapida, uno sviluppatore che usa un assistente AI per scrivere uno script sa benissimo che dovrà testarlo e correggerlo. Se l'intelligenza artificiale gli fa risparmiare il 50% del tempo di scrittura iniziale, anche con errori da correggere, il valore netto è comunque enorme. Non si userebbe mai lo stesso approccio probabilistico per scrivere il codice che controlla, ad esempio, i sistemi di frenata di un'automobile.

---

Il rischio più grande che corriamo oggi non è che l'intelligenza artificiale sbagli. È che applichiamo lo stesso standard di accettabilità a contesti completamente diversi tra loro. Le aziende tecnologiche, nella loro corsa a comunicare risultati impressionanti, tendono a presentare un singolo numero - il tasso di accuratezza - come se fosse universalmente significativo, indipendentemente dal contesto in cui viene applicato.
Ma la domanda che un'azienda dovrebbe porsi prima di adottare un agente IA per un determinato workflow non è "quanto è accurato questo sistema?", ma piuttosto "quali sono le conseguenze di un errore in questo specifico contesto, e quante volte questo errore si ripeterà su scala?". Sono due domande completamente diverse, che richiedono risposte completamente diverse.

---

Un errore nella generazione di un post sui social media è fastidioso, forse imbarazzante, ma raramente catastrofico: si corregge, si cancella, si ripubblica. Un errore in un bilancio consolidato di una società quotata in borsa può portare a sanzioni, class action, perdita di fiducia degli investitori, dimissioni di dirigenti. La differenza non sta nella tecnologia utilizzata, ma nell'irreversibilità e nella gravità delle conseguenze.
Quello che serve, oggi, non è più entusiasmo acritico né un rifiuto paranoico della tecnologia. Serve maturità nel distinguere i contesti. Le aziende che stanno affrontando con successo l'integrazione dell'intelligenza artificiale nei propri processi sono quelle che hanno sviluppato una mappatura chiara: dove l'errore è tollerabile e persino previsto come parte del processo creativo o esplorativo, e dove invece serve un controllo umano assoluto, una verifica sistematica, un secondo livello di validazione che non può essere delegato a un algoritmo, per quanto sofisticato.

---

In ambito contabile e finanziario, questo significa che l'AI può essere un alleato potentissimo nella fase di raccolta dati, nella prima categorizzazione delle transazioni, nell'identificazione di anomalie da sottoporre a verifica umana. Ma la certificazione finale, la firma su un bilancio, la validazione di una revisione contabile, devono rimanere ancorate a processi di controllo rigorosi, dove l'errore non è statisticamente accettabile, è semplicemente vietato.
La lezione da trarre, in definitiva, è che la tecnologia va valutata non in astratto, ma in relazione al danno potenziale che un suo errore può causare. Il 99,99% può essere un risultato straordinario in un contesto e un rischio inaccettabile in un altro. La vera competenza, oggi, non sta nel costruire l'AI più accurata in assoluto, ma nel sapere esattamente dove quella soglia di accuratezza, per quanto alta, semplicemente non basta.

---