Francesca Rossi (IBM): l'etica e la gestione dei rischi dell'IA fondamentali per le aziende

Capire le allucinazioni dell'AI, gestire i dati e pensare a una governance è fondamentale

Durante il World Business Forum abbiamo incontrato Francesca Rossi, IBM Fellow e AI Ethic Leader.

Cominciamo con una panoramica sull'intelligenza artificiale generativa. Cosa possiamo imparare da essa e quali sono i rischi associati? L'intelligenza artificiale presenta dei rischi: le aziende, dal suo punto di vista, sono consapevoli?

Le aziende oggi iniziano a comprendere che ci sono opportunità e rischi. Facendo un controllo dei task, è possibile mitigare il rischio, per esempio, evitando le cosiddette allucinazione, cioè il fatto che possano essere generati dei contenuti non corretti.

Quali sono le prospettive future per migliorare i sistemi attuali?

Il filtraggio dei contenuti a disposizione dei Large Language Model è già di per se una tecnica che può essere di aiuto. L'esclusione dei contenti non desiderati consente di evitare problemi, oltre all'addestramento con i file aziendali, che devono essere protetti. I dati sono fondamentali ed è necessaria una corretta governance. La ricerca in AI, informata da consultazioni multi-disciplinari, è una componente essenziale per mitigare i rischi dell'AI.

Alcuni di questi rischi sono legati ad attuali limitazioni della tecnologia, e la ricerca mira proprio a superare questi limiti. Inoltre, la ricerca può anche identificare nuovi metodi e tecniche per dare all'AI nuove abilità in un modo che sia allineato ai valori umani. L'allineamento ai valori umani è un problema molto sentito nell'ambito della ricerca per il quale, ad esempio, la combinazione di approcci di machine learning e basati su logica e conoscenza esplicita sono studiati sempre di più.

In che modo la governance gioca un ruolo fondamentale nell'affrontare i rischi legati all'IA generativa?

Esiste tutta una serie di soluzioni tecnologiche e non, che aiutano a mitigare questi rischi e capire quali dati usare. Un'attenta governance di tutti i passi necessari e un utilizzo dall'inizio fino alla soluzione finale permette di migliorare il controllo e la possibilità di mitigare gli errori e quindi i rischi.

Qual è l'approccio di IBM Watsonx per affrontare le sfide dell'IA generativa?

watsonx, che è la piattaforma IBM per supportare la realizzazione di soluzioni di Intelligenza Artificiale, generativa ma non solo.

Ha tre componenti, di cui uno è la governance, perchè per noi la governance è tanto importante quanto i dati e quanto il modello. Tutte componenti fondamentali per creare una soluzione di AI responsabile.

Come l'evoluzione dell'IA generativa sta influenzando l'etica e la governance aziendale?

L'evoluzione c'è stata attraverso i transformer che hanno aperto delle possibilità incredibili di rielaborazione. Si è spalancato così un mondo che ha di fatto come unico limite la fantasia. Per questo la governance dei dati aziendali diventa importante per ottenere risposte e simulazioni più pertinenti. In questo, l'etica non è un argomento da trascurare, perché dati sbagliati o fraudolenti, risposte non corrette possono generare problemi di cui fatichiamo oggi a immaginare le conseguenze. E poi ci sono tutti i rischi più tradizionali che continuano a esistere anche nell'AI generativa, come la spiegabilità, la trasparenza, la robustezza e via di seguito.

Quali sono gli impatti sociali dell'IA generativa, specialmente in termini di informazioni corrette e manipolazione dell'opinione pubblica?

I recenti sviluppi del deep learning hanno fornito all'AI ulteriori abilità di generare contenuti, oltre che saperli interpretare e soprattutto di saper gestire praticamente perfettamente il linguaggio umano, dal punto di vista sintattico.

L'AI generativa permette anche la creazioni dei cosidetti modelli fondazionali, cioè modelli di AI molto generali che possono poi essere usati come base per costruire velocemente modelli capaci di risolvere specifici problemi. Queste abilità espandono enormemente il panorama delle sue applicazioni, con grande potenziale nell'accelerare le scoperte scientifiche e la crescita economica, elevare il benessere della società e risolvere problemi globali di cruciale importanza, quali quelli relative al clima e alla salute. Espande però anche le preoccupazioni e introduce nuovi rischi relativi alla generazione di contenuti pericolosi, la disseminazione di contenuti falsi ma plausibili e la protezione di dati sensibili o coperti da copyright. Può anche avere un impatto ancora più significativo sul lavoro umano, sull'educazione, sulle attività creative e sulla democrazia. Inoltre, questa tecnologia così potente può anche essere usata da attori malintenzionati o non informati in modo adatto che possono generare comportamenti non desiderati e pericolosi.

Quali sono gli altri rischi tradizionali associati all'IA generativa?

Restano poi ovviamente tutti in più i rischi più tradizionali, che continuano a esistere anche nell'AI generativa, cioè quelli legati alla fairness.

La spiegabilità, la trasparenza e la robustezza.

Come l'IA generativa influisce sulla privacy dei dati e sul flusso delle informazioni?

Capire dove le informazioni vanno a finire, anche dove finiscono i prompt con i quali interroghiamo i vari sistemi come ChatGPT ha un peso rilevante: dove sono le informazioni che inviamo come utenti? Vengono rese disponibile a tutti o riutilizzate? E il copyright? E i rischi si potrebbero moltiplicare se diventassero fonte di training, ad esempio. La prima cosa da fare è creare un ecosistema di fiducia, giustificata e informata, verso la tecnologia e i suoi usi. Questo può essere ottenuto progettando e adottando politiche e leggi basate sul rischio, in cui il rischio sia associato alle applicazioni dell'AI piuttosto che alla tecnologia per se, e imporre limiti e regole ai vari attori a seconda del loro ruolo nell'ormai complessa catena del valore dell'AI, che comprende (almeno) chi colleziona i dati, che li analizza, chi li usa per il training e il testing dei modelli fondazionali, chi costruisce i modelli più specifici sulla base di quelli fondazionali, che fornisce la soluzione basata su questi modelli e chi la usa.

Come possiamo affrontare la sfida dell'errore nell'analisi dei dati generati dall'IA?

Pensando a gestire correttamente i dati, alla trasparenza degli stessi nei processi, alla protezione dei dati personali. I rischi sono molteplici. Mi piace fare un esempio che è molto intuitivo. E' relativo ad un avvocato che, nel corso di un processo, ha chiesto a ChatGPT di trovare dei precedenti relativi alla causa da lui trattata, come avviene nei dibattimenti oltre oceano. Il sistema gli ha restituito una serie di documenti sintatticamente perfetti, peccato che, quando l'avvocato li ha sottoposti alla corte, il giudice ha rilevato che si trattava di materiale totalmente inventato dallo strumento di intelligenza artificiale. L'errore è di ChatGPT? No, l'errore è stato di questo avvocato che non era abbastanza cosciente dei limiti della tecnologia e non ha fatto un controllo accurato. Questo è un problema. Per un approccio responsabile allo sviluppo e all'uso dell'AI, le nuove generazioni devono essere formate per avere le competenze necessarie, ma anche per capire l'impatto che l'uso di queste competenze per creare nuova tecnologia può avere sulla società.

Per questo è necessario facilitare e incentivare un approccio multi-disciplinare alla formazione. Al riguardo, il ruolo delle Istituzioni è fondamentale per sviluppare un sistema formativo orientato alla multi-disciplinarietà sia nei percorsi universitari che nella ricerca accademica. Anche in questo caso, la collaborazione tra i diversi soggetti, pubblici e privati, può favorire la creazione di quelle competenze che saranno determinanti per il lavoro del futuro.