AI Generativa: opportunità e rischi per la sicurezza informatica

Massa (Proofpoint): GenAI, un'arma a doppio taglio per produttività e sicurezza

Emiliano Massa, Area Vice President, Sales SEUR di Proofpoint, ha sottolineato come l'AI generativa (GenAI) rappresenti una tecnologia ambivalente, capace di migliorare la produttività ma anche di introdurre significativi rischi per la sicurezza.
La GenAI come strumento per attacchi BEC:
I criminali informatici sfruttano la GenAI per superare le barriere linguistiche, rendendo gli attacchi BEC (Business Email Compromise) più efficaci anche in paesi non anglofoni. Con la GenAI, i phishing sono ora più sofisticati, eliminando i tradizionali segnali di allarme come errori grammaticali. Massa avverte: "È fondamentale non fidarsi di nessun mittente, anche se l'email sembra provenire da qualcuno di conosciuto o autorevole."

Rischi di Data Leak con la GenAI:
L'uso della GenAI per aumentare la produttività può portare alla condivisione involontaria di dati sensibili. Gli utenti spesso non sono consapevoli che i dati inseriti nelle chatbot di AI possono essere utilizzati per migliorare le prestazioni del sistema, rischiando così la proprietà intellettuale e la violazione dei dati.

Allucinazioni della GenAI:
Le risposte generate dalla GenAI possono essere inaccurate o completamente false, un fenomeno noto come allucinazione dell'AI. Massa consiglia: "Un sano scetticismo è d'obbligo su tutti i dati provenienti da una chatbot di AI."

Deepfake facilitati dalla GenAI:
La GenAI ha semplificato la creazione di deepfake, immagini o video falsi che possono essere usati per frodi, impersonando figure aziendali. Massa sottolinea l'importanza di educare i dipendenti sui deepfake e di stabilire processi di verifica interni.
Formazione come pilastro della sicurezza:
Secondo Massa, la formazione degli utenti deve essere centrale nella strategia di sicurezza aziendale. Con l'aumento dell'uso delle chatbot di AI, è cruciale che i dipendenti comprendano sia i benefici che i pericoli, per proteggere se stessi e l'organizzazione.

In conclusione, mentre la GenAI promette di rivoluzionare vari settori, è essenziale affrontare i suoi rischi con una consapevolezza critica e misure di sicurezza proattive, integrando la formazione continua come parte fondamentale della strategia di sicurezza informatica.