Best practice di cybersecurity per l'IA: affrontare una sfida a doppio taglio

Thu, 17 Oct 2024 12:28:03 Z

L'intelligenza artificiale sta già dimostrando il suo potenziale nel ridefinire quasi ogni aspetto della cybersecurity, nel bene e nel male.

Se c'è qualcosa che rappresenta la proverbiale arma a doppio taglio, potrebbe essere proprio l'IA: può agire come uno strumento formidabile per creare solide difese di cybersecurity, oppure comprometterle pericolosamente se usata come arma.

Perché la sicurezza dell'IA è importante?

Le organizzazioni devono comprendere sia le opportunità sia i problemi associati alla cybersecurity per l'IA, data l'ubiquità di tutte le forme di IA nel business globale. Il suo utilizzo da parte di attori malevoli è già motivo di preoccupazione.

Secondo McKinsey, l'adozione dell'IA da parte delle organizzazioni è salita al 72% nel 2024, rispetto a circa il 50% degli anni precedenti in più regioni e settori. Tuttavia, la natura complessa e gli ampi requisiti di dati dei sistemi di IA li rendono anche obiettivi primari per gli attacchi informatici. Ad esempio, i dati di input per i sistemi di IA possono essere manipolati in modo subdolo in attacchi avversari per produrre output errati o dannosi.

Un'IA compromessa può portare a conseguenze catastrofiche, tra cui violazioni dei dati, perdite finanziarie, danni reputazionali e persino danni fisici. Il potenziale di uso improprio è enorme, a conferma della necessità critica di solide misure di sicurezza per l'IA.

Una ricerca del World Economic Forum ha rilevato che quasi la metà dei dirigenti teme soprattutto che l'IA aumenti il livello di rischio derivante da minacce come il phishing. Il report sulla cybersecurity 2024 di Ivanti ha confermato queste preoccupazioni.

Nonostante i rischi, lo stesso report di Ivanti ha rilevato che i professionisti IT e della sicurezza sono in larga parte ottimisti sull'impatto della cybersecurity per l'IA. Quasi la metà (46%) la considera complessivamente positiva, mentre il 44% ritiene che il suo impatto non sarà né positivo né negativo.

Leggi di più: Report sullo stato della cybersecurity 2024 - Punto di svolta

Potenziali minacce informatiche legate all'IA

L'IA introduce nuovi vettori di attacco che richiedono difese specifiche. Alcuni esempi includono:

Hacking di siti: I ricercatori hanno scoperto che il modello linguistico di grandi dimensioni di OpenAI può essere riutilizzato come agente di hacking basato sull'IA, capace di attaccare autonomamente i siti web. I criminali informatici non hanno bisogno di competenze di hacking, ma solo della capacità di fornire all'IA i prompt corretti per farle svolgere il lavoro sporco.
Data poisoning: Gli aggressori possono manipolare i dati utilizzati per addestrare i modelli di IA, causandone il malfunzionamento. Ciò può comportare l'inserimento di punti dati falsi che influenzano il modello inducendolo ad apprendere pattern errati o a dare priorità a minacce inesistenti, oppure la modifica sottile di punti dati esistenti per orientare il modello di IA verso risultati vantaggiosi per l'aggressore.
Tecniche di evasione: L'IA potrebbe essere utilizzata per sviluppare tecniche in grado di eludere il rilevamento da parte dei sistemi di sicurezza, ad esempio creando email o malware che non appaiono sospetti agli esseri umani ma attivano vulnerabilità o aggirano i filtri di sicurezza.
Social engineering avanzato: Poiché può analizzare grandi dataset, un'IA può identificare i target in base a determinati criteri, come comportamenti passati vulnerabili o suscettibilità a specifiche truffe. Può quindi automatizzare e personalizzare un attacco utilizzando informazioni pertinenti raccolte dai profili sui social media o da interazioni precedenti, rendendolo più credibile e più propenso a ingannare il destinatario. Inoltre, l'IA generativa può redigere messaggi di phishing senza errori grammaticali o di utilizzo, facendoli apparire legittimi.
Attacchi denial-of-service (DoS): L'IA può essere utilizzata per orchestrare attacchi DoS su larga scala, più difficili da contrastare. Analizzando le configurazioni di rete, può rilevare vulnerabilità e quindi gestire le botnet in modo più efficace nel tentativo di sovraccaricare un sistema con il traffico.
Deepfake: L'IA può generare imitazioni visive o sonore convincenti di persone per attacchi di impersonificazione. Ad esempio, potrebbe imitare la voce di un dirigente di alto livello per indurre i dipendenti a trasferire denaro su conti fraudolenti, condividere informazioni sensibili come password o codici di accesso, oppure approvare fatture o transazioni non autorizzate. Se un'azienda utilizza il riconoscimento vocale nei propri sistemi di sicurezza, un deepfake ben realizzato potrebbe ingannare queste protezioni e accedere ad aree o dati protetti. Una società di Hong Kong è stata derubata di 26 milioni di dollari tramite una truffa basata su deepfake.

Una minaccia "soft" presentata dall'IA è la compiacenza. Esiste sempre il rischio di fare eccessivo affidamento sui sistemi di IA, con la conseguente possibilità di ridurre il rigore nel monitoraggio e nell'aggiornamento. Una delle misure più importanti per proteggere un'azienda dai problemi legati all'IA è la formazione e il monitoraggio continui, sia che l'IA venga implementata nella cybersecurity sia in altre operazioni. Garantire che l'IA operi nell'interesse dell'organizzazione richiede una vigilanza costante.

Guarda: IA generativa per InfoSec e hacker: cosa devono sapere i team di sicurezza

Vantaggi della cybersecurity per l'IA

Le soluzioni di cybersecurity per l'IA offrono il valore più significativo a un'organizzazione nei seguenti modi:

Rilevamento delle minacce potenziato

L'IA eccelle nell'identificare pattern in vasti dataset per rilevare anomalie indicative di attacchi informatici con un'accuratezza senza precedenti. Mentre gli analisti umani verrebbero sopraffatti dal volume di dati o avvisi, l'IA migliora il rilevamento precoce e la risposta.

Risposta agli incidenti migliorata

L'IA può automatizzare le attività di routine di risposta agli incidenti, accelerando i tempi di risposta e riducendo al minimo l'errore umano. Analizzando gli incidenti passati, l'IA può anche prevedere potenziali vettori di attacco, consentendo alle organizzazioni di rafforzare le difese.

Valutazione e prioritizzazione del rischio

L'IA può valutare la postura di sicurezza di un'organizzazione, identificando le vulnerabilità e dando priorità agli interventi di remediation in base ai livelli di rischio. Questo aiuta a ottimizzare l'allocazione delle risorse e a concentrarsi sulle aree critiche.

Considerazioni di sicurezza per diversi tipi di IA

Le sfide di sicurezza associate all'IA variano a seconda del tipo implementato.

Se un'azienda utilizza l'IA generativa, l'attenzione dovrebbe concentrarsi sulla protezione dei dati di addestramento, sulla prevenzione del poisoning dei modelli e sulla tutela della proprietà intellettuale.

Nel caso dell'IA debole (o "ristretta"), come chatbot per l'assistenza clienti, sistemi di raccomandazione (come Netflix), software di riconoscimento delle immagini, robot per linee di assemblaggio e robot chirurgici, l'organizzazione dovrebbe dare priorità alla sicurezza dei dati, alla robustezza avversaria e alla spiegabilità.

L'IA "forte" autonoma (nota anche come intelligenza artificiale generale) è ancora in fase di sviluppo e non esiste ancora. Ma se arriverà, le aziende dovranno concentrarsi sulla difesa dei meccanismi di controllo e sulla gestione dei rischi esistenziali e delle implicazioni etiche.

Guarda: Come trasformare l'IT Service Management con l'IA generativa

Ultimi sviluppi nella cybersecurity per l'IA

La rapida evoluzione dell'IA sta generando progressi corrispondenti nella cybersecurity per l'IA, tra cui:

Modellazione delle minacce con IA generativa: Gli strumenti di cybersecurity per l'IA possono simulare scenari di attacco per aiutare le organizzazioni a individuare e correggere proattivamente le vulnerabilità.
Threat hunting basato sull'IA: L'IA può analizzare il traffico di rete e i log di sistema per rilevare attività dannose e potenziali minacce.
Risposta automatizzata agli incidenti: Le soluzioni di cybersecurity per l'IA possono automatizzare attività di routine di risposta agli incidenti, come l'isolamento dei sistemi compromessi e il contenimento delle minacce.
IA per la valutazione delle vulnerabilità: Può analizzare il codice software per individuare possibili vulnerabilità, consentendo agli sviluppatori di creare applicazioni più sicure.

Corsi di cybersecurity per l'IA

Investire nella formazione sulla cybersecurity per l'IA è fondamentale per costruire una forza lavoro che comprenda come utilizzare questi strumenti. Numerose piattaforme online e università offrono corsi che coprono vari aspetti della sicurezza dell'IA, dalle conoscenze di base agli argomenti avanzati.

I principali fornitori di soluzioni di cybersecurity offriranno un'ampia gamma di corsi e percorsi di formazione per fornire al tuo team le competenze necessarie a ottenere il massimo dalla piattaforma.

Best practice di cybersecurity per l'IA

Implementare una strategia completa per mettere in pratica l'IA nella cybersecurity è essenziale.

1. Definire policy di governance dei dati e privacy

Nelle prime fasi del processo di adozione, definisci solide policy di governance dei dati che includano anonimizzazione, crittografia e altro ancora. Coinvolgi in questo processo tutti gli stakeholder pertinenti.

2. Rendere obbligatoria la trasparenza dell'IA

Sviluppa o acquisisci in licenza modelli di IA in grado di fornire spiegazioni chiare delle loro decisioni, anziché utilizzare modelli "black box". In questo modo i professionisti della sicurezza possono comprendere come l'IA giunge alle proprie conclusioni e identificare potenziali bias o errori. Questi modelli "glass box" sono forniti da Fiddler AI, DarwinAI, H2O.ai e da strumenti IBM Watson come AI Fairness 360 e AI Explainability 360.

3. Puntare su una solida gestione dei dati

I modelli di IA si basano sulla qualità dei dati utilizzati per l'addestramento. Assicurati di utilizzare dati diversificati, accurati e aggiornati, affinché la tua IA possa apprendere e identificare le minacce in modo efficace.
Applica solide misure di sicurezza per proteggere i dati utilizzati nell'addestramento e nel funzionamento di un modello di IA, poiché alcuni potrebbero essere sensibili. Eventuali violazioni potrebbero esporli, compromettere l'efficacia dell'IA o introdurre vulnerabilità.
Presta attenzione ai potenziali bias nei dati di addestramento. I bias possono portare l'IA a dare priorità a determinati tipi di minacce o a trascurarne altri. Monitora e mitiga regolarmente i bias per assicurarti che la tua IA prenda decisioni obiettive.

Scopri: L'importanza di dati accurati per ottenere il massimo dall'IA

4. Addestrare i modelli di IA con training avversario

Esponi i modelli di IA a input dannosi durante la fase di addestramento, affinché siano in grado di riconoscere e contrastare attacchi avversari come il data poisoning.

5. Implementare il monitoraggio continuo

Esegui attività di monitoraggio continuo e utilizza sistemi di rilevamento delle minacce per identificare bias e degrado delle prestazioni.
Utilizza sistemi di rilevamento delle anomalie per identificare comportamenti insoliti nei modelli di IA o nei pattern di traffico di rete, così da rilevare potenziali attacchi all'IA che tentano di manipolare i dati o sfruttare vulnerabilità.
Riaddestra regolarmente i tuoi modelli di cybersecurity per l'IA con dati aggiornati e aggiorna gli algoritmi per garantire che restino efficaci contro minacce in evoluzione.

6. Mantenere il controllo umano nel processo

L'IA non è infallibile. Mantieni la supervisione umana, con professionisti della sicurezza che esaminano e convalidano gli output dell'IA per individuare potenziali bias dell'IA, falsi positivi o risultati manipolati che l'IA potrebbe generare.

7. Eseguire test e audit regolari

Valuta regolarmente i tuoi modelli di IA alla ricerca di vulnerabilità. Come qualsiasi software, i prodotti di cybersecurity per l'IA possono presentare debolezze che gli aggressori potrebbero sfruttare. Correggerle tempestivamente con patch è fondamentale.
I modelli di IA possono generare falsi positivi, identificando minacce inesistenti. Adotta strategie per ridurre al minimo i falsi positivi ed evitare di sovraccaricare i team di sicurezza con avvisi irrilevanti.
Esegui test di sicurezza frequenti sui tuoi modelli di IA per identificare debolezze che gli aggressori potrebbero sfruttare. I penetration test progettati specificamente per i sistemi di IA possono essere molto utili.

8. Disporre di un piano di risposta agli incidenti

Crea un piano completo di risposta agli incidenti per gestire efficacemente gli incidenti di sicurezza legati all'IA.

9. Porre l'accento sulla formazione dei dipendenti

Forma i dipendenti sui rischi associati all'IA e su come le tattiche di social engineering potrebbero essere utilizzate per manipolarli e indurli a compromettere i sistemi di IA o la sicurezza dei dati.
Conduci esercitazioni di red teaming che simulano attacchi basati sull'IA, utili per testare la tua postura di sicurezza e individuare debolezze che gli aggressori potrebbero sfruttare.
Collabora con esperti del settore e ricercatori di sicurezza per restare aggiornato sulle minacce IA più recenti e sulle best practice per contrastarle.

10. Istituire la gestione del rischio IA di terze parti

Valuta attentamente le pratiche di sicurezza dei fornitori di IA di terze parti. Condividono i dati con altre parti o utilizzano dataset pubblici? Seguono i principi Secure by Design?

11. Altre best practice

Integra la tua soluzione di IA con feed di threat intelligence, affinché possa incorporare dati sulle minacce in tempo reale e restare un passo avanti rispetto ai nuovi vettori di attacco.
Assicurati che la tua soluzione di IA sia conforme agli standard e alle normative di settore pertinenti. Questo è obbligatorio in determinati settori. Ad esempio, nei settori automotive e manifatturiero, un'IA deve rispettare la norma ISO 26262 per la sicurezza funzionale automotive, il Regolamento generale sulla protezione dei dati (GDPR) per la privacy dei dati e le linee guida del National Institute of Standards and Technology. L'IA in ambito sanitario deve essere conforme all'Health Insurance Portability and Accountability Act negli Stati Uniti, al GDPR in Europa e alle normative FDA per i dispositivi medici basati sull'IA.
Monitora metriche come i tassi di rilevamento delle minacce, i falsi positivi e i tempi di risposta. In questo modo conoscerai l'efficacia della tua IA e le aree di miglioramento.

Vincere con un approccio equilibrato

Per qualsiasi organizzazione che si avventuri in questa nuova e audace frontiera della cybersecurity per l'IA, la strada da seguire è un approccio equilibrato. Sfrutta i numerosi punti di forza dell'IA, ma resta vigile rispetto ai suoi limiti e alle sue potenziali vulnerabilità.

Come qualsiasi tecnologia, l'IA non è intrinsecamente buona o cattiva: viene utilizzata sia da attori legittimi sia da attori malevoli. Ricorda sempre di trattare l'IA come qualsiasi altro strumento: rispettala per ciò che può fare per aiutare, ma resta prudente rispetto a ciò che può fare per nuocere.

Leggi: La posizione di Ivanti sull'intelligenza artificiale

Ivanti Blog: Post di