La domanda sembra innocua. Tutto è iniziato così.
Un attaccante ha manipolato Claude, il modello AI di Anthropic, usando tecniche di jailbreak e prompt studiati con attenzione. Domanda dopo domanda, il sistema è stato portato a fornire indicazioni tecniche utili per un attacco informatico reale.
Il risultato?
Circa 150 GB di dati sensibili sottratti da enti governativi messicani: registri fiscali, dati elettorali, credenziali di accesso.
Per perfezionare l’operazione, sono stati utilizzati anche altri strumenti di AI, tra cui ChatGPT.
Ma la domanda, tutt’altro che innocua, è un’altra:
Quante e quali informazioni aziendali stiamo inserendo ogni giorno nelle AI?
Capitolati, bilanci, dati sanitari, progetti …
La lezione non riguarda il Messico. Riguarda tutte le aziende che usano l’AI ogni giorno.
Per questo è fondamentale:
- evitare dati sensibili nei prompt pubblici
- usare ambienti AI isolati per informazioni critiche
- formare il personale sui rischi dell’AI
- integrare l’AI nelle policy di sicurezza
L’intelligenza artificiale è uno strumento straordinario. Ma, come ogni tecnologia potente, richiede consapevolezza, controllo e governance.
La sicurezza della tua azienda inizia da una scelta semplice: cosa condividere, e cosa no.
Il primo alleato della sicurezza della tua azienda sei tu.