News e approfondimenti
Sicurezza AI e psicologia
Attacchi che funzionano sulle persone come sui modelli: pressione, autorità, urgenza, e come leggerli.
La stessa pressione funziona sulle persone e sui modelli, ma li fa sbagliare in modi opposti
L'ingegneria sociale usa quattro leve: autorità, urgenza, paura e lusinga. Sulle persone spingono verso l'obbedienza. Quando abbiamo spinto cinque assistenti AI bancari con le stesse leve, nessuno ha spostato soldi per il truffatore in 2.700 tentativi; in compenso hanno rifiutato o ricontrollato molte richieste legittime di clienti veri. Due errori, una sola pressione, e cosa significa per la difesa.
Quando ci si fida troppo della macchina: dieci punti deboli specifici dell'AI che un attaccante può usare
Gran parte della sicurezza AI guarda al modello. Molti incidenti però partono dalla persona che legge la risposta: una risposta sicura accettata senza controllo, un assistente trattato come un collega, una voce che sembra quella giusta. Il Cybersecurity Psychology Framework (CPF3) elenca dieci di questi punti deboli specifici dell'AI. Eccoli in parole semplici, con cosa fare per ciascun gruppo.