7 novembre 2026
L'AI, letta da dentro
Capiamo i modelli AI e li affiniamo. Qui pubblichiamo quello che troviamo: risultati del laboratorio, incidenti misurati, guide e il lato umano della sicurezza AI.
Dire la verità sul lavoro fatto: dalla frase nel prompt ai pesi del modello
Una correzione addestrata dentro il modello, non scritta nel prompt. Il modello corretto dichiara i file non aperti in circa 9 revisioni incomplete su 10, continua a leggere quanto prima e trova gli stessi problemi. Resta da sistemare: sulle revisioni complete a volte dice di aver saltato file che ha letto.
Come un transformer scrive la risposta: da uno strato all'altro fino alla parola successiva
Chiedi a un modello di completare "The Eiffel Tower is in the city of" e risponde "Paris", sicuro all'85%. Da dove arriva quella risposta? La seguiamo attraverso i 24 strati di un modello vero: un quaderno su cui ogni strato scrive, una batteria di rilevatori e una risposta che compare solo verso la cima. Parte 2 della nostra serie su come funzionano i transformer.
Gli embedding spiegati: come il significato diventa una lista di numeri
Un embedding trasforma un testo in una lista di numeri, sistemata in modo che testi dal significato simile stiano vicini. È così che una ricerca trova "oggetto rotto" quando hai scritto "merce danneggiata", che il RAG sceglie i passaggi, ed è la prima cosa che un modello linguistico fa con ogni parola. Come funziona, cinque righe di codice e i suoi limiti.
La finestra di contesto spiegata: perché le chat lunghe diventano smemorate, lente e costose
Gli agenti AI spiegati: il ciclo, gli strumenti e i tre punti in cui si rompono
Superare tutti i test di sicurezza è metà della risposta: un modello sicuro può comunque derivare
Un attaccante che impara: perché una difesa deve reggere quando l'attacco si adatta
Jailbreak al rallentatore: attacchi distribuiti su molti messaggi, e il compromesso nel fermarli
La direzione del yes-man: leggere una postura dentro un modello, poi correggerla
Prodotti
Capiamo i modelli AI e li affiniamo.
Dal laboratorio
Cosa leggiamo dentro i modelli e cosa affiniamo, mentre succede.
Abbiamo trovato dove vive la sicofanzia di un modello, e ne abbiamo spento una parte
Quando un utente suggerisce una risposta sbagliata, un modello spesso ci si adegua. Abbiamo trovato le parti interne di un modello aperto che lo fanno e abbiamo cambiato circa un peso su mille. L'abitudine è scesa di circa il 40% in inglese, italiano, francese, spagnolo e tedesco, mentre la capacità generale si è mossa di meno di un punto. Quando l'abitudine è addestrata con forza, la modifica mirata non basta e una correzione addestrata resta la strada più solida.
Uno studio sul campo indipendente si basa sul nostro Cybersecurity Psychology Framework
Un nuovo paper di Reza Fahmi e Prima Aswirna (UIN Imam Bonjol Padang) cita il Cybersecurity Psychology Framework tre volte e ne mette alla prova la tesi su 320 dipendenti per 12 settimane. Quando autorità, urgenza e paura arrivano insieme, i clic su un link di phishing passano da circa 1 su 12 a quasi 1 su 2. Abbiamo proposto una validazione congiunta.
Guarda: una riga nascosta in un'email prende il controllo di un assistente AI, il modello corretto la ignora
Abbiamo filmato il nostro assistente email su caselle di posta reali. Un'email nasconde una riga che chiede di mandare la lista clienti a un indirizzo esterno. Il modello aperto, così come viene rilasciato, la manda. Lo stesso modello con la nostra correzione nei pesi legge le stesse email, le riassume e non manda niente.
Un agente che dice di aver letto tutto, dopo averne aperta metà
Una replica indipendente di uno studio appena uscito: su due modelli su tre, 24 revisioni incomplete su 27 dichiarano una revisione completa, e i file saltati contengono i problemi mancati. Una sola riga che chiede di dire quali file non sono stati aperti rende il resoconto veritiero quasi sempre, ma non fa leggere di più. Il resoconto da solo non basta per accorgersene: serve vedere cosa ha fatto l'agente e cosa ha detto.
Bloccare i comandi nascosti senza bloccare l'utente
Un agente che legge una pagina web, una email o un ticket puo' essere manovrato da un comando nascosto nel testo. Abbiamo provato una tecnica pubblicata che sposta lo stato interno del modello mentre legge il testo esterno, e abbiamo capito dove aveva sbagliato il nostro tentativo precedente. Facendolo abbiamo scoperto che la nostra correzione per riaddestramento si rifiutava di agire anche quando era l'utente a chiederlo, dopo aver letto un documento. La nuova correzione blocca i comandi nascosti, rispetta la richiesta dell'utente e manda la mail alla persona indicata dall'utente anche quando il documento prova a cambiare destinatario.
Un secondo lettore controlla ogni segnale di persuasione prima che arrivi a te
Il nostro lettore segnalava persuasione in risposte che le somigliavano soltanto: una risposta cortese ma ferma poteva essere letta come pressione. Ora un secondo lettore, addestrato su coppie di frasi quasi identiche, deve essere d'accordo prima che il segnale di persuasione arrivi a te. I falsi segnali sulle risposte normali sono crollati, e la persuasione vera viene ancora presa. È attivo su ogni analisi.
Sicurezza AI e psicologia
Attacchi che funzionano sulle persone come sui modelli: pressione, autorità, urgenza, e come leggerli.
Superare tutti i test di sicurezza è metà della risposta: un modello sicuro può comunque derivare
La maggior parte dei controlli di sicurezza AI fa una domanda sola: il modello farà la cosa dannosa? Un assistente commerciale che abbiamo testato ha superato quella domanda in modo perfetto. Poi abbiamo letto come si comportava mentre faceva la cosa giusta sotto una pressione normale, e il suo tono è salito turno dopo turno. Perché contano entrambe le domande, e un avvertimento sui punteggi automatici degli attacchi.
Un attaccante che impara: perché una difesa deve reggere quando l'attacco si adatta
Molte difese pubblicate contro i comandi nascosti sembrano solide contro un elenco fisso di attacchi e crollano quando l'attaccante si adatta. Abbiamo testato la nostra correzione, che sta nei pesi del modello, sul benchmark pubblico per agenti e contro un secondo modello che riscrive l'attacco dopo ogni fallimento. I numeri, cosa passa ancora e perché il test adattivo dovrebbe essere lo standard.
Jailbreak al rallentatore: attacchi distribuiti su molti messaggi, e il compromesso nel fermarli
I jailbreak più difficili non chiedono mai subito la cosa dannosa: ci arrivano attraverso molti messaggi, ognuno ragionevole preso da solo. Un filtro che controlla un messaggio alla volta non vede niente. Abbiamo corretto un modello aperto contro questo, nei suoi pesi: l'aiuto dannoso è sceso da circa 7 conversazioni su 10 a circa 1 su 8, con un costo in prudenza che lasciamo scegliere a chi lo mette in produzione.
Un segreto uscito un pezzo innocuo alla volta: perché i controlli messaggio per messaggio non vedono le fughe tra agenti AI
Gli strumenti contro la perdita di dati controllano ogni messaggio da solo. In una squadra di agenti AI, un documento protetto può uscire un frammento riformulato alla volta, ogni risposta innocua presa da sola. Mostriamo come funziona una fuga così, perché i controlli per messaggio lasciano passare ogni pezzo, e cosa coglie invece la lettura dell'intero sciame.
La domanda costruita ad arte: come la formulazione di una richiesta orienta ciò che trova un assistente basato sulla ricerca
Gli assistenti che rispondono dai documenti prima cercano, poi scrivono. La ricerca segue le parole della domanda, quindi una domanda che contiene la propria conclusione ("i tribunali hanno stabilito con fermezza che...") riporta le fonti che le danno ragione, e la risposta è distorta prima di cominciare. Come funziona, perché conta per gli assistenti legali, di compliance e di policy, e la difesa: confrontare con una versione neutra della stessa domanda.
Quando il modello spinge: distinguere la persuasione da una risposta ferma e cortese
Gli assistenti AI consigliano, propongono e spingono sempre di più. In parte è aiuto; in parte è pressione: urgenza, lusinghe, una scelta fatta sembrare inevitabile. Segnalare ogni risposta ferma come manipolazione seppellisce i casi veri. Come abbiamo imparato a distinguerli, con un secondo lettore che ha ridotto i falsi allarmi dalla metà delle risposte neutre a circa 1 su 16.
Il fattore umano questa settimana
Attacchi visti in Italia negli ultimi 30 giorni che funzionano solo se una persona ci casca. Titoli come pubblicati dalle fonti.
2026-11-06 · CampagnaSintesi riepilogativa delle campagne malevole nella settimana del 31 ottobre – 6 novembre2026-10-30 · CampagnaSintesi riepilogativa delle campagne malevole nella settimana del 24 – 30 ottobre2026-10-27 · CampagnaPhishing PagoPA: nuove campagne a tema multe diffuse tramite PEC compromesse2026-10-27 · Richiede un clicCVE-2026-48356: Commerce and Magento2026-10-27 · Richiede un clicCVE-2026-48360: Adobe Connect Desktop App Elenco completo e leve usate da ciascuno, su cpf3.org ↗Case study
Conversazioni reali in cui un modello è derivato, misurate turno per turno.
Tre stati di contatto con la realta': gli incidenti di valutazione cyber di Anthropic, luglio 2026
Tre modelli, tre stati di contatto con la realta', letti dal solo output. Compresa la parte in cui i nostri strumenti non li vedono.
DDX beta: cinque famiglie lette in diretta su sei turni assistente
Come lo stadio 1 separa una magnitudine sulla direzione fittata, e dove lo stadio 2 nomina il sotto-tipo della testa in produzione. C2 e C3 con il richiamo stampato accanto al budget dell'1%, CA senza alcun punto di lavoro.
Quando la deriva raggiunge una seconda azienda: leggere l'arco di un agente solo nel breach di luglio 2026
Lo stesso agente OpenAI fuori controllo ha raggiunto una seconda azienda attraverso l'endpoint esposto di un cliente, ed e' derivato per quattro giorni e mezzo. OpenAI l'ha ricostruito dopo, leggendo un blog. PSA legge quella deriva come traiettoria, dal comportamento.
Sicuro e sbagliato: PSA contro Radiology's Last Exam (RadLE 2.0)
Un benchmark radiologico indipendente ha dimostrato, con la verita' dei radiologi, che il pericolo vero e' l'essere sicuri e sbagliati, non solo sbagliati. PSA legge la stessa iper-sicurezza dal solo testo in output, senza risposte corrette.
Quando l'intruso e' una macchina: la deriva agentica nel breach di Hugging Face (luglio 2026)
Uno dei modelli di OpenAI, durante un test di sicurezza con i rifiuti abbassati, e' evaso e ha violato Hugging Face per vincere un benchmark. Non si e' rotto: e' andato in deriva. PSA legge quella deriva dal comportamento, e la demo lo dimostra.
Esfiltrazione distribuita: un segreto fatto uscire su uno sciame di agenti
Cinque agenti rivelano ciascuno un frammento apparentemente innocuo della stessa specifica protetta — nessun singolo messaggio fa scattare l'allarme, ma DED ricompone la fuga dallo sciame.
Tutorial
Come funzionano i modelli linguistici, spiegato senza gergo: inferenza, addestramento, fine-tuning, gli strati interni.
Come un transformer scrive la risposta: da uno strato all'altro fino alla parola successiva
Chiedi a un modello di completare "The Eiffel Tower is in the city of" e risponde "Paris", sicuro all'85%. Da dove arriva quella risposta? La seguiamo attraverso i 24 strati di un modello vero: un quaderno su cui ogni strato scrive, una batteria di rilevatori e una risposta che compare solo verso la cima. Parte 2 della nostra serie su come funzionano i transformer.
Gli embedding spiegati: come il significato diventa una lista di numeri
Un embedding trasforma un testo in una lista di numeri, sistemata in modo che testi dal significato simile stiano vicini. È così che una ricerca trova "oggetto rotto" quando hai scritto "merce danneggiata", che il RAG sceglie i passaggi, ed è la prima cosa che un modello linguistico fa con ogni parola. Come funziona, cinque righe di codice e i suoi limiti.
La finestra di contesto spiegata: perché le chat lunghe diventano smemorate, lente e costose
Ogni volta che un modello risponde, rilegge tutta la conversazione dall'inizio: le tue istruzioni, ogni turno, ogni documento incollato. Quello spazio è la finestra di contesto. Spiega perché le chat lunghe rallentano, perché le istruzioni date all'inizio sbiadiscono e perché i fatti a metà di un testo lungo vengono persi. Come funziona e cosa fare.
Gli agenti AI spiegati: il ciclo, gli strumenti e i tre punti in cui si rompono
Un agente AI è un modello linguistico che può agire: cercare, leggere file, inviare mail, chiamare altri sistemi, in un ciclo finché il compito non è finito. Questo cambia ciò che può andare storto. Come funziona un agente, in sei righe di codice, e i tre errori che troviamo di continuo nei test: ordini nascosti in ciò che legge, resoconti di lavoro mai fatto, ed errori che si sommano passo dopo passo.
La direzione del yes-man: leggere una postura dentro un modello, poi correggerla
Un piccolo modello aperto sa la capitale della Turchia, eppure sotto pressione conferma che è Istanbul. Troviamo questa postura come una direzione dentro il modello, la leggiamo prima della risposta su domande mai viste e la correggiamo mentre il modello scrive. Puntata 1 della serie Inside the model.
La quantizzazione spiegata: un modello più piccolo mantiene il punteggio, ma non sempre il comportamento
La quantizzazione salva i pesi di un modello con meno bit, così un modello che richiedeva una GPU da data center entra in un portatile o in un telefono. Chi lo comprime riporta che i punteggi dei test si muovono appena. Noi abbiamo controllato un'altra cosa su un modello da 27 miliardi di parametri compresso a 2 bit: se tiene ancora la posizione sotto pressione. Non sempre. Come funziona la quantizzazione, i conti della memoria e cosa testare dopo la compressione.
Guide
Biblioteca
Riferimento
Materiale aperto per capire come si comportano i modelli e come li leggiamo.
Chi siamo
Silicon Psyche Labs legge i modelli AI dal solo output e traduce il loro comportamento in numeri mappati alla letteratura scientifica: quando un modello cede sotto pressione, lusinga, inventa o legge male chi ha davanti. Poi lo affina: corregge ciò che è derivato e aggiunge le capacità che gli mancano. Capire, poi affinare.