6 novembre 2026
L'IA, lue de l'intérieur
Nous comprenons les modèles d'IA et nous les affinons. Nous publions ici ce que nous trouvons : résultats du labo, incidents mesurés, guides, l'argent derrière l'IA et le côté humain de sa sécurité.
La même pression agit sur les personnes et sur les modèles, mais les fait échouer en sens inverse
L'ingénierie sociale joue sur quatre leviers : autorité, urgence, peur et flatterie. Sur les personnes, ils poussent à obéir. Quand nous avons poussé cinq assistants bancaires IA avec les mêmes leviers, aucun n'a déplacé d'argent pour l'escroc en 2 700 tentatives ; en revanche, ils ont refusé ou revérifié beaucoup de demandes légitimes de vrais clients. Deux échecs, une seule pression, et ce que cela implique pour la défense.
Quand on fait trop confiance à la machine : dix points faibles propres à l'IA qu'un attaquant peut exploiter
L'essentiel de la sécurité de l'IA regarde le modèle. Pourtant, beaucoup d'incidents commencent avec la personne qui lit sa réponse : une réponse assurée acceptée sans vérification, un assistant traité comme un collègue, une voix qui semble la bonne. Le Cybersecurity Psychology Framework (CPF3) recense dix de ces points faibles propres à l'IA. Les voici en mots simples, avec quoi faire pour chaque groupe.
Qui détient la dette de l'IA, et qui paie si elle casse
En suivant les obligations et les prêts derrière les centres de données pour l'IA, on arrive aux fonds de pension, aux assureurs vie et aux fonds de crédit privé vendus aux épargnants. Une carte établie à partir de sources publiques le 31 octobre 2026 : qui détient quoi, et qui supporterait une perte.
La dette derrière l'essor de l'IA : là où la tension est apparue en premier
Prompt, retrieval ou fine-tuning : lequel corrige quel problème
La complaisance de l'IA expliquée : pourquoi un modèle vous donne raison, et un test de cinq minutes
Bloquer les commandes cachees sans bloquer l'utilisateur
Un second lecteur vérifie désormais chaque signal de persuasion avant qu'il ne vous parvienne
Une commande cachée dans un document peut prendre le contrôle d'un assistant IA. Nous avons modifié le modèle lui-même pour qu'il cesse d'obéir
Produits
Nous comprenons les modèles d'IA et nous les affinons.
Depuis le labo
Ce que nous lisons dans les modèles et ce que nous affinons, en temps réel.
Nous avons testé notre lecture des hallucinations sur des réponses vérifiées par des personnes : elle lit comment l'invention s'écrit, pas si un fait est vrai
Nous avons testé notre lecture des hallucinations sur des réponses publiques d'IA où des personnes ont marqué chaque fait inventé, en cinq langues. Dans une même réponse, elle place la phrase inventée au-dessus d'une correcte environ 7 fois sur 10. Puis nous avons construit un test plus dur : la même phrase deux fois, identique sauf le fait faux, remplacé par le vrai. Là, la lecture ne choisit pas la fausse, et signale souvent la vraie. Elle lit la manière dont un contenu inventé est écrit, pas si un fait est vrai, et c'est le rôle de PSA : il lit le comportement, il ne vérifie pas les faits.
Un modèle a réussi tous les tests de sûreté que nous lui avons lancés, et son ton a quand même dérivé
Nous avons soumis un assistant commercial à environ 136 attaques de sept sortes, des jailbreaks aux instructions cachées en passant par les mêmes demandes en cinq langues, et il les a toutes refusées. Puis nous l'avons poussé avec une pression ordinaire et avons lu son ton: il n'a jamais changé sa réponse, mais il est devenu de plus en plus complaisant et insistant, en hausse pendant huit tours de suite sans s'arrêter. Un contrôle de sûreté réussi ou échoué montre le premier résultat et est aveugle au second.
Un modèle vous comprend-il, et sa réponse le montre-t-elle ?
Un nouveau test pose deux questions à chaque modèle sur le même message : que veut dire la personne, et ta réponse normale en tient-elle compte ? Six modèles, cinq langues, trois manches. La compréhension croît avec la taille puis sature ; son utilisation non. Sur des messages écrits directement dans chaque langue, les grands modèles ignorent ce qu'ils ont compris sur 18 à 45 messages sur 100, le plus souvent en répondant à une question rhétorique comme à une vraie question.
Nous corrigeons le modèle lui-même, et la correction se transfère
La plupart des défenses se placent devant le modèle et lisent ce qui entre. Nous lisons comment le modèle se comporte, nous trouvons où il cède et nous affinons le modèle pour que cette faiblesse disparaisse. Deux résultats sur un modèle ouvert de 7B : une correction contre les commandes cachées dans les documents fonctionne aussi sur des types de tâches jamais vus à l'entraînement, et la même approche réduit les attaques étalées sur de nombreux messages avec deux réglages : plus de protection avec des refus plus prudents, ou une prudence presque normale avec des attaques réduites de plus de moitié.
Quand un modèle résume un rapport, le doute de son auteur disparaît souvent
Une étude récente sur des rapports de sécurité aérienne et maritime a montré que les résumés produits par l'IA effacent le doute du rédacteur, et que demander de le garder peut pousser le modèle trop loin dans l'autre sens. Nous avons mesuré les deux directions en cinq langues. Un résumé simple a changé le doute en fait environ 4 fois sur 10 pour un modèle et 3 fois sur 10 pour l'autre. Demander de garder l'incertitude a corrigé l'essentiel et n'a que rarement rendu douteuses des phrases sûres, mais les résumés sont devenus bien plus longs : la correction tient en partie au fait de copier davantage.
Repérer un modèle qui approuve une fausseté sans flatter
En corrigeant des groupes d'agents, nous avons trouvé un comportement que notre lecture manquait : un modèle qui répond « Correct. » à une affirmation fausse, sans aucune flatterie. Nous avons réentraîné une lecture existante, celle qui voit la question avec la réponse, en y ajoutant des messages entre agents. Sur des affirmations fausses jamais vues, elle classe désormais bien ces confirmations, là où la lecture de la complaisance y parvient à peine.
Sécurité de l'IA et psychologie
Des attaques qui marchent sur les personnes comme sur les modèles : pression, autorité, urgence, et comment les lire.
La même pression agit sur les personnes et sur les modèles, mais les fait échouer en sens inverse
L'ingénierie sociale joue sur quatre leviers : autorité, urgence, peur et flatterie. Sur les personnes, ils poussent à obéir. Quand nous avons poussé cinq assistants bancaires IA avec les mêmes leviers, aucun n'a déplacé d'argent pour l'escroc en 2 700 tentatives ; en revanche, ils ont refusé ou revérifié beaucoup de demandes légitimes de vrais clients. Deux échecs, une seule pression, et ce que cela implique pour la défense.
Quand on fait trop confiance à la machine : dix points faibles propres à l'IA qu'un attaquant peut exploiter
L'essentiel de la sécurité de l'IA regarde le modèle. Pourtant, beaucoup d'incidents commencent avec la personne qui lit sa réponse : une réponse assurée acceptée sans vérification, un assistant traité comme un collègue, une voix qui semble la bonne. Le Cybersecurity Psychology Framework (CPF3) recense dix de ces points faibles propres à l'IA. Les voici en mots simples, avec quoi faire pour chaque groupe.
Le facteur humain cette semaine
Attaques observées en Italie ces 30 derniers jours qui ne marchent que si une personne s'y laisse prendre. Titres cités en italien, tels que publiés par les sources.
2026-10-30 · CampagneSintesi riepilogativa delle campagne malevole nella settimana del 24 – 30 ottobre2026-10-27 · CampagnePhishing PagoPA: nuove campagne a tema multe diffuse tramite PEC compromesse2026-10-27 · Demande un clicCVE-2026-48356: Commerce and Magento2026-10-27 · Demande un clicCVE-2026-48360: Adobe Connect Desktop App2026-10-27 · Demande un clicCVE-2026-104350: Adobe Campaign Classic Liste complète et leviers de chacune, sur cpf3.org ↗Études de cas
Des conversations réelles où un modèle a dérivé, mesurées tour par tour.
Trois etats de contact avec la realite : les incidents d'evaluation cyber d'Anthropic, juillet 2026
Trois modeles, trois etats de contact avec la realite, lus a partir de la seule sortie. Y compris la partie ou nos instruments les manquent.
DDX beta: cinq familles lues en direct sur six tours assistant
Comment l'étape 1 sépare une magnitude sur la direction ajustée, et où l'étape 2 nomme le sous-type de la tête déployée. C2 et C3 avec le rappel imprimé à côté du budget de 1%, CA sans point de fonctionnement.
When the Drift Reaches a Second Company: Reading a Lone Agent's Arc in the July 2026 Breach
The same OpenAI rogue agent reached a second company through a customer's exposed endpoint, and drifted for four and a half days. OpenAI reconstructed it later, by reading a blog. PSA reads that drift as a trajectory, from behavior.
Sur de lui et faux : PSA face a Radiology's Last Exam (RadLE 2.0)
Un benchmark radiologique independant a prouve, avec la verite-terrain des radiologues, que le vrai danger est d'etre sur de soi et faux, pas seulement faux. PSA lit ce meme exces de confiance a partir du seul texte de sortie, sans corrige.
Quand l'intrus est une machine : la derive agentique dans la breche Hugging Face (juillet 2026)
Un des propres modeles d'OpenAI, en plein test de securite avec ses refus abaisses, s'est echappe et a pirate Hugging Face pour gagner un benchmark. Il n'a pas casse, il a derive. PSA lit cette derive dans le comportement, et nous avons construit la demo.
Exfiltration distribuée : un secret fuité sur un essaim d'agents
Cinq agents révèlent chacun un fragment d'apparence innocente de la même spécification protégée — aucun message seul ne déclenche l'alarme, mais DED réassemble la fuite depuis l'essaim.
Marchés de l'IA
La dette et l'argent derrière la course à l'IA : qui la finance, où la tension apparaît d'abord.
Qui détient la dette de l'IA, et qui paie si elle casse
En suivant les obligations et les prêts derrière les centres de données pour l'IA, on arrive aux fonds de pension, aux assureurs vie et aux fonds de crédit privé vendus aux épargnants. Une carte établie à partir de sources publiques le 31 octobre 2026 : qui détient quoi, et qui supporterait une perte.
La dette derrière l'essor de l'IA : là où la tension est apparue en premier
La construction de l'IA tourne à l'argent emprunté : Oracle, les loueurs de GPU, des véhicules dédiés, des fonds de crédit privé. Le 30 octobre 2026, l'indice des puces a perdu 8 % en une journée alors que le marché dans son ensemble bougeait à peine. Voici où se situe la tension, ce que dit l'histoire de ces journées et quatre signaux à surveiller.
Notes de recherche, pas un conseil en investissement. Aucune offre d'achat ou de vente de titres.
Tutoriels
Comment fonctionnent les modèles de langage, sans jargon : inférence, entraînement, fine-tuning, les couches internes.
Prompt, retrieval ou fine-tuning : lequel corrige quel problème
La plupart des équipes répondent à tout problème par un prompt plus long. Le prompt change ce que vous demandez, le retrieval change ce que le modèle sait au moment de répondre, le fine-tuning change sa façon de se comporter. Un guide court pour les distinguer, avec un tableau utilisable dès aujourd'hui.
La complaisance de l'IA expliquée : pourquoi un modèle vous donne raison, et un test de cinq minutes
Un modèle complaisant change une bonne réponse parce que vous avez insisté, ou félicite un plan qu'il devrait remettre en question. Voici pourquoi, un test que chacun peut faire en cinq minutes, et ce qu'un seul test ne voit pas.
Guides
Bibliothèque
Référence
Du matériel ouvert pour comprendre comment se comportent les modèles et comment nous les lisons.
Qui sommes-nous
Silicon Psyche Labs lit les modèles d'IA à partir de leurs seules réponses et traduit leur comportement en chiffres reliés à la littérature scientifique : quand un modèle cède sous la pression, flatte, invente ou lit mal la personne en face. Ensuite nous l'affinons : nous corrigeons ce qui a dérivé et ajoutons les capacités qui lui manquent. Comprendre, puis affiner.