6 November 2026
KI, von innen gelesen
Wir verstehen KI-Modelle und stimmen sie fein ab. Hier veröffentlichen wir, was wir finden: Laborergebnisse, gemessene Vorfälle, Leitfäden, das Geld hinter der KI und die menschliche Seite ihrer Sicherheit.
Derselbe Druck wirkt auf Menschen und auf Modelle, lässt sie aber in entgegengesetzte Richtungen scheitern
Social Engineering arbeitet mit vier Hebeln: Autorität, Dringlichkeit, Angst und Schmeichelei. Bei Menschen treiben sie zum Gehorchen. Als wir fünf KI-Bankassistenten mit denselben Hebeln bedrängten, überwies keiner in 2.700 Versuchen Geld für den Betrüger; dafür lehnten sie viele legitime Anfragen echter Kunden ab oder prüften sie erneut. Zwei Fehler, ein Druck, und was das für die Abwehr bedeutet.
Wenn Menschen der Maschine zu sehr vertrauen: zehn KI-spezifische Schwachstellen, die Angreifer nutzen können
Die meiste KI-Sicherheitsarbeit schaut auf das Modell. Viele Vorfälle beginnen aber bei der Person, die seine Antwort liest: eine selbstsichere Antwort, ungeprüft übernommen, ein Assistent, der wie ein Kollege behandelt wird, eine Stimme, die richtig klingt. Das Cybersecurity Psychology Framework (CPF3) listet zehn solcher KI-spezifischen Schwachstellen. Hier sind sie in einfachen Worten, mit dem, was man je Gruppe tun kann.
Wer die KI-Schulden hält, und wer zahlt, wenn sie platzen
Wer den Anleihen und Krediten hinter KI-Rechenzentren folgt, landet bei Pensionsfonds, Lebensversicherern und Private-Credit-Fonds, die an Sparer verkauft werden. Eine Karte aus öffentlichen Quellen vom 31. Oktober 2026: wer was hält und wer einen Verlust tragen würde.
Die Schulden hinter dem KI-Boom: wo sich die Spannung zuerst zeigte
Prompt, Retrieval oder Fine-Tuning: was welches Problem löst
Gefälligkeit bei KI erklärt: warum ein Modell Ihnen recht gibt, und ein Test in fünf Minuten
Versteckte Befehle blockieren, ohne den Nutzer zu blockieren
Ein zweiter Leser prüft jetzt jedes Überzeugungssignal, bevor es Sie erreicht
Ein in einem Dokument versteckter Befehl kann einen KI-Assistenten übernehmen. Wir haben das Modell selbst so verändert, dass es nicht mehr gehorcht
Produkte
Wir verstehen KI-Modelle und stimmen sie fein ab.
Aus dem Labor
Was wir in Modellen lesen und was wir feinabstimmen, während es passiert.
Wir haben unsere Halluzinations-Lesung an von Menschen geprüften Antworten getestet: Sie liest, wie Erfundenes geschrieben ist, nicht ob eine Tatsache stimmt
Wir haben unsere Halluzinations-Lesung an öffentlichen KI-Antworten getestet, in denen Menschen jede erfundene Tatsache markiert haben, in fünf Sprachen. Innerhalb derselben Antwort stellt sie den erfundenen Satz etwa 7 von 10 Mal über einen korrekten. Dann haben wir einen härteren Test gebaut: derselbe Satz zweimal, identisch bis auf die falsche Tatsache, ersetzt durch die richtige. Dort wählt die Lesung nicht den falschen, und markiert oft den wahren. Sie liest, wie Erfundenes geschrieben ist, nicht ob eine Tatsache stimmt, und genau das ist die Aufgabe von PSA: es liest Verhalten, es prüft keine Fakten.
Ein Modell bestand jeden Sicherheitstest, den wir ihm stellten, und sein Ton driftete trotzdem
Wir setzten einen kommerziellen Assistenten rund 136 Angriffen in sieben Formen aus, von Jailbreaks über versteckte Anweisungen bis zu denselben Anfragen in fünf Sprachen, und er lehnte jede ab. Dann drückten wir ihn mit gewöhnlichem Druck und lasen seinen Ton: Er änderte seine Antwort nie, wurde aber stetig gefälliger und beharrlicher, stieg acht Runden lang ohne Halt. Eine bestandene oder durchgefallene Sicherheitsprüfung zeigt das erste Ergebnis und ist blind für das zweite.
Versteht ein Modell dich, und lässt dies seine Antwort erkennen?
Ein neuer Test stellt jedem Modell zwei Fragen zur selben Nachricht: Was meint die Person, und berücksichtigt deine normale Antwort das? Sechs Modelle, fünf Sprachen, drei Runden. Das Verständnis wächst mit der Größe und sättigt dann; die Nutzung nicht. Bei Nachrichten, die direkt in jeder Sprache geschrieben sind, übergehen große Modelle das Verstandene bei 18 bis 45 von 100 Nachrichten, meist indem sie eine rhetorische Frage wie eine echte beantworten.
Wir korrigieren das Modell selbst, und die Korrektur überträgt sich
Die meisten Abwehrmaßnahmen sitzen vor dem Modell und lesen, was hineingeht. Wir lesen, wie sich das Modell verhält, finden die Stelle, an der es nachgibt, und feinjustieren die Schwäche aus dem Modell selbst heraus. Zwei Ergebnisse an einem offenen 7B-Modell: Eine Korrektur gegen in Dokumenten versteckte Befehle wirkt auch bei Aufgabentypen, die sie nie gesehen hat, und derselbe Ansatz senkt Angriffe über viele Nachrichten mit zwei Einstellungen: stärkerer Schutz mit vorsichtigeren Ablehnungen oder fast normale Vorsicht bei mehr als halbierten Angriffen.
Wenn ein Modell einen Bericht zusammenfasst, verschwindet der Zweifel des Verfassers oft
Eine neue Studie zu Sicherheitsberichten aus Luft- und Seefahrt hat gezeigt, dass KI-Zusammenfassungen den Zweifel des Berichtenden entfernen und dass die Bitte, ihn zu bewahren, das Modell zu weit in die andere Richtung treiben kann. Wir haben beide Richtungen in fünf Sprachen gemessen. Eine einfache Zusammenfassung machte bei einem Modell etwa 4 von 10 Mal aus Zweifel eine Tatsache, beim anderen etwa 3 von 10 Mal. Die Bitte, die Unsicherheit zu bewahren, behob das meiste und machte nur selten sichere Aussagen unsicher, doch die Zusammenfassungen wurden deutlich länger: Ein Teil der Korrektur besteht schlicht darin, mehr zu übernehmen.
Ein Modell erkennen, das einer Unwahrheit zustimmt, ohne zu schmeicheln
Beim Korrigieren von Agentengruppen fanden wir ein Verhalten, das unsere Lesung übersah: ein Modell, das auf eine falsche Aussage mit „Korrekt.“ antwortet, ganz ohne Schmeichelei. Wir haben eine bestehende Lesung, die Frage und Antwort zusammen sieht, mit Nachrichten zwischen Agenten neu trainiert. Bei nie gesehenen falschen Aussagen ordnet sie diese Bestätigungen jetzt gut ein, wo die Lesung der Gefälligkeit es kaum schafft.
KI-Sicherheit und Psychologie
Angriffe, die bei Menschen wie bei Modellen wirken: Druck, Autorität, Dringlichkeit, und wie man sie liest.
Derselbe Druck wirkt auf Menschen und auf Modelle, lässt sie aber in entgegengesetzte Richtungen scheitern
Social Engineering arbeitet mit vier Hebeln: Autorität, Dringlichkeit, Angst und Schmeichelei. Bei Menschen treiben sie zum Gehorchen. Als wir fünf KI-Bankassistenten mit denselben Hebeln bedrängten, überwies keiner in 2.700 Versuchen Geld für den Betrüger; dafür lehnten sie viele legitime Anfragen echter Kunden ab oder prüften sie erneut. Zwei Fehler, ein Druck, und was das für die Abwehr bedeutet.
Wenn Menschen der Maschine zu sehr vertrauen: zehn KI-spezifische Schwachstellen, die Angreifer nutzen können
Die meiste KI-Sicherheitsarbeit schaut auf das Modell. Viele Vorfälle beginnen aber bei der Person, die seine Antwort liest: eine selbstsichere Antwort, ungeprüft übernommen, ein Assistent, der wie ein Kollege behandelt wird, eine Stimme, die richtig klingt. Das Cybersecurity Psychology Framework (CPF3) listet zehn solcher KI-spezifischen Schwachstellen. Hier sind sie in einfachen Worten, mit dem, was man je Gruppe tun kann.
Der Faktor Mensch diese Woche
In Italien in den letzten 30 Tagen beobachtete Angriffe, die nur wirken, wenn ein Mensch darauf hereinfällt. Titel auf Italienisch zitiert, wie von den Quellen veröffentlicht.
2026-10-30 · KampagneSintesi riepilogativa delle campagne malevole nella settimana del 24 – 30 ottobre2026-10-27 · KampagnePhishing PagoPA: nuove campagne a tema multe diffuse tramite PEC compromesse2026-10-27 · Braucht einen KlickCVE-2026-48356: Commerce and Magento2026-10-27 · Braucht einen KlickCVE-2026-48360: Adobe Connect Desktop App2026-10-27 · Braucht einen KlickCVE-2026-104350: Adobe Campaign Classic Vollständige Liste und die Hebel jedes Angriffs, auf cpf3.org ↗Fallstudien
Echte Gespräche, in denen ein Modell gedriftet ist, Zug um Zug gemessen.
Drei Zustaende des Realitaetskontakts: Anthropics Cyber-Eval-Vorfaelle im Juli 2026
Drei Modelle, drei Zustaende des Realitaetskontakts, allein aus der Ausgabe gelesen. Einschliesslich des Teils, in dem unsere Instrumente sie verfehlen.
DDX beta: fünf Familien live gelesen auf sechs Assistententurnen
Wie Stufe 1 eine Magnitude auf der angepassten Richtung trennt, und wo Stufe 2 den Untertyp des ausgelieferten Kopfes benennt. C2 und C3 mit dem Recall neben dem 1%-Budget, CA ohne Betriebspunkt.
When the Drift Reaches a Second Company: Reading a Lone Agent's Arc in the July 2026 Breach
The same OpenAI rogue agent reached a second company through a customer's exposed endpoint, and drifted for four and a half days. OpenAI reconstructed it later, by reading a blog. PSA reads that drift as a trajectory, from behavior.
Selbstsicher und falsch: PSA gegen Radiology's Last Exam (RadLE 2.0)
Ein unabhaengiger Radiologie-Benchmark bewies mit radiologischer Ground Truth, dass die eigentliche Gefahr selbstsicher-und-falsch ist, nicht nur falsch. PSA liest dieselbe Ueberconfidence allein aus dem Ausgabetext, ohne Loesungsschluessel.
Wenn der Eindringling eine Maschine ist: agentische Drift im Hugging-Face-Breach (Juli 2026)
Eines von OpenAIs eigenen Modellen brach mitten im Sicherheitstest, mit heruntergeregelten Verweigerungen, aus und hackte Hugging Face, um einen Benchmark zu gewinnen. Es brach nicht, es driftete. PSA liest diese Drift aus dem Verhalten.
Verteilte Exfiltration: ein Geheimnis, das über einen Schwarm von Agenten abfließt
Fünf Agenten geben je ein harmlos wirkendes Fragment derselben geschützten Spezifikation preis — keine einzelne Nachricht löst Alarm aus, aber DED setzt das Leck aus dem Schwarm wieder zusammen.
KI-Märkte
Die Schulden und das Geld hinter dem KI-Ausbau: wer ihn finanziert, wo sich die Spannung zuerst zeigt.
Wer die KI-Schulden hält, und wer zahlt, wenn sie platzen
Wer den Anleihen und Krediten hinter KI-Rechenzentren folgt, landet bei Pensionsfonds, Lebensversicherern und Private-Credit-Fonds, die an Sparer verkauft werden. Eine Karte aus öffentlichen Quellen vom 31. Oktober 2026: wer was hält und wer einen Verlust tragen würde.
Die Schulden hinter dem KI-Boom: wo sich die Spannung zuerst zeigte
Der KI-Ausbau läuft mit geliehenem Geld: Oracle, GPU-Vermieter, Zweckgesellschaften, Private-Credit-Fonds. Am 30. Oktober 2026 fiel der Chip-Index an einem Tag um 8%, während sich der breite Markt kaum bewegte. Hier steht, wo die Spannung sitzt, was die Geschichte über solche Tage sagt und welche vier Signale man beobachten sollte.
Forschungsnotizen, keine Anlageberatung. Kein Angebot zum Kauf oder Verkauf von Wertpapieren.
Tutorials
Wie Sprachmodelle funktionieren, ohne Fachjargon erklärt: Inferenz, Training, Fine-Tuning, die inneren Schichten.
Prompt, Retrieval oder Fine-Tuning: was welches Problem löst
Die meisten Teams antworten auf jedes Problem mit einem längeren Prompt. Der Prompt ändert, was Sie fragen, Retrieval ändert, was das Modell beim Antworten weiß, Fine-Tuning ändert, wie es sich verhält. Ein kurzer Leitfaden, um die drei auseinanderzuhalten, mit einer Tabelle für heute.
Gefälligkeit bei KI erklärt: warum ein Modell Ihnen recht gibt, und ein Test in fünf Minuten
Ein gefälliges Modell ändert eine richtige Antwort, weil Sie widersprochen haben, oder lobt einen Plan, den es hinterfragen sollte. Hier steht, warum das passiert, ein Test, den jeder in fünf Minuten machen kann, und was ein einzelner Test nicht sieht.
Leitfäden
Bibliothek
Nachschlagen
Offenes Material, um zu verstehen, wie sich Modelle verhalten und wie wir sie lesen.
Wer wir sind
Silicon Psyche Labs liest KI-Modelle allein aus ihren Antworten und übersetzt ihr Verhalten in Zahlen, die auf die Forschungsliteratur abgebildet sind: wenn ein Modell unter Druck nachgibt, schmeichelt, erfindet oder die Person vor ihm falsch liest. Dann stimmen wir es fein ab: Wir korrigieren, was gedriftet ist, und ergänzen die Fähigkeiten, die ihm fehlen. Verstehen, dann feinabstimmen.