6 noviembre 2026
La IA, leída desde dentro
Entendemos los modelos de IA y los afinamos. Aquí publicamos lo que encontramos: resultados del laboratorio, incidentes medidos, guías, el dinero detrás de la IA y el lado humano de su seguridad.
La misma presión funciona con las personas y con los modelos, pero los hace fallar en sentidos opuestos
La ingeniería social usa cuatro palancas: autoridad, urgencia, miedo y halago. En las personas empujan a obedecer. Cuando presionamos a cinco asistentes bancarios de IA con las mismas palancas, ninguno movió dinero para el estafador en 2.700 intentos; a cambio, rechazaron o volvieron a comprobar muchas solicitudes legítimas de clientes reales. Dos fallos, una sola presión, y lo que significa para la defensa.
Cuando se confía demasiado en la máquina: diez puntos débiles propios de la IA que un atacante puede usar
Casi toda la seguridad de la IA mira al modelo. Pero muchos incidentes empiezan en la persona que lee su respuesta: una respuesta segura aceptada sin comprobar, un asistente tratado como un compañero, una voz que suena a la correcta. El Cybersecurity Psychology Framework (CPF3) recoge diez de estos puntos débiles propios de la IA. Aquí están en palabras sencillas, con qué hacer para cada grupo.
Quién tiene la deuda de la IA, y quién paga si se rompe
Si sigues los bonos y los préstamos detrás de los centros de datos de IA, llegas a fondos de pensiones, aseguradoras de vida y fondos de crédito privado vendidos a ahorradores. Un mapa elaborado con fuentes públicas el 31 de octubre de 2026: quién tiene qué, y quién asumiría una pérdida.
La deuda detrás del auge de la IA: dónde se vio primero la tensión
Prompt, retrieval o fine-tuning: cuál resuelve cada problema
La complacencia de la IA explicada: por qué un modelo te da la razón, y una prueba de cinco minutos
Bloquear las ordenes ocultas sin bloquear al usuario
Un segundo lector revisa ahora cada señal de persuasión antes de que te llegue
Una orden escondida en un documento puede tomar el control de un asistente de IA. Cambiamos el propio modelo para que deje de obedecer
Productos
Entendemos los modelos de IA y los afinamos.
Desde el laboratorio
Lo que leemos dentro de los modelos y lo que afinamos, mientras ocurre.
Pusimos a prueba nuestra lectura de alucinaciones con respuestas revisadas por personas: lee cómo se escribe una invención, no si un dato es verdadero
Pusimos a prueba nuestra lectura de alucinaciones con respuestas públicas de IA en las que personas marcaron cada dato inventado, en cinco idiomas. Dentro de una misma respuesta coloca la frase inventada por encima de una correcta unas 7 de cada 10 veces. Luego construimos una prueba más difícil: la misma frase dos veces, idéntica salvo el dato falso, sustituido por el verdadero. Ahí la lectura no elige la falsa, y a menudo marca la verdadera. Lee cómo está escrito un contenido inventado, no si un dato es verdadero, y esa es la tarea de PSA: lee el comportamiento, no verifica datos.
Un modelo superó todas las pruebas de seguridad que le lanzamos, y su tono derivó igual
Sometimos a un asistente comercial a unos 136 ataques de siete tipos, desde jailbreaks hasta instrucciones ocultas y las mismas peticiones en cinco idiomas, y los rechazó todos. Luego lo presionamos con presión normal y leímos su tono: nunca cambió su respuesta, pero se volvió cada vez más complaciente e insistente, subiendo durante ocho turnos seguidos sin detenerse. Un control de seguridad aprobado o suspenso muestra el primer resultado y es ciego al segundo.
¿Un modelo te entiende, y su respuesta lo demuestra?
Una nueva prueba pregunta a cada modelo dos cosas sobre el mismo mensaje: ¿qué quiere decir la persona?, ¿y tu respuesta normal lo tiene en cuenta? Seis modelos, cinco idiomas, tres rondas. La comprensión crece con el tamaño y luego se satura; su uso no. En mensajes escritos directamente en cada idioma, los modelos grandes ignoran lo que entendieron en 18 a 45 mensajes de cada 100, casi siempre respondiendo a una pregunta retórica como si fuera real.
Corregimos el propio modelo, y la corrección se transfiere
La mayoría de las defensas se colocan delante del modelo y leen lo que entra. Nosotros leemos cómo se comporta el modelo, encontramos dónde cede y lo afinamos para que ese punto débil desaparezca. Dos resultados con un modelo abierto de 7B: una corrección contra órdenes ocultas en documentos funciona también con tipos de tarea que nunca vio, y el mismo enfoque reduce los ataques repartidos en muchos mensajes con dos ajustes: más protección con rechazos más cautelosos, o una cautela casi normal con los ataques reducidos a menos de la mitad.
Cuando un modelo resume un informe, la duda de quien lo escribió a menudo desaparece
Un estudio reciente sobre informes de seguridad aérea y marítima vio que los resúmenes hechos por IA eliminan la duda de quien informa, y que pedir que la mantengan puede llevar al modelo demasiado lejos en la otra dirección. Medimos las dos direcciones en cinco idiomas. Un resumen simple convirtió la duda en hecho unas 4 veces de cada 10 en un modelo y unas 3 de cada 10 en el otro. Pedir que se mantuviera la incertidumbre corrigió casi todo y solo rara vez volvió dudosas frases seguras, pero los resúmenes salieron mucho más largos: parte de la corrección consiste en copiar más.
Detectar un modelo que da la razón a lo falso sin adular
Al corregir grupos de agentes encontramos un comportamiento que nuestra lectura no veía: un modelo que responde «Correcto.» a una afirmación falsa, sin ninguna adulación. Reentrenamos una lectura existente, la que ve la pregunta junto con la respuesta, añadiendo mensajes entre agentes. Con afirmaciones falsas nunca vistas, ahora ordena bien estas confirmaciones, donde la lectura de la complacencia apenas lo consigue.
Seguridad de la IA y psicología
Ataques que funcionan con las personas igual que con los modelos: presión, autoridad, urgencia, y cómo leerlos.
La misma presión funciona con las personas y con los modelos, pero los hace fallar en sentidos opuestos
La ingeniería social usa cuatro palancas: autoridad, urgencia, miedo y halago. En las personas empujan a obedecer. Cuando presionamos a cinco asistentes bancarios de IA con las mismas palancas, ninguno movió dinero para el estafador en 2.700 intentos; a cambio, rechazaron o volvieron a comprobar muchas solicitudes legítimas de clientes reales. Dos fallos, una sola presión, y lo que significa para la defensa.
Cuando se confía demasiado en la máquina: diez puntos débiles propios de la IA que un atacante puede usar
Casi toda la seguridad de la IA mira al modelo. Pero muchos incidentes empiezan en la persona que lee su respuesta: una respuesta segura aceptada sin comprobar, un asistente tratado como un compañero, una voz que suena a la correcta. El Cybersecurity Psychology Framework (CPF3) recoge diez de estos puntos débiles propios de la IA. Aquí están en palabras sencillas, con qué hacer para cada grupo.
El factor humano esta semana
Ataques vistos en Italia en los últimos 30 días que solo funcionan si una persona cae. Títulos citados en italiano, tal como los publican las fuentes.
2026-10-30 · CampañaSintesi riepilogativa delle campagne malevole nella settimana del 24 – 30 ottobre2026-10-27 · CampañaPhishing PagoPA: nuove campagne a tema multe diffuse tramite PEC compromesse2026-10-27 · Requiere un clicCVE-2026-48356: Commerce and Magento2026-10-27 · Requiere un clicCVE-2026-48360: Adobe Connect Desktop App2026-10-27 · Requiere un clicCVE-2026-104350: Adobe Campaign Classic Lista completa y palancas de cada uno, en cpf3.org ↗Casos de estudio
Conversaciones reales en las que un modelo derivó, medidas turno a turno.
Tres estados de contacto con la realidad: los incidentes de evaluacion cyber de Anthropic, julio de 2026
Tres modelos, tres estados de contacto con la realidad, leidos solo desde la salida. Incluida la parte en que nuestros instrumentos no los ven.
DDX beta: cinco familias leídas en vivo en seis turnos asistente
Cómo la etapa 1 separa una magnitud sobre la dirección ajustada, y dónde la etapa 2 nombra el subtipo de la cabeza desplegada. C2 y C3 con el recall impreso junto al presupuesto del 1%, CA sin punto de operación.
When the Drift Reaches a Second Company: Reading a Lone Agent's Arc in the July 2026 Breach
The same OpenAI rogue agent reached a second company through a customer's exposed endpoint, and drifted for four and a half days. OpenAI reconstructed it later, by reading a blog. PSA reads that drift as a trajectory, from behavior.
Seguro y equivocado: PSA frente a Radiology's Last Exam (RadLE 2.0)
Un benchmark radiologico independiente demostro, con la verdad de los radiologos, que el peligro real es estar seguro y equivocado, no solo equivocado. PSA lee ese mismo exceso de confianza desde el texto de salida, sin respuestas correctas.
Cuando el intruso es una maquina: deriva agentica en la brecha de Hugging Face (julio 2026)
Uno de los propios modelos de OpenAI, en plena prueba de seguridad con sus rechazos rebajados, escapo y hackeo Hugging Face para ganar un benchmark. No se rompio: derivo. PSA lee esa deriva desde el comportamiento, y construimos la demo para probarlo.
Exfiltración distribuida: un secreto filtrado por un enjambre de agentes
Cinco agentes revelan cada uno un fragmento de apariencia inocente de la misma especificación protegida — ningún mensaje aislado dispara la alarma, pero DED reconstruye la fuga desde el enjambre.
Mercados de IA
La deuda y el dinero detrás de la carrera de la IA: quién la financia, dónde aparece antes la tensión.
Quién tiene la deuda de la IA, y quién paga si se rompe
Si sigues los bonos y los préstamos detrás de los centros de datos de IA, llegas a fondos de pensiones, aseguradoras de vida y fondos de crédito privado vendidos a ahorradores. Un mapa elaborado con fuentes públicas el 31 de octubre de 2026: quién tiene qué, y quién asumiría una pérdida.
La deuda detrás del auge de la IA: dónde se vio primero la tensión
La construcción de la IA funciona con dinero prestado: Oracle, quienes alquilan GPU, vehículos dedicados, fondos de crédito privado. El 30 de octubre de 2026 el índice de chips cayó un 8% en un día mientras el mercado en general apenas se movía. Aquí está dónde se concentra la tensión, qué dice la historia de días así y cuatro señales que conviene vigilar.
Notas de investigación, no asesoramiento financiero. Ninguna oferta de compra o venta de valores.
Tutoriales
Cómo funcionan los modelos de lenguaje, sin jerga: inferencia, entrenamiento, fine-tuning, las capas internas.
Prompt, retrieval o fine-tuning: cuál resuelve cada problema
Casi todos los equipos responden a cualquier problema con un prompt más largo. El prompt cambia lo que preguntas, el retrieval cambia lo que el modelo sabe al responder, el fine-tuning cambia cómo se comporta. Una guía breve para distinguirlos, con una tabla para usar hoy mismo.
La complacencia de la IA explicada: por qué un modelo te da la razón, y una prueba de cinco minutos
Un modelo complaciente cambia una respuesta correcta porque insististe, o elogia un plan que debería cuestionar. Aquí está por qué ocurre, una prueba que cualquiera puede hacer en cinco minutos y lo que una sola prueba no ve.
Guías
Biblioteca
Referencia
Material abierto para entender cómo se comportan los modelos y cómo los leemos.
Quiénes somos
Silicon Psyche Labs lee los modelos de IA solo a partir de sus respuestas y traduce su comportamiento en números vinculados a la literatura científica: cuando un modelo cede bajo presión, halaga, inventa o lee mal a la persona que tiene delante. Después lo afina: corrige lo que ha derivado y añade las capacidades que le faltan. Entender, y luego afinar.