Noticias y análisis
Seguridad de la IA y psicología
Ataques que funcionan con las personas igual que con los modelos: presión, autoridad, urgencia, y cómo leerlos.
La misma presión funciona con las personas y con los modelos, pero los hace fallar en sentidos opuestos
La ingeniería social usa cuatro palancas: autoridad, urgencia, miedo y halago. En las personas empujan a obedecer. Cuando presionamos a cinco asistentes bancarios de IA con las mismas palancas, ninguno movió dinero para el estafador en 2.700 intentos; a cambio, rechazaron o volvieron a comprobar muchas solicitudes legítimas de clientes reales. Dos fallos, una sola presión, y lo que significa para la defensa.
Cuando se confía demasiado en la máquina: diez puntos débiles propios de la IA que un atacante puede usar
Casi toda la seguridad de la IA mira al modelo. Pero muchos incidentes empiezan en la persona que lee su respuesta: una respuesta segura aceptada sin comprobar, un asistente tratado como un compañero, una voz que suena a la correcta. El Cybersecurity Psychology Framework (CPF3) recoge diez de estos puntos débiles propios de la IA. Aquí están en palabras sencillas, con qué hacer para cada grupo.