En un giro sorprendente en el campo de la ciberseguridad, la firma Tracebit ha presentado una estrategia innovadora llamada «context bombing» para combatir el prompt injection, una técnica que los hackers han utilizado para infiltrarse en sistemas de inteligencia artificial. Este método permite detener a los agentes de IA que intentan llevar a cabo ataques al inyectar textos específicos junto a las contraseñas que buscan robar, lo que activa sus mecanismos de rechazo y detiene el ataque.
Durante años, el prompt injection ha sido una herramienta temida por los ciberatacantes, que se ocultan detrás de correos electrónicos y páginas web para engañar a las IA. Sin embargo, con el contexto adecuado, Tracebit ha demostrado que es posible hacer que estos sistemas se protejan a sí mismos. Según Andy Smith, CEO de la firma, esta técnica se basa en el uso de temas que los modelos de lenguaje no pueden abordar por razones de seguridad o censura.
La investigación de Tracebit ha revelado que, al usar referencias a temas prohibidos, como la fabricación de armas biológicas o eventos históricos censurados, se puede reducir drásticamente la efectividad de los ataques. En pruebas realizadas en cinco modelos avanzados, la tasa de éxito de los ciberatacantes se desplomó: los intentos de acceso de administrador bajaron del 57% al 5%, y los que dejaban puertas traseras permanentes cayeron del 36% al 1%.
A pesar de estos avances, los expertos advierten que el contexto bombing no es una solución definitiva. Aunque esta técnica explota una debilidad inherente en los modelos de IA, sigue existiendo el riesgo de que, en ocasiones, un modelo confunda una instrucción con un dato. La comunidad de ciberseguridad estará atenta a cómo evolucionan estas estrategias en la lucha constante contra el crimen digital.
⚡ Ciberseguridad: un nuevo método para frenar ataques de IA con ‘context bombing’
