La IA está en todas partes y en todo momento agregar más usuarios. El paso lógico es que también sería blanco de ataques maliciosos. Ya hemos hablado de los peligros de la ‘inyección rápida’, un ataque sorprendentemente fácil de ejecutar. Él no es el único. Las empresas de inteligencia artificial también están luchando contra el envenenamiento de datos.
Datos envenenados. Consiste en introducir datos manipulados en recursos que luego se utilizarán para el entrenamiento de IA. De acuerdo a una investigación recienteNo se necesitan tantos documentos maliciosos para comprometer un modelo de lenguaje como se creía anteriormente. Descubrieron que con sólo 250 documentos «envenenados», se comprometieron modelos con hasta 13 mil millones de parámetros. El resultado es que el modelo puede estar sesgado o llegar a conclusiones erróneas.
Inyección inmediata. Es uno de los problemas a los que se enfrentan los navegadores de IA como ChatGPT Atlas o Comet. Simplemente colocando un mensaje invisible en un correo electrónico o en un sitio web, puede lograr que la IA entregue información privada al no poder distinguir qué es una instrucción del usuario y qué es una instrucción maliciosa. En el caso de los agentes de IA es especialmente peligroso ya que pueden ejecutar acciones en nuestro nombre.
IA para hacer el mal. Según un Informe de huelga colectivaLa IA se ha convertido en el arma preferida de los ciberdelincuentes, que la utilizan para automatizar y perfeccionar sus ataques, especialmente el ransomware. Él MIT analizó más de 2.800 ataques de ransomware y descubrió que el 80% utilizaba IA. La cifra es abrumadora.
Colaboración. ellos cuentan en Tiempos financieros que empresas líderes en inteligencia artificial como DeepMind, OpenAI, Microsoft y Anthropic están trabajando juntas para analizar los métodos de ataque más comunes y diseñar estrategias defensivas de manera colaborativa. Están recurriendo a piratas informáticos éticos y otros expertos independientes para intentar violar sus sistemas y poder fortalecerlos.
Urgencia. Los navegadores y agentes de IA ya están aquí, pero llegamos a tiempo porque aún no ha habido una adopción masiva. Es urgente fortalecer los sistemas, especialmente para evitar la inyección de avisos que tan fácilmente pueden robar nuestros datos.
Imagen | Toma de Shayna «Bepple» en desempaquetar
En | «La seguridad de nuestros hijos no está en venta»: ya está aquí la primera ley que regula los ‘amigos de la IA’
