Crean un virus informático contra la IA: su objetivo es advertir de un gran peligro

La IA va a suponer un verdadero salto en la productividad de todos nosotros. De hecho, ya lo está logrando en nuestro día a día en versiones que los expertos de las principales empresas del mundo consideran que todavía no está del todo formada. Cuando alcance la Inteligencia Artificial General aunque sea un concepto bastante vacuo y complejo, se promete una capacidad sin igual cuando se alcance ese punto de desarrollo. Sin embargo, hay problemas de seguridad anclados en todas estas cuestiones que parece que se han estado esquivando de manera notable.

Por eso, un equipo de investigadores ha tratado de crear un virus informático diseñado para las IA, y lo cierto es que lo ha conseguido de forma bastante notable.

Morris II, el gusano que carga contra la IA

Ben Nassi, Stav Cohen y Ron Bitton, un equipo de investigadores, han desarrollado un gusano dirigido a la inteligencia artificial generativa, con la capacidad de moverse de un sistema a otro además lo han documentado en un paper que han enviado a OpenAI y a Google para advertir del peligro. Llamado Morris II, en homenaje al primer gusano en la historia del hacking, este programa se enfoca en atacar asistentes de correo electrónico impulsados por IA, con el fin de extraer datos de correos electrónicos y distribuir spam.

[embedded content]

El mecanismo de este gusano opera mediante un prompt autoreplicante. Este enfoque hace que, al responder a un prompt, la IA genere automáticamente otro prompt, lo cual resulta en que la IA produzca instrucciones adicionales dentro de sus propias respuestas. Para demostrar su funcionamiento, los investigadores configuraron un sistema de correo electrónico que interactuaba con ChatGPT, Gemini y LLaVa. Este último, es una IA de código abierto desarrollada, entre otros, por Microsoft.

En este sistema, enviaron un correo electrónico diseñado con un prompt específico que apuntaba a comprometer la base de datos de un asistente de correo electrónico. Cuando este mensaje era procesado y enviado a GPT-4 o Gemini Pro, el gusano procedía a sustraer los datos contenidos en los correos electrónicos.

El propósito de esta investigación no está solamente en avisar de la existencia de agujeros de seguridad. Los investigadores han lanzado un mensaje claro para tratar de solventar antes de tiempo los graves problemas que podría tener el ecosistema IA por tener una arquitectura de seguridad deficiente. Es necesario por lo tanto re-evaluar la tecnología existente en la actualidad para tratar de aplicar soluciones antes de que lleguen los verdaderos problemas que podrían comprometer millones de ordenadores sin siquiera tener la interacción de un humano entre medias del proceso.

En resumidas cuentas, por sintetizar un hecho quizás algo obtuso:

• Un equipo de investigadores, Ben Nassi, Stav Cohen y Ron Bitton ha creado un gusano para la IA generativa. Es capaz de propagarse de un sistema a otro y ha sido bautizado como Morris II en honor al primer gusano de la historia del hacking.
• Ataca asistentes de correo electrónico generador por IA para robar datos de correos electrónicos y enviar spam.
• El funcionamiento es a través de un prompt autoreplicante que hace que la IA tenga que producir por respuesta otro prompt, haciendo que la IA genere instrucciones adicionales en sus propias respuestas.
• Crearon un sistema de correo electrónico conectado a ChatGPT, Gemini y LLaVa.
• Los investigadores escribieron un correo electrónico con un prompt que tenía por objetivo envenenar la base de datos de un asistente de correo electrónico, cuando el mensaje se recupera y se envía a GPT-4 o Gemini, roba los datos de los correos electrónicos.
• El objetivo de la investigación no es mostrar solo agujeros de seguridad, sino advertir sobre un mal diseño de arquitectura de todo el ecosistema de IA.

Para estar siempre al día con lo último en tecnología, suscríbete a nuestro canal oficial y verificado de Andro4all en WhatsApp.