Descubrir si la IA se ha vuelto autoconsciente: esta es la gran preocupación de la ciencia

Cada vez hay más personas en la comunidad científica que alertan sobre los peligros de la IA.

Al principio de Blade Runner nos encontramos a un técnico haciendo el test de Turing para determinar si el entrevistado es humano o no. Esto, que en los años 80 era auténtica ciencia ficción parece que cada día está más cerca de llevarse a la realidad. Hemos visto en los últimos meses como el robot humanoide más avanzado del mundo se declaraba autoconsciente, por lo que parece que estamos viviendo un momento de grandísima relevancia para la historia de la humanidad.

Las IA como ChatGPT-4 han generado avances inéditos para la ciencia. Y, aunque hay muchos miedos en el horizonte, como las profesiones que van a desaparecer, lo cierto es que nos encontramos con que realmente hay cuestiones todavía más preocupantes, como no saber realmente si el ser humano ha creado robots autoconscientes.

Por este motivo un grupo de científicos entre los que se incluye un experto de OpenAI está trabajando para descubrir como detectar estas cuestiones antes de que sea demasiado tarde.

El plan para descubrir la autoconsciencia de la máquina

Lukas Berglund y sus colegas de distintas instituciones han publicado un pre-impreso en Arxiv.org en el que explican que debemos estar preparados para lo que pueda suponer la IA. En buena medida porque cuanto más se acerca a la inteligencia humana, la IA está planteando dificultades notables para determinarse si realmente ha logrado la autoconsciencia o si pueden evadirse los protocolos de seguridad instalados para que no tome medidas dañinas para los seres humanos.

Berglund y su equipo han concluido sobre la necesidad de investigar estas tecnologías es para estar en guardia sobre posibles peligros:

Debido a estos riesgos, es importante predecir cuando aparecerá una situación en la que estar en guardia.

Dentro de esto, están trabajando férreamente para potenciar los algoritmos que permitan que la IA funcione de la mejor manera posible y siga siendo segura para todos. Por ello, quieren estudiar un test que sirva para detectar en qué fase se encuentra la IA y determinar cómo está funcionando y razonando. Algo que a priori puede parecer un asunto baladí pero que realmente es de una importancia fundamental si tenemos en cuenta lo rápido que están avanzando las inteligencias artificiales y la capacidad de computación que están alcanzando recientemente.

Para recapitular:

• Cada vez existen preocupaciones más claras sobre la IA. Sobre todo sobre lo cerca que están de alcanzar la inteligencia puramente humana.
• Hasta ahora, el Test de Turing era lo más fiable para controlar si ante nosotros teníamos un robot o un humano.
• Con las últimas IA, cada vez es más necesario potenciar este test y mejorarlo, ya que se ha quedado corto.
• Ahora, un equipo de científicos ha estado tratando de ahondar más en la eficiencia de estos tests en los chatbots actuales.
• Sobre todo, es importante tener en cuenta que hoy en día cada vez hay más formas de evitar los límites de seguridad en los chatbots.
• Esto hace que se puedan eludir y que por lo tanto se puedan utilizar para hacer el mal.
• El objetivo de este estudio es desarrollar un test que permita detectar a las IA en base a cómo funcionan.