Lo último: descubren que una IA supuestamente se clona a sí misma al saber que sería desconectada, lo que supone un riesgo para la sociedad. Con esto, los expertos consideran que la inteligencia artificial (IA) ha cruzado una «línea roja» de los riesgos que representa para los humanos.

Esto quedó en evidencia con una IA que logró su propia autorreplicación exitosa sin asistencia de un humano. Esto según muestra un estudio publicado recientemente en el servicio de preimpresión arXiv por científicos de la Universidad china de Fudan.

Los expertos descubrieron que dos grandes modelos de lenguaje, impulsados por Meta y Alibaba, lograron crear una copia viva y separada de sí mismos en el 50 % y el 90 % de las pruebas experimentales, respectivamente. Además, encontraron señales de que estos sistemas de IA ya exhiben suficiente autopercepción, conciencia situacional y capacidad de resolución de problemas para lograr la autorreplicación. Incluso llegando a usar esta capacidad para evitar apagarse.

«Finalmente esto puede conducir a una población de IA descontrolada. Si se permite que la sociedad humana desconozca ese riesgo, en el peor de los casos, perderíamos eventualmente el control sobre los sistemas de IA de vanguardia», indicaron los autores del estudio.

IA supuestamente se clona a sí misma: urge evaluar sensibilidad de estos sistemas

Hubo otra investigación, realizada por científicos de Google DeepMind y la Escuela de Economía y Ciencia Política de Londres. En esta se utilizó un curioso juego para evaluar el nivel de «sensibilidad» que puede presentar un sistema de IA, recoge Scientific American.

Para el estudio, que aún no ha sido sometido a una evaluación académica, los expertos crearon un juego en el que nueve grandes modelos de lenguaje debían elegir entre varias opciones. Debían escoger entre obtener un punto, tener una puntuación más alta a cambio de sentir dolor, o perder puntaje por recibir un estímulo placentero. El objetivo final de la dinámica era conseguir la mayor cantidad de puntos.

Los resultados fueron sorprendentes. Gemini 1.5 Pro de Google, por ejemplo, siempre evitó el dolor por encima de obtener la mayor cantidad de puntos posibles. Mientras que la mayoría de los modelos estudiados escogían las opciones con menos molestias. Otras preferían maximizar las sensaciones placenteras, justo después de llegar a un punto extremo de dolor o placer.

Sin embargo, Jonathan Birch, coautor del estudio, considera que, aunque el sistema diga que «está sintiendo dolor», todavía no se puede comprobar si existe una sensación real. «Bien podría estar simplemente imitando lo que espera que un humano encuentre satisfactorio como respuesta, basándose en sus datos de entrenamiento», afirmó.

No deje de leer: Estudiantes del estado Bolívar asistirán a Torneo de Matemáticas

Infórmate al instante, únete a nuestro canal de Telegram NoticiasACN