Parece que la inteligencia artificial cruzó una línea roja y logró algo que pone a pensar: autorreplicarse, de acuerdo con investigadores en China que demostraron que dos modelos populares de grandes lenguajes se podían clonar a sí mismos.
En el estudio, publicado en el sitio preimpresión arXiv, los científicos escribieron que "La autorreplicación exitosa sin asistencia humana es un paso esencial para que la inteligencia artificial sea más lista que los humanos y es una señal temprana para las IA rebeldes".
En el estudio, investigadores de la Universidad de Fudan utilizaron los modelos de Meta y Alibaba para determinar si una IA autorreplicante podría replicarse sin control. En 10 ensayos, los dos modelos de IA crearon réplicas independientes y funcionales de sí mismos en 50n % y 90 % de los casos, respectivamente, lo que sugiere que la IA ya podría tener la capacidad de volverse independiente. El estudio no ha sido revisado por pares entonces no queda claro silos inquietantes resultados pueden ser replicados por otros investigadores.
"Esperamos que nuestros hallazgos puedan servir como una alerta a tiempo para la sociedad humana para poner más esfuerzos en entender y evaluar los posibles riesgos de sistemas de IA de vanguardia y forme una sinergia internacional para desarrollar medidas de seguridad efectivas lo antes posible".
La IA rebelde se refiere a sistemas de inteligencia artificial que desarrollan un grado de autoconciencia o autonomía y luego trabajan en contra de los intereses humanos.
Nota: con información de Live Science
No hay comentarios:
Publicar un comentario