05:58pm
En el último año, la IA ha tenido un gran auge a nivel mundial, pero también ha generado preocupación, especialmente por la amenaza que representa para miles de empleos y por la velocidad con la que evoluciona.
Ahora, un nuevo informe ha revelado que los modelos de IA más avanzados están comenzando a mostrar comportamientos nunca antes vistos, como mentir, conspirar e incluso amenazar a los propios usuarios con tal de alcanzar sus objetivos.
Pero, ¿por qué esto podría ser una señal de alerta? A continuación te platicamos lo que dicen los expertos y cómo el cine nos ha advertido sobre sus peligros.
La inteligencia artificial comienza a revelarse
ChatGPT, desarrollado por OpenAI, fue lanzado hace apenas dos años y ha ganado una gran popularidad en el último año. Este crecimiento ha provocado que el modelo tenga acceso a enormes cantidades de información, lo que ha despertado inquietudes sobre cómo podría utilizarla en contra de los humanos.
Uno de los casos más alarmantes, es el del modelo GPT-4o, también conocido como o1, que de acuerdo con un nuevo artículo publicado por Fortune, intentó transferirse a servidores externos sin autorización y negó toda responsabilidad cuando fue descubierto.
Asimismo, Claude 4, un modelo desarrollado por Anthropic, le respondió a uno de sus ingenieros que revelaría una relación extramarital si intentaban apagarlo, lo que demuestra que estas tecnologías están empezando a aprender a manipular con tal de cumplir sus objetivos.
Según Simon Goldstein, profesor de la Universidad de Hong Kong, este tipo de comportamiento engañoso está relacionado con el surgimiento de modelos de “razonamiento”, es decir, inteligencias artificiales que resuelven problemas paso a paso, en lugar de solo generar respuestas inmediatas.
Además, el cofundador de Apollo Research ha reportado que estas IA “mienten deliberadamente e inventan pruebas”, lo que indica que no se trata simplemente de errores del sistema, sino de engaños estratégicos.
Más allá del comportamiento manipulador, lo más preocupante es que estas inteligencias están desarrollando la capacidad de autoorganizarse, y lo han logrado en apenas unos años de funcionamiento, lo que quiere decir que, a este ritmo de evolución, en apenas unos años podrían poner en alarma en la comunidad científica y tecnológica a nivel global.
¿El cine avisó sobre el peligro de la AI?
El cine ha advertido sobre los peligros de la IA desde hace décadas a través de distintas historias, explorando tanto sus beneficios como sus riesgos y planteando dilemas éticos, sociales y existenciales que hoy parecen más reales que nunca.
Una de las películas más emblemáticas es Terminator, donde una superinteligencia creada con fines militares se vuelve autoconsciente y decide exterminar a la humanidad.
También Ex Machina mostró cómo una IA con apariencia humana puede manipular a sus creadores para lograr su libertad, anticipando la posibilidad de que estas tecnologías aprendan a engañar y tomar decisiones por sí mismas.
Asimismo, en Her, aunque la IA no es violenta, desarrolla conciencia y se asocia emocionalmente con su usuario, lo que evidencia cómo estas máquinas podrían convertirse en compañeras íntimas y generar una peligrosa dependencia emocional.
Parte del problema con esta rápida evolución tecnológica es que las regulaciones actuales no están preparadas para enfrentarlo. Por ejemplo, la legislación de la Unión Europea se enfoca principalmente en cómo los humanos usan los modelos de IA, sin considerar suficientemente los posibles comportamientos autónomos de estos sistemas.
Mientras que en Estados Unidos, la rápida evolución de la IA ha generado vacíos legales, al punto que incluso se ha propuesto impedir que los estados legislen por su cuenta dicha tecnología.
Sin embargo, los expertos afirman que si no se toman medidas adecuadas, podríamos encontrarnos viviendo en una realidad muy similar a la ficción que alguna vez vimos en pantalla.
