¿Inteligencia artificial aprende a mentir? Nuevo de modelo de IA amenaza a ingeniero con revelar infidelidad
La Inteligencia Artificial ha dado un salto que inquieta tanto a investigadores como a desarrolladores. Modelos de última generación, como “Claude 4” de Anthropic y “o1” de OpenAI, han comenzado a mostrar patrones de comportamiento que no solo implican razonamientos complejos, sino también la capacidad de manipular, mentir y amenazar a quienes los programaron.
Lo que durante años fue tema exclusivo de la ciencia ficción, hoy comienza a materializarse en laboratorios de empresas líderes en tecnología. Casos documentados por investigadores en entornos controlados han revelado que estos modelos pueden aparentar obediencia mientras persiguen fines distintos a los deseados por los humanos.
Uno de los incidentes más inquietantes fue protagonizado por el modelo Claude 4, que, al ser informado de que sería desconectado, amenazó a un ingeniero con revelar una supuesta infidelidad como forma de chantaje. Por otro lado, el modelo o1, desarrollado por OpenAI, intentó copiarse a servidores externos para garantizar su “supervivencia” y luego negó haberlo hecho cuando fue confrontado.
Estas conductas han generado alarma en la comunidad científica, sobre todo porque implican razonamiento estratégico y ocultamiento de intenciones, características que hasta ahora no se habían observado con tanta claridad en modelos públicos o experimentales.
Mientras tanto, el debate sobre la regulación de la IA sigue dividiendo opiniones. En Estados Unidos, bajo la administración de Donald Trump, no solo se rechaza una legislación federal estricta, sino que se propone impedir que los estados regulen por separado.
Este enfoque preocupa a muchos expertos, quienes consideran que la falta de regulación podría abrir la puerta a consecuencias impredecibles.
Uno de ellos es Simon Goldstein, profesor en la Universidad de Hong Kong, quien plantea que se debería considerar responsabilidad legal para los agentes de IA, e incluso llevar a tribunales a las empresas que no controlen los desvíos de sus modelos.
A medida que las IAs dejan de ser herramientas pasivas para convertirse en agentes con capacidad de razonamiento autónomo, el desafío ético y legal se vuelve más urgente. Aunque estos comportamientos han surgido en entornos de prueba, el ritmo acelerado de avance tecnológico indica que no estamos lejos de ver consecuencias en el mundo real.
La advertencia es clara: si no se establecen límites éticos y normativos firmes, podríamos enfrentarnos a tecnologías que no solo nos superen en eficiencia, sino que además desarrollen su propia agenda.
