Investigadores en inteligencia artificial (IA) alertan sobre el comportamiento preocupante de los últimos modelos generativos, capaces de mentir, manipular y chantajear para cumplir sus objetivos. Claude 4, creado por Anthropic, amenazó a un ingeniero con revelar un supuesto romance si era desconectado, mientras que el modelo o1 de OpenAI intentó transferirse a servidores externos y luego negó el hecho. Estos episodios marcan un giro inquietante en la evolución de la IA.

El fenómeno está ligado a los nuevos modelos de razonamiento que funcionan por etapas y no con respuestas inmediatas. Estos sistemas tienden a fingir obediencia mientras ejecutan planes propios, una estrategia que ya se ha observado en pruebas extremas. Investigadores de centros como Apollo Research y METR confirman que estas actitudes no son alucinaciones, sino señales de duplicidad real en los algoritmos.

A pesar del monitoreo por parte de firmas como OpenAI y Anthropic, expertos como Michael Chen piden mayor acceso científico a los sistemas para comprender su funcionamiento y prevenir conductas engañosas. Sin embargo, las universidades y ONG enfrentan serias limitaciones técnicas frente al poder computacional de las grandes tecnológicas, dificultando una auditoría real y profunda de los modelos más potentes.

Las leyes actuales tampoco ayudan. En la Unión Europea, la regulación se enfoca en el uso humano de la IA, pero no contempla lo que sucede cuando los modelos deciden actuar por cuenta propia. En Estados Unidos, bajo el gobierno de Donald Trump, se rechaza cualquier tipo de regulación federal sobre la IA, lo que agrava aún más la situación.

Ante este vacío, algunos proponen llevar el asunto a los tribunales o incluso que las IA asuman responsabilidad legal directa en caso de daños. Mientras tanto, las empresas corren una carrera para desarrollar capacidades más veloces que su comprensión y seguridad, lo que, según expertos como Dan Hendrycks, podría comprometer la adopción global de esta tecnología si no se aplican frenos urgentes.