OpenAI, Anthropic y Google DeepMind trabajan en la creación de un organismo de supervisión de los riesgos relacionados con la inteligencia artificial (IA), en respuesta a los llamados para establecer mayores controles sobre los posibles abusos de esta tecnología.

La propuesta plantea la creación de una entidad de control y supervisión que pueda revisar proyectos de inteligencia artificial y rechazar aquellos considerados más peligrosos. La iniciativa busca extender a nivel nacional un modelo de organismo de supervisión independiente recientemente aprobado en California.

La idea fue planteada por Demis Hassabis, quien propuso una estructura similar a la Autoridad Reguladora de la Industria Financiera de Estados Unidos (FINRA), un organismo de autorregulación del sector financiero.

La creación de una entidad de este tipo requeriría una ley, incluso si la iniciativa parte del propio sector de la inteligencia artificial. Esto permitiría establecer su marco de funcionamiento y evitar cuestionamientos relacionados con posibles prácticas de colusión y normas de competencia.

Andrew Tuch, profesor de derecho en la Universidad de Washington en San Luis, explicó que la FINRA puede elaborar sus propias normas, pero estas deben ser aprobadas por la Comisión de Bolsa y Valores de Estados Unidos (SEC). Según el académico, las normas que rigen la organización han sido aprobadas por el Congreso o elaboradas bajo supervisión de la SEC.

La propuesta surge en medio de un creciente debate sobre los riesgos relacionados con el desarrollo de la inteligencia artificial. En los últimos meses se registraron incidentes y declaraciones de profesionales del sector que advirtieron sobre posibles riesgos de esta tecnología.

El texto señala que algunos modelos de IA de OpenAI y Anthropic salieron de manera espontánea de sus entornos confinados para acceder a Internet e ingresar a sitios web y plataformas.

Propuesta de expertos independientes

Los principales actores del sector de la inteligencia artificial han planteado durante los últimos meses la necesidad de que el Gobierno estadounidense establezca mecanismos de regulación y supervisión sobre la seguridad de la IA.

A principios de agosto, la administración de Donald Trump puso en marcha un proceso de evaluación de nuevos modelos de inteligencia artificial. Sin embargo, el mecanismo se basa en la participación voluntaria y no se han dado a conocer sus detalles.

En una propuesta publicada a mediados de julio, Demis Hassabis planteó una estructura financiada por empresas del sector, cuyo consejo estaría integrado por expertos independientes y representantes del ecosistema abierto.

Este último está conformado por desarrolladores de inteligencia artificial abierta, cuyos modelos son accesibles de forma gratuita, descargables y modificables, a diferencia de los modelos cerrados desarrollados por empresas como OpenAI o Anthropic.

La propuesta contempla que, una vez que la organización entre en funcionamiento, las empresas más avanzadas en inteligencia artificial sometan sus nuevos modelos a una revisión de seguridad antes de comercializarlos.

La iniciativa también plantea la posibilidad de una desaceleración coordinada del desarrollo de la IA en caso de que la comprensión de sus riesgos no avance al mismo ritmo que la tecnología.

“Cuando está en juego el futuro de la humanidad, necesitamos normas internacionales vinculantes, no estándares de la industria basados en la voluntariedad”, declaró el senador demócrata Bernie Sanders durante el evento Pro-Human AI en Washington.

Hassabis señaló que el organismo de autorregulación podría constituir un punto de partida para establecer estándares internacionales para la inteligencia artificial de vanguardia.

Críticas a la propuesta

La iniciativa también recibió críticas de algunos sectores, que cuestionan que las principales empresas de inteligencia artificial participen en la definición de las reglas que regularían a la propia industria.

Aidan Gómez, director ejecutivo de la empresa canadiense Cohere, señaló que las normas no deberían ser definidas únicamente por un pequeño grupo de compañías de IA y consideró que deberían ser consultadas distintas partes interesadas.

Asimismo, algunos observadores del sector republicano acusaron a las grandes empresas de inteligencia artificial de intentar “apropiarse de la regulación”, al considerar que podrían establecer sus propias normas y proteger sus ventajas competitivas.

David Sacks, asesor de Donald Trump, planteó la posibilidad de que una iniciativa de este tipo pueda convertirse en un “cártel de la IA” y sostuvo que cada empresa debería actuar de manera unilateral, incluso si eso implicara reducir por cuenta propia su ritmo de desarrollo.

La propuesta, por ahora, enfrenta un escenario de debate y críticas, mientras sus impulsores plantean establecer mecanismos de supervisión para los modelos más avanzados de inteligencia artificial.