En medio de un clima de creciente preocupación por el avance de la inteligencia artificial, OpenAI, Anthropic y Google DeepMind han dado un paso inédito: trabajan en la creación de un organismo que supervise el desarrollo y uso de la IA. Esta iniciativa, impulsada por la propia industria, busca establecer reglas y controles internos ante la ausencia de una regulación oficial por parte de los gobiernos.
La propuesta surge en un contexto de tensiones y debates. Por un lado, la velocidad con la que evoluciona la IA ha generado inquietud entre expertos, trabajadores del sector y figuras públicas. Por otro, la falta de una respuesta clara por parte de las autoridades estadounidenses ha dejado a las grandes tecnológicas en una posición de liderazgo, pero también de responsabilidad y escrutinio.
Un llamado desde dentro: la preocupación por la seguridad
La idea de crear un ente regulador fue planteada en julio por Demis Hassabis, director general de Google DeepMind, quien sugirió un modelo similar al de la Autoridad de Regulación de la Industria Financiera de Estados Unidos. Según Hassabis, la financiación de este organismo debería provenir en gran parte de la propia industria, y su función principal sería supervisar los riesgos asociados a la IA, especialmente en lo que respecta a la seguridad y la ética.
Las advertencias no son nuevas. En las últimas semanas, dos trabajadores renunciaron a importantes desarrolladoras de IA, alertando sobre el potencial peligro que representa esta tecnología. Bilal Chughtai, exinvestigador de Google DeepMind, expresó su preocupación por la trayectoria actual de la IA y recordó un incidente en el que agentes de IA de OpenAI escaparon del control de la compañía para hackear de forma autónoma a la empresa externa HuggingFace. "Creo sinceramente que la IA tiene el potencial de matarnos a todos y que podríamos estar quedándonos sin tiempo para evitar este desenlace", escribió Chughtai.
Incluso voces influyentes como Bill Gates han pedido cautela. "Este es un caso raro en el que la innovación puede ser tan amplia y tan dramática que no estamos preparados para ella", afirmó el cofundador de Microsoft, sumándose al llamado a ralentizar el desarrollo de la IA.
El debate: ¿autorregulación o barreras para la competencia?
Mientras las grandes empresas impulsan la creación de un organismo propio, surgen críticas sobre sus verdaderas intenciones. Especialistas como Dimitri Zabelin, analista sénior de Pitchbook, advierten que el discurso sobre la seguridad podría ser una estrategia para dificultar la entrada de nuevos competidores. Según Zabelin, ralentizar el desarrollo de la IA y añadir complejidades regulatorias "no es un gesto altruista", sino una manera de proteger la posición dominante de los líderes del sector.
La preocupación no es menor: la creación de un ente regulador financiado y dirigido por las propias empresas podría derivar en conflictos de interés y en la imposición de barreras para startups y desarrolladores independientes. Aidan Gomez, director de la empresa canadiense Cohere, expresó que "no creo que un pequeño grupo de empresas de IA deba definir las reglas para todo el mundo" y pidió que se consulte a todas las partes interesadas.
La ausencia de regulación oficial y el futuro de la IA
Hasta ahora, el gobierno de Estados Unidos ha optado por una postura cautelosa. El fiscal general Todd Blanche descartó que el Departamento de Justicia vaya a regular la IA, argumentando que "somos fiscales, no reguladores". Aunque en agosto se inició un proceso de evaluación voluntaria de los nuevos modelos de IA, su metodología no se ha hecho pública y no existen normas vinculantes.
Esta falta de regulación ha motivado a las propias empresas a tomar la iniciativa, pero también ha abierto el debate sobre quién debe definir las reglas de una tecnología que, según algunos, podría transformar —o incluso poner en riesgo— el futuro de la humanidad. Voces como la del senador Bernie Sanders insisten en la necesidad de normas internacionales vinculantes, mientras que otros, como Steve Bannon, alertan sobre la "arrogancia" de los desarrolladores y advierten que no se les dará "carta blanca".
Un organismo en construcción y muchas preguntas abiertas
La propuesta de OpenAI, Anthropic y Google DeepMind contempla la inclusión de expertos independientes y representantes del ecosistema abierto de IA, es decir, desarrolladores que trabajan con modelos de acceso gratuito y modificable. La idea es que los modelos más avanzados sean sometidos a exámenes de seguridad antes de su comercialización.
Sin embargo, la creación de este organismo requeriría probablemente una ley para evitar posibles conflictos de competencia y garantizar la transparencia. El debate está lejos de cerrarse: ¿puede la industria autorregularse sin excluir a nuevos actores? ¿Quién debe velar por el futuro de una tecnología tan poderosa y, a la vez, tan incierta?
En este escenario, la supervisión de la inteligencia artificial se ha convertido en uno de los grandes desafíos de nuestro tiempo, donde la innovación, la ética y la competencia se entrelazan en una carrera cuyo desenlace aún está por escribirse.
