Los laboratorios que construyen la IA más potente del mundo han aceptado que alguien de fuera los revise. Lo que esa IA hace dentro de tu empresa casi nunca lo revisa nadie. Y lo que hoy te protege son promesas voluntarias.
Esto es lo que ha pasado desde el sábado. Y por qué, para una empresa europea, el riesgo está en lo que tu proveedor no está obligado a gobernar.
72 horas
El sábado 12, Dario Amodei, CEO de Anthropic, publicó We Must Pace the Frontier. Pide ralentizar el ritmo al que mejoran los modelos más avanzados para que la seguridad no se quede atrás. No pide parar: "pacing does not mean halting". Y compromete a Anthropic, desde ya, a abrir la casa a evaluadores externos con acceso de empleado.
En pocas horas le respaldaron Sam Altman, que prometió lo mismo para OpenAI; Elon Musk, con un escueto "Dario is right"; y Demis Hassabis, de Google DeepMind, para quien el ensayo "points towards the right path forward". Altman fue más lejos: dijo a Fortune que sacar OpenAI a bolsa este año sería "ill-advised", dada la situación de seguridad.
El domingo, en Doonbeg (Irlanda), Donald Trump respondió que "whoever wins AI, wins". Admitió que se podrían poner guardarraíles. No anunció ninguno. El lunes, Pekín calificó de "fearmongering" el llamamiento de los laboratorios. Y SoftBank, uno de los grandes inversores de OpenAI, cayó un 13% en la bolsa de Tokio.
Lo que se discute cuando se habla de frenar la IA
No es frenar o acelerar. Es quién verifica.
La novedad del ensayo no está en el ritmo. Está en aceptar que alguien de fuera mire dentro mientras se construye. Es un compromiso concreto, no una declaración.
El problema es que hoy todo es voluntario. En Estados Unidos no hay ley federal y no se espera ninguna antes de las legislativas de noviembre. Lo que un laboratorio promete un sábado lo puede retirar cualquier otro día.
Quién no se lo cree
China es el argumento de los dos lados. Amodei la usa para pedir que no se le vendan chips avanzados; la Casa Blanca, para no frenar nada. Los datos explican la tensión: según el AI Index 2026 de Stanford, la inversión privada en IA en Estados Unidos multiplicó por 23 la de China en 2025, y aun así en marzo el mejor modelo estadounidense solo aventajaba en un 2,7% a los chinos.
Tampoco todos lo leen como prudencia. Stuart Russell, de Berkeley, cree que el plan está "completely backwards": primero hay que fijar los requisitos de seguridad, y solo después dejar que las capacidades avancen. David Sacks, asesor de la Casa Blanca, recordó a los laboratorios su exposición por responsabilidad de producto. El vicepresidente JD Vance lo llamó "a bit of a Trojan horse".
SoftBank sugiere que la prudencia tiene precio inmediato, aunque su caída coincidió con que OpenAI descartara salir a bolsa este año.
La asimetría de la empresa europea
Aquí el tablero es otro. Desde el 2 de agosto, el AI Act obliga a avisar cuando alguien interactúa con una IA y a marcar lo que genera. Las obligaciones de alto riesgo llegan en diciembre de 2027.
Tu proveedor de IA, probablemente estadounidense, no está obligado a gobernar lo que tú sí vas a tener que explicar. A tu consejo, a tus clientes o a tu regulador.
Y ese proveedor puede convertirse en un problema político de un día para otro. En febrero, el Pentágono declaró a Anthropic "riesgo para la cadena de suministro" después de que la compañía se negara a retirar las salvaguardas que impiden usar su modelo en armas autónomas y vigilancia masiva. En agosto, una jueza federal lo declaró ilegal. Durante seis meses, depender de ese proveedor tuvo una dimensión política que no estaba escrita en ningún contrato.
Tres preguntas para tu consejo esta semana
De qué modelos de terceros depende ya la empresa, y qué pasaría si uno de ellos cambia mañana sus condiciones, frena, acelera o se convierte en noticia política.
Qué tendríamos que explicar, y a quién, si uno de esos sistemas se equivoca.
Y quién verifica dentro de casa lo que esos sistemas hacen, con qué indicador y cada cuánto. No una política aprobada en un comité: un nombre y una medida.
Mi lectura
Si quienes mejor conocen estos sistemas aceptan que alguien de fuera los revise mientras los construyen, ninguna empresa que los use debería conformarse con menos. Es la única manera de poder explicar lo que haces cuando alguien te lo pregunte.
Medir no fabrica criterio. Lo hace defendible.