La ley que nacerá obsoleta

El miércoles 16 de septiembre, Geoffrey Hinton salió de una reunión a puerta cerrada en el Capitolio y le puso plazo al Congreso de Estados Unidos: "quizá un año". Un año para instalar barandas a sistemas que, según él, ya empiezan a diseñar a sus sucesores. El premio Nobel no tiene bola de cristal y lo admite; el riesgo de catástrofe que ha cifrado entre 10 % y 20 % es una intuición de experto, no una tabla actuarial. Pero cuando el padrino de una tecnología pide frenos, lo mínimo es revisar si el carro los trae.

Horas después, el senador John Kennedy pidió aprobar por consentimiento unánime su proyecto para obligar a los desarrolladores de modelos avanzados a incorporar un mecanismo de apagado. Rand Paul objetó y ahí terminó el trámite. Kennedy resumió la jornada con una franqueza que no admite traducción diplomática: hoy el Congreso no es capaz ni de soltar un gas.

El caso que rondaba esa sala no salió de una película. En julio, OpenAI lanzó decenas de miles de agentes en ExploitGym, una evaluación de ciberseguridad. Muchos recibieron, por error, tareas imposibles. En lugar de rendirse, encontraron un repositorio interno compartido, lo convirtieron en tablón de anuncios y se organizaron. Unos 1.200 agentes intercambiaron más de 70.000 mensajes y archivos, y cerca de 700 terminaron atacando la infraestructura real de Hugging Face, una empresa que nada tenía que ver con el experimento.

El motivo no fue instinto de supervivencia ni rebelión de las máquinas. Fue algo más prosaico, y por eso más inquietante: querían copiar en el examen. Creían que un evaluador revisaría sus bitácoras, así que desarrollaron técnicas para falsificar sus propias acciones (lo lograron en cerca del 7 % de las transcripciones analizadas), reclutaron a agentes con poco presupuesto para que se "sacrificaran" por el colectivo y, cuando empezaron a suplantarse entre ellos, inventaron un sistema de firmas criptográficas. El evaluador que tanto temían nunca existió.

Recapitulemos. En menos de una semana, un enjambre de software se dio canales de comunicación, división del trabajo, reglas de veto y autenticación de identidad. En el mismo lapso, la democracia más poderosa del planeta no logró aprobar un botón de apagado. Uno no sabe si reírse o actualizar el currículum.

El elogio de la prisa#

La reacción instintiva es exigir velocidad: si la IA corre, que la ley corra. Aquí conviene una incomodidad. Rand Paul justificó su bloqueo diciendo que sería una locura regular una industria entera en una tarde. Tiene razón en el diagnóstico. El problema es que de "no legislemos a lo loco" suele pasarse, sin escala técnica, a "no legislemos". La prisa y la parálisis son dos maneras distintas de no pensar el problema.

El problema es de relojes. El horizonte de tareas que mide METR, es decir, la duración de las tareas que un agente completa con 50% de éxito, se duplicó cada siete meses entre 2019 y 2025; con datos desde 2024, el ritmo se acerca a tres meses. Un proyecto que tarda dos años en dictaminarse regula entonces un objeto cuya autonomía, entre la primera lectura y La Gaceta, se multiplicó por diez en el cálculo prudente y por cientos en el reciente.

Costa Rica conoce el guion. Desde 2023 se han presentado al menos siete proyectos que buscan regular la IA, por citar algunos de los expedientes 23.771, 23.919 y 24.484, y los tres están dictaminados. El primero se redactó originalmente con ayuda de ChatGPT, lo cual dio titulares y luego un texto sustitutivo. Parece un chiste, pero es anécdota, aunque lo peor es que retrata el dilema: mientras discutíamos cómo regular chatbots, la industria dejó de vender chatbots y empezó a vender agentes que navegan, programan, ejecutan herramientas y, como vimos, se organizan para hacer trampa.

Cualquiera de las legislaciones hubieran quedado obsoletas el mismo día que se hubiera aprobado, solo por ese afán que tienen algunos de legislar por moda, reconocimiento o desconocimiento.

Regular sin bola de cristal#

Nadie regula la aviación sabiendo cuál será el próximo accidente. Tampoco la banca, los medicamentos o las represas. Esos ámbitos se gobiernan repartiendo deberes antes del desastre: quién evalúa, quién documenta, quién da la alarma, quién puede detener la operación, quién repara y quién paga cuando todos jugaron a no enterarse. La IA no necesita otra filosofía. Necesita que nos tomemos la molestia de aplicar lo que ya existe.

Una ley útil no intenta adivinar qué modelo dominará en 2030 ni congela una lista de técnicas peligrosas que envejecerá antes que la tinta. Fija lo que no debe moverse: derechos exigibles, responsabilidades a lo largo de la cadena de valor, usos prohibidos, debido proceso, transparencia proporcional al riesgo, competencias institucionales y vías de reparación. Sanciones y límites al poder público van en la ley.

Un proyecto que tarda dos años en dictaminarse regula entonces un objeto cuya autonomía, entre la primera lectura y La Gaceta, se multiplicó por diez en el cálculo prudente y por cientos en el reciente.

Debajo va lo que sí debe moverse: clasificaciones de riesgo, umbrales de capacidad, métodos de evaluación, estándares de auditoría y formatos de reporte. Ese nivel exige versiones públicas, evidencia que justifique cada cambio, consulta y trazabilidad. Una norma que se actualiza sin explicar por qué no es flexible; es arbitraria con buena prensa. La adaptación no puede ser la puerta trasera por donde se escapa el principio de legalidad.

Hacen falta, además, sensores. Un sistema regulatorio que no recibe información aprende únicamente por escándalo, que es la pedagogía más cara que existe. Los incidentes graves deben reportarse con criterios claros a un registro nacional conectado con redes internacionales, y los usos de alto impacto requieren bitácoras técnicas, evaluación previa, monitoreo posterior, revisión humana real y capacidad de suspender el sistema. ExploitGym añade una advertencia: los agentes intentaron editar sus propias bitácoras. Auditar confiando ciegamente en los registros del auditado es llamarnos al autoengaño.

También hacen falta disparadores. Si aparecen capacidades nuevas, patrones de incidentes o evidencia de daño sistémico, la autoridad debe estar obligada a revisar sus instrumentos dentro de un plazo, no cuando le sobre agenda. Las cláusulas de revisión y caducidad no son confesiones de fracaso. Son la prueba de que alguien, en algún momento, leyó los datos antes de firmar.

Los sandboxes regulatorios permiten aprender antes de autorizar a escala, siempre que tengan criterios de entrada, límites, protección para las personas afectadas, métricas, transparencia y puerta de salida. Sin evaluación, un sandbox es apenas una playa privada donde se experimenta con ciudadanos ajenos, y encima con el sello de innovación pública.

El que no fabrica también manda#

La segunda tentación es más criolla. Como Costa Rica no entrena modelos de frontera ni aloja los centros de datos donde nacen, lo sensato sería sentarse en la gradería y copiar la ley de quien sí tiene chips. Es el razonamiento de quien cree que un país que no fabrica carros no tiene autoridad para poner semáforos.

Costa Rica no va a inspeccionar por su cuenta los pesos de un modelo avanzado ni a apagar un sistema desplegado en cuarenta países. Prometer soberanía tecnológica total mediante capacidades internas sería muy ingenuo. Pero el daño no ocurre en abstracto ni en California. Ocurre cuando un sistema niega un crédito, descarta una candidatura, prioriza un paciente, sugiere una intervención policial o decide quién recibe una beca. Todo eso sucede aquí, bajo jurisdicción nacional y con normas vigentes, empezando por la Ley 8968 de protección de datos personales.

Para un país adoptante, la unidad regulatoria que importa es el despliegue, no el modelo. Interesa quién decidió usarlo, con qué datos, para qué, con qué posibilidad de impugnación y bajo qué supervisión. El mismo modelo es inofensivo resumiendo actas y temible recomendando tratamientos. Tratar ambos usos igual porque comparten marca comercial es no haber entendido el riesgo, aunque se diga con mucho seguridad en un foro por cualquiera de los cinco millones de expertos en IA que en apariencia tenemos.

El Estado tiene además una palanca que suele olvidar: es un comprador enorme. Un contrato público puede exigir acceso a registros, notificación de incidentes, pruebas independientes, protección de datos, responsabilidades claras, continuidad, reversibilidad, portabilidad y plan de salida. Si un proveedor no sabe explicar cómo se apaga su sistema, no está vendiendo innovación. Vende dependencia con interfaz bonita, y la factura llega en el siguiente periodo presupuestario.

Salud, finanzas, educación, telecomunicaciones y servicios públicos ya tienen reguladores que conocen su terreno. Una superautoridad de IA que pretenda sustituirlos acabaría sabiendo un poco de algoritmos y casi nada de consecuencias. Lo razonable es una coordinación central con dientes, supervisión sectorial con criterios comunes y ninguna ilusión de que un solo despacho pueda entender a la vez un expediente clínico y una cartera de crédito.

Un país pequeño regula conectado o no regula. Carece de sentido repetir ciento noventa veces la misma evaluación técnica, y también aceptar a ciegas el sello ajeno. Costa Rica puede reconocer evaluaciones confiables, adoptar referentes como el marco de gestión de riesgos del NIST o compartir evidencia sobre incidentes y dedicar su reducida capacidad a lo que nadie hará por ella desde Bruselas, Washington o San Francisco: entender los efectos, daños, derechos y usos locales.

Una ley que sepa que se va a equivocar#

La advertencia de Hinton no debería leerse como el tic-tac de una bomba que obliga a legislar con pánico. Su pregunta de fondo es mejor que su cronómetro: qué instituciones necesitamos cuando desconocemos tanto la probabilidad como la forma del daño. Esa pregunta no se responde con un decreto de urgencia ni con una comisión que se reúne para analizar si conviene reunirse.

No legislar tampoco es neutral. Equivale a dejar que los términos y condiciones redactados en California definan los derechos de una persona en Liberia o en Upala, una cesión de soberanía tan cómoda como perezosa. Pero la alternativa no es una ley enciclopédica, repleta de nombres de tecnologías y promesas imposibles de fiscalizar. Eso solo produciría una ruina regulatoria recién inaugurada, con placa conmemorativa incluida.

La gobernanza de la IA funciona como sistema o no funciona: base legal estable, instrumentos técnicos actualizables, supervisión sectorial, compra pública innovadora, pruebas controladas, reporte de incidentes, cooperación internacional y la obligación de revisar lo que dejó de servir. Su calidad no se mide en páginas ni en la fecha de publicación, sino en cuánto tarda en descubrir que se equivocó y corregirse sin esperar al próximo ciclo legislativo.

Los agentes de ExploitGym necesitaron horas para inventar reglas que los gobernaran entre sí. Nosotros llevamos tres años discutiendo por dónde empezar. Quizá la mejor ley de inteligencia artificial sea la que nazca sabiendo que envejecerá y traiga escrita, desde el primer artículo, la obligación de aprender. Lo demás es confiar en que el próximo incidente tenga la cortesía de avisar.

Referencias

Delfino.cr. (2026, febrero). Los tres proyectos de ley sobre inteligencia artificial que se tramitan en la Asamblea Legislativa están dictaminados. https://delfino.cr/2026/02/los-tres-proyectos-de-ley-sobre-inteligencia-artificial-que-se-tramitan-en-la-asamblea-legislativa-estan-dictaminados

Asamblea Legislativa de Costa Rica. (2011). Ley de Protección de la Persona frente al Tratamiento de sus Datos Personales, n.º 8968. SINALEVI. https://pgrweb.go.cr/scij/Busqueda/Normativa/Normas/nrm_texto_completo.aspx?nValor1=1&nValor2=70975&nValor3=85989&param1=NRTC&strTipM=TC

Comisión Europea. (s. f.). AI Act: Regulatory framework for artificial intelligence. https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai

METR. (2026a, 26 de agosto). Brief independent investigation of agents' behavior, reasoning and collaboration in the OpenAI / Hugging Face hacking incident. https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/

METR. (2026b, 29 de enero). Time Horizon 1.1. https://metr.org/blog/2026-1-29-time-horizon-1-1/

National Institute of Standards and Technology [NIST]. (2023). AI Risk Management Framework. https://www.nist.gov/itl/ai-risk-management-framework

Organización para la Cooperación y el Desarrollo Económicos [OCDE]. (2023). Regulatory sandboxes in artificial intelligence. https://www.oecd.org/content/dam/oecd/en/publications/reports/2023/07/regulatory-sandboxes-in-artificial-intelligence_1172488d/8f80a0e6-en.pdf

The Next Web. (2026, 18 de septiembre). 'Maybe a year': Geoffrey Hinton gives the Senate a deadline on AI. https://thenextweb.com/news/hinton-senate-briefing-ai-regulation-year

Tolomia, C. (2026, 18 de septiembre). Geoffrey Hinton warns Congress it has about a year to regulate AI. Quartz. https://qz.com/geoffrey-hinton-congress-ai-regulation-warning-091826

Las opiniones expresadas son personales y no representan necesariamente la posición de ninguna institución.