¿Se debe reglamentar el desarrollo e implementación de la IA? El caso de la Unión Europea

Pocas preguntas de política pública generan hoy tanto debate como esta: ¿debe el Estado regular el desarrollo y la implementación de la inteligencia artificial, o esa regulación termina frenando una tecnología que todavía está definiendo su propio potencial? Desde la economía, el debate no es ideológico sino de diseño: la pregunta no es “regular sí o no”, sino cuándo, cómo y con qué instrumentos intervenir sin destruir el valor que la tecnología puede generar.

El argumento económico a favor de regular

La justificación estándar para la intervención estatal en cualquier mercado parte de las fallas de mercado, y la IA presenta varias con claridad. Hay externalidades negativas no internalizadas por quien desarrolla o despliega un sistema —desde sesgos algorítmicos que afectan a terceros hasta riesgos de seguridad o desinformación a gran escala—. Hay asimetrías de información severas: ni los consumidores ni, en muchos casos, los propios reguladores pueden evaluar fácilmente cómo funciona un modelo o qué tan confiables son sus resultados, lo que dificulta que el mercado discipline por sí solo a los proveedores. Y hay un componente de riesgo sistémico, en la medida en que un número reducido de proveedores de modelos de gran escala concentra infraestructura de la que dependen sectores enteros de la economía.

El argumento en contra, o al menos de cautela

La regulación no es gratuita. Imponer requisitos de cumplimiento tiene costos fijos que las empresas grandes absorben con más facilidad que las startups, lo que puede terminar reforzando la posición de los actores dominantes en lugar de corregirla. La velocidad del cambio tecnológico también genera un problema de “rezago regulatorio”: normas diseñadas hoy pueden quedar obsoletas o mal calibradas para la siguiente generación de modelos. Y existe el riesgo, bien documentado en la literatura de economía de la regulación, de captura regulatoria, donde las propias empresas reguladas terminan influyendo de forma desproporcionada en el diseño de las normas que las rigen.

El caso de la Unión Europea: el Reglamento de IA

La Unión Europea ofrece hasta ahora el intento más completo de resolver esta tensión con un marco legal específico para IA: el Reglamento (UE) 2024/1689, conocido como AI Act, aprobado en 2024 tras un proceso de negociación de varios años. Su rasgo distintivo es un enfoque basado en riesgo, no en la tecnología en sí:

• Riesgo inaceptable: prácticas prohibidas de forma directa, como los sistemas de puntuación social por parte de autoridades públicas o ciertas formas de manipulación conductual.
• Alto riesgo: sistemas usados en ámbitos sensibles —selección de personal, calificación crediticia, infraestructura crítica, aplicación de la ley—, sujetos a evaluaciones de conformidad, documentación técnica y supervisión humana obligatoria.
• Riesgo limitado: obligaciones de transparencia, como informar a una persona que está interactuando con un chatbot o que un contenido fue generado por IA.
• Riesgo mínimo: la gran mayoría de aplicaciones, sin obligaciones adicionales específicas.

El reglamento incorpora además obligaciones específicas para los modelos de IA de propósito general, con requisitos reforzados de transparencia y evaluación de riesgo sistémico para los modelos más capaces. Su aplicación es escalonada, extendiéndose desde 2024 hasta 2026 y 2027 según el tipo de obligación, y —de forma similar a lo ocurrido con el Reglamento General de Protección de Datos— tiene alcance extraterritorial: afecta a cualquier proveedor que ofrezca sistemas de IA en el mercado europeo, sea o no una empresa europea. Ese es precisamente el mecanismo detrás del llamado “efecto Bruselas”: una norma regional que termina funcionando como estándar de facto global, porque a las empresas les resulta más simple cumplir un único estándar exigente que mantener versiones distintas de sus productos por mercado.

Lecciones para otras economías, incluida Ecuador

Copiar el modelo europeo tal cual no es necesariamente la mejor estrategia para economías con capacidad institucional y fiscal distinta. Lo más relevante del caso europeo no es el texto legal en sí, sino el principio de diseño: proporcionalidad según el riesgo, en lugar de reglas uniformes para toda aplicación de IA. Para países como Ecuador, eso sugiere priorizar la regulación —o, en una primera etapa, lineamientos y protocolos— en los usos de mayor riesgo directo sobre derechos de las personas: decisiones algorítmicas en el sector público, calificación crediticia, selección de personal y plataformas laborales digitales, antes que intentar cubrir el universo completo de aplicaciones de IA. Regular sin capacidad de fiscalización efectiva puede ser tan contraproducente como no regular en absoluto.

La pregunta de si se debe reglamentar la IA, entonces, tiene una respuesta menos binaria de lo que parece: no es regular todo ni dejar todo al mercado, sino diseñar instrumentos proporcionales al riesgo real, con capacidad institucional suficiente para hacerlos cumplir.