Introducción
La creciente adopción de la inteligencia artificial (IA) en el ámbito de la administración pública ha transformado profundamente la forma en que los gobiernos prestan servicios a los ciudadanos, toman decisiones y gestionan los recursos. Desde la asignación de ayudas sociales hasta la toma de decisiones judiciales o la gestión de recursos urbanos, los algoritmos impulsados por IA se están utilizando cada vez más para mejorar la eficiencia y precisión de los procesos administrativos. Sin embargo, este fenómeno plantea un complejo desafío en cuanto a la interacción entre la propiedad intelectual y la transparencia, ya que muchos de los algoritmos utilizados por las administraciones públicas están protegidos por derechos de autor. En Díez & Romeo Abogados como expertos en Derecho administrativo e IA examinamos cómo se equilibran estos dos intereses aparentemente contrapuestos: el derecho a la transparencia y la obligación de protección de la propiedad intelectual.
1. El Marco Legal de la Propiedad Intelectual en el Ámbito Público
La propiedad intelectual (PI) en el contexto de los algoritmos y software desarrollados por la administración pública se encuentra bajo el régimen de derechos de autor. En términos generales, los derechos de autor sobre una obra pertenecen a la persona o entidad que la crea, salvo que existan disposiciones específicas en sentido contrario. En el caso de las administraciones públicas, cuando un software o algoritmo es desarrollado internamente, los derechos de autor generalmente corresponden a la propia administración, siempre y cuando no exista un contrato específico que los ceda a una entidad externa.
A pesar de ser titular de estos derechos, la administración pública está sujeta a las leyes nacionales de transparencia y acceso a la información pública, que otorgan a los ciudadanos el derecho a acceder a información relevante sobre las decisiones que afectan a sus derechos y beneficios. Sin embargo, este acceso puede estar limitado por motivos de seguridad, privacidad y protección de datos personales.
2. Principios de Transparencia en la Administración Pública y la IA
El principio de transparencia es fundamental en las democracias modernas y se encuentra reflejado en normativas como la Ley de Transparencia (España), el Derecho de Acceso a la Información Pública (Estados Unidos) o la Directiva Europea sobre la Transparencia. Dichas leyes exigen que las administraciones públicas proporcionen información sobre los procedimientos administrativos y los algoritmos que influyen en la toma de decisiones.
Cuando un algoritmo de IA se utiliza para determinar el acceso a servicios públicos, ayudas o cualquier otra gestión administrativa, la opacidad en su funcionamiento puede generar desconfianza en los ciudadanos. La falta de comprensión de cómo se toman las decisiones, especialmente si estas tienen un impacto directo en los derechos y beneficios de las personas, puede contradecir los principios de responsabilidad y rendición de cuentas en el sector público.
Así, las administraciones deben esforzarse por garantizar que los algoritmos sean transparentes, comprensibles y auditables, incluso cuando están protegidos por propiedad intelectual. Esto implica que, aunque no necesariamente se debe liberar el código fuente completo, sí deben publicarse informes detallados sobre su funcionamiento, criterios de decisión y efectos.
3. La Propiedad Intelectual en los Algoritmos Públicos: ¿Qué se Puede Revelar?
Los algoritmos desarrollados por las administraciones públicas están protegidos por derechos de autor, lo que en principio confiere a la administración el control sobre su distribución y reproducción. No obstante, en el contexto de la administración pública, la revelación total o parcial de estos algoritmos no necesariamente implica una violación de esos derechos. La administración puede adoptar medidas para garantizar que su uso cumpla con las normativas de transparencia y, al mismo tiempo, proteger su propiedad intelectual.
3.1 Documentación y Explicación del Algoritmo
Un enfoque viable es la publicación de documentación comprensible que explique cómo funciona el algoritmo sin revelar su código fuente completo. Esta documentación puede incluir descripciones generales sobre las metodologías utilizadas, los criterios de toma de decisiones y los objetivos del sistema algorítmico. De esta manera, se ofrece a la ciudadanía una visión clara de cómo se afectan sus derechos, sin exponer el código de forma directa.
3.2 Auditorías Externas y Evaluaciones de Impacto
Otra solución consiste en realizar auditorías externas independientes que revisen el funcionamiento de los algoritmos para detectar posibles sesgos, errores o discriminación. Estas auditorías pueden ser llevadas a cabo por expertos en IA, ética y derechos humanos, quienes emitirán informes públicos sobre la efectividad y la equidad del algoritmo, sin necesidad de divulgar el código fuente. Además, se pueden realizar evaluaciones de impacto que examinen cómo el algoritmo afecta a los derechos fundamentales, como la privacidad y la no discriminación.
3.3 Licencias Abiertas con Restricciones
En algunos casos, las administraciones públicas pueden optar por licenciar el código bajo un modelo de código abierto con restricciones. Por ejemplo, el software podría liberarse bajo una licencia de tipo «copyleft», que permita a otros usuarios modificar el código, pero siempre con la condición de que las modificaciones se compartan bajo la misma licencia. Esta estrategia permite aumentar la transparencia del algoritmo, fomentando la participación externa en su mejora, mientras se mantiene el control sobre su uso.
3.4 Excepciones por Seguridad y Protección de Datos
Aunque el principio de transparencia es fundamental, existen excepciones que permiten restringir el acceso a ciertos aspectos de los algoritmos. La protección de la seguridad del sistema o de los datos personales de los usuarios puede justificar que no se revele el código fuente completo, especialmente si contiene información sensible o detalles sobre la infraestructura tecnológica que podría ser explotada de manera maliciosa.
4. El Equilibrio entre Propiedad Intelectual y Transparencia
El desafío central radica en equilibrar la protección de los derechos de propiedad intelectual con las exigencias de transparencia pública. En este contexto, las administraciones públicas deben ser proactivas al explicar las razones por las que ciertos elementos del algoritmo no pueden ser divulgados, al tiempo que adoptan medidas para maximizar la apertura y la auditabilidad del proceso.
Por ejemplo, se pueden utilizar mecanismos de acceso controlado, en los cuales el código fuente se proporciona a un número limitado de partes interesadas (como investigadores o auditores independientes), bajo un acuerdo de confidencialidad que proteja la propiedad intelectual, pero también permita revisar su funcionamiento.
5. Conclusiones
La aplicación de la inteligencia artificial en la administración pública está dando lugar a nuevos retos legales relacionados con la propiedad intelectual y la transparencia. Si bien la administración pública tiene derechos sobre los algoritmos y software que desarrolla, el principio de transparencia debe prevalecer cuando estas herramientas influyen directamente en los derechos de los ciudadanos. La clave para resolver este dilema es encontrar un equilibrio entre la protección de la propiedad intelectual y el derecho de los ciudadanos a comprender y auditar los algoritmos que afectan sus vidas.
Para garantizar este equilibrio, las administraciones deben fomentar una cultura de transparencia mediante la publicación de documentación explicativa, la realización de auditorías externas, y el uso de licencias abiertas con restricciones. Además, las leyes de acceso a la información pública y los derechos de protección de datos deben adaptarse para abordar los desafíos específicos que presenta la IA en el sector público. Solo así será posible garantizar que los algoritmos públicos no solo sean eficaces y eficientes, sino también justos y equitativos.
