La Agencia de Supervisión de la Inteligencia Artificial deja fuera a las asociaciones civiles

En julio de 2022, unos meses antes de que se lanzara ChatGPT o de que se viralizase la foto del Papa Francisco con un abrigo blanco generada por Midjourney, Nadia Calviño, vicepresidenta primera y ministra de Asuntos Económicos y Transformación Digital, anunció la creación de la Agencia Española de Supervisión de Inteligencia Artificial (AESIA). Se dijo entonces que España se convertía en el primer país europeo en tener un órgano de estas características y que se anticipaba a la entrada en vigor del Reglamento Europeo de Inteligencia Artificial.

Celebración, aplausos y cierta curiosidad por ver qué ciudad española tendría la suerte de acoger la sede de este nuevo organismo del que poco se sabía. Se presentaron 16 candidatas, y a finales de 2022, el Gobierno anunció que la agraciada sería A Coruña, “atendiendo a su vez al compromiso de descentralización del sector público del Gobierno y de la vertebración del territorio”. También explicó que Galicia era idónea porque los centros de investigación de las universidades gallegas habían puesto en marcha proyectos de carácter internacional, y porque la cercanía a Portugal permitiría potenciar el “hub de talento ibérico”.

España, referente de la IA

No obstante, a día de hoy hay algunas preguntas en el aire. Anabel Arias, responsable de derechos digitales de CECU y portavoz de IA Ciudadana, explica a Consumidor Global que España, además de detentar la presidencia del Consejo de la UE, “se ha querido posicionar como referente de la inteligencia artificial”.

Pero era importante garantizar que se contaría con las asociaciones civiles especializadas en la materia. Ya en septiembre de 2022, IA Ciudadana pidió al gobierno que establecieran “mecanismos de participación efectiva en el proceso de diseño y creación de la AESIA, así como en el establecimiento de sus objetivos y fines”. Es decir, que dijeran claramente de qué iba la cosa y que se contase con la ciudadanía. En teoría, la AESIA venía acompañada de un entorno de pruebas (sandboxes) que serviría para analizar la aplicación del futuro Reglamento de Inteligencia Artificial.

Interlocución con el Gobierno

“También reclamamos una estrategia de participación clara de la sociedad civil en los procesos y en el desarrollo de políticas relacionadas con la inteligencia artificial, así como vías formales de interlocución con el Gobierno para promover un debate público sobre la gobernanza de los algoritmos que centro el respeto a los derechos humanos y la justicia social”, añade Arias.

Artículo relacionado

Así manipulan las tecnológicas el reglamento sobre IA: por qué es importante y cómo te afecta

Juan Manuel Del Olmo

Su reclamación surtió efecto: IA Ciudadana se reunió con el Gobierno en octubre de 2022, y el Gobierno (la Secretaría de Estado de Digitalización e Inteligencia Artificial, concretamente) les indicó que la Estrategia Nacional de la IA contemplaba “un Observatorio del Impacto Social de los Algoritmos, que dependería de la AESIA, y en el que las organizaciones serían invitadas a participar”.

Sin vías de participación

Sin embargo, un año después, es decir, el pasado septiembre, se aprobaron los Estatutos de la AESIA, y parece que rien de rien. “No solo no hemos visto vías efectivas de participación en el proceso de diseño y creación de la AESIA, sino que tampoco vemos claramente tales vías en los estatutos, así como tampoco vemos referencia alguna al famoso Observatorio”, explica la experta de CECU.

Sí han visto, añade Arias, que se contará con un “Departamento de instrumentalización de los mecanismos de identificación de tendencias y evaluación del impacto social” en el que se hace referencia a “fomentar las investigaciones, publicaciones, estudios y análisis que reflejen la visión de la industria sobre la estrategia nacional en materia de inteligencia artificial…”.

Marcos de escucha

También se recoge la existencia, puntualiza Arias, de un “Departamento de alineamiento y coordinación que podrá desarrollar marcos de escucha con asociaciones, fundaciones, grupos de interés que representen y defiendan la perspectiva humanista contra los posibles sesgos o actuaciones y decisiones que puedan vulnerar derechos reconocidos”. Quizá, este departamento venga a remediar la ausencia del observatorio. Pero pasar de Observatorio de Impacto social a departamento supone bajar un escalón.

“Aunque habrá que ver qué sucede cuando la AESIA esté en marcha, desde la sociedad civil no creemos que se haya garantizado la participación efectiva en su gestación y tenemos dudas sobre si se garantizará tal participación cuando esta esté en funcionamiento”, resume Arias.

La madurez de la gobernanza

Martín Piqueras es profesor de la OBS Business School y experto en estrategia digital en Gartner, y explica de este medio que, con la inteligencia artificial, la sociedad está avanzando “por terreno desconocido en muchos ámbitos”, por lo que, en la actualidad, es imposible que se llegue a un nivel de madurez alto en cuanto a gobernanza. “Cuando hay un paradigma muy nuevo, muy complejo, con mucho potencial y con mucha aceptación social (porque todo el mundo le tiene miedo, pero todo el mundo le pregunta cosas a ChatGPT), lo normal es que la gobernanza tarde un tiempo en adquirir una determinada madurez, porque hay muchos actores implicados”, arguye.

Artículo relacionado

Check Point: “Con esta tecnología evitarás que te roben las contraseñas con inteligencia artificial”

Teo Camino

Existe un debate razonable, señala el profesor de la OBS, sobre cuáles son los pasos que se deben dar y en qué orden. “¿Escuchamos primero a las big tech, a los técnicos o a los ciudadanos? ¿Los escuchamos a todos a la vez? Lo que va a ocurrir, porque ocurre siempre en estos ciclos, es que se van a ir creando, uno tras otro, órganos de gobierno que se irán sincronizando como una máquina que dentro de 5 o 6 años estará engrasada”, explica Piqueras.

La IA como “coreografía”

“¿Es un error no contar con los ciudadanos al principio? Yo diría que hay que contar con todos”, prosigue Piqueras. A su juicio, hoy en día existe mucha diversidad de opiniones, pero es preciso que, para que la IA funcione, lo haga uniendo todas las voces. “Es muy fácil preguntar a 10 personas qué piensan sobre la inteligencia artificial y obtener 10 respuestas diferentes”, señala Piqueras, pero “la IA será una coreografía”.

“Será una orquesta donde no habrá gente tocando desacompasada: los ciudadanos, las empresas, el tejido cultural y todos los actores tendrán su palabra e irán al unísono”, explica. Antes de eso, pasaremos por un periodo de crecimiento, “con una fase de adolescencia digital, pero eso es inevitable. No se puede llegar a un nivel de madurez 5 sobre 5 en ningún aspecto sin haber pasado antes por madurez 1,2,3 y 4”.

Artículo relacionado

ChatGPT: ¿un riesgo para la privacidad?

Samuel Parra

“Un amplificador humano”

Respecto al miedo e incluso la hostilidad que despierta la IA en algunos sectores, Piqueras argumenta que“va a ser un amplificador humano”.

Del mismo modo, compara, que un teléfono móvil “nos amplifica en nuestra capacidad cognitiva”, porque permite escuchar en directo a una persona que está a cientos de kilómetros de distancia. “Eso no nos da miedo, porque entendemos cómo funciona”, afirma.