Revolução, ameaça para milhões de postos de trabalho, nova era na história da humanidade, risco para a criatividade e a originalidade… Da inteligência artificial disse-se quase de tudo. Para delimitá-la e circunscribirla a uns limites justos, a União Européia prepara um regulamento, que em teoria proibirá tecnologias perigosas. Não obstante, há alguns pontos do futuro regulamento que, dada a pressão de grandes companhias, poderiam não ser tão ambiciosos como seria desejável.
Ao menos isso é o que opina IA Cidadã, um colectivo que aúna a 16 organizações sociais que se define como "uma coalizão de organizações que trabalham para defender os direitos humanos no contexto da era digital".
Proibição de "tecnologias perigosas"
A princípios de mês, IA Cidadã dirigiu-se num comunicado a Carme Artigas, Secretária de Estado de Digitalização e Inteligência Artificial, e a Nadia Calviño, Ministra de Economia, para pedir-lhes que, no marco das negociações sobre o futuro regulamento de inteligência artificial, se proibissem "as tecnologias perigosas que possam amplificar a pobreza, o racismo e a discriminação, e para lhe recordar que a determinação do risco dos sistemas de IA não deve ficar em mãos das próprias empresas que os desenvolvem".
Isto se deve a que existia verdadeiro runrún com a influência das grandes tecnológicas na elaboração da lei, já que estas empresas queriam (e querem) meter baza. Anabel Arias, responsável por direitos digitais de CECU e porta-voz de IA Cidadã, explica a Consumidor Global que o Regulamento de Inteligência Artificial que está a cozinhar a fogo lento a UE é importante porque pode marcar uma tendência a nível mundial. O processo está agora em sua última etapa, com negociações a três bandas entre o Parlamento Europeu, o Conselho da UE e a Comissão Européia.
Aproveitar a presidência do Conselho da UE
E, Espanha, dado que nestes momentos detenta a presidência do Conselho da UE, "conta com uma oportunidade única para assegurar-se de que esta peça regulamentar tenha as protecções adequadas para as pessoas", indica Arias.
"O lobby das Big Tech tem tentado introduzir modificações para diluir as obrigações que pretende estabelecer o regulamento", revela esta experiente. Segundo as averiguaciones de um importante grupo de investigação, afirma Arias, estas grandes tecnológicas dedicaram 113 milhões de euros durante 2022 para influir em processos legislativos europeus. "Este dado demonstra a capacidade de influência destas companhias com respeito a outros actores interessados nesta regulação, como a sociedade civil ou grupos afectados pela mesma".
Níveis de risco
Um exemplo concreto dessa influência encontra-se na classificação de riscos que estabelece o regulamento, explica Arias. Europa propunha quatro tipos de riscos: o inaceitável, o risco alto, o risco reduzido e o risco mínimo. A cada um destes níveis requereria umas obrigações de transparência . Por exemplo, os classificados com risco inaceitável querem proibir-se dentro da UE, e seriam aqueles "que se aproveitem de grupos vulneráveis e gerem danos significativos".
"Agora bem, ao longo do processo legislativo, esta classificação se foi debilitando ao permitir que as próprias empresas avaliem o nível de risco de seus sistemas", tem assinalado Arias. Isto supõe, de facto, "uma via de escape às obrigações do regulamento" para as Big Tech, que são as que determinarão se seu sistema é de alto risco ou não, de maneira que se põe em teia de julgamento a efectividade de todo o regulamento. Assim, desde IA Cidadã arguyen que "não pode ser o lobo quem decida se quer cuidar das gallinas".
Reconhecimento biométrico
O argumento tem convencido ao serviço jurídico do Parlamento Europeu. Ademais, a coalizão sustenta que é necessário que se proíbam as tecnologias de reconhecimento biométrico que permitem o reconhecimento facial, de emoções e da linguagem corporal nos espaços públicos, tanto em tempo real como posteriormente, "pois atenta contra o direito à intimidem, a privacidade, o direito à igualdade e à não discriminação, bem como o direito ao protesto".
Deste modo, a intenção, indica Arias, é classificar como "risco inaceitável" os sistemas de IA que sejam capazes de realizar reconhecimentos biométricos em espaços de acesso público "em tempo real" e "ex pós", por parte de autoridades. Em mudança, o uso destes sistemas por parte de entidades privadas sim está permitido.
Diferenças de opinião
Agora mesmo há posições diferentes sobre este ponto. "A proposta da Comissão Européia e a orientação geral do Conselho proibiram os sistemas de reconhecimento biométrico tempo real em espaços de acesso público, mas estabeleceram excepções (como a busca de meninos perdidos) e em certas condições (como a autorização judicial prévia) permite o uso destes sistemas em espaços públicos", narra Arias.
Em mudança, na posição adoptada em junho pelo Parlamento Europeu incorporou-se "a proibição total de sistemas de reconhecimento biométrico em espaços de acesso público tanto em tempo real, como posterior", com uma única excepção: que estejam sujeitos a uma autorização prejudicial, de conformidade com a UE e para determinados delitos graves que já se produziram.
Um ponto controvertido
"Leste resulta ser um dos pontos mais controvertidos nas negociações que estão a ter lugar actualmente", diz Arias. O assunto tratar-se-á numa reunião a três bandas que terá lugar na terça-feira 24 de outubro. Os eurodiputados estariam a pressionar por uma proibição total, diz a experiente de CECU, "enquanto os governos da UE querem manter algumas excepções, segundo o texto original da Comissão".
Baixo o ponto de vista de IA Cidadã, estes sistemas podem afectar à privacidade, à liberdade de expressão e ao direito à não discriminação.