Coto ao uso malicioso da inteligência artificial

No dia 13 de outubro publicou-se no Boletim do Congresso dos Deputados uma proposição de lei orgânica cujo título reza assim: Regulação das simulações de imagens e vozes de pessoas geradas por meio da inteligência artificial. Ainda que por seu título poderíamos pensar que a finalidade desta norma é regular detalhes do uso da inteligência artificial para simular imagens e vozes de pessoas, em realidade o que faz é modificar outras leis já em vigor.

Estas modificações, em sua grande maioria, têm como único fim castigar determinadas condutas em relação à simulação de imagens e vozes através de aplicativos ou ferramentas de inteligência artificial. Assim, o rascunho desta futura lei orgânica (se termina se aprovando) contempla despregar uma série de modificações em três âmbitos diferentes de nosso ordenamento jurídico: o civil, o penal e o da protecção de dados.

Âmbito civil

Modifica-se a Lei Orgânica de protecção civil do direito à honra, à intimidem pessoal e familiar e à própria imagem, para recolher que suporá uma intromisión ilegítima na intimidem, honra e própria imagem das pessoas a difusão e utilização de imagens e vídeos de pessoas ou audios de voz gerados através de sistemas automatizados, software, algoritmos ou mecanismos de inteligência artificial sem o consentimento da pessoa afectada.

Isto é, que, com esta nova regulação, a difusão de um audio gerado por uma app que simule ser outra pessoa, considerar-se-á uma intromisión no âmbito destes direitos, por exemplo. E o mesmo respeito das imagens que simulem ser outra pessoa.

Como excepção, se junto ao conteúdo se especifica que este tem sido gerado artificialmente graças a uma IA, não terá nenhum problema em sua difusão.

Âmbito penal

Cria-se um novo delito no âmbito das injúrias. A conduta sancionable penalmente que se acrescenta consiste em, sem autorização e com ânimo de menoscabar a honra, fama, dignidade ou a própria estimativa de uma pessoa, recreasse mediante sistemas automatizados, software, algoritmos ou inteligência artificial para a pública difusão sua imagem corporal ou audio de voz.

Em outras palavras, castigar-se-á utilizar algum tipo de software ou aplicativo para simular a imagem ou a voz de outra pessoa, com a finalidade de atacar sua honra, dignidade ou própria estimativa.

Também se acrescenta um novo delito no âmbito do regime eleitoral general, castigando a quem desde a convocação do processo eleitoral e até finalizada a jornada de votação difundissem de forma maliciosa ou sem autorização das pessoas candidatos afectadas imagens ou audios destas últimas que estivessem alterados ou recreados mediante sistemas automatizados, software, algoritmos ou mecanismos de inteligência artificial.

Aqui, o legislador pretende proteger o desenvolvimento normal e são de umas eleições, castigando àqueles que difundam contido de candidatos gerados com inteligência artificial. Neste sentido, parece acertada esta modificação para adiantar-se ao que, com toda a segurança, sucederá em próximas eleições.

Âmbito do regulamento de protecção de dados

Amplia-se o âmbito de aplicativos do regulamento de protecção de dados, acrescentando que dita lei "aplicar-se-á também aos dados pessoais gerados com imagens, audios ou som utilizados pelo algoritmo para realizar a aprendizagem automática necessário para gerar padrões, imagens ou sons de inteligência artificial que sejam difundidos publicamente."

Conquanto considero que esta concreta modificação no âmbito do regulamento de protecção de dados será objeto de nova redacção, toda a vez que, tal e como está redigida, carece de sentido desde um ponto de vista meramente gramatical.

Que supõem estas modificações?

É inevitável pensar que o caso das garotas de Almendralejo, que foram despidas em imagens utilizando inteligência artificial, tem influído na criação de alguns dos delitos ou infracções que acabo de comentar.

Agora bem, a introdução destes tipos penais e infracções significa então que a conduta do caso Almendralejo não estava já proibida em nosso ordenamento? Porque claro, se esta conduta já estava castigada, por que a qualificar de novo? Esta não é uma pergunta baladí.

Não é singelo dar uma resposta a estas questões. Se aceitamos a tese de que se teve que introduzir uma nova conduta reprochable penalmente porque até este momento dita conduta não tinha encaixe em nenhuma outra parte do Código Penal, os sujeitos pesquisados no caso das garotas de Almendralejo poderiam beneficiar desta modificação e sair absolvidos em virtude do princípio de tipicidad e não retroactividad de normas não favoráveis ao réu.

Não cabe dúvida que nos próximos anos assistiremos a diversas tentativas por parte do legislador de regular a inteligência artificial e de proteger em frente a seus usos malintencionados. Mas terá que conjugar com delicadeza o resto de direitos em jogo para evitar que essa eventual regulação possa supor tanto um obstáculo na competitividade das empresas espanholas num mercado emergente, como nos direitos fundamentais dos cidadãos, especialmente o de liberdade de informação e expressão.