A União Europeia pode prevenir uma distopia da inteligência artificial?

Ursula von der Leyen

A presidente da Comissão Europeia, Ursula von der Leyen, quer controles mais rígidos sobre IA

Thierry Monasse / Getty Images

Um plano da União Europeia para regulamentar a inteligência artificial pode levar as empresas que quebrarem as regras propostas sobre vigilância em massa e discriminação em milhões de euros. O projeto de lei, que vazou antes de seu lançamento oficial no final deste mês, sugere que a UE está tentando encontrar uma “terceira via” na regulamentação da IA, entre o mercado livre dos EUA e a China autoritária.

Conforme redigido atualmente, as regras iriam proibir a IA projetada para manipular as pessoas “em seu detrimento”, realizar vigilância indiscriminada ou calcular “pontuações sociais”. Grande parte da linguagem é vaga o suficiente para que os regulamentos possam abranger toda a indústria de publicidade ou nada. Em qualquer caso, os militares e qualquer agência que garanta a segurança pública estão isentos.

Algumas atividades de “alto risco” seriam permitidas, sujeitas a controles rígidos, incluindo medidas para prevenir o preconceito racial, de gênero ou idade nos sistemas de IA. Como possíveis alvos, a legislação menciona sistemas para automatizar o recrutamento de empregos, atribuindo vagas em escolas, faculdades ou universidades, medindo as pontuações de crédito ou decidindo o resultado dos pedidos de visto. As empresas em descumprimento podem ser multadas em até € 20 milhões, ou 4% do faturamento global.

De certa forma, a notícia não é nenhuma surpresa, já que a presidente da Comissão Europeia, Ursula von der Leyen, prometeu trazer urgentemente legislação sobre IA quando for eleita em 2019. Mas Lilian Edwards, da Universidade de Newcastle, no Reino Unido, diz que os projetos de lei concernirá a indústria de tecnologia. “Eu aplaudo a ambição, mas você não pode imaginar que isso vai acontecer neste estado”, diz ela.

Edwards compara a abordagem à forma como a UE regulamenta os produtos de consumo, que devem atender a certos requisitos para serem importados. “Isso é muito mais difícil de fazer com IA, pois nem sempre é um produto simples”, diz ela. “Você está caminhando inexoravelmente para uma guerra comercial com o Vale do Silício ou uma fiscalização fraca.”

A China e os Estados Unidos já fizeram grandes avanços na implementação de IA em uma série de setores, incluindo segurança nacional e aplicação da lei. Na China, o movimento diário de cidadãos em muitas cidades é monitorado por reconhecimento facial e há muitos testes públicos e privados de uma “pontuação de crédito social” que, em última instância, serão implementados em todo o país. Essas pontuações podem ser reduzidas por infrações, como jogar no computador por muito tempo ou atravessar a rua em um semáforo vermelho para pedestres, e podem ser aumentadas com doações para instituições de caridade. Se sua pontuação cair muito, você pode ter sua viagem de trem negada ou ser envergonhado nas listas online.

Enquanto isso, nos Estados Unidos, onde muitos gigantes da tecnologia estão baseados, uma abordagem leve e de livre mercado para a regulamentação foi encorajada pelo governo de Donald Trump, enquanto o atual presidente Joe Biden não assumiu uma posição pública firme.

Daniel Leufer, do Access Now, um dos grupos que já assessorou a UE sobre IA, diz que a Europa há muito tem uma estratégia para estabelecer uma terceira via entre os EUA e a China na regulamentação de tecnologia, e diz que o projeto de lei é promissor.

Mas ele alerta que existem “grandes bandeiras vermelhas” em torno de alguns elementos do projeto de lei, como a criação de um Conselho Europeu de Inteligência Artificial. “Eles terão uma enorme influência sobre o que é adicionado ou retirado da lista de alto risco e da lista de proibições”, diz ele, o que significa que exatamente quem está no conselho será a chave.

A UE teve sucesso anterior em influenciar a política global de tecnologia. Seu Regulamento Geral de Proteção de Dados, introduzido em 2018, inspirou leis semelhantes em países fora da UE e na Califórnia, onde fica o Vale do Silício. Em resposta, entretanto, algumas empresas americanas simplesmente bloquearam o acesso de clientes da UE aos seus serviços.

Resta saber se o Reino Unido seguirá a UE na regulamentação da IA, agora que deixou o bloco. O Departamento de Negócios, Energia e Estratégia Industrial do Reino Unido disse New Scientist que o governo formou um painel independente chamado Regulatory Horizons Council para aconselhar sobre quais regulamentações são necessárias para reagir a novas tecnologias, como a IA.

Mais sobre esses tópicos:

Leave a Reply

Your email address will not be published. Required fields are marked *