Tecnologias de Inteligência Artificial (IA) não existem apenas em aparelhos e dispositivos futurísticos e cenários de ficção científica. O mito ao redor do tema precisa ser desconstruído.
Modelos de IA são utilizados em nosso cotidiano ao recomendar músicas e filmes, definir as informações que aparecem em nossas redes sociais, avaliar nossa chance de obter um empréstimo ou ao decidir se seremos revistados pela polícia, a partir do reconhecimento facial.
Exemplos de impactos negativos na sociedade, tanto no Brasil quanto no exterior, são vários. Sistemas de IA para concessão de benefícios sociais que discriminam imigrantes; algoritmos que recomendam conteúdo desinformativo; pessoas detidas por engano pela polícia por erro nos sistemas de reconhecimento facial; aplicações que tentam classificar pessoas e violam a privacidade individual e coletiva.
Para endereçar essas consequências, países e organismos internacionais têm debatido estratégias para governar essas tecnologias. No Brasil, em setembro de 2021, o Marco Legal da Inteligência Artificial, PL 21-A/2020, foi aprovado na Câmara dos Deputados em regime de urgência, com um texto principiológico defendido como fundamental para garantir a inovação.
Amplamente criticado por diversos setores da sociedade pela falta de aplicabilidade prática e por fragilizar direitos previstos em outras leis, o texto seguiu para o Senado, que instituiu, em resposta aos clamores, uma Comissão de Juristas para propor um substitutivo ao texto.
Após quase nove meses desde sua instalação, que incluiu consultas a especialistas, audiências públicas e um seminário internacional, os trabalhos da Comissão de Juristas serão encerrados em dezembro, e o tema volta a ter tração nos debates públicos.
Como resultado dos esforços empreendidos, foi divulgada a estrutura base do Projeto de Lei, que conterá capítulos sobre definição de direitos, avaliação e categorização dos riscos, governança dos sistemas de inteligência artificial, responsabilidade civil, supervisão e fiscalização.
Contudo, mais importante que um índice de matérias é a incorporação de proteções suficientes à população, especialmente aos grupos sub-representados e vulneráveis, contra riscos e danos causados por sistemas de IA.
Um dos pontos cruciais a serem tratados pela Comissão é a revisão do regime de responsabilidade civil aprovado na Câmara. O dispositivo anterior é anacrônico, pois relega ao cidadão o ônus de determinar a cadeia de culpabilidade de uma tecnologia tão complexa e envolta em profunda opacidade. Assim, este regime pode tornar irreparáveis expressivos danos causados por esses sistemas que, insiste-se, afetam indivíduos e a coletividade.
Outros temas são igualmente urgentes para a futura lei: regras para garantir transparência, categorização de riscos, avaliações de impacto e o estabelecimento de um mecanismo de governança eficaz. Com o texto que virá da Comissão, o Brasil se posicionará em meio a um debate global que tende a se voltar para soluções de distribuição do ônus de exploração desse mercado, a partir do nível de ingerência na vida social, além de riscos possíveis na adoção dessa tecnologia.
Entre esforços internacionais de destaque, o AI Act, proposto na Europa, e o AI Bill of Rights, dos Estados Unidos da América, parecem apontar para um consenso: mercado sem regulação não é bom para a sociedade, nem para consumidores e empreendedores, que são afetados pela insegurança jurídica.
Em nossa história, o confronto “inovar x regular” já apareceu quando do debate do Código de Defesa do Consumidor. Se, às vésperas de sua aprovação, era tido como um golpe de morte ao mercado, a lei provou ser uma importante base de respeito a direitos no regime capitalista, separando, desde então, o joio do trigo.
Superada a ânsia por debates acelerados e prematuros, o Brasil ainda pode seguir para o mesmo caminho, em um importante diálogo internacional, protegendo nossa sociedade em suas peculiaridades.
Fonte: JOTA. Leia matéria completa.
