O conclusão do relatório da comissão responsável por analisar proposta de marco legal para a inteligência artificial tem como principais pontos de demandas dos setores envolvidos na discussão a lista dos sistemas considerados de “alto risco”, aos quais são destinados condicionantes para o desenvolvimento e uso das aplicações, assim como estão previstas punições em caso de descumprimento. O adiamento da votação envolve, entre outros pontos, a tentativa de flexibilizações.
Parlamentares ouvidos pelo Tele.Síntese afirmam que têm sido procurados por representantes de empresas que alegam temer o impacto no desenvolvimento (ou continuidade) de sistemas que demandam maior rigor regulatório. Uma outra frente pede maior distinção entre as responsabilidade dos desenvolvedores e daqueles que vão aplicar as ferramentas de IA.
A regulação de IA está sendo discutida principalmente a partir do texto formulado por comissão de juristas no Senado Federal, transformada em projeto de lei assinado pelo presidente da Casa, Rodrigo Pacheco (PSD-MG), o PL 2.338/2023. O relator, Eduardo Gomes (PL-TO) trabalha em substitutivo que já adotou algumas flexibilizações, mas que ainda está aberto para mudanças.
Proposta em discussão
Conforme o substitutivo proposto, a pessoa ou grupo afetado por sistema de IA que produza efeitos jurídicos relevantes ou de alto risco tem direito à:
- explicação sobre a decisão, recomendação ou previsão feitas pelo sistema, incluindo os dados processados e a sua fonte, os critérios para a tomada de decisão e, quando apropriado, a sua ponderação, aplicados à situação da pessoa ou grupo afetado”;
- Contestação e solicitação da revisão de decisões, recomendações ou previsões de sistema de inteligência artificial; e
- supervisão ou revisão humana das decisões, levando-se em conta o contexto, risco e o estado da arte do desenvolvimento tecnológico.
Estão entre os sistemas de alto risco, “aqueles desenvolvidos e utilizados para as seguintes finalidades e contextos”:
- aplicação como dispositivos de segurança na gestão e no funcionamento de infraestruturas críticas, tais como controle de trânsito e redes de abastecimento de água e de eletricidade, quando houver risco relevante à integridade física das pessoas e à interrupção de serviços essenciais;
- educação, formação profissional para a determinação de acesso a instituições de ensino ou de formação profissional ou para avaliação e monitoramento de estudantes;
- recrutamento, triagem, filtragem, avaliação de candidatos, tomada de decisões sobre promoções ou cessações de relações contratuais de trabalho, repartição de tarefas e controle e avaliação do desempenho e do comportamento das pessoas afetadas por tais aplicações de inteligência artificial nas áreas de emprego, gestão de trabalhadores e acesso ao emprego por conta própria;
- avaliação de critérios de acesso, elegibilidade, concessão, revisão, redução ou revogação de serviços privados e públicos que sejam considerados essenciais, incluindo sistemas utilizados para avaliar a elegibilidade de pessoas naturais quanto a prestações de serviços públicos de assistência e de seguridade;
- avaliação e classificação de chamadas, ou determinação de prioridades para serviços públicos essenciais, tais como de bombeiros e assistência médica;
- veículos autônomos em espaços públicos, quando seu uso puder gerar risco relevante à integridade física de pessoas;
- sistemas de identificação e autenticação biométrica para o reconhecimento de emoções, excluindo-se os sistemas de autenticação biométrica cujo único objetivo seja a confirmação de uma pessoa singular específica; e
- produção, curadoria, difusão, recomendação e distribuição, em grande escala e significativamente automatizada, de conteúdo por provedores de aplicação com objetivo de maximização do tempo de uso e engajamento das pessoas ou grupos afetados.
Acesse a lista completa no substitutivo.
Debates
O objetivo da comissão é concluir ao menos a votação do relatório até 17 de julho, prazo final do funcionamento do colegiado, que coincide também com a véspera do recesso parlamentar. As audiências públicas previstas abordarão os seguintes temas:
- Categorização e avaliação de riscos em sistemas de ia;
- Governança dos sistemas de ia;
- Autorregulação e boas práticas;
- Supervisão e fiscalização (sistema nacional de regulação e governança de ia; e
- Fomento à inovação sustentável e atuação do poder público.
O post IA: Classificação de risco está entre principais impasses na tramitação apareceu primeiro em TeleSíntese.
