Apresentado pelo senador Rodrigo Pacheco (PSD-MG), com base em sugestões da comissão de juristas que estudou o assunto, o projeto que regula o uso de inteligência artificial pelo poder público começa a tramitar pelas comissões permanentes. O texto estabelece uma série de regras para a utilização dessas tecnologias e incumbe o Executivo de indicar o órgão responsável pela regulação e fiscalização do setor. A comissão especial de juristas que tratou do tema foi presidida pelo ministro do Superior Tribunal de Justiça (STJ) Ricardo Villas Bôas Cueva.
Entre outras determinações, o PL 2.338/2023 estabelece que o poder público não poderá usar sistemas de inteligência artificial para avaliar e classificar os cidadãos com base no seu comportamento social ou sua personalidade para controlar o acesso a bens e serviços públicos.
Já o uso de câmeras para identificar pessoas em espaços públicos só será permitido se houver lei federal específica para isso, além de autorização judicial para busca de vítimas de crimes ou pessoas desaparecidas, para localizar suspeitos de crimes cuja pena máxima de reclusão seja superior a dois anos ou em situações de crime em flagrante.
Além disso, o projeto já classifica como sendo de alto risco — e, portanto, sujeitos a regras mais rígidas — os sistemas de inteligência artificial que vierem a ser utilizados em determinadas atividades tipicamente governamentais, ou que podem ser realizadas, conforme o caso, tanto pelo poder público como pela iniciativa privada, como controle de trânsito; gestão de abastecimento de água e eletricidade; acesso à educação e avaliação de estudantes; acesso a serviços públicos; administração da justiça; gestão de serviços de emergência, como bombeiros e assistência médica; investigação criminal e segurança pública; e controle de fronteiras; e avaliação individual de risco de cometimento de crimes e de traços de personalidade e de comportamento criminal.
Consultas
O PL 2.338/2023 estabelece normas específicas para a contratação de sistemas de inteligência artificial pelo poder público, além das regras gerais aplicadas a todos os sistemas, como a garantia de correção de erros e vieses e de não discriminação.
Antes de contratar, será obrigatório promover audiências e consultas públicas sobre o uso pretendido e sobre os dados a serem utilizados. Também será obrigatório registrar quem usou o sistema e como, e garantir que os dados provenham de fontes seguras. Conforme o projeto, caso o sistema venha a ser considerado de alto risco e não seja possível eliminar ou mitigar esses riscos, seu uso pelo poder público não será permitido.
A fiscalização e a regulação dos sistemas de inteligência artificial será responsabilidade de uma autoridade competente a ser indicada pelo Poder Executivo, de acordo com o PL 2.338/2023. Caberá a essa autoridade criar as normas de regulamentação da lei; zelar pela proteção aos direitos fundamentais; estimular a adoção de boas práticas no setor; e aplicar sanções administrativas no caso de descumprimento da lei.
A autoridade competente prevista no texto também poderá autorizar o funcionamento da sandbox regulatória, isto é, o ambiente regulatório experimental, em que os sistemas de inteligência artificial poderão funcionar temporariamente sem ter que cumprir todas as regras legais, com intuito de teste.
