Bancada Sulista
O Senado aprovou nesta terça-feira (10) o projeto que regulamenta a inteligência artificial (IA) no Brasil. A matéria segue agora para a análise da Câmara dos Deputados. O texto se apresenta como um marco regulatório com regras para o desenvolvimento e o uso de sistemas de IA. Entre os dispositivos está um que prevê a proteção dos direitos dos criadores de conteúdo e obras artísticas. A votação foi conduzida pelo senador Weverton (PDT-MA).
O texto aprovado é um substitutivo do senador Eduardo Gomes (PL-TO) que tem como base o PL 2.338/2023, projeto de lei apresentado por Rodrigo Pacheco. E esse projeto, por sua vez, surgiu a partir de um anteprojeto elaborado por uma comissão de juristas.
O substitutivo também engloba dispositivos sugeridos em outras sete propostas — inclusive no PL 21/2020, já aprovado pela Câmara dos Deputados — e em dezenas de emendas de diversos senadores.
Antes de chegar ao Plenário do Senado, a matéria tramitou na comissão temporária sobre o tema, onde foram realizadas 14 audiências públicas com a participação da sociedade civil e de diversos setores (tanto da iniciativa pública como privada), além de especialistas em tecnologia e inovação.
A versão aprovada nesta terça-feira manteve fora da lista de sistemas considerados de alto risco os algoritmos das redes sociais — decisão que atendeu a pedidos dos senadores oposicionistas Marcos Rogério (PL-RO), Izalci Lucas (PL-DF) e Mecias de Jesus (Republicanos-RR) e que provocou o lamento de alguns parlamentares governistas.
Por outro lado, o texto atendeu a uma demanda dos senadores governistas ao manter o dispositivo que prevê a proteção dos direitos dos criadores de conteúdo e obras artísticas. Esses foram dois pontos que geraram maior dificuldade de entendimento entre os dois blocos.
O senador Carlos Viana (Podemos-MG), que foi o presidente da comissão temporária, considerou o texto aprovado como um resultado do consenso, dentro do que foi possível, e avaliou que a proposta traz avanços, sobretudo ao colocar o ser humano como o princípio “de todas as coisas”, na centralidade das decisões. Ele ainda enfatizou que o substitutivo não faz qualquer menção a trechos que possam ser percebidos como possibilidade de censura em redes sociais. No entanto, Viana ressaltou que a proposta atribuiu responsabilidades aos sistemas que desenvolvem inteligência artificial sobre as ferramentas a serem disponibilizadas à sociedade brasileira.
— Foi um relatório em que nós conseguimos chegar a um consenso quanto à maior parte das colocações trazidas pelos senadores e pelas senadoras. E [buscamos garantir] o respeito ao ser humano; o princípio da privacidade. A possibilidade de que uma pessoa, quando vítima de uma determinada tecnologia, ela automaticamente tenha acesso para entender de onde isso veio, como aconteceu e, principalmente, possa se defender daquilo que está sendo colocado. E ali não há uma linha sobre censura ao que se escreve em rede social. As pessoas são livres para colocar a sua opinião, as suas ideias, as suas propostas. O projeto não tira absolutamente qualquer liberdade de grupos se manifestarem em rede social.
Relator da matéria, Eduardo Gomes acatou duas emendas sugeridas pelo senador Esperidião Amin (PP-SC). Uma delas busca evitar vício de iniciativa quanto ao Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) — que deverá ser criado para fiscalizar o cumprimento das regras a serem seguidas pelos desenvolvedores de tecnologia. O SIA, de acordo com o texto, será coordenado pela Autoridade Nacional de Proteção de Dados (ANPD). A emenda torna a criação do órgão autorizativa, já que é função privativa do presidente da República criar entidades ou conselhos.
A outra emenda de Esperidião Amin recomenda que a SIA leve em consideração requisitos, que podem ser adotadas ou não pelo órgão, sobre sistemas que possam ser identificados como não sendo de alto risco e que possam ser considerados, inclusive, para oferecer agilidade aos serviços prestados pelos órgãos públicos. A intenção, segundo o senador de Santa Catarina, é deixar claro o que é legal e permitido.
— Isso aqui não é restritivo; isso aqui ajuda a delinear o que é alto risco, que sempre será subjetivo. Nós estamos complementando com balizas — disse Esperidião Amin.
De acordo com tais requisitos, não seriam de alto risco, por exemplo, os sistemas destinados a desempenhar uma tarefa processual restrita; a melhorar o resultado de uma atividade humana que é realizada sem o uso da inteligência artificial; a detectar padrões de tomada de decisões ou desvios em relação a padrões de tomada de decisão; a executar uma tarefa preparatória no contexto de uma avaliação.
Eduardo Gomes, ao classificar o substitutivo como o “texto possível” e que esse é um primeiro passo, considerando que o assunto demanda constante atualização legislativa, disse que a construção coletiva da proposta possibilitou um texto que mantém a liberdade de expressão no país, mas que também permite o desenvolvimento de sistemas que estimulem a competitividade e o ambiente de negócios.
— Esse projeto não é de esquerda, não é de direita. É da humanidade. Precisa manter os direitos de debate no sistema bicameral, indo à Câmara e voltando para um novo debate no Senado. E nós estamos cumprindo com a nossa obrigação, principalmente, de garantir os direitos autorais, que ficam vinculado aos artistas, àqueles que fazem a arte, mas são igualmente necessários para os profissionais liberais, para a comunidade acadêmica (...). Os advogados, os médicos, toda a sociedade que precisa entender que qualquer uso de material que produz e que, principalmente, gera recursos deve estabelecer o direito sagrado à criação (...).
Durante o debate que antecedeu a aprovação do substitutivo, o senador Eduardo Girão (Novo-CE) chegou a apresentar requerimento sugerindo que o substitutivo fosse discutido em sessão de debates temáticos antes de ser votado. Segundo ele, a matéria estaria sendo votada de forma “açodada” e alguns aspectos do texto ainda despertam dúvidas entre os parlamentares, como a criação do SIA e as competência do coordenador do sistema. Girão disse temer que a proposta possa conter como alguma tentativa de censura da opinião pública ou possa impedir o desenvolvimento dessa tecnologia.
— O relatório não atende à evolução tecnológica necessária. É uma questão primordial que a gente faça uma legislação que esteja alinhada com o que está acontecendo no mundo. E, segundo especialistas, eu não sou especialista, eu reconheço minha insignificância, mas eles estão falando que nós estamos fazendo um dos marcos regulatórios mais atrasados do planeta — argumentou Girão, que declarou voto contrário à proposta, assim como o senador Magno Malta (PL-ES).
O pedido de Girão, porém, foi indeferido pelo presidente do Senado. Rodrigo Pacheco ressaltou que já havia ocorrido uma sessão temática sobre o assunto no Plenário da Casa, e também lembrou que a comissão temporária presidida por Carlos Viana havia promovido 14 audiências públicas sobre o tema.
O texto divide os sistemas de inteligência artificial (IA) em níveis de risco, oferecendo uma regulamentação distinta para os de alto risco, a depender do impacto do sistema na vida humana e nos direitos fundamentais. Também proíbe o desenvolvimento de aplicações de IA que apresentem "risco excessivo". Essas classificações também estiveram entre os dispositivos que geraram controvérsias nos debates da comissão temporária.
Além disso, uma das principais alterações da última versão do texto, em relação às versões iniciais, é o caráter facultativo da avaliação preliminar dos sistemas de IA, estabelecido pelo relator, Eduardo Gomes, a partir de emenda da senadora Mara Gabrilli (PSD-SP).
O objetivo dessa avaliação preliminar é determinar o grau de risco do sistema, que dependerá de suas finalidades e do seu impacto. Ela deve ser realizada pelos próprios agentes — isto é, os desenvolvedores, fornecedores ou aplicadores do sistema, conforme o caso —, antes da disponibilização do sistema no mercado.
De acordo com o substitutivo, a avaliação preliminar só será obrigatória para os sistemas generativos e de propósito geral. Para os demais casos, ela será facultativa, mas será considerada uma medida de boa prática, podendo resultar em benefícios para os agentes (como prioridade em avaliações de conformidade).
Os senadores mantiveram no texto a proteção dos direitos dos criadores de conteúdo e obras artísticas.
O substitutivo estabelece que conteúdos protegidos por direitos autorais poderão ser utilizados em processos de "mineração de textos" para o desenvolvimento de sistemas de IA por instituições de pesquisa, de jornalismo, museus, arquivos, bibliotecas e organizações educacionais. No entanto, o material precisa ser obtido de forma legítima e sem fins comerciais. Além disso, o objetivo principal da atividade não pode ser a reprodução, exibição ou disseminação da obra usada, e a sua utilização deve se limitar ao necessário para alcançar a finalidade proposta — e os titulares dos direitos não podem ter seus interesses econômicos prejudicados injustificadamente. O titular de direitos autorais poderá proibir o uso de conteúdos de sua propriedade nas demais hipóteses.
O texto também prevê que o uso de conteúdos protegidos por direitos autorais em processos de mineração, treinamento e desenvolvimento de sistemas de inteligência artificial disponibilizados comercialmente dará direito de remuneração aos titulares dos respectivos direitos.
Já o uso de imagem e voz de pessoas por sistemas de IA deverá respeitar os direitos da personalidade, conforme previstos no Código Civil.
Isso significa que qualquer utilização desse material precisa de consentimento prévio e não pode causar danos à honra, à reputação ou à intimidade das pessoas. A violação dessas garantias pode resultar em ações judiciais e pedidos de indenização.
Artistas como o ator Paulo Betti, as cantoras Marina Sena, Kell Smith, Paula Fernandes, o cantor Otto e a produtora Paula Lavigne estiveram no Plenário acompanhando a votação da proposta. Apesar de reconhecerem o papel da inteligência artificial e o avanço natural dos processos tecnológicos, eles reforçaram a necessidade de aliar tecnologia à criatividade, respeitando a subjetividade humana.
— Ninguém está aqui lutando contra a inteligência artificial, porque a inteligência artificial a gente entende como uma tecnologia que veio também para trazer progresso. Mas a gente entende que, se há empresas ganhando bilhões com isso, essas empresas precisam arcar com as consequências e precisam arcar com essa mineração de dados que fazem com a nossa obra, com a nossa vida. E não só a nossa vida, mas a vida de toda a população brasileira — disse Marina Sena em coletiva de imprensa.
Mesmo com alguns senadores governistas lamentando o fato de o substitutivo não incluir os algoritmos das redes sociais na lista de sistemas considerados de alto risco, os parlamentares da base do governo em geral consideraram o texto aprova equilibrado e com avanços, como no trecho que garante a proteção dos direitos autorais.
— Em qualquer tipo de atividade econômica existe o insumo que é fundamental, e quem coordena aquela atividade tem de pagar por ele. No caso da inteligência artificial, o principal insumo é a criatividade, é o que cada um foi capaz de criar, e que vai ser minerado pela empresa que vai desenvolver o programa de inteligência artificial, que também terá de pagar por isso por conta da criatividade que as pessoas inserem na sua produção musical, literária, no que quer que seja — disse o senador Humberto Costa (PT-PE).
De acordo com o substitutivo, os cidadãos terão assegurados os direitos a explicação e revisão humana das decisões que tiverem impacto jurídico relevante. E, no caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
— Para garantir sistemas de inteligência artificial que protejam direitos é essencial o escrutínio público dos regulados e dos reguladores por meio de participação pública. É necessária, sim, a participação social no arranjo de fiscalização e integridade da informação. Outra dimensão é a proteção aos trabalhadores e às trabalhadoras. Não podemos excluir regras que garantam a supervisão humana em decisões automatizadas de punições disciplinares e dispensas — afirmou a senadora Teresa Leitão (PT-PE).
O substitutivo retirou do texto um artigo que previa o risco à integridade da informação, à liberdade de expressão, ao processo democrático e ao pluralismo político como critério para regulamentação e identificação — pelo SIA — de novas hipóteses de IA de alto risco. Não houve acordo sobre esse artigo entre governistas e oposicionistas.
Também ficou de fora o trecho que atribuía à IA generativa a responsabilidade sobre a integridade da informação. Para senadores da oposição, esse artigo poderia funcionar como mecanismo para o controle da liberdade de expressão e do acesso à informação.
Em seu voto, o relator da matéria, Eduardo Gomes, concordou com os argumentos desses parlamentares. “Conforme já asseverado, a liberdade de expressão se apresenta como premissa básica a qualquer sociedade democrática, e o texto ora relatado jamais poderia ser utilizado para afetar essa prerrogativa”, afirmou Eduardo Gomes em seu parecer, ao explicar a retirada do artigo.
O substitutivo proíbe o desenvolvimento e o uso de sistemas com determinadas características ou finalidades, por considerar que representam risco excessivo. Entre eles estão os chamados sistemas de armas autônomas (SAA), isto é, que podem selecionar e atacar alvos sem intervenção humana.
A proposta também proíbe o uso de técnicas subliminares e a exploração de vulnerabilidades de pessoas ou grupos para induzir comportamentos danosos à saúde e à segurança.
Além disso, proíbe sistemas que tenham o objetivo de possibilitar a produção e a disseminação de material que caracterize ou represente abuso ou exploração sexual de crianças e adolescentes.
O texto ainda proíbe a avaliação de traços de personalidade e características de comportamento para prever a realização de crimes. E impede a classificação de indivíduos com base em seu comportamento social ou personalidade para determinar, de forma ilegítima e desproporcional, o acesso a bens, serviços e políticas públicas.
O uso de câmeras para identificar pessoas em tempo real em espaços públicos só será permitido para busca de vítimas de crimes ou pessoas desaparecidas, para recapturar fugitivos, cumprir mandados de prisão ou medidas restritivas, investigar e reprimir crimes em flagrante nos casos de delitos cuja pena de prisão seja superior a dois anos e instruir inquérito ou processo criminal com autorização do juiz, quando a prova não puder ser feita por outros meios.
O substitutivo classifica como sistemas de inteligência artificial de alto risco, que estarão sujeitos a regras mais rígidas, aqueles que vierem a ser utilizados em determinadas atividades, como:
Conforme já mencionado, a classificação dos algoritmos de distribuição de conteúdo de redes sociais como sistemas de alto risco foi excluída do relatório por Eduardo Gomes, atendendo a pedidos dos senadores Marcos Rogério, Izalci Lucas e Mecias de Jesus. “Após profundo debate, a previsão anterior mostrou-se excessivamente genérica, considerando que a imprecisão técnica pode ter repercussões indesejáveis para setores importantes, vinculados inclusive à proteção de direitos fundamentais”, justificou o relator.
De acordo com o texto, sistemas usados como ferramentas intermediárias e que não influenciem decisões relevantes não serão considerados de alto risco. E o agente de sistemas de IA poderá solicitar a revisão da classificação de seu sistema, caso discorde dela.
Ainda segundo o relatório de Eduardo Gomes, a lista de aplicações e usos de sistemas de IA considerados de alto risco não deve ser fechada ou definitiva. O objetivo é que a lista seja "aberto-exemplificativa", ou seja, que tenha exemplos, mas permita a inclusão de novas situações no futuro, de acordo com mudanças ou avanços.
O texto prevê que, quando um sistema de IA for classificado como de alto risco, deverá ser realizada a avaliação de impacto algorítmico por profissionais com conhecimentos técnicos, científicos, regulatórios e jurídicos.
A avaliação de impacto algorítmico verificará os riscos aos direitos fundamentais conhecidos e previsíveis, os benefícios do sistema, a probabilidade e a gravidade de eventuais consequências adversas e os esforços necessários para mitigá-las, as medidas de transparência e a lógica do sistema.
As conclusões dessas avaliações deverão ser públicas e disponibilizadas em banco de dados mantido pela autoridade competente. Um regulamento deverá determinar a periodicidade da revisão dessa avaliação. Caso, após a introdução do sistema no mercado, os agentes descubram novos riscos aos direitos dos indivíduos, devem comunicá-lo às autoridades competentes e às pessoas afetadas.
A proposta determina que os agentes dos sistemas de IA deverão ter estruturas internas de governança para garantir a segurança do sistema e o atendimento dos direitos das pessoas afetadas.
Já os sistemas de alto risco precisarão, além disso, documentar a realização de testes de confiabilidade e segurança; mitigar eventuais vieses discriminatórios; adotar ferramentas de registro automático de operação para avaliar seu desempenho e apurar eventuais resultados discriminatórios; e adotar medidas que permitam explicar os resultados obtidos. A eventual ocorrência de incidentes graves de segurança deverá ser comunicada em prazo adequado à autoridade competente, a qual poderá determinar providências a serem tomadas.
Os sistemas conhecidos como generativos e de propósito geral terão regras específicas. Antes de esses sistemas serem disponibilizados no mercado, seus agentes devem realizar a avaliação preliminar para classificação de risco. Devem também demonstrar que identificaram e mitigaram possíveis riscos aos direitos fundamentais, ao meio ambiente, à liberdade de expressão, à integridade da informação e ao processo democrático. Esses sistemas devem ser concebidos de modo a reduzir o uso de energia e outros recursos e a produção de resíduos. Também só poderão processar dados em conformidade com as exigências legais.
Conteúdos sintéticos como textos, imagens, vídeos e áudios produzidos ou modificados por meio de IA deverão conter identificador — que poderá ser disponibilizado na forma de metadados — para que se possa verificar a sua autenticidade e a sua proveniência. O texto aprovado prevê a regulamentação (em parceria com a iniciativa privada, profissionais de pesquisa e a sociedade civil) de formas de identificar e rotular esses conteúdos.
A infração das normas contidas no substitutivo poderá sujeitar desenvolvedores, fornecedores e aplicadores de sistemas de inteligência artificial a multas de até R$ 50 milhões ou a 2% do faturamento bruto do grupo ou conglomerado por infração.
Outras sanções previstas são advertência, proibição de tratar determinados dados e suspensão parcial ou total, temporária ou permanente do desenvolvimento, fornecimento ou operação do sistema.
O texto prevê que a responsabilização civil por danos causados por sistemas de inteligência artificial estará sujeita às regras previstas no Código Civil ou no Código de Defesa do Consumidor, conforme o caso. Caberá a inversão do ônus da prova quando for muito oneroso para a vítima comprovar o nexo de causalidade entre a ação humana e o dano causado pelo sistema.
O substitutivo prevê que diversos órgãos deverão trabalhar em conjunto com o intuito de organizar, regular e fiscalizar o mercado da inteligência artificial.
O texto estabelece a Autoridade Nacional de Proteção de Dados (ANPD) como a autoridade competente para impor sanções, aplicar multas, expedir normas sobre as formas e requisitos de certificação, os procedimentos da avaliação de impacto algorítmico e para a comunicação de graves incidentes.
A ANPD também deverá se manifestar sobre processos normativos dos órgãos reguladores e exercerá competência normativa, regulatória e sancionatória quanto ao uso de IA para atividades econômicas que não tiverem órgão regulador específico.
A ANPD também zelará pelos direitos fundamentais, estimulará a adoção de boas práticas, receberá denúncias e representará o Brasil em organismos internacionais da área.
Além disso, a ANPD coordenará o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA), que será criado e integrado por órgãos estatais de regulação setorial, entidades de autorregulação e de certificação, pelo Conselho de Cooperação Regulatória de Inteligência Artificial (Cria) e pelo Comitê de Especialistas e Cientistas de Inteligência Artificial (Cecia).
Entre as atribuições do Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) estão a regulamentação dos sistemas de alto risco, o reforço das competências das autoridades setoriais e da ANPD, a harmonização da atuação dos órgãos reguladores e a realização de estudos periódicos, com o envio ao Congresso Nacional, a cada quatro anos, de parecer sobre a necessidade de aprimoramentos na legislação sobre inteligência artificial.
O Conselho de Cooperação Regulatória de Inteligência Artificial (Cria), que também será coordenado pela ANPD, será um fórum permanente de comunicação com órgãos e entidades da administração pública responsáveis pela regulação de setores específicos, a fim de harmonizar e facilitar o trabalho da autoridade competente. Sua composição será definida em regulamento.
Já o Comitê de Especialistas e Cientistas de Inteligência Artificial (Cecia) será criado para orientar e supervisionar o desenvolvimento e aplicação da IA a partir de regras e critérios estabelecidas em regulamento.
As autoridades setoriais poderão estabelecer regras para o uso de inteligência artificial no âmbito de suas competências. A elas caberá receber a avaliação de impacto algorítmico e detalhar as listas de sistemas de alto risco.
Em parceria com o Ministério do Trabalho, todas essas autoridades deverão produzir diretrizes para reduzir potenciais riscos aos trabalhadores (especialmente no que se refere a perda de emprego e de oportunidade de carreira) e potencializar os impactos positivos.
Os sistemas de IA utilizados pelo poder público, além de implementar as medidas previstas para todos os demais sistemas, deverão registrar quem os usou, em que situação e para qual finalidade. Deverão ser empregados, preferencialmente, sistemas interoperáveis, de modo a evitar a dependência tecnológica e propiciar a continuidade dos sistemas desenvolvidos ou contratados.
Os cidadãos terão assegurados os direitos a explicação e revisão humana das decisões que tiverem impacto jurídico relevante. No caso de uso de sistemas que façam identificação biométrica, deverá haver a garantia de proteção contra discriminação direta, indireta, ilegal ou abusiva.
No caso de a avaliação de impacto algorítmico de um sistema usado pelo poder público identificar riscos que não possam ser eliminados ou mitigados, o uso deverá ser interrompido.
O governo também deverá zelar pela proteção dos trabalhadores afetados pelos sistemas de IA, buscando adaptá-los e requalificá-los, além de promover o letramento digital da população a fim de que os cidadãos façam o melhor uso possível da inteligência artificial.
O poder público deverá incentivar a inovação em inteligência artificial, procurando contratar soluções inovadoras que promovam a cultura nacional e a língua portuguesa, e definindo critérios distintos para sistemas ofertados por micro e pequenas empresas e startups nacionais.
O substitutivo assegura uma série de direitos às pessoas que forem afetadas pelos sistemas de inteligência artificial:
As pessoas afetadas por sistemas de alto risco terão, adicionalmente, os seguintes direitos:
A supervisão humana terá como objetivo prevenir e minimizar os riscos para os direitos e as liberdades das pessoas. Para isso, os supervisores devem poder intervir no sistema. Quando essa supervisão for comprovadamente impossível ou exigir esforço desproporcional, ela não será exigida, mas os agentes deverão implementar medidas alternativas eficazes.
Os desenvolvedores e fornecedores de sistemas poderão adotar códigos de conduta para assegurar o cumprimento dos dispositivos da futura lei. A adesão a esses códigos será considerada indicativo de boa-fé por parte do agente nos casos em que for aplicada sanção administrativa.
A autoridade competente poderá credenciar associações de agentes e especialistas em governança de IA para que concedam certificação da adoção de boas práticas de governança. Os agentes também poderão criar entidades de autorregulação.
O texto prevê que a maioria dos dispositivos do substitutivo deverá entrará em vigor 730 dias (ou seja, dois anos) depois da publicação da lei. No entanto, as regras sobre sistemas generativos e de uso geral, sobre as aplicações proibidas de sistemas de IA e sobre os direitos de autor deverão entrar em vigor 180 dias após a publicação da lei.
Já a organização e as atribuições dos órgãos reguladores do mercado de IA, com exceção das sanções aplicáveis, terão vigência imediata. O mesmo vale para as medidas de incentivo à sustentabilidade e às pequenas empresas.
Estão fora da regulamentação os sistemas usados por pessoas físicas com finalidade exclusivamente particular, os que forem voltados à defesa nacional, os que forem voltados ao desenvolvimento e à testagem de aplicações de IA e ainda não tiverem sido disponibilizados no mercado e os que se limitarem a prover infraestrutura para os dados de outros sistemas de inteligência artificial.
Com a aprovação do PL 2.338/2023, ficam considerados prejudicados os seguintes projetos de lei: PL 21/2020, PL 5.051/2019, PL 5.691/2019, PL 872/2021, PL 3.592/2023, PL 210/2024 e PL 266/2024.
Fonte: Agência Senado – Fotos: Marcos Rodrigues – Agência Senado – postado por jornalista Artur Hugen
20 de Dezembro, 2024 às 14:18
20 de Dezembro, 2024 às 11:04
20 de Dezembro, 2024 às 10:57
