Em fevereiro, os representantes dos 27 países-membros da União Europeia aprovaram o texto final da primeira lei a respeito da Inteligência Artificial (AI-ACT).
A União Europeia estabelecerá regras para o desenvolvimento e implantação da IA através da lei, com o objetivo de evitar ou minimizar danos. A AI-ACT também visa harmonizar o mercado em relação à IA e promover sua adoção na UE.
A lei da IA ainda deverá passar pela aprovação formal do Parlamento Europeu, mas a sua implementação será fundamental para garantir que as regulamentações de IA não sobrecarreguem as empresas.
Fique por dentro dos principais pontos dessa legislação
A União Europeia visa regular a IA como parte de sua estratégia digital, criando condições melhores para o desenvolvimento e o uso dessa tecnologia inovadora. Por isso, confira alguns dos pontos da nova legislação de IA:
Quem será afetado pela legislação: Em primeiro lugar, a lei impactará as pessoas da União Europeia e a sociedade como um todo, à medida que os sistemas de IA permeiam a nossa vida cotidiana. E em segundo lugar, as empresas e autoridades que fornecem ou usam sistemas de IA na região, independentemente de onde estejam baseadas.
Abordagem baseada em risco: A AI-ACT segue uma abordagem baseada no risco, categorizando os sistemas em alto risco, sujeitos a regras específicas, e sistemas de baixo risco, com menos obrigações.
Transparência e conformidade para modelos de IA: O acordo exige que modelos básicos de IA, como o ChatGPT, cumpram obrigações de transparência antes de serem disponibilizados no mercado. Isso inclui a elaboração de documentação técnica, cumprimento das leis de direitos autorais da UE e divulgação de informações sobre o conteúdo usado nos treinamentos.
Medidas de proteção aplicáveis para os sistemas de IA generativos:
Os desenvolvedores de sistemas generativos de IA e seus modelos associados devem seguir diretrizes de transparência, incluindo documentação técnica e conformidade com as leis de direitos autorais da UE. Além disso, devem divulgar detalhes sobre os dados utilizados no treinamento.
A nova lei estabelece também, medidas mais rigorosas para sistemas generativos de alto risco, incluindo avaliação e mitigação de riscos, testes, relatórios de incidentes graves e garantia de segurança cibernética.
Avaliação e gestão de riscos: Os modelos de IA de alto risco sistêmico requerem avaliações, análises, mitigação de riscos e testes de adversidade. Com isso, ao ser identificado um incidente grave, o mesmo deve ser reportado à Comissão Europeia, afim de garantir a segurança cibernética.
Proibições e direitos dos consumidores: O acordo proíbe manipulação do comportamento humano, eliminação indiscriminada de imagens faciais e criação de rankings de pontuação social.
Possíveis impactos da AI-ACT no Brasil
Embora o AI-ACT seja uma legislação europeia, seu alcance extraterritorial pode afetar empresas brasileiras que operam na UE ou que oferecem produtos e serviços para consumidores europeus.
Dessa forma, as empresas brasileiras que desenvolvem ou utilizam Inteligência Artificial no mercado europeu, precisarão garantir a conformidade de seus sistemas. Podendo exigir revisões importantes nas operações. Além de servir também, como modelo importante para o Brasil, que está iniciando as discussões envolvendo uma legislação de IA.
Em resumo, a aprovação da AI-ACT pela UE, marca um passo significativo na regulamentação da Inteligência Artificial. Visando proteger os cidadãos, promover a transparência e harmonizar o mercado.
A nova lei estabelece critérios baseados em riscos e medidas específicas para diferentes tipos de sistemas de IA. Definindo assim, um padrão para um desenvolvimento e uso responsável dessa tecnologia.
O impacto extraterritorial da AI-ACT destaca a importância da conformidade para empresas fora da União Europeia que operam no mercado europeu, incluindo as do Brasil. Isso não só impulsiona revisões operacionais, mas também servirá como um modelo valioso para o Brasil enquanto inicia suas próprias discussões sobre legislação de IA.
