No dia 13 de março de 2024, o Parlamento Europeu aprovou a Lei que regulamenta o uso da Inteligência Artificial (IA) na União Europeia (UE).

Com amplo apoio, a Lei busca equilibrar inovação e proteção de direitos fundamentais, destacando a importância de uma abordagem centrada no ser humano no desenvolvimento da IA. Essa legislação pioneira estabelece um modelo para tecnologia confiável, protegendo direitos fundamentais e garantindo transparência no uso da IA.

A ideia principal da Lei é regulamentar a Inteligência Artificial com base em seu potencial de causar danos à sociedade. Quanto maior o risco, mais rigorosas são as regras. As aplicações de IA que representam um “risco claro para os direitos fundamentais” serão proibidas como, por exemplo, algumas IAs que envolvem o processamento de dados biométricos.

A nova regulamentação incorpora um sistema de classificação de riscos que vai ditar o nível das exigências impostas aos desenvolvedores dos sistemas de IA. A normativa proíbe totalmente práticas como a classificação massiva de cidadãos e a vigilância em massa, visando proteger a privacidade e a liberdade dos cidadãos. Os riscos desse tipo de sistema de IA foram considerados como inaceitáveis pela nova Lei. 

A utilização da Inteligência Artificial ganhou maior destaque após o lançamento do ChatGPT pela OpenAI, no final de 2022. O UE AI Act exige, ainda, que sistemas considerados de alto risco, como aqueles usados em infraestruturas críticas, terão que aderir a requisitos mais rigorosos, incluindo análises de impacto aos direitos fundamentais. Já os modelos de IA de uso geral terão que seguir obrigações de transparência sobre a geração de conteúdo por IA e deverão cumprir as normas europeias de direitos autorais.

Apesar de ser um marco importante, críticos expressaram preocupações com possíveis atrasos no desenvolvimento da IA devido a regras pouco claras e à influência de grupos de lobby na implementação da Lei.

A Consonante acredita que a regulação da Inteligência Artificial ficará cada vez mais presente no dia a dia dos negócios nos próximos anos, se mostrando também uma oportunidade para empresas de diferentes segmentos (já é). O Projeto de Lei (PL 2.338/2023) que regulamenta a utilização da Inteligência Artificial no Brasil tramita no Senado Federal e já conta com a realização de diversas audiências públicas. O ritmo de aprovação deve ser acelerado pela aprovação final do AI Act na União Europeia.

Dessa forma, é essencial que os desenvolvedores de sistemas de Inteligência Artificial acompanhem os movimentos regulatórios no mercado nacional e internacional para incorporar os princípios éticos que estão sendo delineados desde a concepção das novas soluções, utilizando-se de técnicas de ethics-by-design e cercando-se de apoio técnico qualificado. 

Assim como em outras tecnologias, a Consonante vem se atualizando para garantir aos nossos clientes uma maior segurança ao utilizar a Inteligência Artificial nos seus negócios. Entre em contato conosco. Nós auxiliaremos na gestão dos riscos de negócio envolvendo sistemas de IA.