No Jota, EPPGG debate regulamentação da inteligência artificial no Brasil
O EPPGG Pedro Cavalcante assina artigo no Jota em que discute a necessidade de regulamentação das ferramentas de inteligência artificial (IA) no Brasil. Embora o debate esteja “à todo vapor” em diversos países do mundo, Cavalcante considera que a agenda tem tido avanços “tímidos” no Brasil, “em especial no enfrentamento aos vieses e discriminação de raça e gênero, a despeito do país ter aderido aos Princípios de IA da OCDE [Organização para a Cooperação e Desenvolvimento Econômico] e indicado disposição para implementá-los”, avalia.
Entre as ações tomadas no âmbito nacional, o EPPGG destaca dois instrumentos: o Comitê de Governança de Dados e a Estratégia Brasileira de Inteligência Artificial (EBIA). “O primeiro, desde a sua criação em 2019, tem sido ativo, emitindo resoluções sobre vários temas. Contudo, a maioria delas são centradas em salvaguardas de privacidade de dados e nenhuma se concentrou na abordagem dos riscos e responsabilidades associados à IA ou ao aprendizado de máquina (machine learning) tanto no setor público quanto privado”, explica.
Já no contexto internacional, Cavalcante cita algumas medidas interessantes de accountability algorítmica, que servem para garantir que indivíduos e organizações que criam, adquirem e usam algoritmos sejam responsabilizados por seus impactos. O governo britânico, por exemplo, realizou no começo do mês de novembro uma ampla conferência (AI Safety Summit 2023) com representantes internacionais de empresas líderes de IA e da sociedade civil para discutir os riscos da IA e estratégias de mitigação. Além da cúpula, foram lançados um hub global encarregado de testar a segurança dos tipos emergentes de IA e o primeiro Instituto de Segurança de IA do mundo para tratar os potenciais prejuízos no uso de algoritmos, com destaque para danos sociais como preconceito e desinformação.
Por fim, Cavalcante comenta a necessidade de, além de avançarmos na regulação, o investimento em capacidade estatal e na promoção de condições para a sociedade atuar como parceira do poder público no mapeamento dos riscos e, assim, dar celeridade à mitigação dos prejuízos, em especial às parcelas mais vulneráveis da população brasileira. “É imperativo um amplo esforço nacional, incluindo todas as esferas de governo e Poderes da República, além do setor privado e terceiro setor, para o aprimoramento da accountability algorítmica no país”, assevera.