Acordo sobre ética da inteligência artificial

Audrey Azoulay, a diretora geral da UNESCO, apresentou no dia 24 de outubro o primeiro instrumento normativo mundial sobre ética da inteligência artificial (IA) aprovado pelos Estados-membros da UNESCO em sua Conferência Geral.

Esse texto histórico define os valores e os princípios comuns que nortearão a construção do marco jurídico necessário para garantir o desenvolvimento saudável da IA.

A IA é abrangente e possibilita muitas de nossas rotinas diárias, como reservar voos, dirigir carros sem motorista e personalizar nossos feeds de notícias matinais. A IA também ajuda na tomada de decisões de governos e do setor privado.

As tecnologias de IA têm proporcionado resultados notáveis em campos altamente especializados, como em tratamentos oncológicos e construção de ambientes inclusivos para pessoas com deficiência. Eles também ajudam a combater problemas mundiais, como mudança climática e fome no mundo, e ajudam a reduzir a pobreza ao otimizar a ajuda econômica.

Entretanto, a tecnologia também tem acarretado novos desafios sem precedentes. Para citar alguns, temos visto aumento do preconceito de gênero e de etnia, ameaças significativas à privacidade, à dignidade e à capacidade de ação, perigos de vigilância em massa e aumento do uso de tecnologias de IA não confiáveis na aplicação da lei. Até a atualidade, não havia padrões universais para fornecer uma resposta a essas questões.

Em 2018, Audrey Azoulay, a diretora-geral da UNESCO, lançou um projeto ambicioso: oferecer ao mundo uma estrutura ética para o uso da inteligência artificial. Três anos depois, graças à mobilização de centenas de especialistas de todo o mundo e intensas negociações internacionais, os 193 Estados-membros da UNESCO acabam de aprovar oficialmente esse marco de ação ético.

O conteúdo da Recomendação

A Recomendação visa a identificar as vantagens e que a IA proporciona para a sociedade e a reduzir os riscos que ela acarreta. Essa Recomendação garante que as transformações digitais promovam os direitos humanos e contribua para o alcance dos Objetivos de Desenvolvimento Sustentável, ao tratar de questões sobre transparência, responsabilização e privacidade, com capítulos sobre políticas orientadas para a ação sobre governança de dados, educação, cultura, trabalho, saúde e economia.

A Recomendação exige ação além do que as empresas de tecnologia e governos estão fazendo para garantir aos indivíduos mais proteção, e garantir transparência, capacidade de ação e controle sobre seus dados pessoais. Afirma que todos os indivíduos devem ser capazes de acessar ou mesmo apagar registros de seus dados pessoais. Também inclui ações para melhorar a proteção de dados e o conhecimento de um indivíduo e o direito de controlar seus próprios dados. Também aumenta a capacidade de órgãos reguladores em todo o mundo para fazer cumprir esta norma.

A Recomendação proíbe de forma explícita o uso de sistemas de IA para pontuação social e vigilância em massa. Esses tipos de tecnologias são muito invasivos, violam os direitos humanos e as liberdades fundamentais e são usados de forma ampla.

Tecnologias emergentes, como a IA, provaram sua imensa capacidade de oferecer resultados positivos. No entanto, seus impactos negativos, que agravam um mundo já dividido e desigual, devem ser controlados. Os desenvolvimentos de IA devem obedecer ao estado de direito, evitar danos e garantir que, quando o dano acontecer, mecanismos de responsabilização e reparação estejam disponíveis para as pessoas afetadas.

Texto: UNESCO.