Convenção de IA: uma promessa de Governança Responsável da Tecnologia
Heraldo Leite
Vilnius, a capital da Lituânia foi o local em que foi assinada a Convenção sobre Inteligência Artificial (IA) no dia 5 de setembro de 2024. Aliás, a primeira legislação a tratar do assunto mundialmente.
Considerado o primeiro tratado internacional ele estabelece padrões para o uso da IA, buscando assegurar que as tecnologias respeitem os direitos humanos e os valores democráticos. Os países signatários incluem Andorra, Geórgia, Islândia, Israel, Noruega, Moldávia, San Marino, Reino Unido, Estados Unidos e a União Europeia.
Detalhes da Convenção
Objetivo: A convenção visa garantir que os sistemas de IA sejam utilizados de maneira que respeitem os direitos humanos e a democracia, promovendo uma abordagem comum sobre o desenvolvimento e uso da IA.
Elaboração: O tratado foi discutido por mais de dois anos e envolveu a colaboração de mais de 50 países.
Características:
- É juridicamente vinculativo para os signatários.
- Exige que os países sejam responsáveis por quaisquer danos causados por sistemas de IA.
- Não prevê sanções ou multas em caso de descumprimento das normas estabelecidas.
Expectativas Futuras
O tratado ainda precisa ser ratificado por pelo menos cinco dos signatários, incluindo três membros do Conselho da Europa, antes de entrar em vigor. Há uma expectativa de que mais países se juntem ao acordo, ampliando seu alcance global.
Principais Objetivos da Convenção de IA
Proteção dos Direitos Humanos: A convenção busca garantir que os sistemas de IA respeitem os direitos humanos e a dignidade das pessoas, promovendo uma abordagem que priorize a igualdade e a privacidade.
Responsabilidade e Transparência: Os signatários devem ser responsabilizados por quaisquer resultados prejudiciais ou discriminatórios gerados por sistemas de IA. Isso inclui a exigência de que as vítimas de violações relacionadas a IA tenham acesso a recursos legais.
Promoção da Inovação: A convenção permite a inovação tecnológica, assegurando que o desenvolvimento e o uso da IA não comprometam os valores democráticos e o estado de direito.
Gerenciamento de Riscos: Estabelece obrigações para o gerenciamento de riscos associados a IA, incluindo a possibilidade de proibição de sistemas que representem ameaças aos direitos fundamentais.
Abordagem Baseada em Risco: A convenção adota uma abordagem baseada em risco ao longo da cadeia de valor dos sistemas de IA, promovendo a transparência e a responsabilidade em seu uso.
Cooperação Internacional: O tratado foi elaborado com a participação de mais de 50 países, refletindo um esforço global para enfrentar os desafios impostos pela IA e estabelecer normas comuns.
Esses objetivos visam criar um marco regulatório que assegure um desenvolvimento ético e responsável da inteligência artificial em um contexto global.
ONU também se preocupa com a IA
O Órgão Consultivo de Alto Nível sobre Inteligência Artificial, criado pelo secretário-geral da ONU em outubro de 2023, divulgou seu relatório final nesta quinta-feira, 17 de setembro de 2024. O grupo, composto por 39 especialistas de 33 países, apresentou recomendações para a governança internacional da IA.
Segundo o documento, a necessidade de governança global é “irrefutável“. Um dos argumentos que sustenta essa afirmação é o fato de que “as matérias-primas da Inteligência Artificial, desde minerais até os dados de treinamento, são provenientes de todo o mundo“.
O relatório defende que o desenvolvimento, a implementação e a utilização da IA não podem ser deixados “apenas aos caprichos dos mercados“
