Os principais pontos resultam das discussões realizadas no Seminário de São Paulo sobre Governança da Inteligência Artificial, refletindo o diálogo entre o Observatório Brasileiro de Inteligência Artificial (OBIA/NIC.br), o Centro de Inteligência Artificial e Aprendizado de Máquina da Universidade de São Paulo (CIAAM/USP) e o Centro Internacional de Pesquisa em Inteligência Artificial, sob os auspícios da UNESCO (IRCAI). O seminário foi coordenado pelo Centro Brasileiro de Relações Internacionais (CEBRI), que atuou como facilitador das discussões. 

O documento reúne perspectivas do governo, da academia, da sociedade civil e do setor privado, com o objetivo de propor um arcabouço de governança coordenado e prospectivo para a inteligência artificial na região. As opiniões aqui expressas são de exclusiva responsabilidade dos autores e não refletem, necessariamente, a posição institucional do CEBRI.

Autores: Joao Pita Costa (IRCAI), Mihajela Crnko (IRCAI), Monika Kropej (IRCAI), Joao Paulo Veiga (CIAAM/USP), Cristina Godoy (CIAAM/USP), Luiz Costa (OBIA/CETIC–NIC.BR), Alexandre Barbosa (OBIA/CETIC–NIC.BR), Masa Kovic-Dine (Universidade de Ljubljana), Vasilka Sancin (Universidade de Ljubljana), Laura Escudeiro (CEBRI) e Ana Paula Podcameni (CEBRI).

Principais recomendações

O documento estrutura um conjunto de princípios orientadores para a governança da IA:

• Direitos Humanos e Inclusão
  • Os sistemas de IA devem promover a equidade e evitar qualquer forma de discriminação.
• Transparência e Explicabilidade
  • Os sistemas devem ser compreensíveis, auditáveis e passíveis de responsabilização.
• Responsabilização ao Longo da Cadeia de Valor
  • A responsabilidade deve ser compartilhada entre todos os atores envolvidos.
• Regulação Baseada em Risco
  • A governança deve ser proporcional ao nível de risco associado aos sistemas de IA.
• Governança Adaptativa e Participativa
  • As políticas devem evoluir em consonância com o avanço tecnológico e incorporar a participação de múltiplos atores.
• Integridade Científica e Qualidade dos Dados
  • Dados confiáveis e métodos rigorosos são essenciais para o desenvolvimento de IA.
• Sustentabilidade Ambiental e Social
  • O desenvolvimento da IA deve considerar seus impactos ambientais e sociais.
• Cooperação Internacional
  • A coordenação global é fundamental para uma governança eficaz.