O chefe da ONU convocou a comunidade internacional nesta segunda-feira (6/6) a unir-se em uma governança mundial organizada da inteligência artificial, para não permitir que esta tecnologia dite o “futuro da humanidade”. “A IA já está transformando nosso mundo. A questão é se moldaremos essa transformação juntos ou se deixaremos que ela nos molde”, afirmou António Guterres na abertura do primeiro Diálogo Global sobre Governança da IA, em Genebra.
\n
Este novo fórum intergovernamental, coordenado pelas Nações Unidas, visa permitir que todos os Estados-membros e a sociedade civil coordenem o desenvolvimento e o uso da IA. Guterres alertou que esses sistemas, agora capazes de escrever códigos, atuar online e tomar decisões com cada vez menos supervisão humana, evoluem “a uma velocidade vertiginosa”, mais rápido do que as instituições encarregadas de controlá-los. “Nossas instituições foram concebidas para enquadrar máquinas que executam ordens. Elas não estão preparadas para governar máquinas que tomam decisões”, complementou.
\n
Qual o diferencial da proposta da ONU?
\n
A proposta da ONU destaca a urgência de uma governança eficaz da IA, onde a escolha não deve ser entre “a confiança cega na IA e o medo dela”, mas sim entre “uma governança pensada e organizada, ou uma deriva deixada ao acaso”. Guterres destacou três riscos principais: a rapidez do desenvolvimento, a concentração de capacidades nas mãos de um pequeno número de empresas e países, e a ameaça que conteúdos gerados por IA representam para a informação e a credibilidade dos fatos. Ele enfatizou que é crucial respeitar quatro prioridades: a segurança, os direitos humanos, as capacidades dos países em desenvolvimento e a transparência.
\n
Crianças não estão imunes a esses perigos. Em sua fala, Guterres reiterou que as tecnologias têm potencial de acelerar o desenvolvimento, mas há uma necessidade urgente de testes de segurança antes que a IA possa ser acessível a elas, proibindo especialmente a geração de imagens sexuais de menores. Ele assinalou que “nenhuma criança deveria ser usada como cobaia para uma IA não regulada”, ressaltando a vulnerabilidade desse grupo ao estarem “enganadas por máquinas que se fazem passar por amigas”.
\n
Como se posicionam as grandes empresas de IA?
\n
A ONU instou as grandes empresas do setor de IA a divulgar a pegada ambiental de seus sistemas e a abastecer todos os seus centros de dados com energias renováveis até 2030. Guterres fez uma crítica contundente ao uso militar da IA, particularmente à utilização de sistemas de armas letais autônomas. Ele as considerou “moralmente repugnantes” e “politicamente inaceitáveis”, sublinhando que o direito internacional deve proibi-las.
\n
Na comparação com outras iniciativas, o Diálogo Mundial sobre a Governança da IA se destaca não apenas por sua premência, mas também pela amplitude de sua abordagem, envolvendo a proteção de crianças e a necessidade de um compromisso global. Este diálogo será seguido por uma cúpula denominada “AI for Good”, que se dedicará às aplicações da IA para o desenvolvimento, mostrando como a tecnologia pode ser direcionada para o bem-estar humano.
\n
Quais as implicações para o futuro da IA?
\n
O apelo da ONU reflete uma consciência crescente sobre as implicações éticas e sociais da IA. Guterres destacou que “nossa responsabilidade é moldar a IA de maneira a assegurar que ela beneficie a todos”. As prioridades delineadas podem representar um passo decisivo na direção de uma regulação mais robusta, essencial em face das rápidas inovações no setor.
\n
Especialistas do setor de tecnologia comentam que a governança global da IA não é apenas necessária, mas urgente para evitar futuros dilemas éticos e sociais. A proposta sugere que cada decisão sobre IA deve passar pela lente da ética e das implicações sociais, o que poderia incluir uma revisão das práticas atuais e a implementação de novas estruturas de responsabilização. A situação atual destaca a necessidade de um equilíbrio entre inovação e a proteção dos direitos humanos.
\n
Os próximos passos referentes a esta iniciativa incluem a apresentação de recomendações à Assembleia Geral sobre um Fundo Mundial para a IA, destinado a fortalecer as capacidades dos países em desenvolvimento. A expectativa é que estas ações direcionem a evolução da IA de maneira a trazer benefícios sociais e garantir que as inovações respeitem a dignidade humana.
