Também engenheiro de IA, o subsecretário-geral da ONU explicou o que está em jogo quando o assunto é coordenar interesses para construir uma tecnologia que seja responsável e ética. “Quando a questão é a aplicação responsável da IA, devemos nos perguntar: você não acha que armas autônomas letais devem ser regulamentadas internacionalmente da mesma forma que controlamos a proliferação da tecnologia nuclear ou das armas biológicas? Sim, afinal, a IA torna as armas muito mais perigosas.”
Para o reitor da Universidade das Nações Unidas, o “modo faroeste”, mencionado acima, é o que permite às empresas de tecnologias usarem dados para construir seus produtos e não reverter os benefícios financeiros dessas criações aos indivíduos que geraram as informações ou aos donos dos direitos sobre elas. Quando essa dinâmica ocorre em grande escala, a ponto de empresas extraírem terabytes de dados de um único país, Marwala questiona se não estamos em uma situação em que nações estão sendo lesadas.
“Se você extrair petróleo de um país, tem de pagar royalties e impostos. Mas a mesma coisa não acontece com os dados que estão sendo explorados do Brasil, da África do Sul e assim por diante”
Veja abaixo os principais trechos da entrevista:
Em uma disputa dominada por empresas dos EUA e da China, como tem sido a corrida da IA, qual papel podem ter os países do Sul Global, como Brasil e África do Sul?
Tshilidzi Marwala: Primeiramente, esses países precisam começar a lidar com os problemas do Sul Global. Há questões com que a IA pode lidar e que não estão sendo tratadas pelas empresas do Norte Global?
No meu próprio país, por exemplo, há grandes parques onde alguns animais estão em perigo. Qual é o papel da IA para estimar o tamanho de populações ou identificar esses animais automaticamente? Apenas uma empresa da África do Sul poderia fazer isso, porque há toda economia em torno disso.
O Brasil é um país muito importante e uma das oportunidades que eu espero que o país busque é desafiar o modelo de computação alimentada por fontes de energia não renovável. Países como o Brasil podem liderar o desenvolvimento de IA ambientalmente responsável, que considere conhecimento indígena, resolva problemas que importam e não necessariamente leve à militarização da tecnologia.
Além disso, garantir que o perfil de dados dos povos no Sul Global seja considerado por sistemas de IA e construir economias em torno disso talvez faça sentido comercial para países como África do Sul e Brasil.
Habitantes do Sul Global em sua maioria consomem tecnologia construída por empresas do Norte Global. Isso é ainda mais evidente com a IA. Essa dinâmica pode impor questões éticas e aprofundar a desigualdade?
Tshilidzi Marwala: Se os dados de que depende a IA não forem coletados de forma abrangente, inclusive no Sul Global, os sistemas de IA irão discriminar as pessoas. O exemplo clássico são os algoritmos de reconhecimento facial, que, quando surgiram, tinham desempenho ruim para rostos africanos. E o mesmo pode ocorrer com IA para diagnóstico médico. O perfil de doenças do Norte Global é completamente diferente daquele encontrado no Sul Global. Significa que os sistemas de IA usados para doenças predominantes no Norte Global receberão muito investimento, enquanto as enfermidades do Sul Global serão diagnosticadas de forma pior por esses sistemas de IA.
Ano passado, a ONU lançou o Pacto Digital Global para projetar e criar regras para uma IA que seja benéfica para todos. Ainda é possível que uma organização multilateral promova esse tipo de cooperação em um mundo tão dividido?
Tshilidzi Marwala: Sim. Há certas coisas que só podem ser feitas com base nessa tradição. A IA requer dados e, para alguns deles, você só pode acessar se forem compartilhados. A livre circulação de dados entre países, especialmente se forem de saúde ou clima -algo em que, se não cooperarmos, vamos ficar coletivamente para trás-, requer governança global.
Como a IA está se tornando cada vez mais uma questão de direito humano, nós nos reunimos em um pacto digital para tratar dos chamados bens comuns globais. São coisas que queremos que todos tenham. Mas, se todos puderem abordá-los apenas individualmente, estaremos coletivamente em pior situação.
Por isso, é tão importante falar em democratizar a infraestrutura de computação, coleta e análise de dados. Se a questão é a alfabetização em IA, é preciso haver certo nível de padrão estabelecido por organizações internacionais.
Quando a questão é a aplicação responsável da IA, devemos nos perguntar: você não acha que armas autônomas letais devem ser regulamentadas internacionalmente da mesma forma que controlamos a proliferação da tecnologia nuclear ou das armas biológicas? Sim, afinal, a IA torna as armas muito mais perigosas. E, se não tivermos um pacto global que governe seu uso responsável e promova sua governança, então vamos ficar para trás.
Para algumas pessoas, a impressão é que a ONU lida com questões distantes da realidade delas. Enquanto a discussão passa pela transferência de dados de um país para outro, as pessoas veem seus dados usados dentro do seu próprio país por grandes empresas, que usam o argumento de estarem coletando informações públicas na internet. Tanto é que a questão do uso de conteúdo, ao menos daquele sobre o qual recai propriedade intelectual, já chegou aos tribunais, e companhias de IA estão sendo processadas. Isso está no escopo do Pacto Digital Global?
Tshilidzi Marwala: Isso é muito importante. Eu acho que vai além do pacto, pois precisamos é de um mecanismo regulatório. Parte da razão pela qual uma empresa pode usar os seus e os meus dados com salvaguardas reduzidas é porque estamos no modo faroeste, com pouca governança em torno desta tecnologia.
Um LLM (modelo de linguagem grande) coleta informações da minha cultura, vende essa informação e não reverte nada do rendimento aos proprietários dos dados. Eu nem vou falar sobre informações pessoais que estão sendo coletadas no Facebook ou destas empresas de mídia social que usam os dados e fotos que nós postamos para criar algoritmos de reconhecimento de imagem e vendê-los para empresas de segurança.
No primeiro acesso a essas mídias sociais, você se depara com cláusulas dizendo de que ela vai usar seus dados. É justo que você tenha assinado um termo junto ao Facebook há 15 anos e que a adesão esteja válida hoje com todos os desenvolvimentos que aconteceram? É justo que empresas extraiam terabytes de dados de um país através dessas coisas e estejam acima do sistema tributário daquele lugar?
Se você extrair petróleo de um país, tem de pagar royalties e impostos. Mas a mesma coisa não acontece com os dados que estão sendo explorados do Brasil, da África do Sul e assim por diante. E, como o Brasil não é um país pequeno, você pode imaginar quantos dados são extraídos todos os dias, a cada segundo, por nenhuma outra razão além de usá-los para lucrar.
O que este “modo faroeste” nos diz sobre o poder destas grandes empresas de tecnologia?
Tshilidzi Marwala: O poder das grandes empresas de tecnologia é ligeiramente diferente das estruturas de poder do faroeste. Durante aquela época, o poder era distribuído entre pessoas que iam de bandidos a detentores de escravos. Não havia muitas regras que governavam isso.
Agora, no espaço digital, o poder está concentrado em poucas mãos que não prestam contas a ninguém e que têm os meios de influenciar as estruturas democráticas de países. Veremos cada vez mais um ou dois desses indivíduos se apropriando do poder, que em democracias normais como África do Sul e Brasil, está nas mãos dos cidadãos. Este é o grande perigo.
A concentração de poder significa que esses indivíduos agora podem ser capazes de moldar o mundo como acharem adequado. E, de muitas maneiras, eles vão moldá-lo para seus interesses individuais, não para todos nós.
E as nações têm condição para lutar contra o novo poder das grandes empresas de tecnologia?
Tshilidzi Marwala: Sim e não. Depende de quais nações. Algumas são demográfica e geograficamente pequenas e, portanto, temos de encontrar mecanismos para amplificar suas vozes. É por isso que a ONU existe: para podermos ter uma voz coletiva maior do que nossas vozes individuais.
Se estivermos divididos e nossos interesses como estados-membro se sobreporem aos interesses globais, então enfrentaremos grande quantidade de problemas.
Os EUA têm exercido papel polarizador na geopolítica global. Isso poderia afetar a cooperação para uma IA mais responsável?
Tshilidzi Marwala: Sim, a IA responsável exige que todos nós façamos a nossa parte. E é evidente que, se qualquer um dos estados membros puxar em uma direção diferente, fica comprometida nossa capacidade de atender às expectativas de uso justo de dados, acesso democratizado à tecnologia digital, incluindo IA, e regulamentação da militarização da IA. Isso é um incentivo para todos nós trabalharmos duro para garantir que participem da festa e vejam o valor do que estamos fazendo em nível internacional e participem disso.
Como você, que escreveu diversos livros sobre a parte técnica da IA, vê o burburinho em torno dessa tecnologia? A IA é uma força verdadeiramente revolucionária ou há muito marketing nesta narrativa?
Tshilidzi Marwala: A IA tem virado algo para além da técnica. Um exemplo: compreender o comportamento humano ao usar IA requer psicologia. Quando você vai para a União Europeia, os parlamentares, que não são pessoas técnicas, criaram o Ato de IA. O ponto é como educamos os parlamentares para legislarem tecnicamente e qual é a ciência por trás da legislação de IA.
Outra questão são os padrões, que dependem do uso da IA. Se estiver usando IA para desenhar imagens para exibir no quarto de alguém, a precisão não importa. Mas, se você for usar IA em um hospital, importa e 80% de precisão é bom, porque já será muito melhor do que o diagnóstico de um médico humano. Mas, se você usar IA em uma aeronave, 80% de precisão é ruim, porque 99% é ruim. Tudo isso requer um pensamento multidisciplinar e compreensão de contextos.
Mas, sim, a IA é uma força revolucionária. E, como em qualquer outra força revolucionária, há oportunistas que a inflarão para poderem lucrar no mercado de ações. Há um elemento de exagero, como acontece em qualquer tecnologia com consequência comercial. E precisamos ser cautelosos com o que estamos ouvindo sobre IA, porque nem tudo é totalmente preciso.
O Brasil está neste momento discutindo uma lei de inteligência artificial. Estão na mesa de debates Remuneração de direitos autorais, proibição de IAs com risco máximo, patamares de segurança elevado para as IAs críticas por tratar de temas como saúde e educação. Qual seria o risco para o futuro de criar uma lei que trate de IA e não observe padrões de segurança e de remuneração por conteúdo?
Tshilidzi Marwala: Todos os padrões de segurança são importantes. Se você legislar e esquecê-los, vai ser uma legislação ruim. Então eu tenho que elogiar o Brasil por levar essa questão muito a sério.
E há também as questões de valor econômico, como a dos direitos autorais. Se eu escrevo um livro, que é usado para treinar um sistema de IA, eu mereço ser pago? No modelo atual, eu não sou pago, o que é um problema. Alguém dirá, ‘hoje em dia, você precisa levar o livro a uma biblioteca, onde um indivíduo pode lê-lo e usá-lo como bem entender’. Sim, mas ele precisa dar crédito a ele, e a biblioteca teria que ter pago pelo livro, o que daria royalties ao escritor.
Direitos autorais e a remuneração de autores é importante, mas complicada devido à forma de implementação. É crucial porque a IA pode ser criada em qualquer lugar do mundo, e algo criado no Vale do Silício, ao chegar ao Brasil, é transparente o suficiente para você saber todos os elementos que levaram ao seu desenvolvimento?
Como você lida com o fato de que as empresas, por sua própria natureza, não querem dar transparência a seus produtos para impedir que um concorrente seja capaz de copiar e ganhar mercado muito facilmente. Quando você está elaborando uma legislação, essas são questões importantes de levar em conta.
DEU TILT
Toda semana, Diogo Cortiz e Helton Simões Gomes conversam sobre as tecnologias que movimentam os humanos por trás das máquinas. O programa é publicado às terças-feiras no YouTube do UOL e nas plataformas de áudio. Assista ao episódio da semana completo.
TEVE TAMBÉM EM TILT
Deu Tilt #1
China declara guerra ao conteúdo fútil e enquadra ‘Instagram chinês’ Leia mais
Deu Tilt #2
Casal brasileiro dribla big techs e cria identificação de idade na internet Leia mais
Deu Tilt #3
‘Morte’ do Windows 10: Microsoft deixa milhões de PCs brasileiros na mão Leia mais
Deu Tilt #4
Cilada no WhatsApp: reunião de voz ativada sem querer sacrifica privacidade Leia mais
Radar Big Tech #1
EUA podem mudar internet com fim do monopólio do Google em anúncio online Leia mais
Radar Big Tech #2
Fundador do Spotify deixa cargo de CEO em meio a críticas por investimentos Leia mais
Helton Simões Gomes
Brasil destina R$ 390 milhões à criação de IA no serviço público Leia mais
No Brasil #1
Justiça manda bloquear site que vende dados pessoais de brasileiros Leia mais
No Brasil #2
Banda larga fica mais rápida em 13 capitais; veja planos mais atrativos Leia mais
No Brasil #3
Quem é a gaúcha que entrou na lista de influentes da IA ao lado de Musk Leia mais
Ciência #1
Desaceleração no núcleo da Terra pode mudar clima e até duração dos dias Leia mais
Tilt
Nasa recebe mensagem de sonda a 350 milhões de quilômetros da Terra Leia mais
Reportagem
Texto que relata acontecimentos, baseado em fatos e dados observados ou verificados diretamente pelo jornalista ou obtidos pelo acesso a fontes jornalísticas reconhecidas e confiáveis.
