"IA pode causar danos concretos caso não seja submetida a salvaguardas rigorosas", alerta chefe de direitos humanos da ONU
- www.jornalclandestino.org
- há 1 dia
- 3 min de leitura
O Alto Comissário das Nações Unidas para os Direitos Humanos, Volker Türk, afirmou que a expansão acelerada da inteligência artificial pode ampliar desigualdades e causar danos concretos caso não seja submetida a salvaguardas rigorosas. A declaração foi feita durante a Cúpula de Impacto da IA, realizada em Nova Délhi, na Índia. Em entrevista à ONU News, Türk defendeu que a tecnologia seja regulada por uma estrutura ancorada nos direitos humanos, com transparência e responsabilização. Ele advertiu que o poder concentrado nas mãos de grandes corporações tecnológicas representa risco sistêmico à democracia e à coesão social. Sem avaliações de impacto obrigatórias, afirmou, a IA pode se tornar um instrumento de discriminação em escala global.
Segundo Türk, “a inteligência artificial é uma ferramenta tecnológica e precisa ser desenvolvida com base em avaliações de risco”. Ele destacou que tecnologias são mecanismos de exercício de poder e, portanto, devem operar dentro de marcos normativos claros. “As ferramentas tecnológicas são usadas para exercer poder, para o bem, mas também para o mal”, declarou, defendendo que os direitos humanos ofereçam a estrutura necessária para orientar o desenvolvimento, o desenho e o uso da IA.
O Alto Comissário apontou a desigualdade como o principal risco decorrente da rápida expansão da tecnologia. “Existe um enorme problema de desigualdade”, afirmou, ressaltando a importância de que o desenvolvimento da IA não permaneça concentrado em poucos polos tecnológicos. Ele chamou atenção para o viés estrutural embutido em sistemas treinados com dados limitados geograficamente ou desenvolvidos por equipes homogêneas. “Se os dados forem coletados apenas em uma parte do mundo, se somente homens estiverem desenvolvendo IA, então o viés inconsciente estará presente”, disse.
Türk defendeu que governos imponham às empresas a obrigatoriedade de avaliações de impacto sobre direitos humanos em todas as fases — concepção, implementação e comercialização. Ao comparar o setor de IA com a indústria farmacêutica, observou que testes rigorosos são necessários antes que novos produtos cheguem ao mercado. Ele também destacou que algumas empresas de tecnologia possuem orçamentos superiores aos de países de menor porte, o que amplia sua capacidade de influência global sem o correspondente nível de controle democrático.
O alerta inclui o uso militar e político da tecnologia. Türk mencionou explicitamente o risco de armas letais automatizadas e a disseminação de desinformação, discurso de ódio e misoginia violenta. Recordou o caso de Mianmar, onde campanhas de ódio nas redes sociais antecederam perseguições contra a minoria rohingya. Para ele, a ausência de compreensão profunda de princípios sociais e éticos por parte de desenvolvedores pode levar à criação de algo incontrolável: “Isso me lembra um pouco o monstro de Frankenstein; você desenvolve algo que não controla mais. Você deixa o gênio sair da lâmpada”.
O Alto Comissário também relatou que mulheres na política têm considerado abandonar suas carreiras devido à violência digital. Ele advertiu que sistemas projetados para maximizar engajamento podem criar vícios e aprofundar polarizações, fragmentando sociedades em bolhas informacionais estanques.
Projetando os próximos cinco anos, Türk afirmou esperar um modelo de desenvolvimento inclusivo, no qual o poder tecnológico não permaneça concentrado “em um punhado de empresas na América do Norte”. Para ele, a IA pode contribuir para enfrentar desafios globais como crise climática, acesso à saúde e educação universal, desde que subordinada a princípios universais de direitos humanos e participação social efetiva.
Valoriza o que estamos fazendo? Considere apoiar a ampliação do nosso trabalho com uma contribuição via PIX para jornalclandestino@icloud.com
Para ajudar a mudar essa lógica das redes, não perca nenhuma atualização do Jornal Clandestino! Conecte-se conosco pelo WhatsApp https://chat.whatsapp.com/Di9RJ7kjw2UKt6WIjcCpWY
e Telegram https://t.me/jornalclandestino
