A democracia liberal global enfrenta uma lista quase sem precedentes de ameaças digitais em 2024, pois a crescente exploração da IA e a disseminação desenfreada da desinformação ameaçam a integridade das eleições em mais de 60 países. E o mundo está lamentavelmente despreparado.
Além do Brasil, há votações programadas este ano para Índia, Paquistão, México e África do Sul, para citar apenas alguns. Uma eleição muito disputada será realizada para o parlamento europeu em junho e as eleições presidenciais dos EUA estão no horizonte em novembro. Uma eleição geral também está prevista para o Reino Unido em algum momento do próximo ano.
Todas essas eleições estão ocorrendo em um momento em que a segurança global e os próprios fundamentos da democracia estão sob pressão significativa devido ao aumento do populismo, das ideologias de extrema direita e dos movimentos fascistas. Enquanto isso, a confiança nas principais instituições, como os políticos e a mídia, continua extremamente baixa.
O que antes poderíamos ter descartado como teorias conspiratórias bizarras, como a de que Taylor Swift está trabalhando secretamente para o Pentágono e que o Super Bowl é fraudado, está ganhando força, e a coesão social está se desgastando à medida que as pessoas se segregam em câmaras de eco isoladas on-line.
Há um perigo real de que, a menos que ajamos agora para proteger o público, esses problemas só serão exacerbados pelas ameaças impostas pela IA, pelas campanhas de desinformação russas e pelo uso invasivo da tecnologia para atingir os eleitores nos próximos meses.
IA, deepfakes e desinformação
Já está claro que 2024 será conhecido como o ano das primeiras eleições com IA. A capacidade da IA de coletar quantidades quase infinitas de dados em inteligência acionável e produzir conteúdo personalizado para influenciar a opinião pública será certamente usada pelos principais partidos políticos que buscam obter uma vantagem tática nas campanhas.
Já estamos vendo os partidos usarem a IA para analisar dados sobre padrões de votação e direcionar os eleitores em tempo real com posicionamentos de anúncios orientados por algoritmos.
Não há nada de intrinsecamente errado ou ilegal nisso, embora isso possa alarmar os libertários civis e precise ser regulamentado. Os usos malévolos da IA por agentes desonestos são muito mais preocupantes. Deepfakes - textos, imagens, vídeos e áudios falsos ou manipulados - já estão sendo disseminados por meio de jogos de algoritmos com a intenção de manipular os eleitores.
Uma voz manipulada por IA de deepfake do presidente dos EUA, Joe Biden, já foi implantada em New Hampshire, pedindo aos eleitores que não comparecessem à disputa primária no mês passado. Durante as eleições parlamentares da Eslováquia no ano passado, uma gravação de áudio deepfake viralizou nas mídias sociais, retratando falsamente um líder de partido que alegava ter fraudado a eleição e planejava aumentar os preços da cerveja.
Há alegações de que deepfakes foram usados em uma tentativa de influenciar eleitores na Argentina, Nova Zelândia e Turquia no ano passado. É certo que veremos deepfakes altamente sofisticados circulando em muitos países por agentes desonestos nos próximos meses, em uma tentativa de influenciar os eleitores, semear a discórdia e colocar os políticos na defensiva.
Atores ruins
O potencial de campanhas de desinformação orquestradas pelo Estado também é evidentemente uma preocupação nas democracias que realizam eleições este ano. Autoridades do Departamento de Estado dos EUA afirmaram que a Rússia está planejando usar a desinformação para tentar influenciar a opinião pública contra a Ucrânia durante as diversas eleições programadas para este ano em toda a Europa.
Em outubro do ano passado, os EUA enviaram uma avaliação de inteligência desclassificada a mais de 100 governos, acusando Moscou de usar espiões, mídias sociais e meios de comunicação simpáticos para disseminar a desinformação e corroer a fé pública na integridade dos resultados eleitorais. No mês passado, o Ministério das Relações Exteriores da Alemanha divulgou que suas agências de segurança haviam exposto uma extensa operação de desinformação pró-Rússia, orquestrada usando milhares de contas falsas de mídia social.
A OTAN e a União Europeia também alertaram sobre as ameaças à coesão democrática causadas pelas campanhas de desinformação promovidas pelo Kremlin.
Na Índia, o governo ultranacionalista de Narendra Modi foi acusado de conduzir uma operação secreta de desinformação, fazendo circular propaganda para desacreditar críticos estrangeiros, atacar adversários políticos e atingir muçulmanos e outras minorias étnicas e religiosas. A Human Rights Watch relata o aumento de ataques contra minorias étnicas e religiosas, inclusive muçulmanos, bem como contra jornalistas e líderes da oposição.
Tomando providências
Apelar para a ação agora é quase discutível, pois provavelmente já é tarde demais. O fato de haver tantas eleições acontecendo simultaneamente em todo o mundo em 2024 só agrava o problema. No entanto, devemos pelo menos tentar.
É necessário um esforço global urgente entre as nações para definir as regras básicas de como o uso da IA deve ser regulamentado, especialmente em relação às eleições. Atualmente, o Senado dos EUA está considerando a Lei de Proteção de Eleições contra IA enganosa, enquanto a UE chegou a um acordo provisório em dezembro para regulamentar a IA, tornando-se a primeira grande potência global a fazer isso.
As leis precisam forçar a transparência na forma como os modelos de IA são treinados e implantados e exigir a divulgação de quando eles são usados em campanhas políticas. A preocupação é que o ritmo em que a tecnologia está avançando está ultrapassando os esforços para proteger o público.
As plataformas de mídia social devem ser responsabilizadas pela disseminação da desinformação. Empresas como X, Meta e Alphabet reduziram o tamanho das equipes dedicadas à integridade, dificultando as contramedidas proativas de desinformação. São necessárias novas leis rigorosas para forçar esses monólitos tecnológicos a combater a desinformação e forçar a transparência nos algoritmos e na segmentação de anúncios políticos.
Estratégias proativas, como pré-bunking (ensinar as pessoas a identificar notícias falsas) e estratégias de resposta rápida são essenciais para combater a interferência eleitoral. Os meios de comunicação também precisam aprender com os erros do passado e equilibrar as reportagens verdadeiras com a liberdade de expressão, evitando a armadilha do “falso equilíbrio” de amplificar a desinformação de políticos populistas disfarçada de discurso legítimo.
Por fim, precisamos encontrar maneiras de combater as câmaras de eco e as teorias da conspiração que ameaçam descarrilar a coesão social. Recuperar a confiança do público em instituições como a grande mídia e o governo não será fácil.
Não há feitiços mágicos para resolver isso da noite para o dia. Mas não podemos simplesmente sentar e aceitar o status quo. A educação em alfabetização midiática também é vital para a defesa contra a desinformação.
Mas, embora essas medidas possam manter os principais partidos honestos, elas não farão nada para deter os maus atores. É provável que a Rússia, a China e o Irã tentem moldar os resultados geopolíticos a seu favor em 2024, tentando interferir nas eleições.
A estabilidade da democracia global pode muito bem depender de como essas ameaças emergentes serão enfrentadas nos próximos meses. Quando Donald Trump afirmou que a eleição de 2020 foi roubada, milhares de seus apoiadores invadiram o Capitólio dos EUA. É bem possível que ele volte a ser o presidente dos EUA em novembro.