Uma jornada pelos campos de batalha éticos de uma indústria em transição
Vincent Berthier, da Repórteres Sem Fronteiras, chama isso de "arma contra o jornalismo". Anderson Cooper, Gayle King e Clarissa Ward já foram vítimas. Deepfakes transformam rostos confiáveis em instrumentos de desinformação. Enquanto isso, redações do Vale do Silício a Bruxelas lutam pelo futuro de uma profissão mais antiga do que qualquer tecnologia — e mais frágil do que jamais imaginamos.
A máquina fala com a sua voz
Era um vídeo que ninguém deveria ter visto. Gayle King, a respeitada apresentadora do CBS Mornings, falou diretamente para a câmera sobre seu suposto segredo para emagrecer: "Meninas, sinceramente, eu não esperava que minha perda de peso gerasse tantas perguntas. Minhas mensagens diretas no Instagram estão lotadas." Sua voz soava familiar, seu rosto se movia naturalmente — só que as palavras não combinavam com os movimentos dos lábios. E Gayle King nunca gravou o vídeo para o produto dietético "Artipet".
"Publiquei um vídeo promovendo meu programa de rádio em 31 de agosto, e eles manipularam minha voz e meu vídeo para dar a impressão de que eu estava promovendo", escreveu King no Instagram. "Nunca ouvi falar nem usei este produto! Por favor, não se deixem enganar por esses vídeos de IA..."
A experiência de King não é mais um incidente isolado. Deepfakes têm como alvo jornalistas de veículos de notícias como CNN, CBS, BBC e VOA, personificando jornalistas proeminentes como Anderson Cooper, Clarissa Ward e Gayle King. O que antes era ficção científica agora é uma realidade acessível digitalmente: a inteligência artificial não só consegue escrever textos, como também imitar rostos e vozes humanas com tanta perfeição que até mesmo especialistas têm dificuldade em detectar a falsificação.
As estatísticas assustadoras por trás disso: Há três vezes mais deepfakes de vídeo de todos os tipos e oito vezes mais deepfakes de voz postados online este ano em comparação com o mesmo período em 2022, relata a DeepMedia, uma empresa que trabalha com ferramentas de detecção.
Mas a revolução da inteligência artificial no jornalismo não se limita ao obscuro mundo dos deepfakes. Ela permeia todos os aspectos da produção jornalística: da geração automatizada de artigos à curadoria personalizada de conteúdo, da checagem de fatos em tempo real à segmentação precisa do público. A questão não é mais se a IA transformará o jornalismo — ela já está fazendo isso. A questão crucial é: seremos capazes de controlar essa transformação ou ela nos controlará?
A Europa está a construir as fronteiras do futuro da IA
Enquanto o Vale do Silício desenvolve sistemas de IA na velocidade do capital de risco, a Europa adotou uma abordagem diferente: regulamentação antes da inovação. O Regulamento de IA da UE (Lei IA) é o primeiro arcabouço legal abrangente do mundo para IA, entrando em vigor em 1º de agosto de 2024. Mas, para o setor de mídia, essa conquista pioneira traz consigo armadilhas inesperadas.
A professora Natali Helberger critica a Lei da IA por oferecer “geralmente menos salvaguardas legais e menos requisitos legais para organizações de mídia” — uma lacuna notável em uma regulamentação que visa promover uma IA confiável.
O problema do controle editorial está se tornando a questão interpretativa central do nosso tempo: o Artigo 50 do Regulamento da IA exige que textos gerados ou manipulados por IA, publicados para informação pública sobre assuntos de interesse público, devem revelar que o conteúdo foi gerado ou manipulado artificialmente. Mas o que exatamente constitui "controle editorial"? E quando os consumidores devem ser explicitamente informados sobre o envolvimento da IA?
As respostas a essas perguntas são mais do que meras sutilezas acadêmicas. Elas definem nada menos do que o futuro da verdade nas sociedades democráticas.
Agnes Stenbom, especialista do setor, alerta: As organizações de mídia não devem confiar inteiramente na Lei da IA, especialmente porque ela ainda está em desenvolvimento, mas sim buscar o diálogo e a cooperação entre si para encontrar soluções comuns.
Os algoritmos de viés
Por trás das promessas deslumbrantes da revolução da IA existe uma verdade sombria: os algoritmos são tão objetivos quanto as pessoas que os programam e os dados com os quais são treinados. Viés – distorção sistemática – é o espectro que assombra as redações da Europa.
Uma análise recente de 14 publicações científicas identificou o viés como a preocupação ética mais comum em relação à adoção de tecnologias de IA generativa em organizações de mídia. Esses vieses se manifestam de diversas formas, muitas vezes sutis:
- Viés de seleção na seleção de tópicos de notícias: Quais histórias são classificadas como “importantes” pelos algoritmos?
- Viés de confirmação causado por sistemas de recomendação algorítmica: Os sistemas de IA reforçam as câmaras de eco existentes?
- Distorções demográficas: De quem são as vozes ouvidas e de quem são ignoradas?
Um exemplo concreto da prática: Se um sistema de IA tiver sido treinado principalmente com textos de jornalistas brancos e homens de países ocidentais, ele considerará essa perspectiva como "normal" e sistematicamente sub-representará ou interpretará mal outros pontos de vista.
A população alemã é particularmente cética em relação a esse aspecto. Um estudo representativo do Artificial Intelligence Opinion Monitor (MeMo:KI), com 1.035 participantes, constatou que o uso de IA em redações é visto de forma muito crítica. Os entrevistados veem pouca melhora na qualidade jornalística por meio da IA e a maioria é a favor de uma regulamentação rigorosa.
A Carta de Paris: Um Manifesto para a Sobrevivência
Em novembro de 2023, 32 especialistas de 20 países se reuniram em Paris para criar o que muitos consideravam impossível: um consenso ético global sobre IA no jornalismo. Presidida pela jornalista e ganhadora do Prêmio Nobel da Paz Maria Ressa, a comissão elaborou a Carta de Paris sobre IA e Jornalismo — o primeiro referencial ético internacional do gênero.
Maria Ressa alerta com urgência: "A inteligência artificial pode fornecer serviços notáveis à humanidade, mas claramente tem o potencial de aumentar a manipulação de mentes em uma escala nunca vista antes na história."
A carta estabelece dez princípios básicos que devem servir de bússola através das tempestades éticas da revolução da IA:
- A ética deve orientar as decisões tecnológicas na mídia
- A tomada de decisão humana deve permanecer no centro das decisões editoriais
- A mídia deve ajudar a sociedade a distinguir entre conteúdo autêntico e sintético
- A mídia deve participar da governança global da IA
“Como guardiões essenciais do direito à informação, jornalistas, meios de comunicação e grupos de apoio jornalístico devem desempenhar um papel ativo na governança dos sistemas de IA”, afirma a carta.
Mas palavras bonitas por si só não bastam. O verdadeiro desafio está na implementação — e na questão de saber se um setor que já luta pela sobrevivência econômica consegue reunir os recursos e a vontade para priorizar padrões éticos em detrimento de ganhos de eficiência a curto prazo.
Mídia alemã no experimento de IA
Enquanto os debates internacionais acontecem, as empresas de mídia alemãs já estão experimentando o futuro. A Editora Spiegel é considerada pioneira e utiliza IA há anos em diversas aplicações editoriais: da dublagem e transcrição de textos à avaliação das contribuições dos usuários. Particularmente inovador foi o uso de geradores de imagens como o Midjourney para reportagens de capa sobre "O Fim da Verdade" – com estrita transparência para com os usuários.
Reuters Alemanha adotou uma abordagem diferente: com o "Fact Genie", desenvolveram uma ferramenta interna que analisa comunicados de imprensa em segundos e sugere manchetes para a equipe editorial. Sabine Wollrab, chefe do escritório da Reuters para a Alemanha, Áustria e Suíça, enfatiza, no entanto: "A confiança é um dos nossos argumentos de venda. A Reuters é uma marca muito confiável. E não queremos vender isso em troca de IA."
O Frankfurter Allgemeine Zeitung mostra como pode ser a integração seletiva de IA: ela usa IA especificamente para a otimização de negócios digitais, dublagem, transcrição e arquivamento, mas exclui categoricamente contribuições originais com texto gerado por IA.
O Correio Renano: Um assistente com suporte de IA atende chamadas de clientes 24 horas por dia e tornou a empresa uma das operadoras de call center mais eficientes do setor de mídia, relata Margret Seeger, Diretora de Publicação Digital e Chefe de IA do Rheinische Post Media Group.
As Alucinações das Máquinas
Talvez a característica mais perturbadora dos sistemas modernos de IA seja sua tendência à "alucinação" — a geração de informações aparentemente plausíveis, mas factualmente incorretas. Essa tendência desafia fundamentalmente princípios jornalísticos básicos, como veracidade e precisão.
Um exemplo recente: Em dezembro, a correspondente da CNN, Clarissa Ward, apareceu na televisão por 12 minutos para relatar que havia encontrado um prisioneiro em Damasco, capital da Síria, após a deposição do ditador Bashar al-Assad. Ele alegou que seu nome era Adel Ghurbal, mas verificadores de fatos determinaram que seu nome verdadeiro era Salama Mohammad Salama, que na verdade era tenente da força aérea de Assad.
Este exemplo mostra que os limites entre o erro humano e a desinformação das máquinas estão se confundindo. O desafio é exacerbado pelo fato de que a responsabilidade por conteúdo defeituoso gerado por IA permanece legal e eticamente obscura.
Nesse sentido, o Conselho de Imprensa Alemão esclareceu que o Código de Imprensa se aplica sem restrições a conteúdos assistidos por IA e que a responsabilidade editorial permanece com os humanos. Mas o que isso significa na prática se um sistema de IA produz desinformação que um editor sobrecarregado não consegue detectar em tempo hábil?
A luta pela propriedade intelectual
Por trás dos debates éticos, trava-se uma guerra econômica acirrada: a questão dos direitos autorais. Muitos editores reclamam que seus artigos foram usados para treinar modelos de IA sem permissão, levantando questões legais e éticas. O NUJ (Sindicato Nacional de Jornalistas) declarou explicitamente que seus membros não autorizam o uso de seus trabalhos protegidos por direitos autorais para treinamento em IA.
Felix Simon, pesquisador do Oxford Internet Institute, identificou um “desequilíbrio de poder familiar” entre editores de notícias e empresas de tecnologia que está sendo exacerbado pela adoção da IA. As empresas de mídia que produzem conteúdo há décadas agora se encontram na posição de ter seu trabalho usado, sem remuneração, para treinar sistemas que podem torná-las obsoletas.
É um paradoxo de proporções kafkianas: a indústria que deveria democratizar a informação está ameaçada por sua própria produção.
Empregos na era do algoritmo
As preocupações com empregos não são infundadas. Uma pesquisa recente com profissionais de mídia revelou que 57,2% dos jornalistas temem que a IA substitua mais empregos nos próximos anos. Já 21% dos jornalistas entrevistados relatam ter perdido seus empregos devido à implementação da IA.
Um exemplo chocante da Polônia: A estação de rádio polonesa OFF Radio Krakow causou comoção internacional em outubro de 2024 quando demitiu cerca de uma dúzia de jornalistas e os substituiu por apresentadores gerados por IA. A emissora chegou a transmitir uma “entrevista” com a falecida ganhadora do Prêmio Nobel Wisława Szymborska, que faleceu em 2012.
Mateusz Demski, um jornalista demitido, lançou uma petição contra a "substituição de funcionários por inteligência artificial". Mais de 23.000 pessoas assinaram a petição. Após apenas uma semana de intensos protestos, a emissora cancelou o "experimento" planejado para durar três meses — um caso raro de oposição pública à reversão de uma implementação de IA.
Mas o medo vai além das preocupações com o emprego. Esse desenvolvimento anda de mãos dadas com uma preocupação mais fundamental: a perda da identidade humana e da autonomia no jornalismo, expressa por mais de 60% dos entrevistados.
O que significa para uma democracia quando as vozes que informam seus cidadãos não são mais humanas?
Confiança pública: um contrato social quebrado?
O público alemão está reagindo com acentuado ceticismo à revolução da IA na mídia. O Relatório de Notícias Digitais de 2024 do Reuters Institute confirma essa tendência: metade dos entrevistados alemães se sente desconfortável com notícias geradas predominantemente por IA.
Particularmente digno de nota: Até mesmo os jovens adultos, que geralmente são mais abertos a notícias geradas por IA, veem informações políticas de fontes de IA com ceticismo semelhante ao dos entrevistados mais velhos.
Uma descoberta preocupante mostra que as pessoas geralmente desconfiam de fontes de notícias — independentemente de o artigo ter sido escrito por uma IA ou por um jornalista humano. Isso aponta para uma crise de confiança mais profunda que vai muito além do debate sobre IA.
A questão central é: A mídia pode recuperar a confiança sendo mais transparente sobre o uso da IA, ou a transparência, paradoxalmente, aumenta a desconfiança?
Perspectivas Internacionais: Lições do Mundo
Na Indonésia oferece às redações insights valiosos sobre os desafios do jornalismo semiautomatizado. Uma revisão da literatura dos últimos cinco anos constatou que, embora a IA possa aumentar a eficiência, existem deficiências significativas na qualidade do conteúdo. O estudo enfatiza a necessidade de treinar jornalistas no uso responsável da IA.
Nos EUA Um estudo abrangente do Tow Center for Digital Journalism da Universidade de Columbia, que entrevistou mais de 130 jornalistas de 35 empresas de mídia, mostra que a abertura às tecnologias de IA é impulsionada não apenas por melhorias técnicas, mas também pela pressão do mercado e pela esperança em novos modelos de negócios.
A lição: A adoção da IA não é um fenômeno puramente técnico, mas profundamente econômico e cultural.
Perspectivas futuras: O próximo estágio da evolução
Florian Schmidt, da equipe de verificação de fatos da APA, prevê que imagens e vídeos gerados por IA dificilmente serão reconhecidos como tal dentro de alguns meses. O jornalista científico Ranga Yogeshwar alerta que "pela primeira vez na história da humanidade, a linguagem não é mais um monopólio humano".
Esse desenvolvimento tem implicações fundamentais para a democracia, a economia e a jurisprudência. Se a comunicação autêntica não pode mais ser distinguida da comunicação sintética, precisamos repensar todos os nossos sistemas de busca da verdade.
Alguns estimam que até 90% do conteúdo online poderá ser gerado sinteticamente até 2026. Em um mundo assim, o papel do jornalismo não desaparecerá — ele mudará fundamentalmente, tornando-se um curador de autenticidade em um oceano do sintético.
Recomendações para ação: Uma bússola através da tempestade
Recomendações concretas para ação podem ser derivadas da experiência internacional e de descobertas científicas:
Para empresas de mídia:
- Implementação de padrões rigorosos de transparência: Qualquer uso de IA deve ser claramente marcado
- Investimento em educação: Formação contínua de jornalistas na utilização da IA
- Estruturas éticas: Desenvolvimento de diretrizes internas para o uso de IA
- Humano no circuito: Garantir o controle humano sobre todas as decisões editoriais
Para reguladores:
- Esclarecimento da Lei da IA: Esclarecimento dos termos “controlo editorial” e obrigações de transparência
- Coordenação internacional: Colaboração no desenvolvimento de padrões globais
- Mecanismos de execução: Aplicação eficaz dos regulamentos existentes
Para a sociedade:
- Alfabetização midiática: Educação em reconhecimento de conteúdo gerado por IA
- Consciência crítica: Questionando fontes de informação
- Apoiando mídia de alta qualidade: Decisões conscientes do consumidor
Epílogo: O momento da decisão
Estamos em um ponto de virada histórico. O prolongamento do período de implementação da Lei de IA da UE até 2027 pode ser problemático, pois os danos causados pelo uso desregulado da IA podem se tornar irreversíveis.
O futuro do jornalismo não será determinado pelo uso ou não da IA, mas sim pela responsabilidade e eticidade com que essa integração for realizada. O desenvolvimento de diretrizes éticas sólidas, o treinamento contínuo de profissionais de mídia e o aumento da conscientização pública são cruciais para manter a confiança pública e garantir a função democrática do jornalismo.
Vincent Berthier, dos Repórteres Sem Fronteiras, resumiu: Deepfakes são uma “arma contra o jornalismo” porque minam a confiança na mídia e exploram a confiabilidade da mídia para fins de desinformação.
A ironia da história: uma tecnologia que prometia nos fornecer conhecimento infinito pode anunciar o fim da verdade. Cabe a todos nós — jornalistas, tecnólogos, reguladores e cidadãos — garantir que isso não aconteça.
A batalha pelo futuro da verdade começou. De que lado você está?
Este artigo baseia-se em uma análise abrangente de estudos acadêmicos atuais, relatórios do setor e abordagens regulatórias internacionais. Todas as fontes foram verificadas e alinhadas aos desenvolvimentos atuais.
Recursos e links adicionais
Regulamentação europeia:
- Lei da UE sobre IA – Regulamentação Oficial
- Implicações da Lei de IA para a mídia – Painel AlgoSoc
- Disposições de transparência na Lei da IA – Revisão da Política da Internet
Normas internacionais:
- Carta de Paris sobre IA e Jornalismo – Repórteres Sem Fronteiras
- Diretrizes para a Implementação Responsável de IA – Conselho da Europa
Problema do Deepfake:
- Deepfakes como arma contra o jornalismo – Voz da América
- Incidentes de Deepfake com Celebridades – Instituto Poynter
Panorama da mídia alemã:
Estudos de caso internacionais:
- Experimento de IA em estação de rádio polonesa – CNN Business
- Adoção de IA em redações dos EUA – Nieman Lab
