Seis anos atrás — um mês após o início de uma pandemia global —, a Electronic Frontier Foundation (EFF) argumentou que os processos de moderação automatizada adotados rapidamente pelas plataformas digitais deveriam ser transparentes, passíveis de recurso e temporários. O alerta da organização era claro: "protocolos adotados em tempos de crise frequentemente persistem quando a crise termina."
O aviso se mostrou certeiro. O uso de automação e inteligência artificial (IA) para identificar, sinalizar e moderar conteúdo tornou-se o novo padrão — uma característica permanente da forma como as plataformas governam a liberdade de expressão online. Em uma série de dois artigos, a EFF faz um balanço dessa nova realidade e analisa o que as plataformas podem e devem fazer para garantir que a IA sirva à expressão online em vez de suprimi-la.
Uma breve história da moderação automatizada
Desde filtros de spam e listas negras de palavras-chave até tecnologias de correspondência de hash usadas para identificar material de abuso sexual infantil e conteúdo terrorista, ferramentas automatizadas são utilizadas na moderação comercial de conteúdo há muitos anos. Embora essas tecnologias representem riscos à liberdade de expressão há bastante tempo, seu uso era, por um longo período, relativamente limitado em escopo.
Em 2017, uma publicação do Facebook — hoje Meta — descreveu o uso "bastante recente" de inteligência artificial pela empresa para identificar, classificar e remover conteúdo extremista violento. Na ocasião, o Facebook fez questão de ressaltar cautela, afirmando não querer sugerir que havia "qualquer solução técnica simples" para o problema.
Zuckerberg no Senado americano
Apenas um ano depois, em 2018, Mark Zuckerberg compareceu às comissões de Comércio e Judiciário do Senado dos Estados Unidos e revelou que "99% do conteúdo do ISIS e da Al-Qaeda" removido pelo Facebook era sinalizado por IA "antes que qualquer humano o visse". Zuckerberg afirmou ainda que a empresa desenvolvia ferramentas de IA capazes de identificar "certas classes de atividades prejudiciais de forma proativa" e sinalizá-las para as equipes internas. À época, a EFF já manifestava preocupações sobre as implicações éticas desse uso da tecnologia.
A virada de 2020
A pandemia de Covid-19 acelerou drasticamente esse processo. Com equipes de moderação humana afastadas dos escritórios, as plataformas ampliaram o uso de sistemas automatizados para dar conta do volume de conteúdo circulando online. O que era apresentado como medida emergencial e provisória consolidou-se como infraestrutura permanente de governança do discurso digital — cenário que a EFF avalia com preocupação crescente.
Este artigo foi originalmente publicado pela Electronic Frontier Foundation sob licença CC-BY (Creative Commons — atribuição exigida). O Jornal Atlas traduziu e adaptou o conteúdo para o público brasileiro.