A moderação de conteúdo é difícil – Econlib

Quase todo mundo que conheço está insatisfeito com a forma como o Twitter modera o conteúdo. Mas eles são infelizes de maneiras diferentes. Por que não existe uma abordagem universalmente aceita para moderação de conteúdo? O que torna isso tão difícil?

Eu suspeito que muitas pessoas estão excessivamente otimistas sobre como é fácil moderar o conteúdo. Tenho a impressão de que muitas pessoas têm a seguinte opinião:

1. Eles veem muitos casos em que o Twitter toma a decisão errada.

2. Eles acham que, se fossem donos do Twitter, parariam de tomar decisões ruins.

Eu diria que é muito mais complicado do que parece, com uma exceção. Se você acredita que não deve haver moderação de conteúdo, moderação de conteúdo é fácil. Mas e se você concordar com Elon Musk e o antigo gerente do Twitter de que deve haver moderação de conteúdo? O que então?

Nesse caso, você “traça a linha” e evita conteúdo tão censurável que cruza a linha. Essa abordagem é quase inevitável, pois os anunciantes não participarão de uma campanha que permita conteúdo altamente censurável, como pornografia infantil.

Infelizmente, embora traçar uma linha seja quase inevitável, sua complexidade torna quase inevitável que a maioria das pessoas fique insatisfeita com o resultado. Desenhar linhas cria dois problemas:

1. Cabe ao moderador do conteúdo decidir até que ponto o conteúdo censurável será permitido. Então, se você imaginar uma escala de 0 a 100, onde 100 é o mais desagradável, você pode imaginar um moderador dizendo que qualquer coisa acima de 80 é banida. Uma forma de pensar nas recentes decisões de Elon Musk é que ele está tentando elevar o ponto de corte em relação à moderação relativamente rígida da liderança anterior. Digamos de 75 a 90.

2. Cabe ao moderador do conteúdo determinar se determinado conteúdo ultrapassa os limites e, portanto, é censurável demais para ser permitido. Portanto, não é apenas uma questão de banir os piores 10% dos tweets ou os piores 25% dos tweets, você também precisa determinar quais tweets estão acima da linha e quais estão abaixo da linha.

A primeira solução tem a ver com a tolerância a tweets ruins. Um amigo meu progressista apóia Elon Musk porque ele é um liberal da velha guarda com alta tolerância para linguagem ofensiva. A segunda solução tem a ver com várias formas de viés. As pessoas de esquerda tendem a ficar mais indignadas com o fascismo, o racismo anti-negro e a negação da eficácia das vacinas. As pessoas de direita tendem a ficar mais ofendidas com o comunismo, o racismo anti-branco (ou fanatismo, se preferir) e a negação da ciência sobre as diferenças inatas entre os sexos.

Elon Musk parece ser mais de direita do que a liderança anterior do Twitter, então é menos provável que ele classifique tweets de direita como “altamente ofensivos”. Ele defende padrões menos rigorosos e menos preconceito contra tweets conservadores.

Então, por que acho que as pessoas subestimam a complexidade da moderação de conteúdo? Uma analogia pode ser útil aqui. Os debates no Twitter me lembram os debates sobre ideias básicas em epistemologia. Richard Rorty argumentou que é impossível traçar uma linha clara entre diferentes tipos de conhecimento, como subjetivo/objetivo, fato/opinião ou crença/verdade.

Muitas pessoas acham a visão de Rorty irracional. Há uma visão de senso comum de que podemos traçar uma linha entre o que acreditamos e o que é realmente verdade. Em debates, as pessoas frequentemente citam exemplos óbvios que caem em cada lado da linha para enfatizar esse ponto. Mas esses exemplos óbvios não provam a utilidade da linha em si.

Com a moderação de conteúdo, as pessoas podem encontrar facilmente exemplos de tweets que acham que devem ser permitidos e exemplos de conteúdo que não devem ser permitidos. Mas conforme você se aproxima da linha, as coisas ficam muito mais complicadas. E isso ocorre em parte porque a ofensividade é uma questão de grau, mas as decisões sobre o conteúdo são tudo ou nada. Portanto, para tweets próximos do limite, as decisões inevitavelmente parecerão arbitrárias e injustas. E isso é verdade mesmo que não houvesse preconceito político no mundo e as pessoas simplesmente diferissem em sua tolerância à controvérsia.

De volta à hipotética escala de ofensividade de 0 a 100. Imagine que Elon Musk decida que qualquer coisa acima de 90 é ofensiva demais, então ele é banido. Nesse caso, um tweet com ofensividade de 90,1 será banido e um tweet com ofensividade de 89,9 será permitido. A maioria das pessoas não será capaz de perceber a diferença, então pelo menos uma das duas decisões parecerá arbitrária e injusta. “Se você proibiu Joe de dizer X, por que deixou Fred dizer Y?”

E isso desde que todos adiram às mesmas opiniões políticas. Agora imagine um mundo onde as pessoas também discordam sobre o que é indesejável e acreditam firmemente que suas opiniões políticas estão certas e o outro lado está errado. Agora, a sensação de injustiça na moderação do conteúdo parecerá muito pior, uma ordem de magnitude pior. Será uma tarefa ingrata.

Eu tenho um blog há 13 anos e descobri cedo que não há uma maneira fácil de moderar comentários. Onde quer que você estabeleça a linha, haverá reclamações.

As decisões tomadas por grandes empresas como o Twitter tendem a refletir as forças do mercado, pelo menos até certo ponto. Mas essas empresas geralmente têm uma posição de semimonopólio em seu nicho de mercado (devido aos efeitos de rede), o que lhes dá alguma vantagem para superar as forças do mercado. Os próximos anos serão um teste de que tipo de poder de mercado Elon Musk tem. Prefiro uma tolerância relativamente alta para tweets de spam e o mínimo possível de viés político na moderação de conteúdo. Então eu desejo-lhe bem. Por outro lado, eu encorajaria Musk a delegar essa responsabilidade a outros. Embora sua visão estratégica possa ser sólida, ele não parece ter o temperamento crítico que você gostaria de ver em um moderador de conteúdo.