Confiança e segurança - o trabalho de tecnologia mais importante que você nunca ouviu falar

RECENTEMENTE, eu estava em uma conferência cheia de nerds de tecnologia e políticos, quando vi um velho colega usando uma camiseta estampada com um unicórnio e um dinossauro.

Um banner abaixo das duas bestas dizia “Confiança e Segurança”, como se esses valores básicos fossem mitológicos e extintos. Foi o tipo de meme fofo, mas amargo, que só faz sentido se você estiver profundamente enredo em um dos mais recentes papéis de backroom da indústria de tecnologia: uma fusão de segurança, privacidade e design de experiência do usuário, tudo amontoado em um trabalho chamado confiança e segurança.

Embora as pessoas em empresas de tecnologia tenham feito trabalho de confiança e segurança há muito tempo, a frase ganhou força na mídia com o aumento da propaganda e do assédio organizado on-line.

Para quem você liga quando as forças sombrias começam a postar desinformação em sua plataforma de mídia social? Confiança e segurança. E quando alguém rouba todos os dados privados de seus clientes e os despeja em um fórum on-line? Que tal quando seus usuários se assediam, se envolvem em fraude ou postam pornografia de vingança? Você está entendendo a imagem.

Depois que Elon Musk transformou o X/Twitter, uma das primeiras coisas que ele fez foi quase eliminar sua equipe de confiança e segurança. Muito rapidamente, os usuários foram inundados com spam, assédio, desinformação e outras intrusões em seus feeds.

Nos meses seguintes, a situação se tornou um pesadelo econômico. As pessoas não confiavam mais na marca; ela não se sentia segura. E isso significava que os anunciantes se retiraram em massa, sendo uma importante fonte de receita. Foi um desastre causado por problemas técnicos, de design e financeiros.

É por isso que as pessoas que trabalham com confiança e segurança administram a gama de habilidades, desde profissionais de segurança de computadores e designers de interface, até gerentes de marca e embaixadores da comunidade.

Eles protegem as organizações de maus atores, incluindo spammers e terroristas - mas também mantêm a integridade da marca para os investidores. E sim, ninguém fora do campo entende completamente o que faz e por que é importante, então as equipes de confiança e segurança geralmente são demitidas antes de todos os outros quando uma empresa está reduzindo o tamanho.

No entanto, existem alguns contra-exemplos. Você pode não se lembrar disso, mas os comentários do YouTube costumavam ser um lixo absoluto. Não importa qual seja o vídeo, seja apresentando um gato fofo ou um influenciador da conspiração, a seção de comentários seria uma pilha de insultos mal coerentes, epítetos raciais, insultos sexuais e links para golpes.

 E então o YouTube investiu em uma série de melhorias, incluindo um simples pop-up pedindo aos usuários que se certifiquem de que seus comentários atendessem às diretrizes da comunidade antes de postar. Não é como se os comentários do YouTube fossem perfeitos agora, mas muitas vezes são engraçados e úteis, e o blefing incoerente é definitivamente menos comum.

As equipes de confiança e segurança foram especialmente importantes durante os recentes ciclos eleitorais nos EUA. Equipes de pesquisadores dentro e fora das plataformas de tecnologia trabalharam para derrubar a desinformação sobre as eleições, como onde estavam os locais de votação e quando as urnas fecharam. Ocasionalmente, eles trabalhavam com funcionários eleitorais para corrigir o registro, para que os cidadãos soubessem quando e onde votar.

O problema é que quando a confiança e a segurança são bem feitas, não percebemos. É raro que alguém diga: “Oh, ei, eu não fui assediado ou enviado spam hoje!” Ou: “Nossa, com certeza foi fácil escolher uma senha segura neste site!” O mesmo vale para a desinformação. Ninguém pula de alegria quando as postagens do Facebook estão cheias de detalhes precisos sobre onde votar. A maioria de nós assume que nossos produtos serão confiáveis e seguros.

Essa falta de reconhecimento é em parte resultado da “falácia do mundo justo”, um viés cognitivo que engana muitos de nós a pensar que o mundo é basicamente justo e que coisas ruins acontecem com aqueles que o merecem.

Se alguém está sendo assediado no X, essa falácia nos leva a acreditar que é algo que a vítima fez, não uma falha de design na plataforma de mídia social onde eles saem. Da mesma forma, se a conta de alguém em um site for hackeada, a falácia do mundo justo sugere que a vítima deve ter feito algo desleixado com sua conta - não poderia ser que seu aplicativo favorito lide mal com a segurança de senha. Esse viés torna particularmente difícil para nós apreciar a potencial existência de problemas sistêmicos como os cobertos pela confiança e segurança.

Mesmo que não sejamos presos de tal viés cognitivo, podemos não perceber as muitas maneiras pelas quais os produtos podem ser inseguros porque não estamos a par de todos os detalhes técnicos do back-end. Muitas vezes, nossa experiência de inserir uma senha é a mesma, independentemente de quão cuidadosamente ela esteja protegida. E isso é um grande problema. Isso significa que as pessoas que se especializam nas coisas que mais precisamos são aquelas cujos trabalhos menos apreciamos.

Dito de outra forma, não valorizamos a confiança e a segurança quando eles trabalham, mas com certeza sentimos falta deles quando eles se vão.