O vice-presidente de Segurança e Confiança do Discord, Jud Hoffman, reconheceu a existência de falhas na plataforma relacionadas ao caso da morte de uma adolescente de 13 anos em Mato Grosso do Sul. A jovem foi induzida por um grupo extremista durante uma transmissão na plataforma, ocorrida há 25 dias em Naviraí, a 365 quilômetros de Campo Grande.
A Polícia Civil informou que o grupo, com ideologia neonazista e misógina, aliciava meninas emocionalmente vulneráveis para submetê-las a dinâmicas de dominação e mutilação. A transmissão ao vivo na qual a adolescente participou terminou tragicamente na madrugada de 22 de julho.
Em entrevista ao jornal O Globo, Jud Hoffman comentou sobre a atuação do servidor da plataforma no momento da tragédia. Ele explicou que a sala de bate-papo foi criada menos de duas horas antes da transmissão e que as informações disponíveis não foram suficientes para ativar o modelo de aprendizado de máquina da empresa, que poderia ter levado à revisão humana do caso. "Não fomos rápidos o suficiente, mas estamos sempre trabalhando para melhorar esses modelos e os esforços de segurança", afirmou.
O vice-presidente detalhou que a retirada do conteúdo do ar levou 25 minutos, com o primeiro aviso de risco sendo registrado às 2h50 e a remoção acontecendo apenas às 3h15. O servidor em questão tinha uma pontuação de risco de 0,12, enquanto a plataforma só retira conteúdos quando o número supera 0,95, o que levanta questões sobre a eficácia do sistema de segurança.
Hoffman salientou que a revisão de todos os servidores do Discord é inviável devido à grande escala da plataforma. "Um modelo com 100% de abrangência exigiria a revisão de tudo o que existe na plataforma, algo inviável. Ao ampliar a abrangência, aumentam os falsos positivos, que consomem os recursos disponíveis para investigação", explicou.
Adicionalmente, ele mencionou que cerca de 15% da equipe do Discord está focada em segurança, com centenas de pessoas dedicadas à moderação. Profissionais que falam português e conhecem o mercado também fazem parte da equipe de segurança da plataforma.
Com informações midiamax.com.br