Adolescente teria sido induzida ao suicídio na plataforma. Ela morreu em 22 de julho, em Naviraí (MS), e a Polícia Civil de Mato Grosso do Sul investiga as circunstâncias da morte e a atuação de integrantes de um grupo virtual.
Entrevista foi feita após a ANPD (Agência Nacional de Proteção de Dados) dar prazo para que a plataforma suspenda as lives no Brasil. Hoffman disse que a empresa vai cumprir a determinação e aplicar o bloqueio em todos os recursos de vídeo disponíveis no país.
A ANPD fez o que acredita ser necessário. Nossa abordagem no momento é trabalhar na implementação dessa ordem. A suspensão será aplicada de forma consistente em todos os lugares onde existe vídeo no Discord no Brasil.
Jud Hoffman, vice-presidente de Segurança e Confiança do Discord, em entrevista ao O Globo
Hoffman ressaltou ainda que a plataforma tem moderação proativa e reativa, combinando automação e equipes especializadas. Ele disse que cerca de 15% da empresa atua em segurança, com centenas de pessoas em funções de moderação, e que há profissionais que entendem português e conhecem o mercado brasileiro.
Executivo atribuiu parte da dificuldade à escala e ao equilíbrio entre detectar mais riscos e evitar falsos positivos. Ele afirmou que sinais iniciais podem vir de denúncias de usuários ou de autoridades e que modelos de aprendizado de máquina ajudam a priorizar o que vai para revisão humana.
Como eu disse, esses modelos trabalham em conjunto com nossas equipes especializadas. Às vezes, o primeiro sinal vem de denúncias de usuários ou das próprias autoridades policiais. Os modelos pontuam os servidores com base nos sinais disponíveis e são calibrados para equilibrar precisão e abrangência.
Jud Hoffman
