Treinamento foi feito com conteúdo explícito. Os funcionários da empresa de Musk passaram a analisar e treinar o Grok com áudios e interações sexuais explícitas, incluindo conversas feitas por usuários em carros Tesla.
Mudança de postura do Grok tem envolvimento direto de Musk. Ainda de acordo com o Washington Post, após deixar o cargo no governo dos EUA, o empresário se envolveu intensamente na transição do chatbot, defendendo métricas para maximizar o engajamento.
Equipes de segurança alertaram sobre violação da legislação. No X, a rede social anteriormente conhecida como Twitter, que Musk comprou em 2022, as equipes de segurança alertaram repetidamente a gerência em reuniões e mensagens de que suas ferramentas de IA poderiam permitir que os usuários criassem imagens de Inteligência Artificial com conteúdo sexual de crianças ou celebridades que poderiam violar a lei.
As maiores empresas de IA normalmente impõem limites rígidos à criação ou edição de imagens e vídeos de IA. A reportagem mostra que isso ocorre para impedir que os usuários criem material de abuso sexual infantil ou conteúdo falso sobre celebridades. Mas quando o chatbot de Musk incorporou suas ferramentas de edição ao X, em dezembro, dando a qualquer pessoa com uma conta a capacidade de criar uma imagem de IA, isso permitiu que imagens sexuais se espalhassem em uma velocidade e escala sem precedentes, disse David Thiel, ex-diretor de tecnologia do Observatório de Internet de Stanford, em entrevista ao “Washington Post”.
Musk disse que “não tem conhecimento de nenhuma imagem de menores de idade nuas gerada pelo Grok”. “Quando solicitado a gerar imagens, o Grok se recusará a produzir qualquer coisa ilegal, pois o princípio de funcionamento do Grok é obedecer às leis de um país”, afirmou o empresário ao jornal.
