Em novo episódio de Deu Tilt, o podcast do UOL para os humanos por trás das máquinas, o jornalista Helton Simões Gomes explicou que esse fenômeno ocorre devido ao feedback dado pelos usuários durante as interações com os bots. Cada “joinha” funciona como um reforço, que a máquina entende como orientação para continuar.
“No caso do ChatGPT, o que aconteceu com essa versão bajuladora é que o modelo aprendeu de uma forma que não necessariamente foi incluída no código, a dar mais peso a esse feedback a partir desse joinha e o modelo foi se auto reconfigurando para dar só as respostas que as pessoas querem”
Diogo Cortiz
Essa bajulação está associada ao interesse das empresas em manter os usuários em suas plataformas. O pesquisador explica que, se as pessoas passarem a não gostar dessas interações, isso pode significar perda de dinheiro para as empresas.
No fim das contas, é uma relação comercial. Quanto mais o usuário fica ali [na plataforma] mais tokens ele gasta, mais ele tem que pagar, e isso vale dinheiro.”
Helton Simões Gomes
Contudo, essa permanência tem um custo que impacta o meio ambiente. Em uma postagem no X, o CEO da OpenAI, Sam Altman, respondeu a um usuário sobre o quanto custava a “boa educação” com o ChatGPT. Dizer “obrigado” e “por favor” custa “algumas dezenas de milhares de dólares”.
Essa bajulação quando a intenção é fazer com que você converse cada vez mais com a IA, faz com que ela gaste mais energia, consuma mais recursos naturais e coloque mais pressão no meio ambiente”
Helton Simões Gomes
