A crescente utilização da inteligência artificial no sistema de justiça brasileiro trouxe também uma nova forma de tentativa de fraude. O Tribunal de Justiça de Minas Gerais (TJMG) identificou pelo menos dois casos em que advogados inseriram comandos ocultos em petições eletrônicas para tentar influenciar eventuais análises realizadas por ferramentas de IA.
A técnica consiste em esconder instruções no texto dos documentos. Embora passem desapercebidas para a leitura humana, essas mensagens podem ser reconhecidas por sistemas de inteligência artificial. Entre os comandos encontrados, estavam orientações para desconsiderar argumentos da parte adversária, descartar determinados trechos do processo e até recomendar decisões favoráveis a um dos lados.
Casos
Um dos casos foi registrado na comarca de Ibirité, na região metropolitana de Belo Horizonte. Durante a análise de um recurso, a magistrada responsável identificou mensagens ocultas inseridas no documento. Os textos eram direcionados especificamente a ferramentas de inteligência artificial e buscavam interferir na forma como o conteúdo seria interpretado. Situação semelhante foi constatada em outro processo, que tramitava em Belo Horizonte. De acordo com o tribunal, a petição também continha instruções escondidas com o objetivo de manipular o comportamento dos sistemas automatizados que, eventualmente, fossem utilizados na análise das informações processuais.
Nos dois episódios, o TJMG informou que houve violação dos deveres de boa-fé e lealdade processual. As decisões determinaram, então, a aplicação de multas por litigância de má-fé e encaminhamento dos casos para apuração pela OAB da seção Minas Gerais e pelos órgãos competentes de investigação.
A crescente utilização da inteligência artificial no sistema de justiça brasileiro trouxe também uma nova forma de tentativa de fraude. O Tribunal de Justiça de Minas Gerais (TJMG) identificou pelo menos dois casos em que advogados inseriram comandos ocultos em petições eletrônicas para tentar influenciar eventuais análises realizadas por ferramentas de IA.
A técnica consiste em esconder instruções no texto dos documentos. Embora passem desapercebidas para a leitura humana, essas mensagens podem ser reconhecidas por sistemas de inteligência artificial. Entre os comandos encontrados, estavam orientações para desconsiderar argumentos da parte adversária, descartar determinados trechos do processo e até recomendar decisões favoráveis a um dos lados.
Casos
Um dos casos foi registrado na comarca de Ibirité, na região metropolitana de Belo Horizonte. Durante a análise de um recurso, a magistrada responsável identificou mensagens ocultas inseridas no documento. Os textos eram direcionados especificamente a ferramentas de inteligência artificial e buscavam interferir na forma como o conteúdo seria interpretado. Situação semelhante foi constatada em outro processo, que tramitava em Belo Horizonte. De acordo com o tribunal, a petição também continha instruções escondidas com o objetivo de manipular o comportamento dos sistemas automatizados que, eventualmente, fossem utilizados na análise das informações processuais.
Nos dois episódios, o TJMG informou que houve violação dos deveres de boa-fé e lealdade processual. As decisões determinaram, então, a aplicação de multas por litigância de má-fé e encaminhamento dos casos para apuração pela OAB da seção Minas Gerais e pelos órgãos competentes de investigação.
