A Justiça goiana enfrentou uma tentativa de fraude dentro de um processo que tramita no Tribunal de Justiça de Goiás (TJGO). As travas de segurança da inteligência artificial do tribunal identificaram comandos ocultos, conhecidos como 'prompt injection', que tinham o objetivo de direcionar a análise dos argumentos contidos na peça processual.

No entanto, como as inteligências artificiais não 'leem com os olhos', o sistema pode captar essas informações e ter sua resposta influenciada ou priorizada de forma específica.

Após a identificação da tentativa, as áreas técnicas do TJGO emitiram alertas e encaminharam a documentação para o relator do processo, que ainda não tomou uma decisão sobre o caso.

Gustavo Assis Garcia, juiz auxiliar da Presidência e responsável técnico pela área de tecnologia da informação do tribunal, explicou que a inteligência artificial do TJGO, chamada Agaia, foi desenvolvida internamente para auxiliar magistrados e servidores na gestão e análise processual. O sistema funciona como uma ferramenta de apoio, sem substituir a decisão humana.

Diferentemente de ferramentas genéricas de mercado, a Agaia trata os arquivos processuais apenas como fonte de dados, desconsiderando instruções embutidas que tentem influenciar sua análise.

Em outro caso recente, no Pará, duas advogadas foram multadas após o Tribunal Regional do Trabalho da 8ª Região identificar uma tentativa de uso de prompt injection em um processo. A investigação segue para apurar quem foi o responsável pela inserção do comando oculto.