O Superior Tribunal de Justiça (STJ) determinou nesta quarta-feira (20) a abertura de uma investigação para apurar o uso de prompts de inteligência artificial para burlar o sistema eletrônico de petições do tribunal.
Por ordem do presidente do STJ, Herman Benjamin, um inquérito policial e um procedimento administrativo interno foram instaurados para apurar tentativas de fraudes , que teriam sido cometidas por advogados e escritórios de advocacia.
A medida foi tomada após técnicos do tribunal identificarem a entrada de petições com prompt injection , mecanismo usado para enganar modelos de IA e favorecer partes durante o andamento eletrônico de um processo.
Os comandos ocultos são inseridos em petições para tentar forçar o sistema de IA a ignorar filtros de seleção que impedem, por exemplo, a admissão de um documento que não contém os requisitos básicos de admissibilidade.
Segundo o STJ, o sistema do tribunal já tem travas contra o uso de prompts e impedem que as ordens sejam executadas pela plataforma que recebe as petições.
Justiça Fachin devolve relatoria do caso do INSS a Mendonça e mantém Master
Justiça Vorcaro diz que não fez nada errado e pede voto de confiança
Justiça Operação Contenção: DPRJ pede R$ 50 milhões em reparação a moradores
Justiça Condenado por lesão corporal contra mulher fica inelegível, decide TSE
Justiça Presidente do TSE diz que eleições ocorreram dentro da normalidade
Justiça Justiça bloqueia R$ 327 mi do CV por venda ilegal de gás de cozinha