Da Redação
A Ordem dos Advogados do Brasil (OAB) lançou uma ferramenta gratuita voltada à segurança de advogados que utilizam inteligência artificial em suas atividades profissionais. Desenvolvida em parceria com a empresa de tecnologia jurídica Forlex, a plataforma foi criada para identificar ataques ocultos em documentos jurídicos antes que eles sejam processados por sistemas de IA, reduzindo o risco de manipulação e comprometimento das informações.
Batizada de Open Detector, a ferramenta integra o Plano Nacional de Integração da Inteligência Artificial da Advocacia (PNIAA) e já está disponível para uso gratuito. O sistema permite analisar arquivos nos formatos PDF, DOCX e TXT, além de textos copiados diretamente para a plataforma, verificando a existência de comandos maliciosos conhecidos como prompt injection e jailbreak, técnicas utilizadas para induzir inteligências artificiais a ignorarem suas restrições de segurança ou produzirem respostas incorretas.
Segundo os desenvolvedores, esses ataques podem estar ocultos em documentos aparentemente comuns, como decisões judiciais, petições ou jurisprudências obtidas na internet. Ao serem enviados para uma IA sem qualquer verificação, esses arquivos podem influenciar o comportamento da ferramenta, provocar respostas equivocadas ou até expor informações sensíveis do escritório de advocacia.
Além de identificar comandos ocultos, a plataforma utiliza modelos estatísticos e técnicas de análise semântica para detectar padrões suspeitos, como textos invisíveis, caracteres ocultos e outras formas de manipulação documental. A ferramenta também classifica o nível de risco encontrado, permitindo que o usuário avalie a segurança do arquivo antes de utilizá-lo em sistemas de inteligência artificial.
Outra funcionalidade prevista para as próximas atualizações é a validação automática de jurisprudências e dispositivos legais. O sistema deverá ser capaz de identificar citações inexistentes, decisões falsas ou referências jurídicas incompatíveis com o conteúdo apresentado, contribuindo para reduzir erros provocados por informações incorretas ou alucinações de modelos de IA. Futuramente, a plataforma também deverá incorporar recursos para verificar a autenticidade de vídeos e detectar possíveis falsificações geradas por inteligência artificial.
De acordo com a empresa responsável pelo desenvolvimento, os documentos enviados para análise não permanecem armazenados após o processamento. Os arquivos são utilizados apenas durante a verificação e, em seguida, descartados, enquanto o usuário mantém acesso somente ao histórico dos resultados das análises realizadas.
A recomendação é que advogados utilizem o Open Detector sempre que receberem documentos de terceiros ou antes de submeter arquivos a plataformas de inteligência artificial que não possuam mecanismos próprios de proteção. O objetivo é minimizar riscos de manipulação e aumentar a segurança no uso dessas tecnologias no ambiente jurídico.
A iniciativa faz parte da estratégia da OAB para ampliar o uso responsável da inteligência artificial na advocacia. Além da ferramenta, a entidade pretende disponibilizar materiais de capacitação e tutoriais para orientar profissionais sobre boas práticas de utilização dessas tecnologias, reforçando que a IA deve servir como instrumento de apoio ao trabalho jurídico, sem substituir a atuação do advogado.
