Ferramentas de inteligência artificial já aceleram a produção de peças jurídicas e pesquisas na advocacia, mas especialistas alertam para riscos que começam a preocupar o setor. Entre eles estão as conhecidas "alucinações" da IA, capazes de gerar jurisprudências e processos inexistentes, e o prompt injection, técnica baseada em comandos ocultos que pode manipular sistemas inteligentes.
O tema de extrema relevância atualmente foi debatido durante painel promovido pela AASP - Associação dos Advogados, durante o 25º Simpósio Regional AASP, em Salvador, que aconteceu em 28/5 na capital baiana.
Para a advogada trabalhista Adriana Calvo, que palestrou juntamente com outros especialistas do setor, o avanço da IA exige supervisão humana e uso responsável das ferramentas."A adoção da IA sem qualquer direcionamento traz sérios riscos Jurídicos. A discussão sobre o tema já ultrapassou a dimensão operacional e passa a envolver responsabilidade técnica, validação de informações e cuidados indispensáveis na utilização dessas ferramentas no ambiente jurídico" conta.