Ela emite sua opnião exatamente porque assim que foi concebida pelos seus criadores. Mas ela realmente tem poder de fazer julgamento por si.
Além disso, essas inteligências podem medir incoerências em decisões, caso o grau esteja alto, então o advogado teria direito a um recurso com maior velocidade.
Os juizes também podem detectar e dimunuir falhas em suas decisões.
Por fim nenhum modelo de IAs, faz "escolhas" ela apenas decide aquilo que tem maior chance de estar correto, e para quem cria, ela mostra o grau de possibilidade de estar certa.
Acrescentando mais um pouco de pimenta, e se a IA prender uma pessoa inocente, quem responde pelo erro?
Possivelmente teria um revisor humano que levaria a culpa.
Por fim como acontece na justiça comum, caso as IAs fossem usados em larga escala em julgamentos, a justiça toleraria alguns erros para manter as coisas como estão.
Usando em baixa escala, ela seria apenas uma ferramenta para decisões tomadas por humanos.