Eu não vejo como evitar esse tipo de coisa. A tendência é piorar a cada novo avanço da IA. As vezes penso que uma Skynet era só uma coisa de ficção científica, mas vejo ela ganhando forma dia após dia. Imagino que futuramente teremos vírus mutantes que se adaptam e se reprogramam sozinhos.
Já eu, tenho um pensamento um tanto quando mais otimista dessa dita evolução, já que na medida que a capacidade das IAs de poder "prejudicar" aumenta, em contrapartida, essa capacidade pode ser inversamente proporcional, anulando quase que totalmente nossa possível falta de proteção.
Imagine que para entender um criminoso, muitas vezes é preciso pensar como tal.
Bastou mudar uma variável para uma certa IA gerar combinações químicas mortais. Tudo hoje é passível de ser hackeado, então as protetoras podem ser anuladas também 😁
Imagine que os hackers roubam dados e tentam faturar com isso. Agora já imaginou no caos que seria se eles divulgassem logo esses dados?