Não tem como rodar.

Para ter uma IA com respostas coerentes você precisa ter NO MÍNIMO uma RTX 4080. E ela vai ser MUITO lenta.

A dica para rodar IA em um PC mediano é encontrar algum modelo que resolva um único problema, e não seja tão abrangente. E mesmo assim acredito que precisaria de uma GPU forte pra conseguir rodar de forma satisfatória