[DÚVIDA] Tem como rodar uma IA parecido com o gpt no macbook pro m2 8 gb 2022
Estou a alguns meses tentando rodar uma ia parecida com o chatgpt na minha maquina, porem nunca tenho respostas coerentes, não sei se é porque exige muito da placa de video ou algo do tipo.
De modo geral oque fiz foi testa um monte de modelos que baixei no hugface e varios leitores desses modelos.
Caso alguem sabe quais são os melhores modelos e leitores para fazer isso?
Não tem como rodar.
Para ter uma IA com respostas coerentes você precisa ter NO MÍNIMO uma RTX 4080. E ela vai ser MUITO lenta.
A dica para rodar IA em um PC mediano é encontrar algum modelo que resolva um único problema, e não seja tão abrangente. E mesmo assim acredito que precisaria de uma GPU forte pra conseguir rodar de forma satisfatória