Contruir algo com a IA esta saindo caro.
Ontem começamos testar uma API que utiliza ferramentas de IA e geração de código disponiveis no mercado, ela permite conexão os principais fornecedores de IA e conectei com o Cloude e comprei $50 de créditos. Quero deixar claro que ainda são experiências que estou fazendo, e que o sistema esta gerando o código completo para diversas linguagens baseadas em js por enquanto, como Next, React, Remix, etc.
Essa API vai ser integrada a nossos projetos e a intenção principal é que nossos desenvolvedores tenham acesso a uma area integrada com nossos sistemas a qual conhecerá todo o funcionamento dos mesmos permitindo criar muito mais rapidamente codigos que poderiam ser trabalhos manuais, deixando esse tempo para se concentrarem no que importas, nas regras de negocio e na logica.
O funcionamento dela é regressivo, ela lembra do que criou antes e usa isso para tentar manter a fidelidade da criação e ajustes e melhorias no codigo fonte.
O que ocorre é que com poucas iterações no sistema, permitindo que ele crie e ajuste algumas telas, como um CRUD inicial, consumiram $10 do me crédito, e ainda não tenho nada funcional, apenas uma brincadeira. Eu usei ela por uns 20 minutos. O que causa esse consumo é justamente a quantidade de codigo que precisa devolver, justamente a parte mais cara. Cada vez que precisa de correção, ela analisa todo o codigo e muitas vezes repete tudo de novo. Isso estamos tentando minimizar, mas a IA ainda é cara para desenvolver codigos, pois a quantidade de saida é grande em cada iteração.
Esta claro que gerar código a partir dela, para todos os projetos que temos, para quase 30 devs atuaream, chegaria facilmente a mil ou mais dolares por dia (e poderia passar muito disso e não teriamos por enquanto o retorno em codigo funcional e eficiente). Creio que o caminho é hibridizar as coisas, ou seja, ela servirá para codigos mais trabalhosos e etapas iniciais dos projetos, permitindo que o desenvolvedor trabalhe junto.
Por enquanto a IA é cara, não é pra qualquer um e quem esta se aproveitando muito disso são as Bigs, com caixas milionários, o que não é o meu caso, pra elas sai muito barato. Se você se deixar levar pelos youtubers "programdores" você vai achar que nunca mais ninguém precisará de seu perfil, mas isso é uma enorme bobagem. Esses dias vi um suposto dev falando que era para todos os Juniors desistirem, pois não eram mais necessários e o cara fazia um sisteminha inteiro na ia que gerava uma lista de compras, ou seja, nada alem de um crud que minha filha de 2 anos já entende e faz..rs. Mas tenta passar disso sem saber programar para ver se sai algo.
Imagine se um dev que trabalha sozinho e que já cobra barato pelos seus projetos, vai conseguir utilizar $500, 1k ou 1.5k (dolares) em créditos para desenvolver um sistema completo, com varias iterações para tentar chegar a algo funcional, é provavel que não.
Outro problema ainda é que todas elas, chegam num ponto que começam a "perder a memória" e desfazer coisas que funcionavam antes para tentar ajustar ou criar novas, ou chegam a um ponto de preguiça onde cortam trechos dos codigos funcionais colocando comentarios.
Estamos focados em dar mais liberade aos devs aqui dentro, colocar poder da criação de codigo na mão da IA e nossos devs vão se concentrar na parte complexa, regras, supervisão e correção e vamos ver o que ocorre. Já temos esse piloto inicial funcionando, agora proximo passo é integrar a outras IAs.
Ah, e dentro de alguns dias, vamos disponibilizar nosso projeto no formato Open Source para que quem desejar, usar.
legal, como não conhecia nada além do uso do chatGPT free para ajudar a tirar dúvidas durante o desenvolvimento, achei muito interessante como as coisas estão evoluindo rapidamente.
Acredito que as ferramentas pagas ajudem muito mais, o que eu percebi tirando dúvidas na versão gratuita é que ela ajuda a ganhar tempo, mas você tem que saber o que está fazendo, ou vai acabar perdendo todo o tempo "que ganhou" tentando ajustar o que não funciona 😅
Seria interessante se em uma publicação futura você pudesse trazer informações do ganho real de tempo e essa relação de ganho por maturidade técnica do time.
Ótimo texto! vlw.
Eu tenho utilizado bastante a IA Vertex do google, achei ela relativamente barata pra gerar os códigos que eu preciso, não gosto muito da ideia de utilizar plano mensal pra usar uma IA então essa mes serve bem gastando apenas o que eu utilizo
Eu acho o Claude melhor que o Gpt 4 pra gerar código, mas o preço da api deve ser tão alto quanto ou mais caro. O GPT 4 mini é o mais barato com folga, mas você teria que desenvolver seu sistema pensando nas limitações de contexto dele.
Acho que você teria que trabalhar com algo híbrido (automações + ai), como os colegas falaram, mas de toda forma tem um ponto que você precisa considerar e acho que ta falhando: o valor que o seu sistema entrega. Você pode estar assustado com o preço, mas imagina o custo da mesma tarefa executada por um dev humano.. será que não seria maior? Acho que é nessa linha que você tem que trabalhar
Você ja prensou em manter uma estrutura utilizando o Ollama self-hosted? vejo muita gente indo por esse caminho, mas não faço ideia de como é o treinamento, só sei que dá pra baixar uns modelos e wue estão chegando na casa dos terabyte, mas são modelos genéricos e com informações que talvez nao sejam uteis para a programação.
vc já experimentou usar com a openai modelo 3.5-turbo?
é um dos mais baratos que conheço.
agora usar IA pra desenvolver sem ser de forma tradicional via chatgpt, copilot e outras muitas por aí onde vc usa como pergunta e resposta e vc decide o que usar do que foi gerado (não sei se entendi certo o que vc está criando), acho extremamente arriscado.
não é melhor investir em generators que façam tarefas repetitivas e com precisão ao invés de deixar numa ia que cada vez que executar vai devolver um código similar porém diferente?
eu criei um generator que cria um crud completo com interface e regra de negócio com 1 chamada, me economiza 4h de trabalho para 15m de customização pós execução e dentro da conformidade e padrão de escrita da minha empresa.
A galera não curtiu e negativou mas por um bom tempo esse tipo de ferramenta é o mais víavel de se ter geração de código automatizado, ele mistura um algoritmo procedural de processamento de linguagem natural com dados que você mesmo manda parecendo IA, pra quem faz projetos repetitivos é uma mão na roda