[PITCH] - Afiliado usando inteligência artificial a seu favor

A dor

Fazem 2 anos que venho fazendo renda extra no mercado de afiliados e sempre tive algumas dores como:

  • Criar landing pages
  • Anúncios
  • Altos custos de clique
  • Diversos dominios

Essas dores não necessáriamente são porque eu não sei fazer tais coisas. Até porquê, trabalho há quase 10 anos como desenvolvedor web.

E dentre todas essas dores a parte de criar landing pages sempre foi a mais "sofrida" porque não é todo dia que a sua imaginação está a sua disposição, certo?

Uma das coisas mais importantes que se procura em mercado de afiliados é a redução do custo do clique, mas para conseguir isso você precisa subir o nível do funil e começar a atacar meio e topo de funil Funil de vendas

Agora, como vou me relacionar, ensinar, atrair e converter esses possíveis compradores se eu não tenho mãos para falar com 1000 pessoas ao mesmo tempo sobre diversos produtos diferentes em diferentes idiomas? E além disso, para ser sincero, também nem quero! haha

A solução

Inteligência artificial, mais precisamente LLM (Large Language Model).

A ideia

Com a crescente "necessidade" do mercado de consumir produtos/serviços baseados em inteligência artificial eu comecei a estudar sobre o tema.

Depois de consumir muito conteúdo sobre modelos, embeddings, vetores, rags, langchain, entre outras ferramentas eu decidi aplicar o meu conhecimento na solução da minha dor.

> Tentar reduzir meus custos de anúncio e o volume de landing pages

Mas eu ainda não sabia como fazer e o que fazer!

Um certo dia, cansado de tanto ler, testar e procurar inspirações sobre o que fazer, recebi uma mensagem divina em meu WhatsApp: "Fala firula, cola aqui, bora tomar uma, to avulso!"

Na mesma velocidade que uma criança corre pro colo da mãe, eu corri pra casa desse camarada para tomar uma!

Depois de algumas cervejas, diversos memes trocados ao vivo, falado da vizinha fofoqueira e também falando sobre o tema, surgiu o comentário:

Já pensou um chatbot que fala 100 idiomas e sabe tudo sobre os produtos que você vende e vende pra você de forma natural?

That's gold Jerry!

A aplicação

Com esse insight de imediato comecei a fazer testes e desenvolver um chatbot que me atendesse dessa forma!

Depois de 3 semanas de trabalho - E aqui vou me vangloriar porque nunca fiz nada nesse "nível" de complexidade em menos de 3 meses. E sim, existem devs que não criam um Facebook em 1 semana xD - aqui está:

Just Natural Goods

Esse chatbot foi construido em Angular com Backend em NestJs e LangChain para manipulação da LLM rodando com o modelo qwen2,5-32b

O chatbot é inicialmente um MVP com poucos produtos em sua base de conhecimento, mas sempre pode ser expandida a níveis sem iguais.

Se tiverem dúvidas sobre o projeto, desenvolvimento, stack e ferramentas é só comentar =D

opaulimanteontem

Muito bom, parabéns! Se entendi direito, você compilou um modelo com as infos dos seus produtos? Tem algum tutorial que você seguiu para chegar nesse resultado?

guilzmsanteontem
Exatamente! O modelo possui informações sobre os produtos e diversas orientações de como ele deve responder e o também o que não responder! Só que nisso você logo de cara esbarra com o "maior problema" de desenvolver um chatbot com LLM: Tamanho do contexto Toda empresa que oferece serviços de IA como a OpenAI cobram você por tokens, ou seja, tamanho de prompt de entrada e saida. E para que você consiga "ensinar" um modelo sobre algo você precisa fazer um prompt e mante-lo disponível no contexto durante toda a conversa. E porque preciso manter no contexto? Porque os modelos não mantém o contexto de conversa, ou seja, ele não sabe qual foi a sua primeira pergunta, eles simplesmente respondem a sua questão e pronto. Por exemplo: **Humano:** Oi me chamo guilherme **IA**: Oi Guilherme, prazer em lhe conhecer **Humano:** Você sabe qual é meu nome? **IA:** Não sei! Como resolve isso? A cada novo prompt você envia todo o contexto da conversa. Simples não? Agora imagina você com um prompt inicial com suas instruções (no meu caso os detalhes de cada produto) + as interações do usuário? Facilmente uma sessão de chat pode chegar a 8, 9, 10, 15 mil tokens com poucas mensagens trocadas. Rapidamente uma fatura na OpenAI pode chegar a centenas de dólares. E ai entram conceitos de vetores e embeddings só que fazer isso na mão é absurdamente trabalhoso e para nossa sorte existe algo chamado Langchain que é um framework de LLM feito originalmente em Python, mas já possui em JS, que tem várias abstrações Tutorial exatamente pra chegar nesse resultado não tem, pelo menos não encontrei nada sobre, mas das diversas horas que eu consumi de conteúdo sobre vou deixar os links dos que achei mais relevante para meu caso de uso! [Playlist Langchain](https://youtu.be/MaSynwSIty4?si=lqXRO_nMyOR1GXgy) [Erick Wendel - RAG na Prática](https://www.youtube.com/watch?v=yPz8LDcAcdA) :-)
teknolistaanteontem

Bacana. Você está usando a plataforma LangChain como SaaS ou tá hospedando por conta própria o modelo? Neste último caso, ficou muito caro? Sucesso pra ti.

guilzmsanteontem
o langchain é um framework que você instala como qualquer outro pacote NPM. Esse framework tem várias abstrações de embeddings, vetores, chunks entre outras coisas de certa forma "padronizadas" em modelos de LLM. E o bacana é que nas abstrações dele tem coisas especificas sobre como você lida com providers de inteligência artificial como a OpenAI por exemplo. Em relação ao modelo eu utilizei em maquina local o ollama com llama3.2-7b de no máximo 7B de parâmetros (gpu gforce 1050ti 4gb, 16gb ram e um I5 da quinta geração) já em produção inicialmente tentei utilizar VPS com GPUs, mas a mais barata que encontrei para rodar um modelo de no minimo 30B tinha o custo aproximado de US$100/mês. E digo modelos de no mínimo 30B porque em testes, modelos menores começavam a "alucinar" e saiam totalmente do contexto. Então depois de cavucar um pouco encontrei a GROQ que é um SaaS de modelos de IA de diversos tamanhos e tipos que você consome via API que tem um free tier bem interessante se tiver alguma outra dúvida, manda ai :-)
teknolistaanteontem
Bom saber, os preços da API estão razoavelmente baixos mesmo. Valeu. 👍