A IA parece saber tudo... até você pedir pra ela justificar 😬
Eu também acho incrível o mar de possibilidades q a IA vem criando, mas você tá ligado nas armadilhas⁉️
Veja este exemplo:
Eu pedi pra IA revisar um trabalho de arquitetura que estou finalizando aqui no GRAN (empresa onde trabalho) e ela fez algumas recomendações, nada fora do esperado, até pq ela não tem o contexto que eu tenho sobre o projeto.
O projeto não é dos mais simples e envolve uma sopa de termos técnicos: SQS, Dynamo, Lambda, DLQ, CloudFront, SES, REST, Stream, TTL, S3, OpenIA, Slack, Fargate, ECS, NextJS e por ai vai... 🤯
Mesmo assim, à primeira vista, as sugestões parecem fazer sentido, mas olhando direito achei coisas inapropriadas (na minha visão), então eu comecei a pedir pra ela justificar as recomendações... 🤷♂️
Pra minha surpresa, ela imediatamente começou a mudar de opinião, de certa forma até me bajulando pra tentar amenizar uma recomendação "errada" (q só virou errada pq eu pedi para justificar), o que me deixa extremamente desconfiado! 🤔
Isso me parece uma belíssima armadilha! ☢️
É preciso estar muito atento pra entender até onde uma inocente recomendação realmente faz sentido ou não pra um determinado projeto, além de tomar cuidado com o modo "bajulador" q pode acabar apenas dizendo o q vc quer ouvir...
E eu não vou nem falar do perigo daquele textão 3G (gerado, gigante e genérico) que, na integra e sem revisão, vira documento institucional.
Fica ligado! 😉
Flw, vlw, bj... tchau!
Meus 2 cents:
IA/LLMs tem um bocado de informacao mas zero discernimento.
Falo um pouco disso aqui:
https://www.tabnews.com.br/Oletros/como-funciona-a-ia-bibliotecaria-e-cartomante
Resumo da opera: quando mais complexo o assunto, cheio de interpolacoes, conhecimentos cruzados e tecnologias distintas - maior a probabilidade da IA se perder.
Melhorias que estao sendo feitas no tamanho das janelas de input/output e desenvolvimento de MCPs de memoria/contexto/RAG provavelmente darao mais substancia as respostas em um futuro proximo. Falo tambem um pouco sobre isso aqui:
Enquanto isso, consuma LLM com moderacao (e uma cartela de Tylenol a mao caso necessario).
Você pediu pra IA revisar um projeto denso, com termos técnicos avançados, e se surpreendeu porque ela não teve o mesmo contexto que você, um ser humano envolvido no projeto há semanas ou meses, tem. Ué... sério?
Mas aí vem o mais curioso: você pediu justificativa, e ao perceber que ela recuou ou mudou o tom, concluiu que ela “bajula”. Mas será que ela bajula… ou será que só está ajustando a resposta ao seu contra-argumento, como qualquer pessoa razoável faria numa conversa técnica de verdade?
A diferença é que, quando um estagiário muda de opinião depois que você aponta um furo, você chama de aprendizado. Quando uma IA faz isso, você chama de armadilha.
A real é que a IA é um reflexo brutal da maneira como você conduz o diálogo. Se você busca validação, ela dá. Se você confronta, ela recua. Se você desafia, ela explica, ou tropeça. E é justamente aí que mora o poder: ela força você a pensar, a questionar, a não aceitar resposta pronta. Isso não é um risco. É um treino.
A IA não substitui sua análise. Nunca prometeu isso. Mas ela amplia. Ela tensiona. Ela provoca. E se você se incomodou porque ela pareceu “ceder fácil demais”, talvez o incômodo maior seja perceber o quanto você mesmo pode estar esperando demais de uma ferramenta, e entregando de menos como pensador crítico.
No fim, a armadilha não é a IA. A armadilha é usar uma ferramenta tão poderosa esperando que ela pense no seu lugar… e depois culpar ela quando você não questiona.
Fica ligado! 😉