Boa tarde, @welovetech! Que bom que achou legal!
Quanto a finalidade pratica, a intenção é exatamente a intenção descrita, em vez de os milhares de SaaS que vemos que são apenas um wrapper das apis da Open AI, seria uma UI prática e facil para fazermos as diversas atividades para as quais usamos ferramentas derivadas da Open AI mesmo, porem com o custo de apenas os tokens diretos da Open AI, sem os custos adicionais advindos de wrappers.
O projeto tem a simples intenção de ser uma ferramenta final, que engloba e agrega diversas funcionalidades que usam AI em uma UI simples e amigável, que qualquer pessoa que consiga rodar um docker run
consiga a usar, utilizando diretamente as APIs da Open AI, e futuramente usando modelos locais também conforme opção.
Entendi, mas realmente não compreendo os "os milhares de SaaS que vemos que são apenas um wrapper das apis da Open AI". Acho que nenhum desenvolvedor experiente vai utilizar um Wrapper sendo que a OpenAI e a grande maioria das outras também já oferecem um playground completo e de simples integração, diretamente com eles. Talvez eu não tenha entendido o conceito, e sua ferramenta não seja voltada para devs.