Fiz um SaaS para moderação de conteúdo (imagem e texto) e gostaria de um feedback 😀

◻️ Censorfy

Salve rapaziada!

Fiz um SaaS para moderação de conteúdo (imagem e texto) e gostaria de um feedback.

A ideia principal é bem simples, um endpoint onde você pode enviar um texto e uma URL de imagem (opcional) e uma IA vai analisar se o conteúdo deve ser censurado ou não.

Creio que pode ser útil para plataformas que precisam validar inputs de usuários.

A parte legal é que da pra deixar essa moderação mais custom de acordo com o que você precisa, da pra você criar uma diretriz (Guideline) específica para a sua necessidade e criar categorias para organizar melhor o conteúdo moderado.

Acesse aqui: https://www.censorfy.com

Exemplo:

Você não quer que nenhum conteúdo relacionado a política ou religião seja aceito na sua plataforma. Você pode criar uma diretriz descrevendo isso e criar duas categorias (Política e Religião) para organizar o conteúdo moderado.

Agradeço muito qualquer ajuda no lançamento: ProductHunt: https://www.producthunt.com/posts/censorfy-ai-content-moderation HackerNews: https://news.ycombinator.com/item?id=41749885

Valeuuuuuu :)

batataQuentemês passado

Projeto interessante, uma dica de design para a página de venda do produto, use 0.5rem de padding em toda a página, da muita agonia o texto colado na borda do celular.

gustavofiormês passado
Valeu pela dica!
FelipeLCmês passado

Primeira vez que vejo um produto que resolve essa dor, muito interessante.

telegrammês passado

Show de bola! O codigo fonte é aberto? Se puder compartilhe no Github!

gustavofiormês passado
valeuu! atualmente não é aberto :/
Pedroaf0mês passado

usa a api da openAI? Ou outra? já pensou em alternativas caso o uso de api se torne inviável? O que impede de quem precisa desse serviço fazer uma requisição diretamente pra OpenIA com uma prompt pedindo pra retornar true ou false? são questionamentos pra melhorar seu produto e também por pura curiosidade

gustavofiormês passado
Estou usando a da Anthropic, achei mais perfomática que a da OpenAI... Sobre alternativas, sendo bem honesto, não pensei em nada, tem alguma ideia? Sobre o usuário fazer uma requisição direto, é um cenário bem possível, mas acho que com a adição de novas features (webhooks, workflows, etc...) e a comodidade de ter algo mais plug and play pode ser que gere valor. Tem alguma ideia de feature?
Pedroaf0mês passado
Boa, realmente você deve se destacar. E você está usando um modelo refinado para classificação de conteudo ou está usando um modelo genérico? Você usar a api no estilo chat com prompt? Deve ser bom usar um modelo de classificação de texto como https://huggingface.co/KoalaAI/OffensiveSpeechDetector. mas acho que tu vai ter que criar o seu própio em português. um modelo de classificação é bem mais barato do que de "chat" e ai sua empresa realmente teria um diferencial
gustavofiormês passado
Nice, vou dar uma olhada nesses modelos de classificação, obrigado pela dica! Atualmente estou no mais genérico mesmo...
MateusSchverzmês passado

Projeto interessante. Criei uma API gratuita do gpt e a landing page um pouco ficou parecida. (https://free-unoficial-gpt4o-mini-api-g70n.onrender.com/) Você usou shadcn ?

Pedroaf0mês passado
cara como que tu fez isso? Tem o github do projeto? sério que a openIA não bloqueia esse tipo de scraper
batataQuentemês passado
Olá, projeto muito interessante! Como está fazendo para distribuir um "gpt" gratuito? Está assumindo os custos da api oficial ou criou um bot que interage na página do chatgpt? Estou trabalhando em um projeto open source que usa ia e fiquei curioso sobre o seu método. Por enquanto a minha melhor solução era instruir cada usuário a criar sua chave api no Gemini.
gustavofiormês passado
Niceee, usei sim!
d0tn0n4m3mês passado

Parabéns pela ideia e pelo projeto! Bem útil.

Tenho um ponto sobre o nome, acho que usar esse termo "censura" (ou "Censorfy") traz uma conotação negativa para o negócio, talvez devesse considerar mudar para um nome mais neutro, que reflita a ideia de moderação de conteúdo.

gustavofiormês passado
Obrigado! Então, eu fiquei com a mesma impressão pra ser honesto, o problema é que não achei uma opção melhor e que tivesse um domínio .com barato hahahah
Loksmês passado

Ficou muito legal o seu projeto, futuramente vou testa-lo na prática.

Só uma observação: o site ficou muito atrativo visualmente, só que ao abrir no celular as informações ficaram um pouco embaralhadas na parte de features e pricing. Podia dar uma melhorada na responsividade.

De resto gostei muito, parabéns!

gustavofiormês passado
Show de bola! Obrigado pelo feedback, tentei lançar o mais rápido possível e deixei responsividade de lado, mas logo menos vou corrigir!