[PITCH] NoFingerC# Você pode moderar conteúdo ofensivo com DNA do Brasil
Construindo o NoFingerC#: um moderador de texto que entende os 🇧🇷
Fala dev's! 😎
Tô começando a construir um projeto em público e quero muito ouvir ideias, sugestões e até críticas construtivas. Apresento pra vocês o NoFingerC#, um moderador de texto via API pensado 100% no nosso jeitinho safado brasileiro de se comunicar.
As ferramenta atuais de moderação embora conheça o português, não conhece o nosso português, o português que falamos no geral, na cachorrada.
Qual a ideia?
O NoFingerC# vai ser uma API que modera textos em português do Brasil com contexto local: gírias, memes, expressões regionais, ironia e até piada interna. A proposta é entender quando alguém tá brincando, quando tá passando do ponto, e principalmente: explicar o motivo de cada marcação.
Tudo ainda está em construção, e por isso mesmo quero sua ajuda!
O que já pensei:
- 🎯 Foco inicial em moderar texto puro (nada de imagem ou voz por enquanto);
- 🌎 Suporte a gírias e memes brasileiros, com base em corpus nacional (posts, fóruns, redes sociais);
- ⚖️ Detecção de conteúdo ofensivo, tóxico, preconceituoso ou que fere as políticas da sua plataforma (Isso ainda estou pensando);
- 📋 Feedback por requisição explicando o porquê da marcação (nada de "erro 403" misterioso);
- 🧰 Personalização de categorias e palavras proibidas (opcional);
- 📊 Possível dashboard no futuro pra ver relatórios de moderação.
Ideia de planos (abertos a feedback!):
- Plano Teste – R$10 para até 10 mil palavras moderadas
- Plano PRO – R$199 para até 500 mil palavras (o que dá uns 8 livros de 274 páginas)
Ainda estou testando esses valores. A ideia é manter acessível, principalmente pra startups e devs independentes que tão lançando seus produtos.
Pra quem seria útil?
- Apps com chat (mensagem direta, comunidade, suporte...)
- Plataformas com comentários públicos
- Marketplaces com reviews e descrições
- Jogos com chat entre jogadores
- Qualquer sistema onde texto é gerado por usuários e precisa estar dentro das regras.
Agora eu quero te ouvir!
- Você já sofreu com moderação injusta de algum serviço gringo?
- Faz sentido um produto assim pra sua realidade?
- Que tipo de conteúdo você mais precisa filtrar?
- Esses preços estão viáveis pra você?
- Achei esse nome engraçado, porém ruim de pronunciar e lembrar, o que vocês acham? Me sugira
💬 Me responde aqui nos comentários ou onde achar melhor (Twitter, TabNews, YouTube – já fiz até um vídeo rápido explicando: https://www.youtube.com/watch?v=hef8_1Ozz9E).
🚧 Ah! A landing page que fiz é só temporária, mas tem um resuminho: https://ddiidev.github.io/NoFingerCSharpLP/
E se tiver interesse, considere me enviar uma mensagem pra meu contato direto em NoFingerC# Contato, vou te responder o quanto antes, pode ter certeza!
Obrigado por ler até aqui! Se curtiu a ideia, compartilha com alguém que precisa disso. Tô animado pra construir isso junto com vocês! 💪
Abraço!
— André Luiz
Opa, André! Achei muito interessante sua ideia. Sou engenheiro de machine learning e atuo principalmente em processamento de linguagem natural e visão computacional. Oque você comentou sobre detecção de conteúdo ofensivo poderia ser feito por um simples modelo de NLP com detecção de sentimento ou agressividade, hoje em dia existem grandes nomes open-source em plataformas como o HuggingFace, mas acho que no seu caso o legal seria treinar com um corpus em português brasileiro e de repente aplicar um fine-tuning em um modelo como o BERT para classificação.
Eu não entendo muito de LM 🤖, mas deveria ter uma demonstração na prática para ser usado 24 horas. A ideia é interessante e única até agora. Pois não conheço um serviço focado para brasileiros, a título de moderação.
Opa, sugiro dar uma olhada no https://www.profanity.dev/
Acho que você vai tirar bastante inspiração.
Parabéns pelo projeto.
Se quiser treinar iA, sugiro esse post: https://www.tabnews.com.br/paulocoutinho/como-treinar-a-sua-propria-slm-small-language-model-ou-mini-llm-passo-a-passo-neste-artigo