Estudo de caso: moderação de conteúdo
Mais de 30 mil documentos da Web descartados e anotados para moderação de conteúdo
Há uma demanda crescente por moderação de conteúdo com tecnologia de IA que se esforça para proteger o espaço online onde nos conectamos e nos comunicamos.
Com o crescimento contínuo do uso das mídias sociais, o problema do cyberbullying surgiu como um obstáculo significativo para as plataformas que buscam garantir um espaço online seguro. Impressionantes 38% dos indivíduos se deparam com essa conduta prejudicial diariamente, o que reforça a demanda urgente por abordagens criativas de moderação de conteúdo. As organizações hoje contam com o uso de inteligência artificial para lidar proativamente com o problema persistente do cyberbullying.
Cíber segurança:
O relatório de aplicação de padrões da comunidade do quarto trimestre do Facebook revelou – ação em 4 milhões de conteúdos de bullying e assédio, com uma taxa de detecção proativa de 6.3%
Educação:
A 2021 estudo descobriu que 36.5% dos estudantes nos Estados Unidos com idades entre 12 E 17 anos experimentaram cyberbullying em um ponto ou outro durante sua escolaridade.
De acordo com um relatório de 2020, o mercado global de soluções de moderação de conteúdo foi avaliado em US$ 4.07 bilhões em 2019 e deve atingir US$ 11.94 bilhões até 2027, com um CAGR de 14.7%.
Solução do mundo real
Dados que moderam conversas globais
O cliente estava desenvolvendo um modelo robusto de aprendizado de máquina de moderação de conteúdo automatizado para sua oferta de nuvem, para o qual estava procurando um fornecedor específico de domínio que pudesse ajudá-lo com dados de treinamento precisos.
Aproveitando nosso amplo conhecimento em processamento de linguagem natural (NLP), ajudamos o cliente a reunir, categorizar e anotar mais de 30,000 documentos em inglês e espanhol para criar moderação de conteúdo automatizada Modelo de aprendizado de máquina bifurcado em conteúdo tóxico, adulto ou sexualmente explícito categorias.
Problema
- Web scraping de 30,000 documentos em espanhol e inglês de domínios priorizados
- Categorizando o conteúdo reunido em segmentos curtos, médios e longos
- Rotular os dados compilados como conteúdo tóxico, adulto ou sexualmente explícito
- Garantindo anotações de alta qualidade com um mínimo de 90% de precisão.
Solução
- Web Scrapped 30,000 documentos cada um para espanhol e inglês de BFSI, Saúde, Manufatura, Varejo. O conteúdo foi ainda bifurcado em documentos curtos, médios e longos
- Rotular com sucesso o conteúdo classificado como conteúdo tóxico, adulto ou sexualmente explícito
- Para atingir 90% de qualidade, a Shaip implementou um processo de controle de qualidade em dois níveis:
» Nível 1: Quality Assurance Check: 100% dos arquivos a serem validados.
» Nível 2: Verificação de Análise de Qualidade Crítica: Equipe CQA da Shaips para avaliar 15%-20% das amostras retrospectivas.
Resultado
Os dados de treinamento ajudaram na construção de um modelo de ML de moderação de conteúdo automatizado que pode produzir vários resultados benéficos para manter um ambiente online mais seguro. Alguns dos principais resultados incluem:
- Eficiência para processar grande quantidade de dados
- Consistência em garantir a aplicação uniforme das políticas de moderação
- Escalabilidade para se adaptar à crescente base de usuários e volumes de conteúdo
- A moderação em tempo real pode identificar e
remover conteúdo potencialmente nocivo à medida que é gerado - Custo-benefício ao reduzir a dependência de moderadores humanos
