Companhias de Cingapura e Finlândia estão correndo para desenvolver softwares de inteligência artificial que podem detectar e bloquear automaticamente vídeos de assassinatos e mutilação antes de se tornarem virais em redes sociais. Por enquanto nenhuma conseguiu resolver o problema completamente.
Um tailandês que filmou a si mesmo assassinando a filha de 11 meses em um vídeo ao vivo no Facebook nesta semana é o mais recente de uma série de crimes violentos transmitidos ao vivo em redes sociais. O incidente levantou questionamentos sobre como o sistema de denúncia do Facebook funciona e como conteúdo violento pode ser detectado mais rapidamente.
O Google, que enfrenta problemas similares com seus serviços no YouTube, e o Facebook estão trabalhando em suas próprias soluções. A maioria está focada na aprendizagem em profundidade: um tipo de inteligência artificial que usa redes neurais computadorizadas que “ensina” computadores a identificar uma cena violenta em um vídeo.
Um dos pontos levantados é que a violência pode ser subjetiva. A companhia PicPurify também está trabalhando para identificar cenas de violência que não envolvem sangue ou armas.