Proyecto de herramienta comunitaria y automatizada para la detección y la desmonetizacion de discurso de odio

AMALIA: proyecto de herramienta comunitaria y automatizada para la detección y la desmonetizacion de discurso de odio Formamos parte de una comunidad de asociaciones, activistas digitales, creadores de contenido y periodistas preocupados por cómo el discurso de odio en línea saca partido de la economía de la atención

Nuestro objetivo es desplataformizar y desmonetizar los contenidos de odio para desincentivar a sus creadores a seguir haciéndolo. Para ello, seguimos el libro de estilo del watchdog journalism y el follow the money que han llevado a cabo Sleeping Giants , Check My Ads o ÉsPaísValencià.

Una de las primeras necesidades expresadas por nuestra comunidad, fue automatizar la detección en diferente plataformas de redes sociales, una tarea altamente dañina para la salud emocional de quienes se ofreciesen a realizarlo, teniendo que consumir infinitas horas de contenido plagado de discurso de odio. Por eso apostamos por la creación de AMALIA: una herramienta automatizada para la detección y la desmonetizacion de discurso de odio.

Hablaremos de las decisiones y etapas por las que hemos pasado para definir las dimensiones y categorias que nos permitan identificar el discurso de odio, creando una muestra inclusiva y equilibrada, con las comunidades interpeladas por el discurso de odio al timon. Explicaremos el estado actual en el que se encuentra la herramienta, así como las dificultades que afrontamos para alcanzar una fiabilidad efectiva.