Instagram ahora está utilizando AI para luchar contra los trolls y spammers

0
112

El uso de las redes sociales viene con el desafortunado riesgo de encontrarse con expresiones de odio y comentarios ofensivos. Las empresas detrás de ellos están constantemente buscando nuevas formas de combatir la incitación al odio y ahora Instagram se está convirtiendo con: La inteligencia artificial.

El año pasado, Instagram introdujo un filtro de palabras clave que le ha permitido eliminar automáticamente las palabras ofensivas específicas que pueden aparecer en su alimentación de datos. Las palabras  tienen una herramienta de retirado automatico “a menudo se informaron como no apropiado” y le permiten configurar palabras clave personalizadas, pero en el momento, mencionamos algunos de sus advertencias; principalmente, la lucha contra comentarios de odio puede ser agotador como trolls y llegar a nuevos lenguajes ofensivos todo el tiempo:

640x80-Panama

… trolls han sido encontrar su camino alrededor de los filtros desde el nacimiento de la Internet, el uso de insultos mal escritos o, a veces crear otros totalmente nuevos.

Afortunadamente, usted puede añadir sus propias palabras clave y frases personalizadas, pero Instagram tendrá que hacer algo más que un filtro simple de cada palabra para que la red se sienta segura;  los Intolerantes a menudo pueden gritar comentarios ofensivos o abusivos sin utilizar palabras ofensivas específicas.

Este nuevo filtro intenta conseguir alrededor de esas advertencias que utilizan la inteligencia artificial. Instagram está utilizando AI para tratar de comprender el contexto en torno a la expresión ofensiva y deshacerse de abuso, incluso si no se dispara palabras clave específicas. Eso debería ayudar a mitigar la naturaleza del gato y el ratón de lucha de comentarios de odio, aunque en la actualidad sólo funciona en Inglés.

Wired entra en más detalles acerca de cómo el sistema de inteligencia artificial, llamado DeepText, es capaz de identificar el lenguaje ofensivo. Por ejemplo, se puede entender que la palabra “blanco” puede no ser ofensivo como un color o título (White Sox, blanco como la nieve), pero que “poder blanco” podría ser ofensiva en muchos usos.

Por supuesto, la definición de las expresiones de odio siempre será turbia (los seres humanos no son aún tan buenos en la identificación de que, después de todo), y existe el riesgo de falsos positivos. ¿Qué pasa si sólo se está citando el discurso del odio no está de acuerdo con, quizás a los efectos de una respuesta? Por no hablar de que hay palabras ofensivas que son homónimos o que tienen diferentes significados en diferentes contextos.

Sin embargo, el sistema debe ser más inteligentes con el tiempo, como AI suele hacer. Aún así, si no te gusta la idea de un cerebro de un robot de decidir lo que es ofensivo o no, usted tiene la opción de desactivarlo desde la sección de comentarios de la configuración de Instagram. Instagram también está utilizando DeepText para identificar el spam, lo cual es de esperar algo que todos podemos estar de acuerdo merece desaparecer.