Instagram advierte de contenido ofensivo antes de publicar
Ante el cyberbullying que hay en redes sociales, Instagram es de las que se unen a tomar acciones para evitarlo. Una de las formas es hacer consciente al autor de contenidos cuando este puede estar publicando texto ofensivo, por medio de la Inteligencia Artificial.
Esta característica pretende que las personas analicen antes de publicar videos o fotografías que puedan herir a las personas. Cuando traten de publicar un contenido que Instagram detecte como potencialmente ofensivo, aparecerá una alerta sugiriendo reconsiderar las palabras.
El sistema de alerta es automático y aprende de contenidos previos marcados como acosadores, que poseen palabras similares. Funciona de forma similar a como se detectan los comentarios, para alentar participaciones positivas.
A pesar de las buenas intenciones, la alerta no evita que se publiquen los contenidos. Instagram confía en que ayude a reducir este tipo de lenguaje, ya que ha encontrado respuestas positivas.
El bullying virtual tiene como principales víctimas a menores de 25 años, los cuales al sentirse afectados tienen el doble de intentos de lastimarse o cometer suicidio. Debido a lo grave del tema, es que se monitorea los comentarios y títulos de los usuarios con ayuda de la IA. Twitter hace lo mismo de forma automática en el 50% de los casos.
Por ahora solo en países seleccionados se va activar, pero en unos meses más esta características será mundial, para el bien de todos.
Con información de Instagram
