Instagram está lanzando un sistema de intervención de inteligencia artificial en sus medios para compartir, a fin de contrarrestar el flagelo del acoso cibernético. A diario se comparten 95 millones de fotos y videos en esta red social, así que la moderación manual del contenido es imposible. Es por eso que Instagram usa IA para combatir el acoso.
La IA promete automatizar el proceso de moderación. Hoy día, todavía hace falta la intervención humana para la decisión final, pero Instagram ha decidido seguir el viejo adagio de “la prevención es mejor que una cura” con su nuevo sistema de inteligencia artificial.
Actualmente, la plataforma utiliza estos sistemas para los comentarios negativos, brindando a los usuarios la oportunidad de deshacer el mensaje. Instagram informa que “alienta a algunas personas a deshacer su comentario y compartir algo menos perjudicial una vez que hayan tenido la oportunidad de reflexionar”. Sin embargo, lo que planean hacer es intervenir con la pregunta “¿estás seguro de que quieres publicar esto?” Para que el usuario realmente piense en lo que está haciendo cuando se trata de un contenido negativo.
“Hemos escuchado de los jóvenes de nuestra comunidad que son reacios a bloquear, dejar de seguir o reportar a su agresor porque podría agravar la situación, especialmente si interactúan con su agresor en la vida real”, dice el jefe de Instagram, Adam Mosseri.
Los usuarios marcados como acosadores serán invisibles para la víctima, mientras que el estado actual en línea de la víctima será desconocido para el acosador.
“Las personas restringidas no podrán ver cuándo estás activo en Instagram o cuando has leído sus mensajes directos”, agrega Mosseri.
Un estudio realizado en Estados Unidos el año pasado, reveló que al menos el 59% de los adolescentes sufren acoso a través de las redes sociales. Y que ninguna persona que les rodea, maestros, medios sociales, policía, etc. están haciendo algo para contrarrestar el problema.
El nuevo sistema de inteligencia artificial estará disponible para hablantes en inglés como una versión beta, luego de ser probado se espera que esté disponible para todo el mundo.
