Sin importar la edad que tengamos, todos debemos tener mucho cuidado de lo que vemos en cualquier plataforma en línea. Las imágenes tienen un poder sugestivo muy grande y pueden alojarse en nuestras mentes y hacernos pensar cosas en las que en otro momento no hubiésemos pensado. Es por eso que Mozilla compartió cuentos de terror de YouTube en campaña por algoritmos responsables. Veamos de qué se trata.
Todos nos hemos rascado la cabeza con algunas recomendaciones al usar plataformas en línea. Hace poco, la reportera de Verge, Megan Farokhmanesh, compartió cómo sus recomendaciones de Instagram han estado plagadas de algunas imágenes de dientes hechos con CGI bastantes extrañas. La cuenta de Farokhmanesh es de un algoritmo de recomendación que se vuelve deshonesto de una manera relativamente inofensiva y divertida, pero ese no es siempre el caso.
Los algoritmos deben ser imparciales. Es fácil imaginar cómo, sin el debido escrutinio, los algoritmos podrían recomendar contenido que influya en una persona para pensar o votar de cierta manera. Es posible que el sesgo ni siquiera sea intencional, pero no lo hace menos peligroso.
Los algoritmos de YouTube, en particular, han sido llamados a promover un contenido horrible, incluido la pedofilia y la radicalización. Para poner realmente ese peligro en perspectiva, alrededor del 70 % del tiempo de visualización de YouTube proviene de recomendaciones.
El sitio recién lanzado de Mozilla presenta 28 historias de terror causadas por los algoritmos de YouTube. El sitio se lanzó después de una campaña de medios sociales dirigida por Mozilla donde los usuarios compartieron sus historias usando el hashtag #YouTubeRegrets.
En una historia, un individuo proporcionó una cuenta de su hijo en edad preescolar que, como muchos de su edad, le gustaba ver los videos de Thomas the Tank Engine. Las recomendaciones de YouTube lo llevaron a ver compilaciones gráficas de accidentes de trenes.
En esa etapa temprana de la vida de una persona, lo que ve puede ser perjudicial para su desarrollo a largo plazo. Sin embargo, eso no significa que los adultos tampoco se vean afectados.
Otra persona dijo: “Comencé viendo un combate de boxeo, luego combates de boxeo callejero, y luego vi videos de peleas callejeras, accidentes y violencia urbana. Terminé con una visión horrible del mundo y sintiéndome mal, sin estar buscando precisamente”.
Otra persona dijo que a menudo miraba a una drag queen que hacía muchos videos de sobre el positivismo y la confianza en sí mismo. Sin embargo, las recomendaciones de YouTube supuestamente sirvieron una tonelada de contenido anti-LGBT, sin duda, estas recomendaciones podrían tener un impacto devastador en las comunidades ya muy marginadas.
En septiembre, Mozilla informó a YouTube que podría mejorar su servicio, y confiar en él, dando tres pasos clave:
- Proporcionar a los investigadores independientes acceso a datos significativos.
- Construir herramientas de simulación para investigadores.
- Empoderar a los investigadores al no implementar límites de velocidad API restrictivos y proporcionar acceso a un archivo histórico de videos.
Tendremos que esperar y ver si YouTube toma el consejo de Mozilla, pero esperamos que los cambios se realicen más temprano que tarde. Alrededor de 250 millones de horas de contenido de YouTube por día se ven a través de recomendaciones, y nunca podemos estar seguros de cuánto durarán esos videos en la mente de quienes los vean.