La semana pasada, Instagram bajó el poster de la nueva película del cineasta español Pedro Almodóvar, Madres Paralelas, porque muestra un pezón del que cae una gota de leche. Gracias al repudio generalizado, Facebook -empresa propietaria de la red social- repuso las imágenes por tratarse de contenido artístico y emitió un comunicado para disculparse. Pero, ¿cómo funciona el algoritmo que censura solamente los pezones femeninos?
“Todos tenemos sesgos cognitivos, es decir, la mirada parcial y subjetiva que tenemos del mundo, y es difícil ponerse de acuerdo en qué es censurable y qué no. El problema es cuando esos sesgos se automatizan usando algoritmos”, señaló a El Grito del Sur Sophie Alamo, comunicadora e investigadora en cultura digital y nuevos medios.
Instagram, explicó Alamo, tiene normas comunitarias que “son las que solemos aceptar cuando le damos click a las condiciones que no leemos”. “Las plataformas más mainstream como Instagram tienen ciertas normas para censurar lo que sea delito o contenido sexual y que el contenido sea siempre para todo público”, agregó.
El mecanismo por el cual la plataforma ejerce la censura tiene dos patas. La primera es la denuncia que cualquier usuario puede hacer por una publicación y la otra es el algoritmo.
“¿Cómo hace el algoritmo para solo censurar pezones de mujeres? ¿Cómo detecta si ese pecho pertenece a una mujer o un varón? -inquirió Alamo-. Se usan algoritmos muy sofisticados que reconocen las imágenes a partir de este conjunto de píxeles, son entrenados con bases de datos enormes para que puedan distinguir un pezón de mujer y uno de varón. Y reproducen un sesgo de género que tenemos los humanos que, por alguna razón, un pezón femenino sería más sexual que uno masculino”.
El creador del afiche de Madres Paralelas -que se estrenará en septiembre en el Festival de Cine de Venecia- es el artista catalán Javier Jaén, quien subió la imagen a su cuenta personal de Instagram el lunes pasado. “El martes por la tarde recibo un mensaje de Instagram amenazándome de que si sigo compartiendo esa imagen, puedo perder la cuenta. Yo hago captura de ese mensaje y lo vuelvo a colgar, la vergüenza sois vosotros, ¿qué es esto?”, contó Jaén a La Voz de Galicia.
En el proceso creativo, el artista catalán quiso captar “esa pena y esa forma de representar el llanto, el dolor, y a la vez la fuerza” que le transmitió el film, el cual relata la historia de dos mujeres -interpretadas por Penélope Cruz y Milena Smit- cuyas vidas se entrecruzan en el hospital cuando van a dar a luz.
Si bien tanto Jaén como Almodóvar tuvieron en cuenta la posibilidad de la censura, el artista plástico cuenta que habló con el director “un buen rato de la libertad y de la integridad” y de que “esas son las películas que ha hecho toda su vida, y los carteles con mayor o menor acierto también, pero no va a dejar de hacerlas por una red social que está de moda en el 2021”.
Pero gracias a la presión tanto mediática como social -el afiche fue compartido por miles de usuaries-, un representante de Facebook llamó personalmente a Jaén para disculparse y, además, la empresa emitió un comunicado en el que afirmó que “solemos hacer excepciones para permitir la desnudez en ciertas circunstancias, incluidas un contexto artístico claro”, por lo que restauraron el póster en Instagram. “Lamentamos mucho la confusión causada”, concluyó el texto.
La victoria fue celebrada por Almodóvar, quien agradeció a todes les que apoyaron el cartel. “Hay que estar alerta antes de que las máquinas decidan qué podemos hacer y qué no podemos hacer. Siempre he confiado en la amabilidad de los desconocidos, pero siempre que sean humanos y un algoritmo no es humano. Por mucha información que posea el algoritmo nunca tendrá corazón ni sentido común”, afirmó en un comunicado.
Pero para Jaén, aunque el caso sienta un precedente positivo, existe cierto privilegio que permitió este final feliz. “Nos dan esa excepción como de cartel VIP, que yo no la quiero. Es un contexto en el que hablamos de maternidad, de lactancia -afirmó- Me están diciendo que mi trabajo no es una imagen de la que haya que proteger a la gente, pero cuando pienso en las veces que señalan un cuerpo como diciendo que es erróneo, que está mal, o que el contexto es pornográfico…”.
“Estas categorías de qué es artístico y qué es contenido sexual o erótico son categorías que usamos los humanos, que son debatibles, complejas. Y ahí está lo difícil de transferir eso a un algoritmo”, sostuvo Alamo a este medio.
Y ya ha pasado que Instagram baje fotos de modelos, cuentas vinculadas al movimiento body positive, fotos de madres que amamantan a sus hijes e incluso campañas de salud. En 2016, el Movimiento de Ayuda al Cáncer de Mama (Macma) inició una campaña para la detección temprana de tumores y, para evitar la censura, usó el pecho de un varón para demostrar cómo palpar correctamente las mamas.
Les estadounidenses se aglutinaron bajo el hashtag #FreeTheNipple (“Liberen el pezón”) antes del #MeToo y la cineasta Lina Esco sacó un documental homónimo en 2014. A pesar de contar con el apoyo de figuras como Miley Cyrus o Rihanna, the nipple no fue liberado (aún).
“Por más que exista el entrenamiento de inteligencia artificial, todavía hay mucho de lo humano que no podemos transmitir para que los algoritmos lo aprendan. Ese es el desafío. Hasta dónde queremos llegar porque es muy difícil que los algoritmos y los humanos hagamos lo mismo y no podemos separarnos de nuestros sesgos”, apuntó Alamo. Quizás, como dijo Almodóvar, el algoritmo nunca tendrá corazón.
