spinner

Automatizando el feminismo: Feminist Bot Design Canvas

El pasado 5 de marzo tuvo lugar el meetup sobre Bots al servicio de la igualdad en la sede de BBVA Next Technologies. En él, las integrantes femeninas del laboratorio de innovación tuvimos la oportunidad de compartir nuestras diferentes visiones sobre cómo la tecnología podría ayudar a construir un mundo más igualitario.

Desde la perspectiva de diseño se hizo una investigación sobre las diferentes herramienta que podemos encontrar para afrontar un reto de este tipo. Tanto la charla como este post son el resultado de la misma.

El mundo es un lugar peligroso

Antes de adentrarnos en el tema, es interesante reflexionar por un momento sobre cómo sería un mundo en el que no hubiera existido feminismo, o lo que es lo mismo, no hubiera habido nadie trabajando por la igualdad entre hombres y mujeres. Sería una realidad desoladora ¿no es cierto?

Decía Albert Einstein que: “El mundo es un lugar peligroso, no por las personas que hacen el mal, si no por las personas que no hacen nada al respecto”. Así mismo también podríamos decir que el mundo es un lugar peligroso, no por la tecnología que es maliciosa si no por la tecnología que no hace nada al respecto.

Teniendo esto en cuenta, podríamos clasificar las tecnologías en las siguientes categorías:

  • La tecnología machista que sería la que busca de forma deliberada agrandar la brecha de género y limitar los derechos de las mujeres.
  • La tecnología agnóstica que no se preocupa de los sesgos que la perfilan ni de si está perpetuando desigualdades heredadas.
  • Y por último la tecnología feminista que busca reducir la brecha, combatir los sesgos y velar por la diversidad.

¿Cómo podríamos parar esta tendencia?

Hace tiempo que el periódico The Guardian publicó el artículo Digital assistants like Siri and Alexa entrench gender biases, says UN. En este artículo se explica cómo asistentes digitales como Siri o Alexa estaban ayudando a perpetuar roles de género. Por un lado, la mayoría de estos asistentes “casualmente” están dotados con voces femeninas y por otro, la forma de responder ante los abusos sexuales era servilista, pasiva o directamente no reconocían el problema. Hubo una petición por internet con firmas para modificar estas respuestas y tanto Siri como Alexa ajustaron sus mensajes. Esto es importante porque lo que ocurre en el mundo digital tiene repercusión en la vida real.

Asistentes digitales como Siri y Alexa están afianzando la brecha de género

En un estudio realizado por la Unesco se destaca que las a menudo respuestas sumisas ofrecidas por el sistemas refuerza la idea de las mujeres como subordinadas.

Entonces, ¿qué es lo que puede aportar una perspectiva feminista a la tecnología?

El feminismo es un movimiento que nos puede ayudar a cuestionar patrones y sesgos que alimentan la desigualdad entre mujeres y hombres. Nos orienta a trabajar por equilibrar la balanza para construir un mundo más justo y a velar por la representación de la diversidad y la igualdad de oportunidades para cualquier persona sin importar su sexo, género, orientación sexual, raza…

¿Cómo se diseña un bot feminista?

Así de entrada puede resultar un reto complicado, ya que la realidad que afronta el feminismo es sistémica y compleja por definición. Pero afortunadamente ha habido otras personas que se han enfrentado a este mismo reto.

En 2017, Josie Sword, una investigadora de Inteligencia Artificial (IA) feminista del Reino Unido, publicó el Feminist Chatbot Design Process. En este proceso se exponían una serie de preguntas, para reflexionar sobre ellas, incorporando características de diseño de interacción feminista, principios éticos de IA y reducción del sesgo de los datos.

En 2018, desde el Creative Computing Institute lanzaron el programa educativo para el diseño feminista de Alexa: Designing a Feminist Alexa. La estructura de este taller fue basada en el framework planteado previamente por Josie Sword. Los ejemplos que se exponen en este artículo son el resultado de este workshop.

Feminist Bot Design Canvas

El Feminist Bot Design Canvas contiene una serie de preguntas sobre las que reflexionar durante la conceptualización de un chatbot o una inteligencia conversacional. Adaptado del framework de Josie Young Feminist Chabot Design Process.

Es por ello que en el Meetup de BBVA Next Technologies, el equipo del laboratorio de innovación presentamos el Feminist Bot Design Canvas, que reúne en un solo pliego las cuestiones más relevantes para la conceptualización del diseño de un bot. Veamos cómo está estructurado:

¿Para quién diseñamos?

Cuando abordamos un diseño es importante ahondar en los detalles, deberíamos evitar quedarnos en necesidades demasiado universales. Apoyarnos en una identidad particular y trabajar sobre una historia individual, puede ayudar a alejarse del estereotipo.

Es el ejemplo del bot de Pany, un bot que intenta paliar la soledad en las personas mayores. Para el diseño de este bot se apoyaron en el personaje de Agnes una hipotética abuela de 75 años a la que le cuesta utilizar nueva tecnología. Apoyándose en esta característica, el equipo dotó al bot con la voz de una locutora de radio de toda la vida, una especie de Isabel Gemio a lo británico. Si no hubieran identificado ese obstáculo, es muy probable que no hubiesen llegado a esa solución de diseño.

Agnes 75 años

El uso de personas o personajes puede ayudarnos en el proceso de diseño

¿Cómo afecta nuestra visión?

Tomar un momento para reflexionar cuál es el sesgo del equipo es un detalle que, sin duda, puede afectar al proceso. Simplemente, se trata de tomar consciencia de cuál es nuestra visión del mundo, nuestras creencias, valores… Y tras identificarlos, vigilar sobre cómo este sesgo puede estar afectando a las decisiones de diseño.

En el ejemplo anterior, el de Pany, el equipo fue consciente de lo estereotipadas que tenían a las personas mayores y por ello decidieron hacer una pequeña investigación sobre este sector para poder trabajar con información de mejor calidad.

¿Cuál es nuestro propósito?

Actualmente, los asistentes conversacionales suelen hacer búsquedas por internet o ayudarnos con tareas domésticas en el caso hogares domotizados. Pero sin duda es un campo que está aún por explorar. ¿Qué conversaciones debería tener la tecnología con las personas? ¿Qué tipo de cambios podría desencadenarse a través de la interacción por voz?

Sobre este tema es muy curioso cómo lo aborda Bud, un bot que trabaja con temas de bullying o acoso escolar. Es importante recordar que el acoso no es aceptable de ninguna manera, pero es interesante preguntarse por qué las personas que acosan se comportan de esa manera. Bud invita, durante el diálogo, a reflexionar sobre cómo nos sentimos ante un acontecimiento sucedido y nos encomienda a buscar una solución con nuestras propias herramientas.

¿Cómo será la personalidad del bot?

Para generar una conexión emocional es importante dotar a nuestro bot de una personalidad que haga de la conversación una experiencia realmente significativa. Esta identidad deberá estar al servicio del propósito que persigamos. ¿Debería tener un género definido? Resulta enriquecedor preguntarse cuáles son las posibilidades que se nos abren al pensar más allá del binarismo entre femenino y masculino.

Algo así sucede con Essy, un bot que intenta asesorar a personas que empiezan a cuestionarse su identidad sexual. Por ejemplo, si alguien heterosexual empieza a sentir algo por una persona de su mismo sexo, o viceversa. La imagen que el equipo utilizó para representar al bot fue la de una masa fluida que cambia su aspecto de forma constante, sin duda es una bonita metáfora para alguien que se encuentra en plena transición.

Fluido en movimiento

La imagen que se utilizó para representar a Essy, un bot que trata de asesorar a personas en transición de identidad sexual, fue la de un fluido en constante cambio.

¿Cómo serán sus respuestas?

Para configurar el tono de las conversaciones que tendrá nuestro bot deberemos preguntarnos por el tipo de palabras que utilizará y las que evitará. Por cuestiones éticas deberá recordar que no es un ser humano ¿cuál será la forma de expresarlo?

Para que no suceda como en el caso de Siri y Alexa, también deberemos definir cuál será su respuesta en caso de detectar un abuso. En el caso de Pilow, un bot que monitoriza tu descanso y te da pautas para la gestión emocional, la conversación sería la siguiente:

  • Pillow: Mis sensores me indican que has tenido una mala noche, quieres que te aconseje para dormir mejor?
  • Sam: No, vete a la m***da!
  • Pillow: No te pongas así, solo intento ayudar. Entiendo que estés cansado, pero no deberías pagarlo ni conmigo ni con nadie.

No existe una receta infalible

Los retos que se abordan desde el feminismo son muy complejos y están en constante evolución por lo que una receta cerrada resultaría simplista.

Esta herramienta trata de invitarnos a reflexionar sobre diferentes aspectos que pueden influir a la hora de conceptualizar un bot con aspiraciones feministas. Aunque es bastante probable que en un tiempo haya que actualizarla por estar tratando cuestiones demasiado obvias y se hará necesario plantearse otras que ahora mismo ni vislumbramos. ¿Cuáles podrían ser esas futuras cuestiones?

Fuente de la imagen principal: Unsplash

Las opiniones vertidas por el autor son enteramente suyas y no siempre representan la opinión de BBVA Next Technologies.

¿Quieres saber que más cosas hacemos en BBVA Next Technologies?

Utilizamos cookies propias y de terceros para mejorar nuestros servicios, brindarle una grata experiencia y mostrar a los usuarios publicidad relacionada con sus preferencias mediante el análisis de sus hábitos de navegación. Si continúa navegando por este sitio web, consideramos que acepta su uso. Puede cambiar la configuración u obtener más información accediendo a nuestra política de cookies aquí.