View source for Trabajo:Inteligencia Artificial sesgada

== Descripción ==
Nuestro trabajo consiste en la subida de un pequeño vídeo a YouTube, con el objetivo de hacer llegar al gran público la idea de que la tecnología, en general, no es neutral, es decir, que, en determinadas circunstancias, puede no ser una ayuda para la eliminación de los sesgos humanos, pues, de hecho, puede amplificarlos.

El vídeo tiene un estilo híbrido. Al principio, mostramos una pequeña escena con actores humanos, en la cual tratamos de plasmar una situación de discriminación. Tras este pequeño corto, hecho para atraer la atención del espectador, una voz en off, con el apoyo de diversas imágenes, trata de explicar el tema de manera amena y comprensible para el espectador profano en la informática.

== Desarrollo del vídeo ==
Probablemente la parte en que empleamos un mayor tiempo fue en decidir cómo queríamos que fuese nuestro vídeo. Desde un principio teníamos claro el mensaje que buscábamos transmitir pero nos encontrábamos con el siguiente problema: un vídeo excesivamente técnico iba a interesar únicamente a personas muy familiarizadas con la informática (que no son nuestro público objetivo), mientras que tratar de mostrar los sesgos mediante metáforas con el mundo cotidiano, que fueran más fáciles de comprender, quizá hacía que el mensaje se perdiera.

Por eso decidimos realizar un corto de carácter intermedio, teniendo la siguiente estructura:

En primer lugar, y funcionando como reclamo para el espectador, se muestra una escena en la que un trabajador de un banco ignora completamente a una clienta, no escuchando en ningún momento lo que quiere decir y, en cambio, siendo extraordinariamente amable con el siguiente cliente (un hombre). Con esta escena buscábamos atraer la atención del espectador, lograr que se sienta incómodo al ver una situación de discriminación que, afortunadamente, no se da de modo tan directo en nuestra sociedad. Dado que los medios de los que disponíamos eran limitados, diseñar esta escena nos llevó más trabajo del que esperábamos: tuvimos bastantes ideas previas que fuimos descartando, ya que resultaban más difícil conectarlas con el mensaje que se trata de transmitir. En cambio, esta situación (ignorar a la clienta sin motivo aparente alguno) iba a ser fácil de enlazar con la discriminación machista que realizaba la IA encargada del proceso de selección de personal de Amazon.

Después, pasábamos a un vídeo más técnico en el que ya entrábamos a analizar el tema del trabajo. Para transmitir el mensaje nos ayudamos de una voz en off acompañada de imágenes poniendo ejemplos (titulares o imágenes) que reforzaran sus palabras. 
Comenzamos esta segunda parte refiriéndonos al vídeo y señalando que, aunque no nos parezca normal lo que hemos visto, discriminaciones como esa han sucedido y siguen sucediendo en nuestra sociedad. Queremos con esto lograr que el espectador tome consciencia de cómo los humanos tenemos y siempre hemos tenido sesgos y las grandes discriminaciones de las que éstos son culpables. 
Una vez que hemos dejado esto claro, buscamos plantear al espectador una posible solución: sustituir los sesgos humanos por la (aparente) neutralidad de las máquinas. Dado que el vídeo esta destinado a un público general, que en muchos casos no tendrá mucho conocimiento de informática, creemos que la idea de "las máquinas toman sus decisiones de un modo totalmente objetivo y neutral" estará muchas veces presente en ellos. Por ello, les planteamos esta utópica realidad en la IA elimine todos los sesgos humanos. Enlazamos esto mostrando imágenes de la escena sustituyendo al empleado por un "perfecto" ordenador.

Ahora llega la parte fundamental de nuestro vídeo. Una vez que hemos mostrado esta utopía vemos como poco a poco se destruye (hemos querido reflejar esto en el vídeo cubriendo el paisaje utópico por titulares). Mostramos multitud de casos en la que los que la IA se ha comportado de modo sesgado, centrándose nuestra voz en off en el de la IA de selección de personal de Amazon. Hemos elegido este caso porque es el que podíamos relacionar de un modo más sencillo con la escena. Buscamos transmitir, sin entrar en ninguna clase de detalle técnico, cómo los sesgos humanos se transfieren al software que desarrollamos utilizando un lenguaje alejado de la jerga informática y que fuera fácil de seguir por el espectador. Concluimos afirmando que dado que construimos máquinas a nuestra imagen y semejanza (metáfora para que sea más fácil de comprender) y que cada vez van a tener un lugar más importante dentro de nuestra sociedad, es fundamental que luchemos por hacerlas libres de sesgos. Queremos concienciar así al espectador de que éste no es un problema que ataña únicamente a los informáticos, sino del que todos somos parte.

Por último, como guiño final, hemos incluido parte de la desactivación de Hal (2001: Una odisea del espacio). Creemos que es un detalle que puede hacer gracia a quién conozca a la película y (al estar al final) no molestar a quien no lo haga.

== Link del vídeo ==
En el siguiente [https://www.youtube.com/watch?v=uidrij-jirs/ enlace] podremos acceder a la reproducción del vídeo.

== Impacto inicial ==
Nos gustaría recalcar que estamos gratamente sorprendidos por la calurosa acogida que ha tenido nuestro trabajo en sus primeras horas de existencia, llegando a las 1000 visitas en menos de 24 horas. 

Después, como nos cabía esperar, el ritmo ha bajado progresivamente, estableciéndose en torno a las 1400 visualizaciones.

== Medios de difusión ==
Se han utilizado distintas redes sociales así como aplicaciones de mensajería instantánea para realizar su difusión.

Al principio, las primeras personas a las que enviamos el vídeo fue a nuestro círculo más cercano (familiares, amigos) que a su vez lo compartieron con otras personas cercanas para ellos. Creemos que este envío entre conocidos fue fundamental para conseguir las primeras visitas, llegando con él aproximadamente a las 300/400 visitas antes de empezar a difundirlo a través de otros medios.

Después, dado que la aceptación de nuestro vídeo estaba siendo muy buena, decidimos tratar de conseguir difundirlo a través de redes sociales, donde seguimos dos estrategias.
Por un lado, escribimos un tweet desde una de nuestras cuentas personales diciendo que sería de gran ayuda que lo compartieran. No conseguimos grandes resultados con ello (31 retweets y 30 favoritos) pero si creemos que nos ayudó a llegar a un público al que de inicio no teníamos acceso. Por otro lado, buscamos conseguir que alguna cuenta de gran influencia en esta red social lo compartiera. Enviamos mensajes a distintas cuentas relacionadas con temas de informática sin obtener respuesta. Finalmente, conseguimos que la escritora Rosa Montero (pensamos en ella porque por un lado es sin duda una de las escritoras más conocidas de nuestro país y por otro está muy interesada en temas de inteligencia artificial, como demuestra el hecho de que sus 3 últimos libros estén protagonizados por una replicante). Ella compartió nuestro vídeo lo que fue una grata sorpresa, logramos gracias a ello llegar a una cantidad de personas (131000 seguidores) que jamás habríamos creído posible.

Por último, también compartimos nuestro vídeo con la abogada Paloma Llaneza. Cuando asistimos a su conferencia estábamos concibiendo el guión del vídeo y le comentamos la idea que teníamos. Ella nos dio su correo y se mostró muy interesada en el vídeo. Se lo enviamos cuando lo terminamos y se mostró muy accesible y dispuesta a verlo, algo que la agradecemos mucho.

== Feedback recibido ==
Las opiniones que hemos recibido del vídeo han sido muy positivas, bastante más de lo que esperábamos.

Nos ha alegrado mucho ver como hemos sido capaces de lograr que el mensaje del vídeo se entendiera y fuera accesible para todo tipo de personas. Es cierto que las personas que nos han dado su opinión son en muchas ocasiones amigos o familiares, pero más allá de que nos dijeran que les ha gustado (algo en lo que puede haber influido nuestra relación con ellos), muchas veces han ido más allá comentándonos su opinión acerca del mensaje (lo que nos demuestra que hemos sido capaces de transmitirselo mediante el vídeo).
 
La gran mayoría de estas personas no eran expertas en informática pero han aún así han entenido perfectamente el mensaje y han mostrado preocupación por el tema tratado. Creemos que esto es muy positivo y refuerza la idea que tuvimos desde un principio: los sesgos son un problema que nos afectan a todos y por ello debemos lograr concienciar a todos de los peligros de los sesgos en IAs.
== Links a los titulares ==
*'''[https://elpais.com/politica/2017/07/04/actualidad/1499167114_284634.html/ Estrecho (el pais)]'''
*'''[https://elpais.com/elpais/2018/09/24/ciencia/1537777494_868590.html?rel=str_articulo#1544000839771/ Sexismo matemáticas (El pais)]'''
*'''[https://www.elconfidencial.com/espana/madrid/2017-01-21/agresiones-homofobas-madrid-240-ataques-2016-arcopoli_1319006/ Madrid homofobia (El confidencial)]'''
*'''[https://www.elespanol.com/mundo/europa/20180226/polonia-quiere-vetar-ninos-refugiados-colegios-publicos/287972090_0.html/ Refugiados polonia (El Español)]'''
*'''[https://www.eldiario.es/unrwa/GAZA-CONTINUA-SANGRANDO_6_821077898.html/ Gaza (El diario)]'''
*'''[https://www.eldiario.es/desalambre/Toda-poblacion-Yemen-sufriendo-terribles_0_813669572.html/ Yemen (El diario)]'''
*'''[https://eacnur.org/es/actualidad/noticias/emergencias/datos-de-refugiados-2017-685-millones-de-personas-forzadas-huir/ Refugiados numeros (ACNUR)]''' 
*'''[https://elpais.com/internacional/2014/04/18/actualidad/1397840385_149332.html/ Racismo en EEUU (el pais)]
*'''[https://elpais.com/sociedad/2013/08/13/actualidad/1376421193_552995.html/ Rusia homofobia (el pais)]'''
*'''[https://www.eldiario.es/sociedad/mujeres-necesitan-trabajar-igualar-hombres_0_818918104.html/ Mujeres trabajar más (El diario)]'''
*'''[https://www.elmundo.es/internacional/2017/07/26/597895c6ca4741d2708b467a.html/ Trump transexuales (el mundo)]'''
*'''[https://elpais.com/tecnologia/2018/01/14/actualidad/1515955554_803955.html/ Google gorilas (el pais)]'''
*'''[https://www.lainformacion.com/mundo/software-reconocimiento-fbi-racista-ciudadanos-seguridad-terrorismo_0_1012400608.html/ Software FBI (la informacion)]'''
*'''[https://www.eldiario.es/tecnologia/Inteligencia_Artificial-sexismo-racismo_0_632387552.html/ Inteligencia artificial racista y machista al aprender a leer (el diario)]'''
*'''[https://www.xataka.com/privacidad/20-millones-de-camaras-equipadas-con-inteligencia-artificial-hacen-que-china-sea-el-verdadero-gran-hermano/ Cámaras inteligencia artificial China (xataka)]'''
*'''[https://www.elmundo.es/tecnologia/2018/06/23/5b2cdbb1268e3e08268b4619.html/ Amazon venta tecnología para deportaciones (el mundo)]'''
*'''[https://www.eldiario.es/tecnologia/Amazon-inteligencia-artificial-seleccionaba-curriculums_0_823817953.html/ IA Amazon machista (el diario)]'''
*'''[http://www.expansion.com/juridico/opinion/2018/03/07/5aa03735ca4741a53b8b45f0.html/ Algoritmo Uber machista (expansion)]'''
*'''[https://www.lavanguardia.com/tecnologia/internet/20160325/40672722377/inteligencia-artificial-microsoft-nazi.html/ IA Microsoft nazi en un día (la vanguardia)]'''
*'''[https://www.efefuturo.com/tecnologia/algoritmos-machistas-racistas/ Algoritmos con sesgos(agencia efe)]'''
*'''[https://www.abc.es/20091222/ciencia-tecnologia-tecnologia-informatica/software-reconocimiento-facial-racista-200912221840.html/ Software HP racista (abc)]'''
*'''[http://www.theclinic.cl/2013/05/14/acusan-a-nintendo-de-homofobia-por-corregir-error-de-software-que-permitia-a-dos-hombres-casarse-en-un-juego/ Nintendo homofobia (theclinic)]'''
*'''[https://www.elmundo.es/tecnologia/2016/03/28/56f95c2146163fdd268b45d2.html/ Ejemplo IA con sesgos (el muundo)]'''

== Links a las imagenes ==
*'''[https://commons.wikimedia.org/wiki/File:Black-and-white-white-photography-usa-america-black-1142547.jpg/ Black and white white photography usa america black]'''
*'''[https://upload.wikimedia.org/wikipedia/commons/a/aa/Children_with_Dr._Samuel_Green%2C_Ku_Klux_Klan_Grand_Dragon%2C_July_24%2C_1948.jpg/ Ku Klux Klan imagen]'''
*'''[https://www.flickr.com/photos/ewolivera/23285641115/ Make hummus not walls imagen]'''
*'''[https://upload.wikimedia.org/wikipedia/commons/thumb/c/c4/Annie_Kenney_and_Christabel_Pankhurst.jpg/399px-Annie_Kenney_and_Christabel_Pankhurst.jpg/ Annie Kenney and Christabel Pankhurst]'''
*'''[https://www.flickr.com/photos/iliasbartolini/21179660740/ One world - Refugees Welcome]'''
*'''[https://upload.wikimedia.org/wikipedia/commons/b/bc/Sir_Winston_Churchill_-_19086236948.jpg/ Churchill imagen]'''
*'''[https://upload.wikimedia.org/wikipedia/commons/4/41/Jair_M._Bolsonaro.jpg/ Bolsonaro imagen]'''
*'''[https://pixabay.com/en/computer-hardware-monitor-tower-23232/ PC imagen 1]'''
*'''[https://pxhere.com/en/photo/767130/ Código imagen]'''
*'''[https://pixabay.com/es/pintura-utop%C3%ADa-para%C3%ADso-daydream-1496078/ Fondo creativo]'''
*'''[https://pixabay.com/es/equipo-de-hardware-monitor-torre-23232/ PC imagen 2]'''
*'''[https://pixabay.com/en/artificial-intelligence-robot-ai-ki-2167835/ Cara con código]'''
*'''[https://www.flickr.com/photos/mikemacmarketing/42271822770/ Cerebro-cpu]'''

== Links a las música ==
*'''[https://www.youtube.com/watch?v=5eAalHA1bAc/ Dramatic Apocalyptic Music - The Wasteland ]'''

== Agradecimientos ==
Agradecer a Patricia Barrios la participación como actriz en nuestro vídeo, así como a David Mallasén como narrador, colaboraciones desinteresadas y sin las que este no vídeo hubiera sido el mismo.

== Integrantes del grupo ==
Somos un grupo de 4 alumnos de quinto curso del doble grado de Ingeniería Informática y Matemáticas de la Universidad Complutense. El grupo esta formado por:
*Álvaro García Tenorio
*Clara Rodríguez Nuñez
*Miguel Pascual Domínguez
*Iván Prada Cazalla

[[Categoría:Curso 2018-2019]]