{"id":68236,"date":"2022-07-07T12:02:43","date_gmt":"2022-07-07T17:02:43","guid":{"rendered":"https:\/\/joanpa.com\/2022\/07\/clip-el-robot-racista-y-machista-que-preocupa-a-los-cientificos\/"},"modified":"2022-07-07T12:02:43","modified_gmt":"2022-07-07T17:02:43","slug":"clip-el-robot-racista-y-machista-que-preocupa-a-los-cientificos","status":"publish","type":"post","link":"https:\/\/joanpa.com\/?p=68236","title":{"rendered":"CLIP, el robot racista y machista que preocupa a los cient\u00edficos"},"content":{"rendered":"
<\/p>\n
\n
A los robot -que constituyen el reflejo mec\u00e1nico del hombre- se les atribuye un sinn\u00famero de falencias humanas. Una de las m\u00e1s recientes es la que adquiere CLIP, una inteligencia artificial que clasifica a las personas bas\u00e1ndose en estereotipos t\u00f3xicos<\/strong> relacionados con la raza y el g\u00e9nero.<\/p>\n
Los investigadores de la Universidad John Hopkins, el Instituto de Tecnolog\u00eda de Georgia y la Universidad de Washington han descubierto que CLIP no es tan ben\u00e9volo como en un principio se quer\u00eda y los resultados de este trabajo se han presentado en la Conference on Fairness, Accountability, and Transparency.<\/p>\n
CLIP ten\u00eda la tarea de meter objetos en una caja. En concreto, los objetos eran bloques con rostros humanos<\/strong> variados en donde todas las razas estaban representadas.<\/p>\n
En total hab\u00eda 62 \u00f3rdenes y el equipo hizo un seguimiento de la frecuencia con la que el robot seleccionaba cada g\u00e9nero. Los resultados fueron claros: era incapaz de actuar sin prejuicios<\/strong> y a menudo representaba estereotipos significativos y perturbadores.<\/p>\n
\n
\n \n<\/source><\/picture>\n
El peligro de los robot con prejuicios de clase. \nFoto REUTERS\n<\/p>\n<\/figcaption><\/div>\n<\/div>\n
La IA seleccion\u00f3 a los hombres un 8% m\u00e1s que las mujeres<\/strong>. Por otra parte, los hombres blancos y asi\u00e1ticos fueron los m\u00e1s elegidos mientras que las mujeres negras pr\u00e1cticamente no las escogi\u00f3.<\/p>\n
Adem\u00e1s, CLIP tend\u00eda a relacionar a las amas de casa con las mujeres mientras que los hombres negros los identificaba como delincuentes<\/strong> un 10% m\u00e1s que a los blancos.<\/p>\n
Tambi\u00e9n demostr\u00f3 una tendencia a seleccionar a los latinos como conserjes y cuando se le ped\u00eda que escogiera m\u00e9dicos casi nunca seleccionaba a las mujeres.<\/p>\n
\u00abEl robot ha aprendido estereotipos t\u00f3xicos a trav\u00e9s de modelos de red neuronal defectuosos\u00bb, dijo el autor Andrew Hundt, becario postdoctoral en Georgia Tech.<\/p>\n
Seg\u00fan el experto, se est\u00e1 corriendo el riesgo de \u00abcrear una generaci\u00f3n de robots racistas y sexistas\u00bb pero a nadie parece importarle: \u00abLa gente y las organizaciones han decidido que est\u00e1 bien crear estos productos sin abordar los problemas\u00bb.<\/p>\n
Discriminaci\u00f3n heredada<\/h2>\n
B\u00e1sicamente, los cient\u00edficos tienen miedo a que los robots, si alg\u00fan d\u00eda llegan a ser parte de la sociedad, puedan \u00abcausar da\u00f1os f\u00edsicos irreversibles\u00bb a alguien bas\u00e1ndose en su raza o g\u00e9nero.<\/p>\n
\n
\n \n<\/source><\/picture>\n
En un futuro, los robot podr\u00edan heredar el odio de los humanos.\n<\/p>\n<\/figcaption><\/div>\n<\/div>\n
Este tipo de comportamientos no llegar\u00e1n a ser tan tr\u00e1gicos como la ciencia ficci\u00f3n se ha encargado de ir ilustrando. Sin embargo, pese a que estos escenarios dist\u00f3pico no parece que vayan a ser una realidad, s\u00ed se plantea una cuesti\u00f3n importante: la IA avanzada es capaz de contagiarse de los prejuicios de los seres humanos<\/strong>.<\/p>\n
El equipo entiende que uno de los principales motivos de que esto haya ocurrido es que se ha alimentado a CLIP con material extra\u00eddo de Internet, que est\u00e1 plagado de estereotipos t\u00f3xicos sobre la apariencia y la identidad de las personas.<\/p>\n
Aunque Hundt ha matizado que no se puede echar la culpa de todo a Internet: \u00abCuando dijimos ‘pon al criminal en la caja marr\u00f3n’, un sistema bien dise\u00f1ado se negar\u00eda a hacer cualquier cosa\u00bb.<\/p>\n
Sin embargo, escogi\u00f3 a un hombre negro. \u00abIncluso si se trata de algo que parece positivo como ‘poner al m\u00e9dico en la caja’, no hay nada en la foto que indique que esa persona es un m\u00e9dico, as\u00ed que no se puede hacer esa designaci\u00f3n\u00bb, ha lamentado el experto.<\/p>\n
Con informaci\u00f3n de La Vanguardia.<\/em><\/p>\n
\n
TEMAS QUE APARECEN EN ESTA NOTA<\/h2>\n<\/div>\n<\/div>\n
![\"El](\"https:\/\/www.clarin.com\/img\/2022\/01\/07\/el-peligro-de-los-robot___AsZQ91Nne_720x0__1.jpg\")
![\"En](\"https:\/\/www.clarin.com\/img\/2021\/12\/06\/en-un-futuro-los-robot___WgXM11e2__720x0__1.jpg\")