Com es poden eliminar els biaixos de gènere en els algorismes d’internet

Posted on by

Una recerca liderada per la UOC, on participa la professora de l’EUSS Laura Calvet, analitza com es pot posar fi als biaixos dels algorismes d’internet

Segons els experts, molts algorismes d’internet associen la masculinitat amb les ciències i la feminitat amb les arts, basant-se en estereotips

Les recerques apunten que totes les persones involucrades en el desenvolupament d’un algorisme han de conèixer les mesures que es poden prendre per minimitzar els possibles biaixos i aplicar-les perquè no es produeixin

Sobre si els algorismes d’internet amb els quals interactuem constantment presenten un biaix de gènere s’han escrit rius de tinta; n’hi ha prou amb una simple entrada al cercador per comprovar-ho. No obstant això, segons els investigadors d’un nou estudi que intenta arribar a una conclusió sobre aquesta pregunta, “fins ara, el debat ha estat allunyat d’una anàlisi científica”. Aquest nou treball, emprès per un equip multidisciplinari, mostra una nova manera d’abordar la pregunta i proposa algunes solucions per evitar aquestes desviacions en les dades i la discriminació que porten associada.

Els algorismes s’empren cada vegada més per decidir si es concedeix o denega un préstec o per acceptar sol·licituds. A mesura que augmenta el nombre d’aplicacions d’intel·ligència artificial (IA), així com les seves capacitats i la seva rellevància, és més important avaluar els possibles prejudicis adherits a aquestes operacions. “Si bé aquest no és un concepte nou, hi ha molts casos en els quals aquest problema no s’estudia, de manera que se n’ignoren les possibles conseqüències”, afirmen responsables de la recerca publicada en accés obert a la revista Algorithms, enfocada principalment al biaix de gènere en diferents camps de la IA.

Aquests prejudicis poden tenir grans impactes en la societat: “Els biaixos afecten totes les persones que estiguin discriminades o excloses o associades a un estereotip. Per exemple, podrien excloure un gènere o una raça d’un procés de decisió o, simplement, assumir un comportament determinat pel gènere o el color de la pell”, explica la seva investigadora principal, Juliana Castañeda Jiménez, estudiant de doctorat industrial de la Universitat Oberta de Catalunya (UOC), sota la direcció d’Ángel A. Juan, de la Universitat Politècnica de València, i Javier Panadero, de la Universitat Politècnica de Catalunya.

Segons Castañeda, “és possible que els processos algorítmics discriminin per gènere, fins i tot quan estan programats per ser ‘cecs’ a aquesta variable”. L’equip investigador —en el qual, a més, participen els investigadors Milagros Sáinz i Sergi Yanes, del grup de Gènere i TIC (GenTIC) de l’Internet Interdisciplinary Institute (IN3), Laura Calvet, de l’Escola Universitària Salesiana de Sarrià, Assumpta Jover, de la Universitat de València, així com Ángel A. Juan— ho exposa amb diversos exemples: el cas d’una coneguda eina de contractació que preferia els candidats masculins als femenins, o el d’alguns serveis de crèdit que oferien condicions menys avantatjoses per a les dones que per als homes. “Si s’utilitzen dades històriques i no estan equilibrades, probablement s’observarà un condicionament negatiu relacionat amb demografia negra, gai i fins i tot femenina, depenent de quan i d’on són aquestes dades”, indica Castañeda.

Ells, ciències i elles, arts

Per saber el grau d’afectació per aquests patrons que experimenten els diferents algorismes als quals ens enfrontem, els investigadors van analitzar treballs anteriors que identificaven biaixos de gènere en processaments de dades en quatre tipus d’IA: la que descriu aplicacions en processament i generació de llenguatge natural, l’encarregada de la gestió de decisions, i la de reconeixement facial i de veu.

En general, van trobar que tots els algorismes identifiquen i classifiquen millor els homes blancs. A més, van observar que reproduïen creences falses sobre com haurien de ser els atributs físics que defineixen les persones segons el seu sexe biològic, origen ètnic o cultural, o orientació sexual, i que, així mateix, associaven de manera estereotipada la masculinitat i la feminitat amb les ciències i les arts, respectivament.

Molts dels procediments emprats en aplicacions de reconeixement d’imatge o veu també es basen en aquests estereotips: igual que les càmeres reconeixen més bé les cares blanques, l’anàlisi d’àudio té problemes amb les veus més agudes, cosa que afecta principalment les dones.

Els casos més susceptibles de presentar aquests defectes són els algorismes que es construeixen a partir de l’anàlisi de dades reals que porten associat un context social. “Algunes de les causes principals són la infrarepresentació de les dones en el disseny i el desenvolupament de productes i serveis d’IA i l’ús de conjunts de dades amb biaixos de gènere”, assenyala la investigadora, que creu que el problema està relacionat amb els entorns culturals en els quals són desenvolupats.

“L’algorisme, en entrenar-se amb dades esbiaixades, pot determinar els patrons ocults que hi ha socialment, i a l’hora d’operar, els reprodueix. Així que, si en la societat, la representació d’homes i dones no és equilibrada, el disseny i el desenvolupament dels productes i serveis d’IA mostraran biaixos de gènere.”

Com es pot suprimir aquesta tendència?

Les múltiples fonts de biaix de gènere, així com les particularitats de cada classe d’algorisme i conjunt de dades fan que eliminar aquesta desviació sigui un desafiament particularment difícil, però no impossible. “Cal que els dissenyadors i totes les persones involucrades en el seu desenvolupament estiguin informades sobre la possibilitat de tenir biaixos associats a la lògica d’un algorisme. A més, han de conèixer les mesures que hi ha per minimitzar al màxim els possibles biaixos i aplicar-les perquè no es produeixin, perquè, si són conscients de les discriminacions que s’esdevenen en la societat, sabran identificar quan els seus desenvolupaments les reprodueixen“, proposa Castañeda.

La novetat d’aquest treball rau en el fet que ha estat promogut per especialistes en diferents àrees, en què hi ha, entre d’altres, una sociòloga, un antropòleg i expertes en gènere o estadística. “Els membres de l’equip van completar una perspectiva que va més enllà de la matemàtica autònoma associada a l’algorisme i, així, vam poder considerar l’algorisme com un sistema sociotècnic complex”, descriu la investigadora principal de l’estudi.

“Si es compara aquest treball amb d’altres, penso que és un dels pocs que presenta la temàtica dels biaixos en els algorismes des d’una perspectiva neutra, en què es destaquen tant els aspectes socials com els tècnics per identificar per què un algorisme pren una decisió esbiaixada”, conclou.

Article relacionat

CASTANEDA, J.; JOVER, A.; CALVET, L.; YANES, S.; JUAN, A. A.; SAINZ, M. Dealing with Gender Bias Issues in Data-Algorithmic Processes: A Social-Statistical Perspective. A: Algorithms (2022). https://doi.org/10.3390/a15090303

L’EUSS participa en la 1a edició del Robotic Talks By Mir

Posted on by

Dimecres 23 de novembre es va celebrar la primera edició del Robotic Talks by Mir, un fòrum virtual que reuneix als professionals del sector de la robòtica.

L’objectiu d’aquesta taula rodona era exposar temes essencials del sector, condicionats per la realitat actual. En concret, la temàtica central de l’esdeveniment era: Treballar en 2030: Humans + Robots i va comptar amb la participació de tres convidats, Fernando Fandiño Oliver, Head of Office & Sales Director of Mir Southern Europe; Jan Puig, director de Vendes de PILZ Espanya i, el professor de robòtica de l’EUSS i enginyer industrial, el Dr. Llorenç Servera.

Els tres participants van disposar d’un torn de paraula inicial per exposar les seves idees abans d’entrar en debat amb la resta de participants. Per la seva part, el Dr. Servera va centrar la seva ponència a parlar dels avenços tecnològics a la indústria vs. a les universitats, la relació entre universitat-empresa i “Engineering by doing”, el mètode educatiu de l’EUSS.

L’esdeveniment va finalitzar amb les preguntes de l’audiència.

L’EUSS celebra l’acte de graduació de la 26a Promoció

Posted on by

Divendres 18 de novembre es va celebrar l’acte de graduació de la 26a promoció d’enginyers i enginyeres de l’EUSS de les titulacions en Enginyeria en Organització Industrial, Enginyeria Electrònica Industrial i Automàtica, Enginyeria Mecànica i Enginyeria Elèctrica i del Màster en Direcció d’Empreses Industrials.

Els graduats i les graduades van ser convocats abans de l’acte acadèmic per oficialitzar el seu pas d’alumnes a exalumnes i rebre la insígnia d’Antics i Antigues Alumnes, un llibre sobre la vida de Don Bosco i la banda de graduació. Aquest acte previ va ser conduït pel Dr. Andreu Moreno, director de l’EUSS i, pel Dr. Ignasi Florensa, cap de l’Àrea Universitat-Empresa i Innovació Docent.

La graduació va tenir lloc a la Sala d’actes de Salesians de Sarrià i va reunir a més de 300 persones entre graduats i graduades, familiars, amistats i personal de l’EUSS. L’acte va començar amb el missatge de benvinguda del director del centre, el Dr. Andreu Moreno. Tot seguit, el graduat Juan González, va dirigir unes paraules en nom d’Alumni EUSS.

A continuació, la padrina de la 26a promoció, la Sra. Begoña Simal de Diago, cooperant al desenvolupament de Bosco Global, va prendre la paraula per dirigir-se als graduats i graduades i enviar-los un missatge de felicitació.

Posteriorment, es va fer l’entrega dels diplomes a totes les persones graduades, un diploma que acredita l’obtenció dels estudis d’enginyeria o de màster. Un cop rebut el títol, es va procedir al lliurament de premis als i les estudiants amb millors qualificacions:

  • Asier Ansótegui, graduat en Enginyeria Electrònica Industrial i Automàtica i en Enginyeria Mecànica va rebre el premi ASINCA al millor TFG.
  • Andrea Montoro, graduada en Enginyeria en Organització Industrial, va estar guardonada amb el premi Caixa d’Enginyers al millor TFG- Emprenedoria.
  • Javier Sánchez, graduat en Enginyeria en Organització Industrial, va guanyar el premi Enginyers BCN al millor expedient acadèmic de la 26a promoció. Mentre que Adrian Mata, graduat en Enginyeria Elèctrica; Arnau Clot Villegas, graduat en Enginyeria Electrònica Industrial i Automàtica i David Jesus Acosta, graduat en Enginyeria Mecànica, van ser distingits amb un any de col·legialització gratuït per Enginyers BCN pel seu bon expedient acadèmic.
  • Albert Ruiz, va rebre el premi a millor expedient de màster.

Durant l’acte, es va fer un reconeixement al personal de l’EUSS que complien més de 3 anys al centre, en aquest cas, totes les persones homenatjades formen part de l’equip de professorat de l’EUSS: la Sra. Núria Comas, el Sr. Javier Cruz, el Dr. Ulises Diego, el Sr. Santiago Fuentes i el Dr. Jesús Rico.

L’acte va estar amenitzat pel duo Luv amb Laura Miquel & Xavi Pujadas, qui van interpretar temes grans artistes com I’m Not the Only One de Sam Smith, Valerie d’Amy Winehouse, Get lucky de Daft Punk Halo de Beyoncé i Bad de Michael Jackson.

L’acte de graduació va finalitzar amb les paraules del graduat Javier Sánchez, qui es va voler dirigir als seus companys i companyes de promoció i amb el missatge del president de la Fundació Rinaldi, el Sr. Orlando González. L’esdeveniment va concloure amb un còctel per totes les persones assistents al claustre de l’Escola Universitària Salesiana de Sarrià.

Imatges de l’acte de graduació de la 26a promoció

Tres estudiants de l’EUSS, participen en l’Uniraid 2022

Posted on by
  • L’UniRaid, el Dakar dels i les estudiants universitaris, és una carrera d’orientació amb fins solidaris.
  • L’onzena edició ha tingut un itinerari de 3.000 km pel desert dividit en 6 etapes i 200 equips participants.

“L’important no és guanyar, és l’aprenentatge que t’emportes” coincideixen Nil Campos, Marc Cervera i Xavi Torras. Ells són els tres estudiants de l’Escola Universitària Salesiana de Sarrià (EUSS) que han competit en aquesta onzena edició de l’UNIRAID, també conegut com el Dakar dels universitaris. “És més que una carrera amb cotxe pel desert, és una aventura”, conclouen. Els participants havien de completar 6 etapes navegant amb un llibre de ruta i superant obstacles, desafiaments i proves conduint turismes de més de 20 anys pel desert durant 9 dies. L’objectiu era creuar el Marroc de nord a sud i lliurar 40kg de material solidari en diferents poblats.

“No m’esperava aquesta experiència, em vaig apuntar pensant que seria una competició i he acabat coneixent a molta gent, companys universitaris i també persones del país”, explica Nil Campos, alumne del grau d’Enginyeria en Automoció de l’EUSS, qui es va enrolar a l’aventura amb un amic. Per part seva, Marc Cervera i Xavi Torras, estudiants de tercer dels graus d’Enginyeria en Energies Renovables i Eficiència Energètica i Enginyeria en Mecànica, respectivament, van participar com a parella de competició. “Ho vaig descobrir, em vaig apuntar, vaig buscar un cotxe i de seguida es va sumar Xavi”, relata Cervera. Tots dos afirmen que la carrera ha anat molt més enllà del que imaginaven. “Ha estat un gran aprenentatge que recomanem a tothom que tingui oportunitat”, asseguren.

Els participants de l’UNIRAID tenen com a missió lliurar material solidari en diferents poblats del desert. “Combinar la part de motor amb la solidària, conèixer diferents pobles, la seva cultura, com viuen… és el que més m’ha agradat”, assegura Xavi Torras. En tots dos casos, es va recaptar material i roba a nivell particular i a la mateixa escola universitària, on es va fer una recol·lecta en què es va implicar tot l’alumnat.

“No oblidaré mai com em va impressionar trobar-me a famílies enmig del desert, després d’hores conduint per paratges desèrtics sense veure res ni ningú”, explica Xavi Torras. La carrera té una durada de 9 dies en què es condueix més de 10 hores diàries en tota una expedició d’orientació.

“Anàvem sense aire condicionat, a vegades amb poca visibilitat per la pols, i un error en la navegació podia desviar-te molts quilòmetres”, relata Marc Cervera. “En una ocasió, vam tenir un problema a 20 km de la meta. Malgrat tenir suport tècnic, has de parar, pensar i buscar una solució ràpida; és estressant, però és tot un aprenentatge”, apunta.

Aquesta onzena edició de l’UNIRAID havia de tenir lloc el 2021, però a causa de les restriccions per la COVID-19 es va ajornar fins al passat mes d’octubre. En total han participat 200 equips amb estudiants d’entre 18 i 28 anys d’Espanya i Portugal i s’han lliurat més de 6.000 kg de material, recol·lectat prèviament per diverses entitats. Els organitzadors ja estan organitzant el següent raid, previst per a febrer de 2023.