Ndërsa inteligjenca artificiale (IA) konsiderohet si ndër teknologjitë më të avancuara të kohës sonë, nga një këndvështrim krejt tjetër, duket se na “detyron” të bëjmë një hap prapa në disa çështje mjaft me rëndësi. Sipas një interviste të organizatës “UN Women” me Zinnya del Villar, eksperte e fushës, sistemet e IA-së shpesh përforcojnë stereotipe gjinore.
“Sistemet e inteligjencës artificiale grumbullojnë të dhëna të ngarkuara në rrjet, të cilat përmbajnë paragjykime dhe stereotipe. Pa e kuptuar, IA gurmbullon këto të dhëna dhe i shpërndan te përdoruesit e saj, duke përforcuar të tilla stereotipe,” – thotë Del Villar.
Këto paragjykime mund të kenë pasoja të dukshme, veçanërisht në fusha të ndjeshme si vendimmarrja, punësimi, aprovimi i kredive dhe drejtësia. Një shembull i thjeshtë është kur IA i lidh automatikisht profesionet me gjininë, për shembull, kur përshkruan mjekët si meshkuj dhe infermieret si femra, duke ndikuar në mënyrën si shpërndahen njoftimet për punë.
Në mjekësi, ndikimi mund të jetë edhe më i rrezikshëm. Nëse ne pyesim IA lidhur me një problem të caktuar shëndetësor dhe algoritmi fokusohet kryesisht në simptomat e zakonshme për meshkujt, kjo mund të çojë në diagnoza të gabuara apo trajtime joefektive për gratë.
View this post on Instagram
Rasti i Amazon në vitin 2018 e ilustron më së miri këtë fenomen. Kompania u detyrua të çaktivizojë një mjet rekrutimi me IA, pasi u zbulua se favorizonte automatikisht CV-të e kandidatëve meshkuj.
“Për të shmangur përforcimin e stereotipeve gjinore në inteligjencën artificiale, është thelbësore që sistemet të trajnohen me të dhëna gjithëpërfshirëse që pasqyrojnë të gjitha gjinitë, racat dhe komunitetet,” këshillon Del Villar. “Në praktikë, kjo nënkupton përzgjedhjen e të dhënave që reflektojnë mjedise, kultura dhe role të ndryshme shoqërore, duke filtruar paragjykimet e së kaluarës.”
Ekspertja shton se ndërgjegjësimi publik është po aq i rëndësishëm:
“Përdoruesit duhet të kuptojnë se si funksionon IA dhe të mësojnë të dallojnë paragjykimet, pasi edhe vendimet që duken të vogla në zhvillimin e këtyre teknologjive mund të kenë pasoja të mëdha, madje edhe për jetën.”
Nga ana tjetër, Kombet e Bashkuara kanë bërë thirrje për ndërgjegjësim dhe kujdes të shtuar sa i përket informacionit që zgjedhim të besojmë.
Burimi: Marie Claire
Artikuj të sugjeruar: