Ekki ó­lík­legt að gervi­greindin mis­muni konum og körlum

Því nú er komið nokkur langur tími þar sem þær staðreyndir hafa verið þekktar að til dæmis hönnun bíla taki mið af líkamsbyggingu karla, sem þýðir aukin slysahætta fyrir konur. Eða að staðlaður hiti í skrifstofurýmum taki mið af þörfum karla, en ekki kvenna og svo framvegis.

En fyrst þessi þekking liggur fyrir, hver er staðan í dag og er eitthvað að breytast?

Sæunn Gísladóttir er sérfræðingur hjá Rannsóknamiðstöð Háskólans á Akureyri. Hún er ein þeirra sem mun halda erindi á UAK ráðstefnunni, sem haldin verður í Hörpu þann 22. apríl. Í tilefni ráðstefnunnar, fjallar Atvinnulífið um jafnréttismálin í gær og í dag.

Yfirskrift erindis Sæunnar er Af hverju skiptir gagnahlutdrægni máli? og í dag ætlum við að heyra aðeins betur um það, hvaða áhrif gagnahlutdrægni hefur ef ekki er unnið markvisst að því að leiðrétta þá skekkju sem fyrir er.

Erum svo oft ómeðvituð um hlutdrægni

Sæunn er þýðandi bókarinnar Ósýnilegar konur eftir Carline Criado Perez en í þeirri bók eru fjölmörg dæmi tiltekin um það hvernig umhverfið tekur meira og minna mið af þörfum karlmanna en ekki þörfum kvenna.

Sem dæmi má setja þetta í samhengi við umræður um opin eða lokuð vinnurými. Í bók Criado Perez tekur hún dæmi um það hvernig rannsóknir hafa sýnt að stúlkur og konur virðast forðast svæði sem eru of opin. Á meðan karlmönnum líður betur með þessi opnu svæði.

Í bók Criado Perez er reyndar ekki talað um vinnurými sem slík, heldur eru dæmi tekin um opin svæði eins og almenningsgarða, leikvangi sem eru ekki með marga innganga (og þar af leiðandi ekki margar útgönguleiðir) eða byggingar eins og spítala sem einkennast af löngum þröngum göngum. Rannsóknir sýna að konum virðist ekki líða eins vel í svona rýmum eins og karlmönnum og forðast þau jafnvel. Með tilliti til þess að hönnun þessara rýma byggja á karllægum gögnum, er þetta skiljanlegt.

Eitt gott dæmi líka er hversu langan tíma það hefur tekið að greina endómetríósu hjá konum. Því læknisfræðin er dæmi um fræði sem meira og minna byggir á hlutdrægum gögnum sem taka meira mið af karlmönnum en konum,“ 

segir Sæunn.

Þessi gagnahlutdrægni virðist því vera alls staðar: Í heilbrigðisgeiranum, í kennslu, í hönnun bygginga og mannvirkja, í vöruhönnun og svo framvegis.

En er þetta ekkert að breytast með tilliti til þess að nú hefur þetta verið vitað nokkuð lengi?

„Sumt er að breytast. Það hefur til dæmis vakið athygli að Volvo sýndi það frumkvæði að nota árekstraprófunardúkkur sem byggja ekki bara á „meðal“ karllíkamanum og vinna að breytingum í framleiðslu samhliða því. En skekkjan virðist enn vera mikil því bók Criado Perez kom út árið 2019 og það er nú ekki mjög langt síðan það var,“ segir Sæunn.

Hún segir lykilatriðið vera að kannanir taki mið af kynjagreiningu strax. Þannig að strax í upphafi sé til dæmis spurt um það hvort svarendur séu karl, kona eða kvár/annað.

„Reyndar telst meira til því ef við tökum þetta dæmi með bílaframleiðendur, þá byggir framleiðsla bíla ekki aðeins á þörfum karlmanna heldur skilgreiningunni hvítur karlmaður í meðalhæð. Þetta þýðir að öryggi bifreiðanna er ekki aðeins minna fyrir konur, heldur líka til dæmis asíska karlmenn sem eru að jafnaði lágvaxnari en evrópskir. Íslenskir karlmenn eru frekar hávaxnir og svo mætti lengi telja.“

Því meira sem gögn hins vegar rýna og rannsóknir taka mið af frá upphafi, því betur getum við treyst að gögnin séu marktæk og lýsandi fyrir marga ólíka hópa.

„Vandamálið er að við erum enn að vinna svo mikið með gögn sem eru arfleifð gamals tíma. Sem þýðir að það er að taka svo langan tíma að þokast í rétta átt og í svo mörgu erum við því enn í sama farinu hvað varðar þekkingu, hönnun, framleiðslu og fleira,“ segir Sæunn.

Hún segir hlutdrægni líka oft svo ómeðvitaða.

Frægt er til dæmis dæmið um Fílharmoníuhljómsveitina í New York. Sem lengst af samanstóð nær eingöngu af karlmönnum. Þar til hljómsveitin ákvað að standa fyrir prufum þar sem umsækjendur sáust ekki, heldur spiluðu á hljóðfæri og ráðningaraðilar gátu aðeins hlustað á.

Í kjölfarið breyttust kynjahlutföllin í að vera til helminga konur og karlmenn meðal nýráðinna.

„Þegar hlutdrægni er svona ómeðvituð, þarf oft að gera eitthvað á einhvern allt annan hátt en áður til þess að þessi hlutdrægni sé ekki til staðar. Viljinn til breytinga þarf samt að vera til staðar og þetta dæmi um Fílharmóníuhljómsveitina er gott dæmi hvað það varðar því þar klárlega hefur verið að minnsta kosti einhver einn sem hefur sagt: Gerum þetta þá eitthvað öðruvísi en við höfum áður gert.“

Er OpenAI að mismuna kynjum?

Sæunn segir gervigreindina gott dæmi um það sem við þurfum að vera sérstaklega vakandi yfir núna hvað varðar skekkju í gögnum. Því í raun vitum við lítið á hvaða gögnum gervigreindin er að vinna á, til dæmis OpenAI sem allir eru að tala um núna.

Ímyndum okkur að gervigreind sé að fara yfir fullt af ferilskrám til að sigta út nokkra álitlega umsækjendur. Ef það er mikil skekkja í þeim gögnum sem gervigreindin byggir á, gæti það gerst að ferilskrár kvenna yrðu frekar út undan en ferilskrár karla einfaldlega vegna þess að í þeim má oftar finna eyður í starfsframa sem í raun skýrast út af barneignum og fæðingarorlofum. 

Gervigreind sem byggir á mjög karllægum gögnum mun ekki ná að átta sig á þessu, þótt við mannfólkið gætum það. Fyrir vikið gætu færri konur komist að sem umsækjendur en ætti að vera.“

Þótt erindi Sæunnar muni að mestu byggja á gagnahlutdrægni og kynjajafnrétti, segir hún stóru myndina enn flóknari. Horfa þurfi til fleiri minnihlutahópa því almennt sé skortur á upplýsingum um þá.

„En því meira sem við reiðum okkur á gögn, því betur þurfum við að átta okkur á því hvaða gögn eru áræðanleg og sönn og hver ekki. Því betur sem unnið er með gögn í upphafi, því betri eru gögnin. Ég vísa þar til fleiri atriða en eingöngu að kyngreina gögn því við þurfum líka að vera vel upplýst um aðra bakgrunnsþætti, til dæmis uppruna fólks, fötlun og fleira. Ef gögn byggja á einsleitum hópi en ekki fjölbreytileikanum, verða ákvarðanir og niðurstöður til í samræmi við það sem gögnin segja.“