Anghydraddoldebau Deallusrwydd Artiffisial: Ethnigrwydd

Canfuwyd bod defnyddio deallusrwydd artiffisial mewn gweithleoedd yn gwahaniaethu yn erbyn gweithwyr Du, Asiaidd ac Ethnig Leiafrifol ar sail mathau uniongyrchol ac anuniongyrchol o wahaniaethu. Er nad yw dyluniad modelau deallusrwydd artiffisial penodol yn defnyddio data demograffig am ethnigrwydd yn benodol, gall data arall fod yn ddirprwyon manwl ar gyfer nodweddion o’r fath mewn ffyrdd sy’n arwain at fathau uniongyrchol o wahaniaethu. Canfuwyd bod data fel enwau, ieithoedd sy’n cael eu siarad a chodau post i gyd yn ddirprwy ar gyfer ethnigrwydd, ac mae ymchwil wedi dangos sut mae defnyddio data o’r fath yn rhoi gweithwyr ethnig leiafrifol dan anfantais. 

Mae gwahaniaethu o’r fath yn gallu digwydd yn gynnar yn y broses gyflogi, er enghraifft, drwy ddefnyddio sgwrsfotiaid adnoddau dynol sy’n defnyddio cronfa ddata benodol o ymadroddion iaith gweithwyr i lywio sgyrsiau ac sy’n cael trafferth gydag iaith ysgrifenedig a llafar nad yw’n gyffredin ymysg y grŵp (Gwyn) dominyddol. Mewn gwirionedd, dangoswyd bod gan offer adnabod lleferydd gan yr holl brif ddarparwyr technoleg gyfraddau gwall llawer uwch gyda phobl sy’n Ddu. Yn yr un modd, dangoswyd bod dadansoddiad sy’n seiliedig ar ddeallusrwydd artiffisial o gyfweliadau fideo yn ffafrio ystumiau sy’n gysylltiedig â dynion Gwyn, sy’n tueddu i gynrychioli mwy o’r data hyfforddi fel y grŵp dominyddol o gyn-weithwyr, gan gosbi menywod a lleiafrifoedd ethnig nad ydynt yn arddangos yr un arwyddion geiriol a di-eiriau.  

Yn gyffredinol, canfuwyd bod offer deallusrwydd artiffisial yn adlewyrchu normau racialeiddio gan gynnwys defnyddio offer o'r fath i asesu neu i broffilio gweithwyr ar sail llais, mynegiant wyneb, neu iaith, gyda lleiafrifoedd ethnig yn fwy tebygol o fod dan anfantais. Dangoswyd bod hyn yn cael effaith sylweddol iawn oherwydd bod lleiafrifoedd ethnig yn cael eu gorgynrychioli ar yr un pryd mewn sectorau lle mae technolegau sy’n cael eu gyrru gan ddata yn cael eu defnyddio fwyaf, fel mewn gwaith economi gìg. Mae ymgyrchoedd parhaus yn erbyn defnyddio technoleg adnabod wynebau i reoli gweithwyr sy’n gwneud gwaith platfform, yn enwedig yn Uber, wedi tynnu sylw at achosion o weithwyr o leiafrifoedd ethnig sydd wedi dioddef camwahaniaethu ac wedi colli eu swyddi oherwydd nad yw’r dechnoleg wedi gallu eu hadnabod. Ar yr un pryd, canfuwyd bod yn well gan rai gweithwyr o gefndiroedd lleiafrifoedd ethnig, ac yn enwedig gweithwyr mudol, gyflogaeth sy’n dibynnu’n drwm ar reolaeth algorithmig, fel llafur platfform, gan eu bod yn teimlo eu bod yn llai agored i wahaniaethu rhyngbersonol uniongyrchol. Mae ymchwil yn awgrymu y gallai’r dewis hwn fod ar draul mathau eraill o wahaniaethu mwy strwythurol ac anuniongyrchol sy’n digwydd drwy offer deallusrwydd artiffisial.  

Er bod ymchwil ar wahaniaethu yn erbyn gweithwyr Du, Asiaidd ac Ethnig Leiafrifol sy’n ymwneud â defnyddio deallusrwydd artiffisial y tu allan i’r economi gìg yn dal yn gyfyngedig, mae pryderon am ddefnyddio mathau newydd o dechnoleg fel ‘Deallusrwydd Artiffisial Emosiynol’ sy’n cael ei ddefnyddio yn yr Unol Daleithiau, er enghraifft, i lywio’r broses o wneud penderfyniadau, gan gynnwys am ddyrchafu i swyddi arwain, addasrwydd i dasg, ac adeiladu timau. Mae’r math hwn o dechnoleg yn tueddu i gael trafferth gyda natur technoleg sy’n dibynnu ar ddiwylliant a chyd-destun, gan gamddehongli emosiynau’n aml fel dicter a dirmyg, yn enwedig ymysg menywod a lleiafrifoedd ethnig. Gwelwyd hefyd bod y ddibyniaeth gynyddol ar ddeallusrwydd artiffisial cynhyrchiol yn hyrwyddo stereoteipio a gwahaniaethu hiliol wrth ei ddefnyddio, er enghraifft, wrth sgorio darpar ymgeiswyr. Er enghraifft, mewn astudiaeth arall yn yr Unol Daleithiau, resumés ag enwau sy’n amlwg yn enwau Americanwyr Du oedd y lleiaf tebygol o gael eu rhestru fel yr ymgeiswyr gorau i rôl dadansoddwr ariannol, tra bod resumés ag enwau sy'n amlwg yn enwau menywod Asiaidd yn cael eu rhestru fel yr ymgeiswyr gorau i’r rôl dadansoddwr ariannol fwy na ddwywaith yn fwy aml.  

Mae rhai wedi galw am fwy o amrywiaeth ym meysydd cyfrifiadura a pheirianneg fel ymateb i’r math hwn o wahaniaethu ac i geisio sicrhau bod ystod ehangach o hunaniaethau a phrofiadau’n cael eu hystyried pan fydd systemau’n cael eu dylunio. Mae rhai yn dal i ddweud bod argyfwng amrywiaeth mewn perthynas â hil a rhywedd ymysg y cwmnïau technoleg mwyaf, fel Google, Meta a Microsoft.  Ond mae eraill yn dadlau mai dim ond rhan fach o'r ateb yw mynd i'r afael â'r diffyg amrywiaeth yn y sector deallusrwydd artiffisial, a chan fod y systemau hyn yn cael eu mabwysiadu ar draws sectorau'n gyflym, mae angen archwilio offer deallusrwydd artiffisial a ddefnyddir mewn cyflogaeth yn llawer mwy llym. Ac eto, nid yw'n glir beth fyddai archwilio o'r fath yn ei olygu a sut byddai'n ystyried y math o wahaniaethu strwythurol ac anuniongyrchol mae ymchwilwyr wedi'i weld yn amlwg. I helpu’r broses, mae’r Rhwydwaith Ewropeaidd yn Erbyn Hiliaeth wedi datblygu pecyn cymorth i liniaru ac atal rhagfarn hiliol wrth gyflogi, wedi’i anelu at reolwyr Adnoddau Dynol, a rheolwyr Amrywiaeth a Chynhwysiant, sy’n darparu rhai camau ymarferol i gydymffurfio â chanllawiau i ddefnyddio deallusrwydd artiffisial yn foesegol. Ni ddarparwyd tystiolaeth am effaith pecyn o’r fath.  

Mae TUC Cymru yn ymgyrchu dros amddiffyn pob gweithiwr rhag peryglon AI.  Os ydych chi'n weithiwr Du, Asiaid neu Ethnig Leiafrifol ac yn poeni am y materion hyn, mynnwch eu trafod yn eich cangen undeb llafur.  

Mae TUC Cymru wedi llwyddo i gyflwyno canllawiau ar y defnydd o ddeallusrwydd artiffisial yn y sector cyhoeddus. Defnyddiwch nhw a'u haddaswch ar gyfer eich gweithle.    

Mae'r TUC yn gofyn am deddf newydd i warchod gweithwyr rhag bygythiadau AI ac wedi cynhyrchu ystod o ddeunyddiau i gynorthwyo cynrychiolwyr a swyddogion.

Mae’r adroddiad Anghydraddoldebau AI yn y Gweithle ar gael ar wefan y Data Justice Lab.