Rheoli technoleg sy'n rheoli pobl: dull Partneriaeth Gymdeithasol o weithredu systemau rheoli algorithmig yn sector cyhoeddus Cymru

Ar ran Cyngor Partneriaeth y Gweithlu, mae'r ddogfen hon yn rhoi arweiniad i reolwyr, undebau llafur a chynrychiolwyr gweithwyr eraill ar ddefnyddio algorithmau a systemau deallusrwydd artiffisial mewn gweithleoedd datganoledig yn y sector cyhoeddus, er mwyn rheoli staff a'u gwaith. Mae'r ddogfen yn ystyried y cyfleoedd a'r risgiau sy'n gysylltiedig â systemau technolegol sy'n cael eu defnyddio i reoli pobl yn y gwaith – er enghraifft, wrth recriwtio, dyrannu tasgau, dyrannu shifftiau neu fonitro staff – ac mae'n darparu egwyddorion cyffredinol a ddylai arwain cynrychiolwyr cyflogwyr a chynrychiolwyr gweithwyr i drafod a gwneud penderfyniadau ar y pwnc hwn. 

Mae Cyngor Partneriaeth y Gweithlu yn cynrychioli buddiannau cyflogwyr datganoledig y sector cyhoeddus, undebau llafur a llywodraeth Cymru. Mae eu cymeradwyaeth i'r canllawiau hyn yn golygu y dylid eu dilyn ym mhob corff sector cyhoeddus datganoledig. Dylai undebau a rheolwyr sefydlu cytundebau sectorol neu leol ar y ffordd orau o weithredu'r canllawiau hyn. Gall y Cyngor gymryd rhan mewn gwaith pellach i werthuso pa mor effeithiol mae'r canllawiau hyn yn cael eu gweithredu ar ôl ei gyhoeddi. Hefyd, gellir adolygu a diwygio'r canllawiau yng ngoleuni newidiadau yn y defnydd o dechnoleg a'i galluoedd, yn ogystal â phrofiad cyrff y sector cyhoeddus a'u hundebau wrth weithredu ei gynnwys. Bydd y ddogfen ganllawiau hon yn cael ei rhoi gerbron y Cyngor ar gyfer cytundeb ym mis Tachwedd 2024. Gellir ystyried y ddogfen yn gyfredol bryd hynny. 

Mae gan gyrff y sector cyhoeddus ddyletswydd gyfreithiol i weithredu mewn partneriaeth gymdeithasol â'u hundebau, gan gynnwys materion yn ymwneud â rheoli eu gweithlu. Pan fydd cyrff cyhoeddus yn methu â chadw at y ddyletswydd hon, gellir hysbysu'r Cyngor Partneriaeth Gymdeithasol am fethiant o’r fath. 

Nid yw'r ddogfen yn ymdrin yn benodol â'r defnydd o offer AI cynhyrchiol gan staff, er y gallai'r Cyngor benderfynu cyhoeddi canllawiau ar y mater hwn yn y dyfodol. Dylid dilyn Egwyddorion Digidoleiddio y Cyngor yn y cyfamser, sef:

• Llais a chyfraniad y gweithwyr
• Newid swyddi hyblyg a sicr
• Cyfle ar gyfer cynnydd a thwf
• Iechyd, diogelwch a llesiant
• Parchu hawliau gweithwyr

Mae'r Cyngor yn ddiolchgar i Dr Philippa Collins, Uwch-ddarlithydd y Gyfraith, Prifysgol Bryste, am ei chyfraniad sylweddol at baratoi'r ddogfen hon.

Nod y ddogfen hon yw rhoi gwybodaeth ac arweiniad i reolwyr ac undebau llafur ar ddefnyddio algorithmau i reoli staff yn y sector cyhoeddus yng Nghymru. Mae integreiddio technolegau newydd yn ein harferion gwaith yn gyfle sylweddol i wella sut rydym yn cyflawni ein rolau ac i sicrhau manteision ehangach i lesiant y gweithlu, o ddarparu gwasanaethau, i lunio polisïau neu weinyddu, os ymgymerir â’r broses hon yn deg a chyfrifol. Mae'r ddogfen yn nodi sut y gall cyflogwyr a gweithwyr gydweithio'n effeithiol i sicrhau bod yr Egwyddorion Arweiniol isod yn cael eu parchu a'u hymgorffori ym mhob cam o'r broses. 

Mae'r ddogfen hon yn nodi'r cyd-destun i'r canllawiau yn gyntaf, gan ddarparu diffiniadau, astudiaethau achos a throsolwg o'r manteision a'r risgiau posibl o ddefnyddio systemau rheoli algorithmig. Yna mae'n nodi canllawiau, wedi'u rhannu'n dair adran: Egwyddorion Arweiniol trosfwaol y dylid eu dilyn bob cam o'r ffordd, camau i'w cwblhau cyn eu gweithredu a'r gofynion ar ôl gweithredu. 

Mae rhestr eirfa lawn ar ddiwedd y ddogfen. Y prif ddiffiniadau a ddefnyddir yn y ddogfen hon yw: 

Mae 'system rheoli algorithmig' yn cyfeirio at unrhyw system sy'n defnyddio prosesau cyfrifiadurol i wneud neu gefnogi penderfyniadau sy'n ymwneud â rheoli cyflogaeth neu waith. Mae system rheoli algorithmig yn cynnwys rhyw agwedd ar awtomeiddio a gall gynnwys prosesau sy'n seiliedig ar ddysgu peirianyddol, dadansoddiad ystadegol neu ddeallusrwydd artiffisial. Mae modd gweithredu system rheoli algorithmig i gyflawni neu gefnogi swyddogaeth reoli, fel recriwtio neu drefnu gwaith, neu gall system gyflawni neu gefnogi cyfres o dasgau rheoli. 

Mae 'partneriaid cymdeithasol' yn cyfeirio at gynrychiolwyr y llywodraeth, cynrychiolwyr y cyflogwr(wyr)/rheolwyr a chynrychiolwyr y gweithwyr/staff, boed ar lefel genedlaethol neu sefydliadol.

Sut gellir defnyddio algorithmau i reoli staff?

Yn gyffredinol, mae 'algorithm' yn derm sy'n gysylltiedig â rhaglennu cyfrifiadurol sy'n cyfeirio at unrhyw reol neu gyfarwyddyd neu set o reolau. Yng nghyd-destun system reoli algorithmig, caiff yr algorithm ei gymhwyso wedyn i ddata am y gweithlu, y gweithle, y gwaith neu weithiwr unigol i gynhyrchu allbwn. Gallai'r allbwn fod yn gyfarwyddyd, yn argymhelliad i reolwr neu'n sbarduno dilyniant arall o benderfyniadau algorithmig. Mewn rhai achosion, mae system reoli algorithmig yn dibynnu ar ddeallusrwydd artiffisial. Mae deallusrwydd artiffisial (AI) yn cyfeirio at ddefnyddio technoleg ddigidol i greu systemau sy'n gallu cyflawni tasgau y credir gan amlaf eu bod yn gofyn am ddeallusrwydd. 

Mae systemau rheoli algorithmig ac AI yn dibynnu ar fewnbynnu a phrosesu data, a symiau helaeth ohono'n aml. Mae technoleg fodern yn caniatáu i'r data hwn fod yn fwyfwy gronynnog hefyd, gan nodi gweithgareddau gweithiwr mewn amser real er enghraifft. Gellir defnyddio data am ddigwyddiadau neu ryngweithiadau'r gorffennol hefyd i fodelu a rhagweld tebygolrwydd digwyddiadau yn y dyfodol. Er enghraifft, os yw AI yn canfod patrymau ymddygiad cyffredin neu rinweddau mewn pobl a gafodd eu recriwtio'n flaenorol, yna gellir cymhwyso'r patrymau hyn i ragweld pa gronfa o ymgeiswyr sydd fwyaf tebygol o fod yn llwyddiannus yn seiliedig ar gyd-fynd â'r patrymau hynny. 

Mae systemau AI ac algorithmig yn cael eu defnyddio eisoes gydol cylch bywyd cyflogaeth. Gall AI gyfryngu neu hyd yn oed gynnal proses recriwtio, o ddod o hyd i ymgeiswyr addas i “ddarllen” eu CVs, cynnal cyfweliadau ac yn y pen draw sgorio ymgeiswyr yn seiliedig ar eu haddasrwydd ar gyfer sefydliad. Unwaith y bydd o fewn sefydliad, gall agweddau cyfan ar swyddogaethau rheoli gael eu cynnal gan, neu eu dirprwyo i, systemau rheoli algorithmig. Er enghraifft: 

• Trefnu patrymau sifftiau a gwaith 
• Dyrannu gwaith a chreu tîm 
• Rhoi cyfarwyddiadau a threfnu tasgau ar draws y gweithlu 
• Pennu a nodi disgwyliadau cynhyrchiant neu berfformiad 
• Hyfforddiant  
• Monitro cynhyrchiant a pherfformiad, gan gynnwys sbarduno gweithdrefnau galluogrwydd neu ddisgyblu 
• Cyflwyno sancsiynau disgyblu  
• Terfynu cyflogaeth. 

Gall AI gyflawni gweithgareddau eraill hefyd, megis monitro iechyd y gweithlu neu weithiwr, neu adnabod emosiwn sy'n asesu cyflwr emosiynol a seicolegol yr unigolyn. 

Roedd enghreifftiau cynnar o reoli algorithmig yn deillio o'r economi platfformau neu economi gìg a chyflogwyr fel Uber neu Deliveroo neu gwmnïau technolegol datblygedig fel Amazon. Fodd bynnag, gellir gweld rheolaeth algorithmig bellach ym mron pob cyd-destun gwaith ar ryw ffurf neu'i gilydd. Er enghraifft, mae system Home Care Direct yn cael ei defnyddio'n Iwerddon i gysylltu perthnasau pobl sydd angen gofal â gweithwyr gofal. Yng Nghaerffili, mae dyfeisiau llaw wedi eu mabwysiadu ym maes gofal cartref, sy'n caniatáu cofnodi'r union lwybrau sy'n cael eu dilyn a'r amseroedd teithio. Yn eu tro, mae'r amserlenni yn fwy cywir a gwell. Mae undebau wedi bod yn rhan o'r broses er mwyn sicrhau bod pryderon staff am y potensial ar gyfer monitro ymwthiol yn cael eu datrys. Yng Nghastell-nedd Port Talbot, fe wnaeth staff a chontractwyr TG arbenigol gyd-greu systemau i awtomeiddio rhai o brosesau prysur y tîm AD. Roedd y defnydd o'r system yn lleihau'r amser sy'n cael ei dreulio'n gwneud tasgau ailadroddus gan arwain at greu cyfleoedd gwaith newydd.

Beth mae ymchwil yn ei ddweud wrthym am gyfleoedd a risgiau defnyddio systemau rheoli algorithmig?

Cyfleoedd

Mae'r enghreifftiau hyn yn dweud wrthym am rai o fanteision defnyddio systemau rheoli algorithmig a sut y gall gwasanaethau cyhoeddus fanteisio ar y cyfleoedd a gyflwynir gan dechnolegau newydd i arloesi, ymateb i anghenion newidiol a cheisio effeithlonrwydd er mwyn parhau i ddarparu gwasanaeth cynaliadwy i'r cyhoedd. Nid yw’n rhestr gyflawn. Mae ymchwil gyfredol yn dangos bod cyfleoedd ar gyfer ein gwasanaethau cyhoeddus yn cynnwys:

1. Mwy o effeithlonrwydd a chynhyrchiant: Rhyddhau amser o dasgau ailadroddus, cynllunio a dyrannu tasgau’n fwy cywir ac ar sail gwybodaeth o ansawdd gwell, a gwneud prosesau’n fwy effeithlon. 
2. Gwneud penderfyniadau gwell wedi'u llywio gan ddata: 
   1. Lleihau rhagfarn wrth wneud penderfyniadau trwy ddibynnu ar ddata yn hytrach na barn ddynol oddrychol, a allai olygu gwerthusiadau a dyrchafiadau tecach yn seiliedig ar fetrigau perfformiad
   2. Gall dadansoddiad algorithmig o dueddiadau a phatrymau helpu i ragweld anghenion y dyfodol, megis gofynion staffio, a gwneud addasiadau rhagweithiol.
3. Gall effeithlonrwydd mewn prosesau a thimau gyfrannu at ddarpariaeth gwasanaethau gwell a phrofiad gwell ar gyfer aelodau'r cyhoedd, er enghraifft, trwy gydweddu gofynion staffio yn well â lefel yr anghenion a ragwelir gan y cyhoedd.

Risgiau

Mae ymchwil yn tynnu sylw hefyd at sawl pryder am weithredu systemau rheoli algorithmig. Mae'r risgiau hyn yn cynnwys: 

1. Anawsterau creu gwir dryloywder o ran adeiladu/caffael, mabwysiadu, gweithredu a goruchwylio systemau rheoli algorithmig. Hyn oherwydd cymhlethdod technegol y systemau a diffyg dealltwriaeth ac arbenigedd manwl am y systemau ymhlith y gweithlu ehangach. Cymhlethir yr her ymhellach gan sensitifrwydd masnachol rhai o'r systemau eu hunain, yn enwedig lle cânt eu caffael gan gwmnïau trydydd parti.
2. Nodwyd pryderon am yr hawl i barch at fywyd preifat a diogelu data a'r hawl i beidio ag wynebu gwahaniaethu. Mae'r pryderon hyn yn codi oherwydd gwaith casglu a phrosesu data sy'n sail i systemau rheoli algorithmig, y potensial i greu ffiniau aneglur rhwng amser ar ddyletswydd a ddim ar ddyletswydd, a'r potensial i systemau o'r fath efelychu, neu hyd yn oed greu, patrymau o annhegwch neu driniaeth anghyfartal i unigolion.
3. Lle nad ydynt wedi'u gweithredu'n gyfrifol, gall effeithiau cronnus rheoli algorithmig niweidio iechyd, diogelwch a llesiant gweithwyr: mae disgwyliadau a chyflymder y gwaith yn dwysáu a'r profiad o gael eich monitro'n agos yn cael effaith negyddol ar iechyd meddwl. 
4. Lle mae penderfyniadau dynol wedi'u hategu gan systemau rheoli algorithmig, dylem gofio'r risg hefyd o ddirywiad yn y lle a roddir i farn ddynol, arbenigedd dynol a chysylltiad dynol yn ein perthynas ag eraill yn y gwaith.

Astudiaethau achos 

Mae cyflogwyr ac undebau wedi llwyddo i drafod cytundebau ar ddefnyddio AI a systemau rheoli algorithmig. Mae rhai enghreifftiau da o wledydd cyfagos Ewrop.

Norwy: Mae cytundeb cenedlaethol yn Norwy wedi'i drafod rhwng y prif undebau llafur a chyrff cyflogwyr, Cydffederasiwn Menter Norwy a Chydffederasiwn Undebau Llafur Norwy. Gwnaed y cytundeb yn 2018 ac mae'n mynd i'r afael â'r cyfleoedd a'r heriau o ddefnyddio AI yn y gweithle, gan bwysleisio'r angen i gydymffurfio â'r rheolau cyfreithiol presennol. Mae'r cytundeb yn nodi bod preifatrwydd ac urddas gweithwyr yn hollbwysig ac yn gofyn am gynnwys cynrychiolwyr gweithwyr, yn ogystal ag ymdrechion i atal rhagfarn. Mae'r cytundeb yn gofyn am drafodaethau gyda chynrychiolwyr undebau llafur os bydd newidiadau pwysig. O dan y cytundeb, rhaid i gyflogwyr roi gwybod i weithwyr drwy stiwardiaid llawr gwaith am gynlluniau a phenderfyniadau'n ymwneud â mesurau rheoli, a all fod yn seiliedig ar ystyriaethau technolegol, ariannol, diogelwch ac iechyd. 

IBM yn yr Almaen:ym mis Gorffennaf 2020, fe wnaeth y cwmni technoleg rhyngwladol IBM ddod i gytundeb gyda'i undeb llafur ar gyflwyno a defnyddio systemau deallusrwydd artiffisial yn y cwmni. Mae'r cytundeb yn cynnwys darpariaethau sy'n ymwneud â:  

• Tryloywder systemau AI 
• Esbonio eu penderfyniadau 
• Sicrhau bod pobl yn gyfrifol am wneud penderfyniadau 
• Cydymffurfio â deddfwriaeth tegwch a gwrthwahaniaethu
• Cynnal asesiadau risg. 

Mae'r enghreifftiau hyn yn dangos y gall cyflogwyr a chynrychiolwyr gweithwyr ac undebau gydweithio i ddod i gytundebau sy'n caniatáu i gyflogwyr ddefnyddio technolegau newydd, cytuno ar egwyddorion cyffredin sy'n llywio eu defnydd a chydnabod yr angen am fesurau diogelu i warchod y gweithlu. 

Mae'r Cyngor yn deall yr angen i gydbwyso'r cyfleoedd o fabwysiadu technolegau newydd yn ein harferion gwaith â'r risgiau a'r heriau y gallem eu hwynebu wrth wneud hynny. Mae'r Cyngor yn mabwysiadu'r set ganlynol o egwyddorion cyffredinol i'w dilyn gan bartneriaid cymdeithasol trwy gydol trafodaethau, gwneud penderfyniadau, defnyddio a gwerthuso unrhyw systemau rheoli algorithmig yn barhaus. 

1. Partneriaeth gymdeithasol. Mae hyn yn cyd-fynd â darpariaethau Deddf Partneriaeth Gymdeithasol a Chaffael Cyhoeddus 2023 a ffyrdd hirsefydlog o weithio yng Nghymru.

2. Cadw a blaenoriaethu goruchwyliaeth ddynol a rhyngweithio dynol. Rhaid bod goruchwyliaeth ddynol o'r holl benderfyniadau strategol sy'n cael eu gwneud ar ddefnyddio systemau rheoli algorithmig (“human in command”) a llinellau cyfrifoldeb clir i reoli unrhyw benderfyniad a wneir. Dylai bod rhyngweithio dynol hefyd wrth redeg system a gwneud penderfyniadau o ddydd i ddydd (“human in the loop”).  

3. Cadw at ddiffiniad Llywodraeth Cymru o Waith Teg, yn enwedig mewn perthynas â chydraddoldeb. Gwaith teg yw presenoldeb amodau gweladwy yn y gwaith sy’n golygu bod gweithwyr yn cael eu gwobrwyo, eu clywed a’u cynrychioli’n deg, eu bod yn ddiogel ac yn gallu gwneud cynnydd mewn amgylchedd gwaith iach, cynhwysol lle mae hawliau’n cael eu parchu.

4. Ymrwymiad i feithrin gallu o ran systemau rheoli algorithmig ar draws y gweithlu ac ar bob lefel. 

5. Ymrwymiad i ddiogelu swyddi, creu swyddi, a buddsoddi yn y gweithlu.

Yn yr adran hon, mae'r canllawiau'n canolbwyntio ar weithgareddau y dylid eu cynnal cyn rhoi system ar waith. Nod y gweithgareddau hyn yw meithrin tryloywder a chyfathrebu o gamau cyntaf y broses a rhoi'r cyfle gorau posibl i sicrhau bod yr Egwyddorion Arweiniol a nodir uchod yn cael eu parchu a'u hadlewyrchu yn y dewisiadau sy'n cael eu gwneud yn y sector cyhoeddus yn y pen draw. 

Archwilio systemau presennol

Dylai cam cyntaf sgwrs rhwng partneriaid cymdeithasol am reoli algorithmig fod yn archwiliad llawn o lle mae systemau algorithmig yn cael eu defnyddio eisoes. 

Anogir cyrff cyhoeddus i fabwysiadu’r Algorithmic Transparency Recording Standard (ATRS), sy’n darparu ffordd safonedig o gofnodi a rhannu gwybodaeth am yr offer algorithmig maen nhw’n eu defnyddio mewn fformat agored, dealladwy, hygyrch ac am ddim. Mae’n cofnodi gwybodaeth am:

• sut mae offeryn algorithmig y sefydliad yn gweithio 
• sut mae'n rhan o'u proses gwneud penderfyniadau 
• pa broblem maen nhw'n ceisio ei datrys drwy ddefnyddio'r offeryn 
• eu cyfiawnhad neu eu rhesymeg dros ei ddefnyddio 
• pwy sy'n berchen ar yr offeryn ac yn gyfrifol amdano
• canlyniadau prosesau asesu risg a gynhaliwyd.

Dylai canlyniad yr archwiliad hwn fod yn gofnod cynhwysfawr - cofrestr - o'r holl systemau rheoli algorithmig sy'n cael eu defnyddio gan sefydliad. Dylid diweddaru'r cofnod hwn gydag unrhyw newidiadau, a dylai fod ar gael yn rhad ac am ddim i bob aelod staff. 

Gall y broses archwilio hon ddatgelu systemau nad yw'r partneriaid cymdeithasol wedi eu trafod mewn unrhyw ddeialog ac nad oes cytundeb clir yn eu cylch. Yn yr achos hwn, dylai'r partneriaid cymdeithasol gwblhau'r camau a nodir yma, gan gynnwys gwneud unrhyw addasiadau i'r defnydd o systemau sefydledig yn ôl yr angen, a sicrhau bod pawb yn parchu'r egwyddorion arweiniol a nodir uchod wrth ddefnyddio systemau cyfredol. 

Adeiladu neu brynu? Cyn dechrau datblygu mewnol a / neu'r broses gaffael

Dylai sefydliadau gynnal asesiad parodrwydd cyn penderfynu dechrau naill ai caffael (prynu system gan gyflenwr) neu adeiladu (datblygu system o fewn y sefydliad) system rheoli algorithmig. Dylai sefydliadau ddarllen Guidelines for AI Procurement yr Office for AI a Data Ethics Framework, a ddarparwyd gan y Central Digital and Data Office, fel canllawiau defnyddiol i'r broses hon. 

Byddem yn annog sefydliadau'r sector cyhoeddus i ddefnyddio'r holl ganllawiau sydd ar gael ar ddiogelwch seiber AI gan Ganolfan Seiberddiogelwch Genedlaethol (NCSC) Prydain, yn enwedig 'Guidelines for secure AI system development'. Un o flaenoriaethau Cynllun gweithredu seiber i Gymru Llywodraeth Cymru yw diogelu gwasanaethau cyhoeddus. Mae Llywodraeth Cymru’n ymgynnull Bwrdd Rhaglen Seiber sy'n cynnwys arweinwyr polisi perthnasol Llywodraeth Cymru, y Ganolfan Gwasanaethau Cyhoeddus Digidol (CDPS) a Phrif Swyddogion Digidol (CDOs) ar gyfer Llywodraeth Cymru, Llywodraeth Leol ac Iechyd a Gofal.

Yn y camau cynharaf o ystyried caffael neu adeiladu system rheoli algorithmig ac yng nghyd-destun ymgysylltu amlddisgyblaethol ehangach, dylai partneriaid cymdeithasol ystyried cwestiynau fel: 

• Oes tystiolaeth i ddangos bod angen ateb technolegol ar gyfer y broblem? Yw technoleg yn rhoi cyfle i arloesi yn ein ffordd o weithio? 
• Yw'r dasg dan sylw yn addas i'w chefnogi neu ei chynorthwyo gan system rheoli algorithmig? 
• A yw'r sefydliad cyfan yn barod i ymgymryd â’r newid a gynigir? 

Dylid ystyried y cwestiwn olaf hwn o sawl ongl wahanol, gan gynnwys seilwaith TG, seilwaith data a gallu a diwylliant y gweithlu. 

Efallai y bydd rhai ffyrdd o ddefnyddio systemau rheoli algorithmig yn cael eu hystyried yn amhriodol, heb eu profi, yn dramgwydd anghymesur ar hawliau unigolion neu'n creu risgiau na ellir eu lliniaru'n ddigonol. Gall partneriaid cymdeithasol geisio cytuno ar restr o achosion defnydd o'r fath ymlaen llaw, yn ogystal ag ychwanegu at y rhestr honno dros amser wrth i dechnolegau ddatblygu ac i asesiadau risg gael eu cynnal. 

Mae rhestr ddangosol o dechnolegau o'r fath yn cynnwys rhai sy'n dibynnu ar fonitro ymwthiol, technolegau adnabod emosiwn neu wyliadwriaeth fiometrig; unrhyw systemau sy'n awtomeiddio unrhyw ran o brosesau disgyblu neu alluogrwydd, neu unrhyw benderfyniad arall o anfantais gyfatebol; systemau sy'n ceisio rhagweld neu ddylanwadu ar orfodi eu hawliau cyfreithiol gan weithwyr, a systemau sy'n ceisio dylanwadu ar ymddygiad unigolyn neu roi pwysau gormodol ar unigolyn i weithredu er anfantais iddo'i hun neu beryglu ei iechyd neu ei lesiant.

Diwydrwydd dyladwy ac ymgynghori yn ystod y broses gaffael a/neu adeiladu

Bydd gan sefydliadau arbenigedd helaeth mewn perthynas â chaffael neu adeiladu systemau i'w defnyddio yn y sector cyhoeddus. Fel camau eraill y broses a grybwyllir yn y ddogfen hon, dylai partneriaid cymdeithasol weithio gyda'i gilydd i sicrhau bod yr Egwyddorion Arweiniol a nodir uchod yn cael eu parchu lle bydd y system yn cyflawni swyddogaethau rheoli. Dylai partneriaid cymdeithasol fod yn agored hefyd i gyfleoedd y tu hwnt i'r rhai a nodir ar y cam cyntaf ar gyfer gwella'r prosesau a'r systemau sydd ar waith. 

Efallai y byddai defnyddio'r Algorithmic Transparency Recording Standard (ATRS) o fudd i sefydliadau wrth strwythuro trafodaethau gydag undebau a'r gweithlu ehangach o ran caffael neu adeiladu systemau rheoli algorithmig newydd. Byddai ymgynghori wrth ddrafftio Safon yn caniatáu tryloywder am y broses benderfyniadau yn gynnar yn y broses, a dull cydweithredol o asesu a mynd i'r afael ag unrhyw risgiau a nodir. 

Unwaith eto, yng nghyd-destun ymgysylltu amlddisgyblaethol ehangach, dylid annog partneriaid cymdeithasol i baratoi Asesiad Effaith ar Ddiogelu Data, Asesiad o'r Effaith ar Gydraddoldeb ac Asesiad Effaith Algorithmig a rhannu canlyniadau'r asesiadau hyn yn y Safon derfynol sy'n ymwneud â system benodol. Mae adnoddau defnyddiol ar gyfer partneriaid cymdeithasol wedi'u cynnwys yn yr adran Adnoddau Pellach isod. Bydd yr asesiadau effaith hyn yn galluogi partneriaid cymdeithasol i nodi risgiau amrywiol ac ystyried sut i fynd i'r afael â'r risgiau hyn. Ni ddylid camu ymlaen i fabwysiadu a gweithredu nes bod modd dileu neu reoli unrhyw risgiau i'r fath raddau eu bod yn dderbyniol i’r partneriaid cymdeithasol.

Pa risgiau ddylid eu hystyried?

Dylid rhoi ystyriaeth ddyledus i'r Egwyddorion Arweiniol a nodir yn y ddogfen hon, lle nad ydynt wedi'u cwmpasu gan y prosesau asesu risg hyn. Mae'r rheoliadau a'r hawliau y dylai partneriaid cymdeithasol eu hystyried at ddibenion asesiad risg yn cynnwys: 

• Deddf Iechyd a Diogelwch yn y Gwaith etc 1974, 
• Deddf Hawliau Dynol 1998, 
• Deddf Cydraddoldeb 2010, 
• Deddf Diogelu Data 2018 a Rheoliad Cyffredinol y DU ar Ddiogelu Data, 
• cyfraith ddiswyddo annheg, 
• rheoliadau oriau gweithio ac isafswm cyflog, 
• rheoliadau undebau llafur a 
• hawliau unigolion o dan eu contract. 

Wrth ddrafftio asesiad risg, dylai'r partneriaid cymdeithasol (gan gynnwys undebau, y cyflogwr a rheolwyr y gweithlu) ystyried pryderon ehangach hefyd, megis y posibilrwydd o ddwysáu gwaith, dadsgilio'r gweithlu, colli arbenigedd a gwthio barn ddynol o'r neilltu. Dylid caffael neu adeiladu systemau mewn ffordd sy'n lleihau unrhyw risgiau o'r fath a nodwyd. 

Wrth gaffael system, dylid ystyried diwedd contract gyda chyflenwr a pharhad gweithrediadau y tu hwnt i gontract penodol. 

Rôl cynrychiolwyr y gweithwyr wrth gaffael a/neu adeiladu system

Mae cynrychiolwyr y gweithwyr yn rhanddeiliaid allweddol yn y broses gaffael neu adeiladu. Dylid eu hannog i ddarparu eu harbenigedd a'u hadborth a chyfrannu at gyfathrebu dwyffordd parhaus. Mae gan gynrychiolwyr gweithwyr rôl bwysig i'w chwarae wrth helpu'r gweithlu ehangach i ddeall a chynnig adborth mewn perthynas ag unrhyw newidiadau a gynlluniwyd, rheoli disgwyliadau'r gweithlu ehangach a hwyluso a chefnogi prosesau gweithredu os caiff system newydd ei mabwysiadu. Dylai rheolwyr sy'n gyfrifol am broses gaffael neu adeiladu gyflwyno unrhyw gwestiynau a godwyd gan gynrychiolwyr gweithwyr i werthwr/adeiladwr system neu hwyluso cyfathrebu uniongyrchol rhwng eu cysylltiadau priodol. 

Rhaid cydnabod y gallai fod angen cyngor neu hyfforddiant allanol ar gynrychiolwyr gweithwyr i sicrhau eu bod yn meddu ar sgiliau digonol i gymryd rhan yn effeithiol yn y prosesau caffael neu adeiladu sy'n gysylltiedig â system rheoli algorithmig. Dylid ystyried yr amser a'r cyllid sydd ei angen er mwyn cyflawni hyn. 

Hyfforddiant staff

Un agwedd ar weithredu y dylid ei thrafod ymhell cyn rhoi'r system ar waith yw hyfforddi staff. Dylai partneriaid cymdeithasol weithio gyda'i gilydd i nodi lle mae anghenion hyfforddi posibl, yn enwedig i unrhyw un y bydd ei benderfyniadau'n cael eu cefnogi neu eu llywio gan system rheoli algorithmig. Dylai rheolwyr, yn enwedig, dderbyn hyfforddiant trylwyr ar ddefnydd priodol, swyddogaethau a'r dull o redeg y system, yn ogystal â sicrhau eu bod yn deall terfynau unrhyw systemau sy'n cael eu cyflwyno. Efallai y bydd partneriaid cymdeithasol yn ystyried bod hyfforddiant mwy cyffredinol i'r tîm cyfan yn ddymunol er mwyn sicrhau tryloywder a dealltwriaeth ehangach o'r systemau perthnasol. 

Fel y soniwyd uchod, dylid adlewyrchu'r Egwyddorion Arweiniol a nodir yn y ddogfen hon gydol cylch bywyd system. Nid yw'r angen am gyd-lywodraethu a defnydd cyfrifol yn dod i ben unwaith y bydd y system yn cael ei mabwysiadu a'i gweithredu am y tro cyntaf. Mae'r adran hon yn nodi'r mesurau monitro a llywodraethu allweddol y dylai cyflogwyr a chynrychiolwyr gytuno arnynt a chydymffurfio â nhw ar ôl gweithredu cychwynnol. 

Monitro systemau yn barhaus

Rhaid i systemau rheoli algorithmig gael eu monitro'n effeithiol. Mae cynllunio system fonitro sy'n gweithio i'r sefydliad a'i staff yn un rhan o'r broses y dylid ei chynnal cyn ei gweithredu, yn ystod y cam diwydrwydd dyladwy. Gallai pwyntiau gwerthuso parhaus o'r system gynnwys:

• A yw'r system yn cyflawni’r pwrpas a fwriadwyd a'i heffeithiau ar y gwaith, ac amodau gwaith yn y sefydliad
• A oes unrhyw fesurau lliniaru risg y cytunwyd arnynt ar waith, ac ydyn nhw'n effeithiol
• P'un a oes unrhyw risgiau neu effeithiau annisgwyl wedi dod i'r amlwg sy'n gofyn am gamau lliniaru neu gamau gweithredu eraill 
• Yw asesiadau technegol o archwiliadau gweithredu a thuedd yn creu canlyniadau boddhaol
• P'un a yw'r egwyddorion y cytunwyd arnynt rhwng partneriaid cymdeithasol yn cael eu cadarnhau gan y system a'i defnydd yn ymarferol. 

Dylid gofyn am adborth gweithwyr a chynrychiolwyr y gweithle yn rheolaidd, ei gasglu a'i ddefnyddio i siapio'r defnydd parhaus o unrhyw system. Dylai gweithwyr allu mynegi pryderon heb boeni am unrhyw effaith bersonol negyddol yn sgil gwneud hynny a, lle bo angen, dylid uwchgyfeirio pryderon am systemau rheoli algorithmig yn gyflym naill ai o fewn y sefydliad neu y tu hwnt iddo. 

Dylai cynrychiolwyr y gweithle allu cael mynediad achlysurol i'r system i gynnal tryloywder a monitro sut mae sefydliadau'n defnyddio'r system, gan gynnwys archwilio penderfyniadau a wneir neu a gefnogir gan y system. 

Lle bo'n ddymunol ac ymarferol, dylai sefydliadau drafod cyfleoedd datblygu i wella'r system mewn ymateb i bryderon neu effeithiau a amlygir gan waith monitro ôl-weithredu gyda chyflenwyr. Rhaid i sefydliadau fod yn agored i oedi neu atal defnyddio'r system yn gyfan gwbl, os nad oes modd rheoli risgiau'n ddigonol. 

‘Human-in-command’ a ‘human-in-the-loop’

Mae goruchwyliaeth ddynol o systemau algorithmig yn egwyddor bwysig. Dylai fod gan uwch reolwr gyfrifoldeb dynodedig ac ystyrlon am unrhyw system rheoli algorithmig a phenderfyniadau sy'n cael eu gwneud ar sail ei hallbynnau. Dylai unrhyw reolwr dynodedig gael (o leiaf) hyfforddiant a dealltwriaeth ddigonol o'r system; ymwybyddiaeth o'r duedd tuag at awtomeiddio; y gallu i ddehongli allbynnau'n gywir; y gallu i reoli, diystyru neu beidio â dibynnu ar y system, a'r gallu i ymyrryd yn ei gweithrediad er mwyn dod â phrosesu i ben mewn ffordd ddiogel. Dylai'r rheolwr dynodedig fod mewn cysylltiad rheolaidd â chynrychiolwyr y gweithle. 

Hefyd, dylai fod yn glir pwy o fewn neu'r tu allan i'r sefydliad sy'n gyfrifol am gynnal y system a phwy sydd â'r gallu i newid ac addasu'r system. 

Yn ogystal â goruchwyliaeth gyffredinol ac atebolrwydd, dylai'r system gael ei dylunio a'i gweithredu mewn modd sy'n sicrhau bod pobl yn cyfrannu'n llawn at benderfyniadau sy'n cael effeithiau sylweddol ar unigolion. Gelwir hyn yn aml yn gadw “human in the loop”. 

Diogelu hawliau unigolion 

Rhaid i sefydliadau sicrhau bod hawliau unigolion yn cael eu diogel gydol cylch bywyd system. Mae hyn yn cynnwys yr holl hawliau a nodir uchod yn yr adran diwydrwydd dyladwy, ond gan roi sylw penodol i'r canlynol: 

• Yr hawl i dderbyn gwybodaeth am brosesu data, yn enwedig o ran y defnydd o benderfyniadau awtomataidd gan sefydliad
• Yr hawl i ofyn am fynediad at ddata’r unigolyn ei hun a gedwir gan y sefydliad, yn ogystal â'r hawl i gywiro'r data hwnnw
• Yr hawl i ofyn am ddileu data sy'n annigonol, yn amherthnasol, neu ddim yn berthnasol mwyach
• Yr hawl i ofyn am adolygiad o unrhyw benderfyniad awtomatig a wneir am unigolyn. 

Hefyd, efallai y bydd partneriaid cymdeithasol am gytuno ar hawliau a mesurau diogelu ychwanegol i unigolion yng nghyd-destun penderfyniadau sy'n cael eu gwneud gan systemau algorithmig. Er enghraifft:

• Yr hawl i godi pryderon am system heb ddioddef unrhyw niwed mewn ymateb. 
• Yr hawl i beidio â dioddef unrhyw niwed o ganlyniad i ddibynnu ar system rheoli algorithmig. 
• Yr hawl i gael esboniad personol o unrhyw benderfyniad sylweddol a wnaed am unigolyn a oedd yn dibynnu ar system rheoli algorithmig cyn i'r penderfyniad hwnnw ddod i rym. 

Rhannu gwybodaeth a diweddariadau pellach

Dylai partneriaid cymdeithasol rannu cymaint o wybodaeth ag sy'n ymarferol bosibl am y system a'r defnydd ohoni. Lle mae'r sefydliad yn bwriadu gwneud newidiadau i system neu fod angen diweddariadau, dylent sicrhau eu bod yn dilyn yr Egwyddorion Arweiniol a nodir uchod a dechrau ymgynghori ag undebau llafur a chynrychiolwyr y gweithle cyn gynted â phosibl. 

• The Central Digital & Data Office Data Ethics Framework. 
• The Department for Science, Innovation and Technology Responsible AI Toolkit, including the Algorithmic Transparency Recording Standard Hub. 
• The Department for Science, Innovation and Technology, Office for Artificial Intelligence and Centre for Data Ethics and Innovation Guide to 
• The Department for Science, Innovation and Technology, Office for Artificial Intelligence, Department for Digital, Culture, Media & Sport and Department for Business, Energy & Industrial Strategy Guidelines for AI Procurement.
• The Equality and Human Rights Commission Guidance on Artificial intelligence: Meeting the Public Sector Equality Duty and Case Studies of good practice by local authorities.
• The Information Commissioner’s Office Guidance on Data Protection Impact Assessments, Best Practice for data protection-compliant AI and Explaining decisions made with AI. 
• The Institute for the Future of Work’s Guidance on the Good Work Algorithmic Impact Assessment and a Report on the Algorithmic Impact Assessment’s developments and limitations. 
• The National Cyber Security Centre AI and cyber security: what you need to know.
• The National Cyber Security Centre guidelines for secure AI system development. 
• The Parliamentary Office of Science and Technology Explainer on Artificial intelligence. 
• Cynllun gweithredu seiber i Gymru Llywodraeth Cymru. 
• Canllaw i waith teg Llywodraeth Cymru. 
• Adroddiad Llywodraeth Cymru - Dyfodol gwaith: effaith technoleg arloesol ar y gweithlu. 
• Cytundeb Cyngor Partneriaeth y Gweithlu: partneriaeth a rheoli newid, gan gynnwys yr Egwyddorion Digidoleiddio. 

• Adams-Prassl, J. (2019) ‘What if your boss was an algorithm? Economic Incentives, Legal Challenges, and the Rise of Artificial Intelligence at Work’, Comparative Labor Law & Policy Journal 41, 123-146. 
• Brunnerová, S. et al (2024) Collective Bargaining Practices on AI and Algorithmic Management in European services sectors (Friedrich Ebert Stiftung Competence Centre on the Future of Work). 
• Collins, .P. (2024) ‘Managing technology that manages people: Regulatory Strategies for the UK’, University of Bristol Law School Working Paper, 1-15.
• Collins, P. ac Atkinson, J. (2023) ‘Worker voice and algorithmic management in post-Brexit Britain’, Transfer: European Review of Labour and Research, 29, 37-52. 
• De Stefano, V. a Thaes, S. (2021) Algorithmic management and collective bargaining (ETUI Foresight Brief). 
• Kelly-Lyth, A. a Thomas, A. (2023) ‘Algorithmic management: Assessing the impacts of AI at work’, European Labour Law Journal, 14, 230-252. 
• Molina, O. et al (2023) ‘It takes two to code: a comparative analysis of collective bargaining and artificial intelligence’, Transfer: European Review of Labour and Research, 29, 87-104.
• Rolf, S. (2024) AI and Algorithmic Management in European Services Sectors: Prevalence, functions and a guide for negotiators  (Friedrich Ebert Stiftung Competence Centre on the Future of Work).
• Wood, A. J. (2021) Algorithmic Management: Consequences for Work Organisation and Working Conditions (JRC Working Papers Series on Labour, Education and Technology, European Commission, JRC124874). 

Daw'r diffiniadau hyn o Artificial Intelligence: An Explainer (2023, POSTbrief 57) a ddarparwyd gan UK Parliamentary Office of Science and Technology ac o Data Science and AI Glossary The Alan Turing Institute sydd ar gael ar-lein. 

Algorithm

Set o gyfarwyddiadau a ddefnyddir i gyflawni tasgau (megis cyfrifo a dadansoddi data) gan ddefnyddio cyfrifiadur neu ddyfais glyfar arall fel arfer.

System rheoli algorithmig

Unrhyw system sy'n defnyddio prosesau cyfrifiadurol i wneud neu gefnogi penderfyniadau sy'n ymwneud â rheoli cyflogaeth neu waith. Mae system rheoli algorithmig yn cynnwys rhyw agwedd ar awtomeiddio a gall gynnwys prosesau sy'n seiliedig ar ddysgu peirianyddol, dadansoddiad ystadegol neu ddeallusrwydd artiffisial. Mae modd gweithredu system rheoli algorithmig i gyflawni neu gefnogi swyddogaeth reoli, fel recriwtio neu drefnu gwaith, neu gall system gyflawni neu gefnogi cyfres o dasgau rheoli. 

AI cynhyrchiol

Model AI sy'n cynhyrchu testun, delweddau, sain, fideo neu gyfryngau eraill mewn ymateb i bromptiau gan ddefnyddwyr. Mae'n defnyddio technegau dysgu peirianyddol i greu data newydd sydd â nodweddion tebyg i'r data y cafodd ei hyfforddi arno. Mae rhaglenni neu apiau AI cynhyrchiol yn cynnwys sgwrsfotiaid, hidlwyr lluniau a fideo, a chynorthwywyr rhithwir.

Human-in-command

Sefyllfa lle mae system wedi'i gwreiddio o fewn system glir o oruchwyliaeth, cyfrifoldeb, atebolrwydd a mesurau llywodraethu dynol. 

Human-in-the-loop

System sy'n cynnwys elfen deallusrwydd artiffisial a dynol, lle gallai person ymyrryd mewn rhyw ffordd sylweddol, e.e. trwy hyfforddi, hogi neu brofi algorithm y system fel ei bod yn cynhyrchu canlyniadau mwy defnyddiol. Mae'n ffordd o gyfuno deallusrwydd dynol a pheiriant, gan helpu i wneud iawn am ddiffygion y ddau. Mae cael 'human-in-the-loop' yn rhwystro gwneud penderfyniadau cwbl awtomataidd. 

Dysgu peirianyddol

Maes deallusrwydd artiffisial sy'n cynnwys algorithmau cyfrifiadurol a all 'ddysgu' trwy ddod o hyd i batrymau mewn data sampl. Wedyn, mae'r algorithmau’n cymhwyso'r canfyddiadau hyn i ddata newydd fel arfer i wneud rhagfynegiadau neu ddarparu allbynnau defnyddiol eraill, megis cyfieithu testun neu lywio robot i leoliad newydd. Mae meddygaeth yn faes addawol: gall algorithmau dysgu peirianyddol adnabod tiwmorau mewn sganiau, er enghraifft, y gallai meddygon fod wedi'u methu.

Partneriaid cymdeithasol

Cynrychiolwyr y llywodraeth, cynrychiolwyr y cyflogwr/rheolwyr a chynrychiolwyr y gweithwyr/staff, boed ar lefel genedlaethol neu sefydliadol