Á mörkum hlutleysis

Við lifum á einstökum tímum þar sem hraði tæknibreytinga á sér fáar hliðstæður í sögunni. Með aukinni sjálfvirknivæðingu og gervigreind stöndum við frammi fyrir tækniþróun sem hefur nú þegar víðtæk áhrif og munu áhrifin líklega aukast á næstu árum. Þó erfitt sé að spá nákvæmlega fyrir um framtíðina, er ljóst að þessi tækni getur bæði aukið og viðhaldið misskiptingu ef ekki er rétt að henni staðið. 

Kóðaðir kollegar 

Sjálfvirknivæðing: Sjálfvirknivæðing felst í því að gera vinnu sjálfvirka með því að láta vélar eða hugbúnað taka við verkefnum sem áður voru unnin af fólki. Þetta hefur þegar átt sér stað í mörgum atvinnugreinum, frá framleiðslu til þjónustu, með það að markmiði að auka skilvirkni, minnka kostnað og auka framleiðni. 

Gervigreind: Gervigreind (AI) er hins vegar breiðara hugtak sem lýsir tækni sem getur framkvæmt verkefni sem venjulega krefjast mannlegrar greindar, svo sem að læra af reynslu, leysa vandamál, skilja tungumál og taka ákvarðanir. Þá getur hún bætt sjálfvirkni með því að gera tæknina snjallari og sveigjanlegri. Gervigreind er nú þegar nýtt í ýmsum greinum eins og heilbrigðisþjónustu, fjármálum og samgöngum, auk þess að vera hluti af spjallforritum sem við notum mörg hver daglega.  

Sjálfvirknivæðing og gervigreind hafa möguleika á að breyta mörgum þáttum samfélagsins. Sjálfvirknivæðing getur gert vinnudaginn skilvirkari og fjölbreyttari, þar sem tæknin sér um endurtekin verk sem getur skapað svigrúm fyrir fólk til að vinna að skapandi og flóknum verkefnum. Gervigreind getur hjálpað til við að bæta þjónustu á mörgum sviðum, svo sem heilbrigðisþjónustu með því að greina sjúkdóma fyrr og nákvæmar og við að greina fjármálasvik svo dæmi séu nefnd. Þá getur þessi tækni jafnað tækifæri og dregið úr mismunun ef vilji og þekking er til staðar. 

Forrituð af fordómum 

Á sama tíma og tækifærin eru að því er virðist óendanleg er ýmislegt sem við þurfum að bæta, varast og / eða koma í veg fyrir. Þróun gervigreindar er til að mynda oft í höndum stórra tæknifyrirtækja sem hafa eigin viðmið um árangur. Þetta skapar hættu á bjögun og hlutdrægni þar sem gervigreind byggir á gögnum og viðmiðum sem geta endurspeglað skekkjur og fordóma. Ef við gefum okkur ekki rými til þess að vinna með þessar áskoranir getur tæknin stuðlað að aukinni mismunun og ójöfnuði, eins og rannsóknir hafa sýnt. 

Dæmi um mismunun: 

• Ráðningar: Gervigreind er gjarnan nýtt í ráðningarferlum, en dæmi eru um að slík ráðningarkerfi geti viðhaldið og aukið á mismunun. Amazon þróaði til að mynda ráðningarkerfi sem studdist við gervigreind og reiddi sig á upplýsingar úr fyrri ráðningum fyrirtækisins yfir tíu ára tímabil. Þar sem hallað hafði á konur og jaðarsetta hópa í ráðningum fyrirtækisins á þessum árum, hélt gervigreindarkerfið áfram að mismuna, án þess að það hafi verið ætlun þeirra sem að baki því stóðu. Kerfið var því líklegra til þess að velja karl fram yfir konur og hélt þá sömuleiðis áfram að mismuna jaðarsettum hópum. Kerfið speglaði fyrri ráðningarvenjur með innbyggðri skekkju sem mismunaði.  

• Dómskerfið: Gervigreind er í dag gjarnan notuð til að meta einstaklingsbundna áhættu á ítrekuðum afbrotum sem getur haft áhrif á dóma. Við uppbyggingu á slíkum kerfum er gjarnan notast við upplýsingar um fyrri dóma. Í ljósi þess að dómar hafa í gegnum tíðina ekki verið hlutlausir, þá skilar sú niðurstaða sér inn í gervigreindarkerfin. Kerfin hafa því viðhaldið og / eða aukið á mismunun, sér í lagi gagnvart svörtu fólki eins og rannsóknir í Bandaríkjunum hafa sýnt fram á. 

• Heilbrigðiskerfið: Það er mikilvægt að vanda valið á þeim gögnum sem gervigreind byggir á. Gervigreindarforrit sem átti að úthluta aðgangi að heilbrigðisúrræðum í Bandaríkjunum byggði á fjárhagslegum útgjöldum í stað raunverulegs heilsufars. Það varð til þess að fólk sem þegar var jaðarsett, vegna fjárhagslegra takmarkana, fékk lægri forgang, þrátt fyrir þá staðreynd að þurfa oft jafnvel á meiri þjónustu að halda. Gervigreindin endurspeglaði því bæði ójöfnuð og viðhélt honum. 

Hér eru talin upp örfá dæmi um mismunun við þróun og notkun gervigreindar. Ef ekkert er að gert mun þeim halda áfram að fjölga og sú mismunun sem þegar er við líði magnast upp. Afleiðingarnar geta verið vægar, en líka mjög alvarlegar.  

Forskrift að framförum 

Það eru margar leiðir færar sem geta stutt við inngildandi þróun, miðlun, útfærslu og notkun gervigreindar og sjálfvirkni. Í ljósi þess hve tækninni fleygir fram er mikilvægt að hefjast handa strax og eru hér talin upp ákveðin atriði sem geta verið grunnur að frekari vinnu:  

Fjölbreytt teymi: Það er mikilvægt að tryggja fjölbreytileika innan teyma sem vinna að þróun gervigreindar og sjálfvirknivæðingar. Meðlimir teymanna ættu að hafa ólíkan bakgrunn, kyn, uppruna og reynslu til að tryggja að tæknin taki mið af þörfum og sjónarmiðum breiðs hóps fólks.  

Gagnasöfnun: Gervigreind þarf mikið magn af gögnum til að læra af og taka ákvarðanir út frá og er því mikilvægt að þau séu fjölbreytt og endurspegli raunveruleikann. Ef gögnin eru hlutdræg eða skortir upplýsingar um ákveðna hópa getur tæknin einnig orðið hlutdræg eða takmörkuð, sem aftur leiðir til mismununar. 

Siðferðisleg viðmið og aðgengi: Gervigreind þarf að byggja á siðferðislegum viðmiðum. Þegar ný tækni er tekin í notkun þarf að tryggja að hún sé aðgengileg öllum og að hún sé til þess fallin að bæta líf ólíkra hópa. 

Sjálfvirknivæðing og gervigreind bjóða upp á mikla möguleika á að bæta líf okkar.

Til að tryggja að öll njóti góðs af þeim breytingum sem nú eiga sér stað á leifturhraða þarf að huga að fjölbreytileika, jöfnuði og inngildingu á öllum stigum þróunar, gagnasöfnunar og notkunar