KO UMETNI INTELIGENCI NE USPE

Ali je umetna inteligenca zaradi nas rasistična? Obravnava spola in rasna pristranskost pri umetni inteligenci 

Ker uporaba umetne inteligence postaja vedno bolj ustaljena, začenja odražati prednosti in slabosti svojih ustvarjalcev, s čimer dokazuje, da je umetna inteligenca takšna, kot smo jo ustvarili.

Two office workers, the Asian woman looks troubled by her computer, possibly thanks to racism perpetuated by AI.

Čeprav se sliši neverjetno, je na voljo zastrašujoča količina dokazov, da je (človeška) diskriminacija (že) našla pot do umetne inteligence. Gre za težavo, ki je pri prevajalskih storitvah že stara znanka. 

Med raziskovanjem zmožnosti umetne inteligence postaja vedno bolj jasno, da umetna inteligenca ni imuna na pristranskost, predvsem (in kar je najbolj zaskrbljujoče) glede rase in spola. Ta trdovratna težava seveda ni omejena zgolj na profesionalne prevode, temveč sega tudi na področja umetnosti, oblikovanja in celo tehnologije ter predstavlja ogromno množico neprijetnih izzivov, s katerimi se je treba spoprijeti.  


Rojstvo pristranskosti umetne inteligence 

Jedro pristranskosti umetne inteligence za prevajanje in umetne inteligence na splošno so podatki, na katerih se ti modeli učijo. Algoritmi za učenje strojev se učijo iz ogromnih zbirk podatkov. Če te zbirke podatkov vsebujejo predsodke ali vsebine, ki so brezčutne do drugih kultur (in jasno je, da takšne podatke vsebujejo), lahko umetna inteligenca nenamerno prevzame in ohrani tovrstne predsodke.

Kar je še slabše, predsodki lahko izvirajo celo iz premajhne zastopanosti nekaterih jezikov, dialektov ali kultur v izvirnih podatkih za urjenje umetne inteligence, zaradi česar so rezultati popačeni in posledice prisotne v resničnem življenju

Kje se je zalomilo? 

Na to vprašanje ni lahko odgovoriti (v vseh možnih smislih). Kot omenjeno zgoraj, razvoj umetne inteligence za prevajanje vključuje učenje modelov na velikih korpusih besedil z interneta, iz knjig in drugih virov. Če te zbirke podatkov nenamerno odražajo obstoječe družbene predsodke, umetna inteligenca to vsrka in nato nekritično ponavlja naše stereotipe in diskriminatorne vzorce v neskončnem številu oblik.  

Po domače, umetna inteligenca se je naučila spolnih in rasnih predsodkov od nas.  

Dodatno pomanjkanje raznolikosti v skupinah, ki razvijajo modele umetne inteligence, prav tako prispeva k pomanjkanju nadzora nad morebitno diskriminacijo. Med primere spadajo uporaba neprimernih izrazov, generatorji slik, ki ne znajo realistično prikazati temnopoltih žensk (ki se smejejo ali jočejo), katastrofalno prepoznavanje obrazov in napake v tehnologiji prepoznavanja govora pri prepoznavanju ukazov, ki jih dajejo temnopolti govorci ali tisti, ki govorijo angleščino kot drugi jezik.  


Kaj lahko storimo? 

Ker je brez dvoma še veliko prostora za izboljšave, je tukaj nekaj predlogov, s katerimi lahko zagotovimo večjo raznolikost sposobnosti umetne inteligence: 

Redno sodelovanje prevajalcev in umetne inteligence 

Mogoče bo zvenelo koristoljubno, ampak prevajalci lahko z razumevanjem točnih odtenkov kulturnega konteksta, idiomov in jezikovnih fines odigrajo ključno vlogo pri preprečevanju ali odpravljanju jezikovnih težav, preden do njih sploh pride. V nasprotju z umetno inteligenco lahko ljudje razumemo kontekst tudi globlje od zgolj izvornega »besedila« in uspešno razberemo podtone in nianse, ki jih naprava ne more zaznati.  

Zanašanje na prevajalce (ljudi) je še bolj ključno pri občutljivih tematikah in področjih, kot so pravo, medicina, IT ali tehnična področja, pri katerih sta natančnost in občutek ter primeren odnos do kulture poglavitnega pomena. Sodelovanje prevajalcev z umetno inteligenco bi bilo najverjetneje v prid obema. Prevajalci bi lahko uporabljali umetno inteligenco za učinkovitejše delo, pri tem pa bi pomagali dodelati in izboljšati algoritme strojnega prevajanja za uporabo v prihodnje. 

Zagotavljanje raznolikosti vhodnih podatkov za učenje 

Na tej točki se to verjetno razume samo po sebi. Zagotavljanje raznolikih in reprezentativnih naborov podatkov je absolutno ključnega pomena za zmanjševanje pristranskosti v umetni inteligenci. Ta obsežen podvig bi bil zagotovo vreden truda.

Če bi želeli uspeti, bi morali razvijalci aktivno iskati in vključevati vsebine iz premalo zastopanih skupin, jezikov in kultur ter tako spodbujati bolj vključujočo in natančno umetno inteligenco. Takšna tehnologija bi morala biti ne zgolj izdelana v sodelovanju s temi manj zastopanimi skupinami, temveč tudi temeljito preizkušena z njimi v mislih, da bi zagotovili ustrezno delovanje.   

Razvoj etične umetne inteligence

Kot dopolnilo k zagotavljanju raznolikosti vhodnih podatkov bi izvajanje etičnih smernic za razvoj umetne inteligence, vključno s spodbujanjem transparentnosti in odgovornosti, močno pripomoglo k prepoznavanju in odpravljanju pristranskosti.

Tudi na tem področju bi bilo človeško posredovanje nujno za izvajanje rednih revizij in ocen sistemov umetne inteligence. Takšno ocenjevanje bi nenehnim izboljšavam in popravkom dodalo stalno človeško noto, saj naravni tok časa neizogibno vodi k spremembam in nadaljnji rasti.

Vzpostavitev sistema povratnih informacij uporabnikov 

Kot ve večina podjetij, je ponotranjenje povratnih informacij uporabnikov v procese, pristope in metodologijo močan steber napredka. Vzpostavitev mehanizmov, s katerimi lahko uporabniki posredujejo povratne informacije o delovanju, prevajanju in omejitvah, bi pomagala pri prepoznavanju in odpravljanju pristranskosti, ne da bi razvijalci za to porabili preveč energije. Nenehne izboljšave s prispevki uporabnikov so ključne za izpopolnjevanje umetne inteligence skozi čas in ustvarjanje sistemov, ki so tako vključujoči kot obsežni.  

Čeprav so mnenja o tej temi različna, je kruta resnica ta, da moramo, preden se soočimo s katerim koli od teh izzivov in ga premagamo, najprej priznati in razumeti izvor diskriminacije s strani umetne inteligence. Ko bomo to dosegli, bo prepoznavanje in odpravljanje napak veliko lažje.  

Umetna inteligenca je lahko močno orodje, ki bo verjetno igralo veliko vlogo v prihodnosti našega sveta, vendar ga ne smemo prepustiti samemu sebi. V primeru prevajalskih storitev sta stalen človeški nadzor in usmerjanje zagotovo edini način za zagotovitev natančnih, kulturno občutljivih in kontekstualno niansiranih prevodov ter prihodnosti, v kateri bo umetna inteligenca bolje odražala bogato raznolikost in kompleksnost človeških izkušenj. 


STORITVE 

Prevajalska agencija GORR vam ponuja popolne rešitve za vse jezikovne zahteve: 

Prevajanje 
Sodni prevodi 
Dvojezični pregled in lektoriranje 
Prevajanje in dvojezični pregled
Lokalizacija
Tolmačenje
Tolmačenje na daljavo
Prevod programske opreme
Lokalizacija spletnega mesta
Strojno prevajanje in urejanje strojnih prevodov

Oglejte si še ostale članke

Avatarji umetne inteligence in globoki ponaredki: vse o digitalnih dvojnikih in o tem, kako jih lahko koristno uporabite 

Ali ločite avatar od originala? Tehnologija na tem področju se dnevno izboljšuje, zato vas bomo v Prevajalski agenciji GORR popeljali na poglobljeno raziskovanje uporabe te nove oblike umetne inteligence.

Izboljšanje odličnosti: 3 glavni razlogi, zakaj bi morali naročiti tudi dvojezični pregled in lekturo prevoda

Obstaja ogromno razlogov, zakaj bi morali vedno naročiti tudi dvojezični pregled in lekturo prevoda. Ker smo prijazni, vam bomo pojasnili zgolj tri najpomembnejše.

Kaj je sodni prevod in kdaj ga potrebujete?

Prevajanje pravnih ali uradnih dokumentov je lahko zapleteno, zato je pred žigosanjem treba poznati osnove.

© 2023 GORR. Vse pravice pridržane.