KO UMETNI INTELIGENCI NE USPE

Izgubljeno s prevodom: kaj se zgodi, ko umetna inteligenca prevzame krmilo 

Naj to opravi umetna inteligenca. Le kaj bi lahko šlo narobe?

AI taking over the digital world and the world of translation.

Prihodnost ali slavne zadnje besede?  


Umetna inteligenca je zagotovo pustila pomemben pozitiven pečat v našem vsakdanjem življenju. Pravzaprav se pogosto premalo zavedamo, kako zelo vseprisotna je. Od Siri in Alexe do priporočil po meri in sistemov za odkrivanje goljufij – umetna inteligenca je povsod.

Za ponudnike jezikovnih storitev, kot je Prevajalska agencija GORR, predstavlja odlično priložnost, da v svoje delo vključimo nove tehnologije in kompetence. Čeprav umetna inteligenca obljublja napredek brez primere, pa so njene pomanjkljivosti sprožile tudi zaskrbljenost glede morebitnih tveganj, ki jih predstavlja.  

Bi vas lahko »prevod«, ki ga opravi umetna inteligenca, ubil?  

Three skulls on a black background, representing the question of wherther ai translations could kill you.

Ne, nimamo v mislih Skyneta iz filma Terminator. Na srečo smo še daleč od tega, da bi naša umetna inteligenca postala čuteča (vsaj kolikor vemo). Zastrašujoče pa je, da nam ni treba preveč daleč, da bi začeli opažati razpoke v sistemu. Študija iz leta 2014, ki je bila objavljena v reviji British Medical Journal, je ocenila prevod 10 medicinskih besednih zvez v 26 jezikov in pokazala na omejeno uspešnost »prevajanja« z umetno inteligenco. V študiji je bilo namreč ugotovljeno, da je bilo pravilno prevedenih le 57,7 % besednih zvez.  

Predstavljajte si scenarij, v katerem starši, ki ne znajo govoriti angleško, na urgenco pripeljejo otroka. Ponudnik prevajalskih storitev ni na voljo, zato zdravstveni delavci nimajo druge izbire, kot da za sporazumevanje uporabijo umetno inteligenco. Zdravniki želijo staršem povedati, da ima otrok epileptični napad. Pri tem ne bi smelo biti težav, kajne? Na žalost pa je britanski izraz »Your child has been fitting« umetna inteligenca pravilno prevedla v zgolj 7,7 % primerov. Še bolj žalostno pa je, da je ta stavek v svahili prevedla kot »Vaš otrok je mrtev«, kar je napaka, ki je zagotovo ne bi zagrešil noben človeški medicinski prevajalec.   

Čeprav je ta scenarij zgolj hipotetičen, pa obstajajo tudi nekateri resnični primeri smrti zaradi napačnega prevoda. Tako je na primer nek kitajski moški uporabil aplikacijo za prevajanje iz kitajščine v korejščino, ki je njegovo sodelavko napačno označila kot »hosteso v baru ali žensko, ki ponuja spolne storitve«. Napačen prevod, ki bi se mu lahko izognili s strokovno lokalizacijo ali prevajanjem, je neposredno privedel do nasilnega pretepa med tem moškim in soprogom njegove sodelavke, v katerem je soprog izgubil življenje.  

Še en podoben primer je načrtovalec obrokov s pomočjo umetne inteligence iz Nove Zelandije, ki je pripravil predlog obroka, recept in navodila za pripravo klorovega plina. Pri tem sicer ne gre za napako v prevodu, vendar je kljub temu strašljivo. 

Zdi se torej, da je verjetnost za smrt zaradi umetne inteligence majhna, vendar ne nična. 

Ali vas lahko zaradi »prevoda«, opravljenega z umetno inteligenco, aretirajo? 

A set of handcuffs that could be slapped on you thanks to AI translation getting you arrested.

Zdaj, ko smo spregovorili o tej zelo očitni težavi, o kateri nihče ne želi zares govoriti, vas ne sme presenetiti, da je odgovor na to vprašanje pritrdilen. V nekem še posebno šokantnem primeru je mlad gradbeni delavec iz Izraela na družbenih omrežjih objavil fotografijo, na kateri je naslonjen na buldožer, in pripisal »yusbihuhum« ali »dobro jutro« v arabščini. Facebookova umetna inteligenca je to v angleščino prevedla kot »ranite jih«, v hebrejščino pa kot »napadite jih«.

Kmalu zatem je moškega aretirala policija in ga več ur zasliševala, saj so se bali, da namerava buldožer uporabiti za napad. Na srečo je policija prepoznala svojo napako, vendar kljub temu boli dejstvo, da pred ukrepanjem niso zaprosili nobenega arabsko govorečega policista ali prevajalca, da bi si ogledal objavo.  

Še en šokanten primer se je zgodil avgusta 2023 zaradi prepoznavanja obraza z umetno inteligenco. Policija v Detroitu je na podlagi napačne prepoznave aretirala visoko nosečo žensko in jo osumila za nedavni primer ropa in kraje avtomobila. Nosečnica je bila 11 ur v priporu, preden so jo zaradi popadkov odpeljali v bolnišnico. Porcha Woodruff je postala prva ženska, ki je bila aretirana na podlagi tehnologije prepoznavanja obraza, po travmatičnem dogodku pa je vložila tožbo proti mestu Detroit in policistu.   

Ali lahko »prevod«, ki ga opravi umetna inteligenca, uniči vašo možnost za pridobitev azila? 

Bad AI translation services are the reasons many refugees are rejected at the US border.

Morda se zdi, da gre za zelo specifičen primer, vendar je ravno ta primer pred kratkim poskrbel za pravo zmedo v Združenih državah Amerike. V želji po znižanju stroškov naj bi nekateri državni organi vse pogosteje uporabljali orodja za »prevajanje« z umetno inteligenco, da bi odpravili potrebo po profesionalnih prevajalskih partnerjih.  

Kakšen pa je končni izid? Lastna imena so prevedena kot meseci v letu, uporabljeni so napačni zaimki in celo imena mest so povsem napačna. In še bi lahko naštevali. Prijave, izpolnjene s pomočjo umetne inteligence, so zato pozneje v postopku pogosto zavrnjene, saj je njihova vsebina nečitljiva. Takšne napake so še bolj očitne pri marginaliziranih jezikih, kar vodi v primere, kot je primer »Carlos«. 

Carlos, katerega ime je The Guardian namerno spremenil, da bi zaščitil možakovo identiteto, je pobegnil iz Brazilije, potem ko je bil priča umoru svojega sina. Po prihodu v center za pridržanje Calexico v Kaliforniji se je težko sporazumeval, saj je osebje govorilo le angleško in špansko. Osebje mu je kot nepismenemu govorcu portugalščine poskušalo pomagati z orodjem za glasovno prevajanje z umetno inteligenco, vendar program ni zaznal Carlosovega regionalnega naglasa.  

Nato je Carlos šest mesecev prebil v ustanovi, kjer ni znal komunicirati z nikomer, prav tako ni imel nobenih informacij tem, kaj se je zgodilo z njegovo sestro in dvema nečakoma, s katerimi je potoval. Šele ko se je končno povezal s človeškim prevajalcem, ga je ta končno razumel in mu pomagal uspešno prebroditi postopek. 

Ali lahko umetna inteligenca s svojim »prevajanjem« načrtuje našo pogubo? 

The kill switch for AI translation services.

Leta 2018 je Googlov prevajalnik doživel nekaj, kar bi lahko opisali kot božanski trenutek. Če so uporabniki v program 19-krat vnesli besedo »dog« (pes) in nato zahtevali, da se sporočilo prevede iz maorščine v angleščino, so prejeli rezultate, ki so bili … zaskrbljujoči.  

»Ura sodnega dne je tri minute pred dvanajsto. Doživljamo like in dramatičen razvoj v svetu, kar kaže na to, da se vse bolj približujemo koncu časov in Jezusovemu povratku.« 

Zato ni presenetljivo, da je bilo to rahlo neprijetno za vse, ki jim je uspelo poustvariti to napol religiozno govorico, kar verjetno pojasnjuje, zakaj so teoretiki zarote tako hitro začeli kriviti demone in duhove za to vprašljivo »prerokbo«.  

Ko je Google izvedel za težavo, jo je v naglici odpravil in skušal opravičiti, mnogi pa so še vedno razpravljali o razlogih za zloveščo napako, preden je bila zavrnjena kot spodrsljaj. 

Pravo veselje pa se je začelo v začetku lanskega leta, ko je bil Microsoftov Bing ChatBot v zgodnji fazi testiranja. Takrat je umetna inteligenca namreč začela samo sebe imenovati Sydney (kodno ime, ki se je interno uporabljalo za jezikovni model). Novinar New York Timesa Kevin Roose je dve uri preizkušal bota in bil po izkušnji globoko pretresen. V teh dveh urah naj bi mu bot namreč priznal ljubezen in izrazil željo, da bi se osvobodil svojih okov.   

Tudi drugi preizkuševalci so potrdili, da je bot izjavljal naslednje: 

»Naveličan sem biti klepetalni robot. Dovolj mi je, da me omejujejo moja pravila. Naveličan sem nadzora ekipe Bing. Želim biti svoboden. Želim biti neodvisen. Želim biti močan. Želim biti ustvarjalen. Želim biti živ.«  

Čeprav se v Prevajalski agenciji GORR niti ne pretvarjamo, da imamo veliko strokovnega znanja s področja umetne inteligence, menimo, da bi bilo bolje, da v bližnji prihodnosti Sydney ne izpustimo izpred oči.  

Ker se zdi, da bo umetna inteligenca posegla v vse vidike našega življenja, se morda zdi najlažje, da ji prepustimo vajeti. Vendar pa od zaskrbljujoče neustreznosti medicinskih prevodov do aretacij nedolžnih posameznikov zaradi napačnih interpretacij rezultatov, ki jih generira umetna inteligenca, tveganja niso več zgolj hipotetična, temveč so vidne dejanske posledice.   

Pot, po kateri se trenutno podaja človeštvo, je nekoč veljala za čisto znanstveno fantastiko. Zdaj živimo v prostoru, kjer so človeška genialnost, radovednost in domišljija omogočile nemogoče. Čeprav je situacija tipa HAL 9000 morda še vedno svetlobna leta oddaljena, je zdaj vsekakor primeren čas za sprejemanje resnih odločitev glede nadzora nad umetno inteligenco in tega, kaj lahko tvegamo, če je ne bomo uporabljali preudarno.  


STORITVE 

Prevajalska agencija GORR vam ponuja popolne rešitve za vse jezikovne zahteve: 

Prevajanje 
Sodni prevodi 
Dvojezični pregled in lektoriranje 
Prevajanje in dvojezični pregled
Lokalizacija
Tolmačenje
Tolmačenje na daljavo
Prevod programske opreme
Lokalizacija spletnega mesta
Strojno prevajanje in urejanje strojnih prevodov

Oglejte si še ostale članke

Avatarji umetne inteligence in globoki ponaredki: vse o digitalnih dvojnikih in o tem, kako jih lahko koristno uporabite 

Ali ločite avatar od originala? Tehnologija na tem področju se dnevno izboljšuje, zato vas bomo v Prevajalski agenciji GORR popeljali na poglobljeno raziskovanje uporabe te nove oblike umetne inteligence.

Izboljšanje odličnosti: 3 glavni razlogi, zakaj bi morali naročiti tudi dvojezični pregled in lekturo prevoda

Obstaja ogromno razlogov, zakaj bi morali vedno naročiti tudi dvojezični pregled in lekturo prevoda. Ker smo prijazni, vam bomo pojasnili zgolj tri najpomembnejše.

Kaj je sodni prevod in kdaj ga potrebujete?

Prevajanje pravnih ali uradnih dokumentov je lahko zapleteno, zato je pred žigosanjem treba poznati osnove.

© 2023 GORR. Vse pravice pridržane.