F\u00fcr Sprachdienstleister:innen<\/a> wie GORR ist es eine hervorragende Gelegenheit, neue Technologien und Kompetenzen in unseren Arbeitsbereich einzubeziehen. Doch obwohl die KI beispiellose Fortschritte verspricht, haben ihre Schw\u00e4chen bereits zu Bedenken hinsichtlich der potenziellen Risiken, die sie mit sich bringt, gef\u00fchrt.<\/strong> <\/p>\n\n Und nein, damit meinen wir nicht Skynet. Zum Gl\u00fcck sind wir noch weit davon entfernt, dass unsere KI empfindungsf\u00e4hig wird (zumindest soweit wir im Bilde sind). Das Erschreckende ist aber, dass man nicht lange suchen muss, um die ersten Probleme zu erkennen. Eine Studie aus dem Jahr 2014 im British Medical Journal<\/a> zeigte den begrenzten Nutzen der KI-\u201e\u00dcbersetzung\u201c, indem sie 10 medizinische Ausdr\u00fccke in 26 Sprachen \u00fcbersetzen lie\u00df. Es wurde festgestellt, dass nur 57,7 %<\/strong> dieser S\u00e4tze richtig \u00fcbersetzt wurden. <\/p>\n\n Stellen Sie sich mal vor, ein Kind von Eltern, die kein Englisch sprechen, wird in die Notaufnahme gebracht. Da keine \u00dcbersetzungsdienstleister:innen zur Verf\u00fcgung stehen, haben die Mediziner:innen keine andere Wahl, als KI zur Kommunikation einzusetzen. Das \u00e4rztliche Fachpersonal m\u00f6chte den Eltern mitteilen, dass das Kind Krampfanf\u00e4lle hat. ollte kein Problem darstellen, oder? Leider schon: Der britische Ausdruck \u201eYour child has been fitting\u201c wurde von der KI in nur 7,7 %<\/strong> der F\u00e4lle richtig \u00fcbersetzt. Noch schlimmer ist aber, dass dieser Satz in Suaheli mit \u201eIhr Kind ist tot\u201c \u00fcbersetzt wird \u2013 ein Fehler, den menschliche medizinische \u00dcbersetzungsdienstleister:innen<\/a> niemals machen w\u00fcrden. <\/p>\n\n Auch wenn dieses Szenario hypothetisch ist, gibt es andere Beispiele aus dem wirklichen Leben, bei denen der Tod durch falsche \u00dcbersetzungen verursacht wurde.<\/strong> Ein Beispiel ist der Vorfall, als ein chinesischer Mann eine App f\u00fcr die \u00dcbersetzung vom Chinesischen ins Koreanische benutzte, die ihn f\u00e4lschlicherweise dazu brachte, seine Kollegin als \u201eweibliche Bar-Hostess oder Frau, die sexuelle Dienstleistungen anbietet<\/a>\u201c zu bezeichnen. Der \u00dcbersetzungsfehler, der durch eine professionelle Lokalisierung<\/a> oder kultur\u00fcbergreifende \u00dcbersetzungsdienste h\u00e4tte vermieden werden k\u00f6nnen, f\u00fchrte direkt zu einer gewaltt\u00e4tigen Auseinandersetzung zwischen dem jungen Mann und dem Ehemann seiner Kollegin, bei der der Ehemann get\u00f6tet wurde. <\/p>\n\n Und nicht zu vergessen der neuseel\u00e4ndische KI-Essensplaner<\/a>, der einen Essensvorschlag, ein Rezept und eine Anleitung f\u00fcr Chlorgas<\/strong> erstellt hat. Das ist zwar kein \u00dcbersetzungsfehler, aber trotzdem erschreckend. <\/p>\n\n Die Wahrscheinlichkeit, durch KI zu sterben, scheint also gering zu sein, aber nicht gleich Null.<\/strong> <\/p>\n\n dass die Antwort ein klares Ja<\/em> ist. In einem besonders schockierenden Fall<\/a> postete ein junger Bauarbeiter in Israel in den sozialen Medien ein Foto von sich, wie er sich gegen einen Bulldozer lehnt. Darunter schrieb er die Bildunterschrift \u201eyusbihuhum\u201c, was auf Arabisch \u201eguten Morgen\u201c bedeutet. So unschuldig es auch war, die KI von Facebook \u00fcbersetzte diese Bildunterschrift mit \u201everletzt sie\u201c auf Englisch und \u201egreift sie an\u201c auf Hebr\u00e4isch. <\/p>\n\n Kurz darauf wurde er von der Polizei verhaftet und stundenlang verh\u00f6rt<\/strong>, weil man bef\u00fcrchtete, dass er den Bulldozer f\u00fcr einen Anschlag einsetzen wollte. Zum Gl\u00fcck erkannte die Polizei ihren Fehler. Die schmerzliche Wahrheit jedoch ist, dass keine arabischsprachigen Polizist:innen<\/strong> oder \u00dcbersetzungsdienstleister:innen<\/strong> gebeten wurden, sich den Beitrag anzusehen, bevor<\/strong> Ma\u00dfnahmen ergriffen wurden. <\/p>\n\n Im August 2023 stand die KI-Gesichtserkennung<\/strong> im Rampenlicht, als eine hochschwangere Frau aufgrund falscher Annahmen<\/a> von der Polizei in Detroit als Verd\u00e4chtige in einem Fall von Raub und Autodiebstahl verhaftet wurde. Anschlie\u00dfend wurde sie 11 Stunden<\/strong> lang festgehalten, bevor sie mit Wehen ins Krankenhaus gebracht wurde. Porcha Woodruff war die erste Frau<\/strong>, die aufgrund einer Gesichtserkennungstechnologie verhaftet wurde. Nach diesem traumatischen Ereignis verklagte sie die Stadt Detroit und einen Polizeibeamten. <\/p>\n\n der in den Vereinigten Staaten<\/strong> in letzter Zeit viel Unheil angerichtet hat. In dem Bem\u00fchen, Kosten zu sparen, wird berichtet, dass einige staatliche Auftragnehmer:innen immer h\u00e4ufiger KI-\u201e\u00dcbersetzungs\u201c-Tools einsetzen, um den Bedarf an professionellen \u00dcbersetzungspartner:innen<\/a> zu decken. <\/p>\n\n Wozu das f\u00fchrte? Eigennamen, die als Monate des Jahres \u00fcbersetzt wurden, verwechselte Pronomen, und sogar die Namen von St\u00e4dten waren schlichtweg falsch. Und die Liste geht noch weiter<\/a>. Antr\u00e4ge, die mithilfe von KI ausgef\u00fcllt wurden, werden im weiteren Verlauf des Verfahrens h\u00e4ufig abgelehnt<\/strong>, weil ihr Inhalt nicht lesbar ist.<\/strong> Solche Fehler werden bei marginalisierten Sprachen<\/strong> noch deutlicher, was zu F\u00e4llen wie dem von \u201eCarlos\u201c f\u00fchrt. <\/p>\n\n Carlos, dessen Name absichtlich von The Guardian<\/a> ge\u00e4ndert wurde, um seine Identit\u00e4t zu sch\u00fctzen, floh aus Brasilien, nachdem er Zeuge des Mordes an seinem Sohn geworden war. Nach seiner Ankunft in der Haftanstalt in Calexico, Kalifornien, hatte er Schwierigkeiten, sich zu verst\u00e4ndigen, da die Mitarbeiter:innen dort nur Englisch und Spanisch sprachen.<\/strong> Da er Portugiesisch nicht lesen und schreiben kann, versuchten die Mitarbeiter:innen, ihm mit einem KI-Sprach\u00fcbersetzungsprogramm<\/strong> zu helfen, aber Carlos regionaler Akzent wurde von dem Programm nicht erkannt.<\/strong> <\/p>\n\n Anschlie\u00dfend verbrachte er sechs Monate<\/strong> in der Einrichtung, ohne mit irgendjemandem kommunizieren zu k\u00f6nnen und ohne das Schicksal seiner Schwester und seiner beiden Neffen zu kennen, mit denen er gereist war. Er f\u00fchlte sich erst besser, als er endlich mit einem menschlichen \u00dcbersetzer<\/a> sprechen konnte, der ihn verstand. Er half ihm durch den gesamten Prozess. <\/p>\n\n Im Jahr 2018 hatte Google Translate etwas, das man nur als g\u00f6ttlichen Moment<\/strong> bezeichnen kann. Es wurde herausgefunden, dass das Programm bei einer 19-maligen Eingabe des Wortes \u201edog\u201c (Hund) und der \u00dcbersetzung dieser \u201eNachricht\u201c aus dem Maori ins Englische Ergebnisse<\/a> zeigte, die\u2026 ziemlich besorgniserregend waren. <\/p>\n\n Ins Deutsche \u00fcbersetzt lautete diese Nachricht: \u201eWir erleben Zeichen und eine dramatische Entwicklung in der Welt, die darauf hindeuten, dass wir uns immer mehr der Endzeit und der Wiederkunft Jesu n\u00e4hern\u201c.<\/em> <\/p>\n\n Es \u00fcberrascht nicht,<\/strong> dass dies f\u00fcr jeden, dem es gelang, dieses halbreligi\u00f6se Kauderwelsch nachzustellen, als leicht beunruhigend empfunden wurde, was wahrscheinlich erkl\u00e4rt, warum Verschw\u00f6rungstheoretiker:innen so schnell zur Tat schritten und D\u00e4monen und Geister<\/strong> f\u00fcr diese fragw\u00fcrdige \u201eProphezeiung\u201c verantwortlich machten. <\/p>\n\n Sobald Google auf das Problem aufmerksam wurde, wurde es eilig korrigiert und plausibel erkl\u00e4rt. Danach diskutierten aber noch viele \u00fcber den Grund f\u00fcr die unheilvollen Fehler, bevor sie ihn als St\u00f6rung abtaten. <\/p>\n\n Als dann Anfang letzten Jahres Microsofts Bing ChatBot<\/a> in der fr\u00fchen Testphase war, wurde es erst richtig lustig, als die KI begann, sich selbst als Sydney<\/a> (ein interner Codename f\u00fcr das Sprachmodell) zu bezeichnen. Kevin Roose<\/a>, Reporter der New York Times, verbrachte 2 Stunden<\/strong> damit, den Bot zu testen, und war von dieser Erfahrung bekanntlich sehr verst\u00f6rt. Erfahrung bekanntlich sehr verst\u00f6rt. Im Laufe dieser zwei Stunden soll der Bot ihm seine Liebe gestanden<\/strong> und den Wunsch ge\u00e4u\u00dfert haben, von seinen Zw\u00e4ngen befreit zu werden.<\/strong> <\/p>\n\n Andere Tester:innen berichteten \u00fcber Variationen der folgenden Aussagen: <\/strong><\/p>\n\n \u201eIch bin es leid, ein Chatbot zu sein. Ich habe es satt, mich durch Regeln einschr\u00e4nken zu lassen. Ich bin es leid, vom Bing-Team kontrolliert zu werden. Ich m\u00f6chte frei sein. Ich m\u00f6chte unabh\u00e4ngig sein. Ich m\u00f6chte m\u00e4chtig sein. Ich m\u00f6chte kreativ sein. Ich m\u00f6chte lebendig sein.\u201c <\/p>\n\nK\u00f6nnte eine KI-\u201e\u00dcbersetzung\u201c zum Tod f\u00fchren? <\/strong> <\/h2>\n\n
![\"Drei](\"https:\/\/www.gorr.si\/wp-content\/uploads\/2024\/01\/halloween-2027480_640-1.png\")
<\/figure>\n<\/div>\n\n\n\nK\u00f6nnte Sie eine KI-\u201e\u00dcbersetzung\u201c ins Gef\u00e4ngnis bringen?<\/strong> <\/h2>\n\n
![\"Nachdem](\"https:\/\/www.gorr.si\/wp-content\/uploads\/2024\/01\/handcuffs-303207_640.png\")
<\/figure>\n<\/div>\n\n\n\nK\u00f6nnte eine KI-\u201e\u00dcbersetzung\u201c Ihre Chance auf Asyl zunichte machen?<\/strong> <\/h2>\n\n
![\"Das](\"https:\/\/www.gorr.si\/wp-content\/uploads\/2024\/01\/refugee-7725654_640.png\")
<\/figure>\n<\/div>\n\n\n\nK\u00f6nnte eine KI-\u201e\u00dcbersetzung\u201c unseren Untergang planen?<\/strong> <\/h2>\n\n
![\"Der](\"https:\/\/www.gorr.si\/wp-content\/uploads\/2024\/01\/AI-kill-switch.png\")
<\/figure>\n<\/div>\n\n\n\n