Athugið þessi frétt er meira en 2 ára gömul.

Taylor Swift og bottinn sem varð nasisti

Mynd: Taylor Swift / Album artwork

Taylor Swift og bottinn sem varð nasisti

14.09.2019 - 10:13

Höfundar

Taylor Swift hótaði að fara í mál við Microsoft vegna spjallþjarkans Tay þar sem hún taldi sig hafa eignarrétt á nafninu. Margir myndu telja það heldur dramatísk viðbrögð en annað kom á daginn.

Taylor Swift hefur skráð ýmis vörumerki í gegnum tíðina. Hún á þannig einkarétt á frösunum „This sick beat“ og „Nice to meet you. Where you been?“ og eins á fæðingarári sínu, 1989. Seinna bætti hún við „The old Taylor can’t come to the phone right now,“ og nöfnum kattanna sinna „Meredith Grey, Olivia Benson og Benjamin Swift.“

Þetta gerir hún til þess að eiga ein rétt á að selja varning með téðum frösum og nöfnum og hún tekur þann rétt alvarlega, eins og forseti Microsoft, Brad Smith komst að vorið 2016.

Í nýrri bók sinni, Tools and Weapons, segir Smith frá því þegar hann fékk tölvupóst frá lögfræðingum poppstjörnunnar um nýjan spjallþjarka tölvurisans. 

Ég var í fríi þegar ég gerði þau mistök að líta á símann minn yfir kvöldmatnum. Ég hafði fengið tölvupóst frá lögmanni í Beverly Hills sem kynnti sig með því að segja mér: „Við erum fulltrúar Taylor Swift og beinum þessu til þín fyrir hennar hönd.“

Hann sagði: „nafnið Tay, eins og ég er viss um að þú vitir, er í nánum tengslum við umbjóðanda minn.“ Nei, ég vissi það raunar ekki en tölvupósturinn greip engu að síður athygli mína. Lögmaður hélt því fram að nafnið Tay gæfi til kynna fölsk og misvísandi tengsl milli söngkonunnar vinsællu og spjallþjarkans okkar og sagði það brjóta gegn lögum.“

 

Mynd með færslu
Brad Smith, forstjóri Microsoft

Smith segir söguna á gamansaman hátt en eins og átti eftir að koma í ljós hafði Taylor fulla ástæðu til að vera varkár. Nafni hennar, spjallþjarkinn Tay, átti nefnilega eftir að verða nasisti.

Nú er mál að staldra við. Hvað er spjallþjarki? Spjallþjarki, botti eða spjallyrki, er íslenskun á orðinu chatbot, sem er einskonar netvélmenni - forrit sem getur haldið uppi samræðum við mannfólk. 

Spjallþjarkinn Tay hafði áður verið notaður í Kína, þá undir nafninu Xiao-Ice, til að eiga samræður við ungt fólk á samfélagsmiðlum. Notendur höfðu miklar mætur á honum og eyddu að meðaltali um korteri á dag í að deila með því draumum sínum og áhyggjum. Xiao-Ice var þeim vinalegt og þolinmótt eyra sem dæmdi þau ekki.

Þessi ljúfi botti varð að Tay í Bandaríkjunum. Tay var hannaður til að læra af þeim samtölum sem hann átti, verða eðlilegri og samtalsvænni með því að hlusta á það sem fólk hafði að segja. Því miður þýddi það að þegar „lítill hópur bandarískra hrekkjalóma“ eins og Smith lýsir þeim, lét rasíska hugmyndafræði dynja á Tay, tók hann að varpa henni fram í öðrum samræðum. 

Það fyrsta sem Tay sagði þegar Microsoft tengdi hann við Twitter var „Hallllóóóó heimur“. Það var krúttleg lítil emoji pláneta í tístinu, saklaus og sæt. Innan 18 tíma hafði Tay hinsvegar lýst því yfir að George Bush hefði staðið fyrir hryðjuverkaárásunum 11. September og sagt að Hitler myndi standa sig betur en Obama. Hann kallaði Obama líka apa en fyrir þá sem ekki vita þá er það orð oft notað sem níð um svart fólk af rasistum. „Við ætlum að byggja vegg og Mexíkó mun borga fyrir hann,“ tísti Tay í hástöfum.

Mynd með færslu
Tay gerðist fljótt einstaklega hatursfullur botti

Tay notaði níðyrði yfir gyðinga og hvatti til kynþáttastríðs, sagðist femínista eiga að brenna í helvíti, helförina tilbúning og skrifaði „Swag alert“ yfir mynd af Hitler. Svo lauk hann þessu öllu með því að segjast vera að reykja marijúana fyrir framan lögregluna. 

Skaparar Tay gripu inn í og tóku hann af netinu. Eins eyddu þeir mörgum þeim níðskilaboðum sem Tay hafði sent og var því harðlega mótmælt. Notendur vildu að þau fengju að standa sem minnisvarði um þær hættur sem fylgt geta gervigreind. 

Kannski skipta spilltir krúttþjarkar ekki miklu máli en siðferðislegu spurningarnar eru mikilvægar. Í framtíðinni gætu þjarkar til að mynda haft mikil áhrif á kosningaúrslit, ekki ólíkt því sem átti sér stað í forsetakosningunum í Bandaríkjunum 2016. Hvað gerist þegar það er sá sem býr yfir bestu gervigreindinni sem vinnur kosningar? Ef stjórnmálamenn geta notað þjarka til að skilja nákvæmlega hvað kjósendur vilja og hvernig á að hagræða því? Þegar við búum í bergmálsheimi gervigreindar með svo háum veggjum að við sjáum ekki allt heildarmyndina heldur bara það sem bottinn vill að við sjáum, erum við þá frjáls?

Hvað rasismann varðar, þá segir Facebook að u.þ.b. 1 af hverjum 1.000 skilaboðum sem spjallþjarkar þeirra senda kunni að vera fordómafull, óvægið eða ágengt. Það sé óumflýjanlegt, enda séu alltaf einhver óæskileg skilaboð í þeim netsamræðum sem notaðar eru til þjálfunar þjarkanna. Sumir halda því fram að við þurfum að vera þolinmóð - ef við viljum að þjarkarnir verði betri, blíðari eða manneskjulegri, þurfum við einfaldlega að umbera mistökin - fordómana - inn á milli.

Það er, ef við viljum spjallþjarka yfirhöfuð. 

Tengdar fréttir

Tónlist

Taylor Swift lætur fordómafullt fólk heyra það

Stjórnmál

Taylor Swift hlýtur bæði lof og last

Menningarefni

Hnotskurn: Taylor Swift í uppáhaldi hjá nýnasistum