Gervigreind ætti ekki að falsa mennskuna

Mynd: wikipedia / wikipedia

Gervigreind ætti ekki að falsa mennskuna

20.11.2021 - 11:00

Höfundar

„Við ættum ekki að búa til vélar sem geta valdið mannkyninu skaða, þjarka sem við sleppum lausum út í heiminn sem þeir skilja á svo allt annan hátt en við. Ábyrgðin er okkar, ekki þeirra,“ segir Snorri Rafn Hallsson sem fjallar um ný lögmál þjarkatækninnar.

Snorri Rafn Hallsson skrifar:

Í fimmtugustu og sjöttu útgáfu Handbókar um Þjarkatækni frá árinu 2058 eftir Krist, er að finna hin þrjú lögmál þjarkatækninnar. Þau eru nokkuð einföld. Það fyrsta kveður á um að þjarki eða vélmenni megi hvorki valda manneskju skaða, né með aðgerðaleysi sínu leyfa manneskju að verða fyrir skaða. Annað lögmálið kveður á um að þjarki skuli ávallt hlýða skipunum frá manneskju, nema þegar slíkar skipanir stangast á við fyrsta lögmálið. Þriðja, og síðasta lögmálið kveður svo á um að þjarki skuli ávallt vernda eigin tilvist, svo lengi sem það stangast ekki á við fyrri lögmálin tvö.

Nú er árið 2058 eftir Krist ekki enn gengið í garð, við þurfum að bíða aðeins lengur, og fimmtugasta og sjötta útgáfa Handbókar um Þjarkatækni hefur ekki enn litið dagsins ljós. Eftir því sem ég best fæ séð er önnur útgáfa þeirrar bókar, frá árinu 2016 sú nýjasta og ég veit ekki til þess að þar komi þessi lögmál fram. Fyrsta heimildin, ef heimild skyldi kalla, um lögmálin er smásaga Isaac Asimov, The Runaround, frá árinu 1942. 

Í sögunni eru geimferðalangarnir Powell og Donovan staddir á Merkúr ásamt háþróaða vélmenninu Speedy. Ætlun þeirra er að endurvekja yfirgefna námu, en til þess að lagfæra sólarsellurnar sem gera þeim kleift að aðhafast á Merkúr þurfa þeir að ná sér í eitt kíló af Seleni, efni sem í sögunni má finna í miklu magni á yfirborði Merkúrs.

Næsta Selenlaugin er 17 mílur í burtu og sendir Donovan Speedy í þetta bráðnauðsynlega verkefni því hann getur betur staðið af sér hitann á Merkúr en ó svo dauðlegu mennirnir sem ekki eru sérhannaðir til þess. Eftir fimm klukkutíma bólar hins vegar ekkert á Speedy og þeir kumpánar verða órólegir. Hvað fór eiginlega úrskeiðis? Þeim tekst að endurvekja gömul vélmenni sem skilin höfðu verið eftir og fara að Selenlauginni í gegnum námugöng. Þegar þeir loks hafa uppi á Speedy virðist vélmennið drukkið, ráfar um í óráði og vitnar í Gilbert og Sullivan. 

Powell áttar sig fljótlega á því hvað veldur. Selenlaugin er hættuleg Speedy, sem var svo dýrt í framleiðslu að það hefur verið skrúfað upp í þriðja lögmálinu, Speedy hættir sér ekki of nærri lauginni og er fastur í vítahring þar sem það reynir samtímis að hlýða skipun Donovan og vernda eigin tilvist. Þegar það fjarlægist laugina minnkar hættan og Speedy reynir að hlýða skipuninni og sækja Selen, en þegar Speedy nálgast Selenið tekur forritaða sjálfsbjargarviðleitnin við og Speedy hörfar. Speedy er svo ringlað af þessu öllu saman að það er ófært um að taka við nýjum skipunum og allt stefnir í að þess bíði sömu örlög og asna Buridans, úr hugsunartilrauninni, sem getur ekki ákveðið af hvorum heybagganum hann skuli éta og deyr því úr hungri. 

Sama hvað Donovan og Powell reyna þá ná þeir ekki að raska þessu óheppilega jafnvægi. Að lokum neyðist Powell því til að stofna sjálfum sér í hættu í harðneskjulegum hitanum á Merkúr til þess að virkja fyrsta lögmálið í Speedy, lögmálið um að þjarki megi ekki með aðgerðaleysi sínu valda manneskju skaða. Þetta lögmál trompar hin, Speedy losnar úr hringavitleysunni og bjargar Powell, þeir fá Selenið og allt fer vel að lokum. 

Þjarkasögur Asimovs hverfast gjarnan um þennan kjarna sem lögmálin birta, að vélmennin og þjarkarnir, tæknin okkar og tólin eigi að vera fyrir okkur, aðstoða okkur við að ná markmiðum okkar en ekki valda óafturkræfum skaða. Asimov var bjartsýnn, en strax þarna löngu áður en tæknin varð til áttaði hann sig á gervigreind og hönnuðir hennar þyrftu smá hjálp til að halda sér á beinu brautinni, að framfarirnar væru ekki góðar í sjálfum sér heldur þyrfti að leggja línurnar. En sögurnar, eins og The Runaround, benda líka til þess að þetta sé ekki alveg jafn einfalt og að setja bara fram þrjú lögmál sem hljóma skynsamlega og kalla það gott. 

Það togast alltaf allt á einhvern veginn. Tökum drónaárásir sem dæmi. Á sjálfvirkur dróni að sprengja hryðjuverkamenn í tætlur? Fyrri hluti fyrsta lögmálsins virðist banna það, að valda engum manni skaða, en sá síðari, að leyfa engum að verða fyrir skaða með aðgerðaleysi virðist boða slíka árás. Með nýjum möguleikum verða til ný markmið, þegar veröldin breytist fara gildin okkar á flot og um fram allt þá sjáum við ekki framtíðina fyrir. Og nú þegar tæknin að baki þjörkunum er ekki bara að verða að veruleika í formi gervigreindar og hátækni-vélbúnaðar, heldur farin að móta veruleika okkar, er ekki úr vegi að velta þessum lögmálum fyrir okkur og bæta jafnvel nokkrum við. 

Í New Dark Age eftir James Bridle, sem ég hef áður fjallað um á þessum vettvangi og ætti að vera skyldulesning fyrir alla þá sem vilja skilja hvers vegna við skiljum sífellt minna, leggur Bridle til fjórða lögmál þjarkatækninnar: þjarkar og aðrar greindar vélar verða að geta útskýrt sig þannig að við mannfólkið getum skilið. Bridle segir að slíkt lögmál verði að hafa forgang yfir öll önnur lögmál því það er ekki skipun heldur siðferði sem gengur út það að við getum skilið og þekkt það sem við búum til. Því miður er engin leið til að framfylgja þessu lögmáli viðurkennir Bridle sjálfur. Það er um seinan. Djúptauganetin og gervigreindin sem við höfum búið til eru svartir kassar og útreikningarnir og ferlin sem eiga sér stað inni í þeim eru okkur hulin og í eðli sínu óskiljanleg. 

Hugmynd Bridle stendur þó fyrir ákveðinn snúning sem skiptir höfuðmáli í þessu öllu saman. Lögmálin þrjú sem Asimov setti fram áttu að vera ákveðinn öryggisventill sem verndar okkur fyrir eigin sköpunarverki með því að forrita lögmálin inn í þjarkana, en eins og sögurnar hans sýna þá gengur það ekki alltaf upp, köld rökvísi vélanna nær ekki utan um allan veruleikann. Snúningurinn felst í því að beina lögmálinu ekki að vélunum, sköpunarverkinu heldur skaparanum sjálfum, okkur. Við ættum ekki að búa til vélar sem geta valdið mannkyninu skaða, þjarka sem við sleppum lausum út í heiminn sem þeir skilja á svo allt annan hátt en við að það er engin leið að brúa bilið þarna á milli. Ábyrgðin er okkar, ekki þeirra.

Árið 2058 eftir Krist er ekki enn gengið í garð og ekkert bólar á fimmtugustu og sjöttu útgáfu Handbókar um Þjarkatækni sem leggur línurnar fyrir gervigreind, vélmenni og þjarka framtíðarinnar. En í fyrra kom út bókin New Laws of Robotics eftir Frank Pasquale, lögfræðiprófessor við Brooklyn Law School þar sem Pasquale leggur línurnar fyrir gervigreind, vélmenni og þjarka nútímans. Lögmálin eru fjögur og þeim er beint að sköpurunum en ekki sköpunarverkinu. Hugsunin er sú að við þurfum að vanda til verka ef við viljum ekki að tæknin fari úr böndunum, það er of mikið í húfi til að fara hratt og skemma hluti. Tækniframfarir eiga að vera mannkyninu til góða og umfram allt megum við ekki glata mennskunni í marseringu tækninnar.

Fyrsta lögmálið hljóðar svo: Þjarkar og gervigreind ættu að styðja við fagfólk frekar en að koma í stað þess. Sífellt fleiri störf hafa verið og munu verða sjálfvirknivædd. Höndum og líkömum hefur verið skipt út fyrir vélar og gíra, og í iðnaði og framleiðslu þar sem störfin eru einhæf, vélræn og oft og tíðum hættuleg, er það svo sem ekkert stórmál. Það er hins vegar allt annað mál þegar hugsun og dómgreind á að skipta út fyrir gervigreind og djúptauganet. Við ættum ekki að vélvæða kennslu, heilbrigðisþjónustu og önnur svið þar sem ein lausn hentar ekki öllum algjörlega. Fagfólk á hverju sviði býr yfir dreifðri þekkingu sem myndi glatast og þegar kemur að því að meðhöndla fólk, er engin vél betri en fólk.
Þar færi því betur á að skapa verkfæri sem aðstoða fagfólk í að sinna störfum sinnum, tækni sem kemur í veg fyrir algeng mistök eða eykur möguleika og færni.

Annað lögmálið er þessu tengt: Þjarkar og gervigreind ættu ekki að falsa mennskuna. Eftir því sem vélar verða betri í að líkja eftir hegðun og tilfinningum okkar mannana er hætt við að mörkin þarna á milli fari á flot. Hvað fæst raunverulega með því að manngera tæknina, og hvað er í húfi? Viljum við búa í veröld þar sem maður veit ekki hvort maður er að tala við manneskju eða vél? 

Þriðja lögmálið gengur út á að þjarka og gervigreind skuli ekki nota til að magna upp vopnakapphlaup þar sem ávinningur eins er tap annars. Slík ofursamkeppni er líkleg til að valda því að við missum ekki bara stjórnina heldur sjónar á því sem skiptir máli. Óréttlætanlegustu athafnir mannkynsins hafa verið réttlættar í nafni gróða, valda og yfirráða og það gefur auga leið hvernig slík markmið ryðja burt öðrum gildum sem ættu að vera í hávegum höfð.

Fjórða og síðasta lögmál Pasquals um þjarkatækni snýr að því að þjarkar og gervigreind skuli ávallt gefa til kynna hver skapari þeirra er, hver stýrir þeim og hver á þau. Það er alltaf hætta á að tæknin fari úr böndunum, og þegar hún gerir það getur verið erfitt að finna ábyrgðinni stað. Það skiptir því öllu máli að þeir sem þróa tæknina og þeir sem beita henni séu ábyrgir fyrir afleiðingum hennar. Tay, Twitter-vélmenni Microsoft varð að grófum, kven-, hinsegin-, og gyðingahatara á örskotsstundu þegar því var sleppt út í heiminn. Ef Microsoft hefði átt á hættu kærur fyrir hatursorðræðu er nokkuð víst að forritararnir og hugbúnaðarverkfræðingarnir hefðu farið varlegar í verkefnið og beitt smá dómgreind á hvað og hvernig Tay tileinkaði sér nýja þekkingu, í stað þess að sleppa því lausu og horfa svo upp á allt fara í klessu.

Þessi fjögur lögmál eru auðvitað ekki fullkomin, og eflaust munu þau einhvern tímann stangast á eins og lögmál Asimovs og jafnvel er of seint að beita sumum þeirra, eins og lögmáli Bridle, en tekin saman, virka þessi fjögur lögmál sem nokkurs konar bremsa á tæknina. And-hraðall í veröld sem annars gengur út á að hraða öllu sem mest, gera allt um leið og það er hægt, án þess að skeyta um afleiðingarnar. Á tímum þar sem viðstaða er erkióvinur þeirra sem móta hvert við stefnum er þetta einmitt það sem við þurfum, smá manngerður núningur sem býr til andrými og krefst þess að við förum varlega gagngert til þess að við getum haldið áfram. Framtíðin er núna og það er ekki tæknin sem skapar hana, heldur við.

Tengdar fréttir

Tækni og vísindi

Mun internetið gera út af við athyglina?

Pistlar

„Mig dreymir ekki um að vinna“