Athugið þessi frétt er meira en 2 ára gömul.

Persónuverndarlög ekki í takt við tækniþróun

26.02.2019 - 20:28
Kanadíski rannsóknarprófessorinn Ian Kerr er sérfræðingur í lögfræðilegum, læknisfræðilegum og siðferðilegum hliðum gervigreindar og sjálfvirkni. Í Kastljósi kvöldsins lýsti hann sér sem „varfærnum heimsendaspámanni" þegar kemur að sambandi manna og véla. Hvað njósnir og persónuvernd varðar þurfi til dæmis að svara mörgum erfiðum spurningum. Lög um persónuvernd hafi ekki haldið í við þróunina því þau geri ráð fyrir að það þurfi mennska vitund til þess að rjúfa friðhelgi einkalífsins.

Kerr bendir á að geti vélmenni ekki bara safnað gögnum heldur unnið úr þeim og gert eitthvað við þau án nokkurra inngripa eða eftirlits manna sé þörf á að endurskoða lög um persónuvernd. „Því mér finnst alveg ljóst að ef vélmenni geti myndað traustar skoðanir á okkur og síðan gert eitthvað byggt á þeim skoðunum sé það skýrt inngrip í friðhelgi einkalífs okkar."

Þurfum að íhuga vel afleiðingarnar

Kerr segist hafa sérlegan áhuga á samruna manna og véla. Gagnvirknin þar á milli hafi aldrei verið meiri. Annars vegar setjum við vélarhluti inn í fólk og það feli í sér mörg og flókin vandamál. Hins vegar gefum við vélum mannleg einkenni og eiginleika og látum þær taka mennskar ákvarðanir.

Hann segist hafa talsverðar áhyggjur af því hugarfari að þegar við felum vél verkefni sem maður sinnti áður, til dæmis því að keyra bíl, sé það nokkuð sambærilegt á meðan vélin gerir það á sama hátt. „Við höfum séð á ýmsan hátt að það er ekki rétt." Við þurfum að íhuga vel afleiðingar þess að fela vélunum sum þessara verkefna.

„Við erum farin að sjá að á ýmsum sviðum eru ýmis hlutverk sem áður voru ávallt leyst af mönnum og felum þau vélum í auknum mæli. Ég hef mikinn áhuga á spurningum um það hvenær sé leyfilegt að fela vélunum þessi störf, hvað sé leyfilegt að fela þeim og hvaða afleiðingar eða skaðabótaskyldu getur haft í för með sér að afhenda vélunum þessi verkefni."

Geta vélar ákveðið manndráp?

„Það sem ég tel mestu ógnina núna er að mikið hefur verið unnið að þeirri hugmynd að við gætum falið vélum að ákveða manndráp, fyrst í hernaðarlegu samhengi með því sem kallað er sjálfstæð vopn. Hjá Sameinuðu þjóðunum er nú þegar hafin umræða um það hvort rétt sé að banna tækni sem þessa fyrirfram. Þá tökum við ákvarðanir um líf og dauð úr höndunum á fólki og gerum þær jafnvel sjálfvirkar þannig að það verði vélar sem skeri úr um það í slíkum kringumstæðum."

Hann benti einnig á að sjálfvirkni hafi færst mjög í aukana í löggæslu. „Hvort sem hún er nýtt til valdbeitingar eða til að framfylgja reglunum þá vekur það margar spurningar sem hafa mikla þýðingu fyrir löggæsluna og eðli hennar breytist þegar maðurinn er tekinn út úr myndinni.

Auður Aðalsteinsdóttir