Umdeilt eftirlitskerfi selt til Bandaríkjahers

03.08.2018 - 16:59
Mynd með færslu
 Mynd: ACLU
Sala á eftirlitskerfinu Rekognition, sem þróað var af tæknirisanum Amazon, til Bandaríkjahers hefur verið harðlega gagnrýnd af réttindasamtökunum ACLU. Forritið er notað með eftirlitsmyndavélum og gerir löggæslufólki kleift að bera kennsl á og rekja ferðir einstaklinga í rauntíma. Það hefur þó verið gagnrýnt fyrir lélega nákvæmni sér í lagi þegar kemur að fólki sem ekki er hvítt á hörund.

Til að sýna fram á vankanta Rekognition notaði ACLU forritið á myndir af öllum þingmönnum bæði öldunga- og fulltrúadeildar og báru saman við gagnagrunn handtökumynda. Af þingmönnunum 535 voru 28 misteknir fyrir grunaða glæpamenn. Einungis um tuttugu prósent þingmanna, eða 106, eru litað fólk, en af þessum 28 voru tíu dökkir á hörund. Starfshópur svartra þingmanna hefur greint opinberlega frá áhyggjum sínum af þeim afgerandi og neikvæðu áhrifum sem tæknin gæti komið til með að hafa á líf litaðs fólks, bæði innan og utan Bandaríkjanna. 

Áætluð notkun eftirlitskerfis við árásir ómannaðra flugfara

Amazon gagnrýndi tilraun ACLU fyrir að notast við of lágan nákvæmnisstuðul, eða áttatíu prósent, en það er staðalnákvæmni forritsins. Fyrirtækið hefur þó ekki brugðist við því ósamræmi sem virðist vera til staðar við andlitsgreiningu einstaklinga af ólíkum kynþáttum. „Stuðningur okkar við lögregluyfirvöld, varnarmál og leyniþjónustuna er óhagganlegur,“ sagði Teresa Carlson, vara-formaður Amazon, á ráðstefnu um öryggismál í júlí. Fyrirtækið setti hvorki lögreglu né hernaðaryfirvöldum nein mörk hvað varði tækni sem Amazon ynni að. 

Rekognition verður notað við hernaðarverkefnið Project Maven, sem miðar að því að auka notkun svokallaðra dróna, eða ómannaðra flugfara, við hernaðaraðgerðir. Mikill meirihluti slíkra árása eru framkvæmdar á grundvelli hegðunarmynsturs fremur en vegna aðgerða ákveðinna, þekktra einstaklinga. Af því leiðir að fjölmargar árásir hafa orðið á samkvæmi saklauss fólks, en úr fjarlægð er lítill munur á brúðkaupum eða ættarmótum almennra borgara og samkomum hryðjuverkamanna. 

Óvíst um raunverulegar tölur látinna borgara

Frá 2002 er talið að í kringum 10.000 manns hafi látist í slíkum árásum sem fjölgað hefur mjög á síðustu tveimur áratugum. Í stjórnartíð Baracks Obama Bandaríkjaforseta jukust drónaárásir margfalt, og undir stjórn Donalds Trump hafa þær tvöfaldast á við fyrri aukningu. Stefna Trumps í þessum málaflokki hefur markast af lægri öryggisstöðlum og færri varnöglum fyrir því að saklausir borgarar séu drepnir að ósekju, en í kosningabaráttu sinni lýsti hann yfir nauðsyn þess að myrða fjölskyldur hryðjuverkamanna til að uppræta starfsemi þeirra. 

Opinberar tölur um dauðsföll almennra borgara í drónaárásum gefa til kynna að þau séu fátíð. Þær segja þó aðeins hálfa söguna, þar sem skilgreining yfirvalda á „óvinveittum hernaðarmönnum“ er afar takmörkuð og krefst þess hvorki að einstaklingurinn sé nafngreindur né að staðfest sé að hann hafi tengsl við skæruliðasamtök. Því eru flestir ungir karlmenn sem látast í slíkum árásum sjálfkrafa skilgreindir sem réttmæt skotmörk, nema sannanir séu lagðar fram um annað. Að auki hefur ríkisstjórn Bandaríkjanna neitað að láta uppi gögn um ákveðnar drónaárásir vegna öryggishagsmuna en um sumar þeirra hefur þó verið fjallað í fjölmiðlum. 

Telja andslitsgreiningu brot á persónuvernd

Lögreglustöðvar í nokkrum ríkjum Bandaríkjanna hafa einnig fengið forritið til prufukeyrslu á árinu, meðal annars lögreglan í Orlandó í Flórída. Þessi notkun tækninnar hefur einnig vakið efasemdir og reiði meðal borgara, sem telja hana brot á persónuvernd og friðhelgi einkalífs. Réttindasamtök hafa þá vakið athygli á hugsanlegri notkun Rekognition gegn ólöglegum innflytjendum. Fyrir utan áhrifa slíkrar notkunar á fólk sem ekki hefur dvalarleyfi í Bandaríkjunum, gæti tæknin leitt til ólögmætra inngripa inn í líf borgara sem misteknir eru fyrir ólöglega innflytjendur.  

Undanfarið hafa önnur tæknifyrirtæki dregið sig út úr verkefninu vegna siðferðislega efasemda um notkun forrita sinna, meðal annars Google sem tilkynnti fyrr í sumar að það myndi ekki endurnýja samning sinn við hernaðarmálaráðuneytið þegar hann rennur út á næsta ári.  

 

Emilía Sara Ólafsdóttir Kaaber
Fréttastofa RÚV
Síðast:
Þessi þáttur er í hlaðvarpi