Eyðingarmáttur stærðfræðinnar

Mynd: Pexels / Pexels

Eyðingarmáttur stærðfræðinnar

02.10.2018 - 13:44

Höfundar

Bókin Weapons of Math Destruction eftir bandaríska stærðfræðinginn Cathy O'Neil varpar ljósi á áhrif gríðargagna og algóritma á samfélagið. „Við trúum því að algóritmar séu að skapa hlutlægan mælikvarða sem sé siðferðilega betri en það sem maðurinn gerir, því að maðurinn gerir mistök – en tölvurnar ekki,“ segir Kristrún Heimisdóttir.

Nýr dagskrárliður er hafinn í Lestinni á Rás 1 þar sem umsjónarmenn þáttarins fá valda einstaklinga úr ólíkum áttum til að fjalla um bækur sem að þeirra mati skýra betur en aðrar þá tíma sem við lifum nú. Kristrún Heimisdóttir lögfræðingur ríður á vaðið og segir frá bókinni Weapons of Math Destruction eftir bandaríska stærðfræðinginn Cathy O'Neil.

Mynd með færslu
 Mynd: Crown Books
Cathy O'neil er höfundur bókarinnar Weapons of Math Destruction.

Cathy O'Neil er ung kona, doktor í stærðfræði sem tók mikla beygju frá fræðaheiminum til að starfa fyrir vogunarsjóð. Í bókinni fjallar hún um svokallað „big data“ eða gríðargögn og áhrif algóritma á samfélagið.

Kristrún segir að O'Neil hafi frá fyrstu hendi séð hvernig formúlurnar keyrðu áfram fjármálakerfið í stórum gagnasöfnum þar sem peningar voru ekki hlutbundnir. O'Neil segir að það hafi verið stór þáttur í fjármálakreppunni og hlutur gríðargagna hafi síðan orðið æ stærri í þjóðfélaginu. „Hún lýsir því að það sé verið að nota gríðarmikla söfnun upplýsinga um fólk til að greina alla mögulega hluti,“ segir Kristrún. „Það sem hún er að segja er að það tapa alltaf þeir sömu á því, hinir fátæku verða fátækari og svo framvegis. Hún lýsir því hvernig þetta er notað í sambandi við almannatryggingar í Bandaríkjunum, í sambandi við lánveitingar, í sambandi við alls konar stöðluð próf til dæmis á kennurum.“ Kristrún nefnir sem dæmi breytingar á fangelsisstefnu í Bandaríkjunum þar sem tölvukerfi eigi að meta fólk, breytingar sem í fyrstu virðast framsæknar og mannbætandi en valda því að það er aldrei hægt að áfrýja neitt eða eiga samtal. „Það er ekki hægt að endurskoða það sem tölvukerfin hafa ákveðið.“

Mynd með færslu
 Mynd: RÚV
Kristrún Heimisdóttir lögfræðingur sagði frá bókinni Weapons of Math Destruction.

O'Neil kemst að þeirri niðurstöðu að það sé hætta fólgin í því að maðurinn treysti um of á gervigreind og trúi því að vélmennin séu betri en maðurinn. „Þetta er eins og í Brave New World eftir Aldous Huxley þar sem fólk fagnaði þessum breytingum, ólíkt 1984 eftir Orwell,“ segir Kristrún. „Við erum svo glöð yfir því að lyfta upp eða dýrka vélmennið og afsala okkur mennskunni. Við trúum því að algóritmar séu að skapa hlutlægan mælikvarða sem sé siðferðilega betri en það sem maðurinn gerir, því að maðurinn gerir mistök – en tölvurnar ekki.“ 

Kristrún segir að þetta eigi ekki eftir að springa í andlitið á okkur. „Þetta er lúmskara en svo. Þetta snýst svo mikið um það að maðurinn varðveiti mennskuna og hin mannlegu fræði – að við dýrkum ekki guðleysið svo mikið að við upphefjum vélina sem guð.“