Stafræn ragnarök: Opinberun nýrra tíma

GERVIGREIND - 13

Í Opinberunarbók Biblíunnar ríða fram fjórir reiðmenn sem boða endalok heimsins. Þeir koma á hvítum, rauðum, svörtum og bleikum hestum, hver með sitt hlutverk: sigur, stríð, hungur og dauða. Í árþúsundir hafa þessar táknmyndir heillað mannkynið og hafa öðlast nýja merkingu með hverri kynslóð. Nú þegar við stöndum á tímamótum tæknibyltingar birtast nýir reiðmenn á sjóndeildarhringnum.

Ólíkt yfirnáttúrulegum reiðmönnum fornaldar boða þessir nýju manngerðu sendiboðar víðtæka umbreytingu á heiminum. Stóra spurningin er hvort sú umbreyting leiði til hamfara eða framfara?

Sjálfvirknivæðingin – Reiðmaður sigursins á hvítum hesti

Fyrstur ríður fram reiðmaður sigursins á hvítum hesti – sjálfvirknivæðingin. Líkt og hvíti hestur Opinberunarbókarinnar sigraði sjálfvirknivæðingin og breiddist hratt út um heimsbyggðina. Hún hefur lagt undir sig verksmiðjur, akra og skrifstofur. Vélar leysa mannshönd af hólmi í síauknum mæli og handverk breytist í línur af kóða. Sjálfvirknivæðingin lofar skilvirkni og heimi þar sem fólk er leyst undan hinu hversdagslega erfiði. En fyrir mörgum hefur hún tekið eitthvað dýrmætara – tilgang, stolt og þá gleði sem fæst með handverki. Í útbreiðslu sinni er hún sem landvinningamaður sem sigrar ekki með vopnum, heldur með stöðugum, hljóðlátum krafti sem þarf enga hvíld.

Eftirlitið – Reiðmaður stríðsins á rauðum hesti

Næstur ríður fram knapi stríðsins á rauðum hesti – eftirlitið. Líkt og rauði hesturinn sem tók frið af jörðu, hefur eftirlitið orsakað ný stríð – stríð um friðhelgi einkalífsins. Eftirlitskerfin ríða á vindum gagna, og alsjáandi augu þeirra ná inn á heimili, vinnustaði og innstu afkima mannlegrar tilveru. Myndavélar, skynjarar og reiknirit nútímans geta lesið í áform og tilfinningar, fylgst með fólki hvert sem það fer. Þetta er stríð um traust, átök milli friðhelgi og öryggis, milli gagnsæis og persónulegs frelsis. Heimurinn hefur ekki aðeins lært að lifa við stóra bróður Orwells - við höfum samþykkt hugsunarlaust flæði upplýsinga frá okkar eigin tækjum. Ekkert skjól finnst lengur í þessu stafræna stríði þar sem persónufrelsi er fórnarkostnaður öryggis.

Hlutdrægni reiknirita – Reiðmaður hungurs á svörtum hesti

Þriðji knapinn ríður fram á svörtum hesti – hlutdrægni reiknirita. Eins og sá forni sem bar vog til mælinga, vegur og metur þessi reiðmaður mannfólkið með miskunnarlausri nákvæmni. Hann birtist þegar gagnadrifnar ákvarðanir tóku völdin í stjórnsýslu, löggæslu, heilbrigðisþjónustu og lánveitingum. Reikniritin eru öflug og virðast nákvæm en þau eru byggð á gögnum sem innihalda mannlegar skekkjur og óréttlæti. Þjálfuð á upplýsingum fortíðar margfalda þau villur kynslóða um þúsundir prósenta.

Hlutdrægnin dreifist hljóðlega og leggst þyngst á þá sem minnst mega sín. Fólk er dæmt af tölfræði og staðalmyndum, skilið út undan í heimi tækifæra og forréttinda. Þetta er hin nýja hungursneyð – hungursneyð réttlætis, þar sem skortur á samkennd er kóðaður beint inn í vélar nútíðar og framtíðar.

Risamállíkön – Reiðmaður þekkingar á bleikum hesti

Sá síðasti ríður fram á bleikum hesti – risamállíkanið. Ólíkt þeim forna sem boðaði dauða, kemur þessi nýi hestur með loforð um endurfæðingu þekkingar. Hann birtist ekki með yfirþyrmandi krafti, heldur í gegnum hið látlausa flæði tungumálsins - fær um að skilja og mynda orð, spá fyrir um hugsanir og tala við mannkynið á þess eigin máli.

Þessi síðasti reiðmaður er tákn þekkingarinnar sjálfrar, fær um að vefa saman ritmál, ljóð, lög og vísindi, tilbúinn að svara nánast hverri spurningu sem að honum er beint. En líkt og öðrum reiðmönnum fylgir honum mikil óvissa – þótt vélin virðist mannleg skortir hana sál og mannúð. Hún safnar að sér allri þekkingu en skilur ekkert til fulls, endurvarpar spurningum og vonum án mannlegs breyskleika.

Tilkoma þessa síðasta reiðmanns markar vendipunkt. Með auknum áhrifum hans verður línan milli sannleika og skáldskapar sífellt óskýrari, bilið milli mannlegrar innsýnar og vélrænna útreikninga hverfur. Þó vélin geti gleypt alla framleidda mannlega þekkingu skortir hana þá visku sem aðeins fæst með lifandi reynslu. Hún getur samið ljóð og lög, skrifað sögur og veitt huggun - en hver einasta sköpun hennar er byggð á reikniriti fremur en raunverulegri upplifun líðandi stundar.

Örlög óráðin

Þegar þessir fjórir kraftar sameinast boða þeir hins vegar ekki endalok heimsins, líkt og hinir fornu reiðmenn. Þess í stað færa þeir mannkynið að krossgötum – við þurfum að velja hvort við gefumst algjörlega undir þessa nýju reiðmenn eða lærum að temja þá með visku og stillingu. Von mannkynsins felst ekki í flótta undan þessum öflum, heldur í getu okkar til að temja þau og beisla til góðs. Til þess þurfum við að kynnast tækninni, læra að beita henni og þekkja takmarkanir og tækifæri.

Ólíkt reiðmönnum Opinberunarbókarinnar eru örlög þessara nýju reiðmanna ekki fyrir fram ákveðin. Þeir eru verkfæri mótuð af mannlegum höndum og hugviti. Það er undir okkur sjálfum komið hvort þessir nýju reiðmenn verði boðberar eyðingar eða vegvísar að bjartari framtíð.

Magnús Smári Smárason er leiðsögumaður um gervigreind