Umræðan

Lýðræði á tímum gervigreindar

Magnús Smári Smárason skrifar 30. október 2024 | kl. 11:45

GERVIGREIND - 12

Hvernig tryggjum við að þessi öfluga tækni styrki lýðræðið frekar en að grafa undan því?

Fram undan eru kosningar á Íslandi og í ljósi þess hversu hröð þróun risamállíkana er - er brýnt að ræða samspil lýðræðis og tækni. Eins og segir í frægu lagi „nýjar vörur daglega“ - stöndum við nú frammi fyrir sambærilegri áskorun í heimi gervigreindar, þar sem ný módel og uppfærslur birtast með slíkum hraða að erfitt er að fylgjast með. En ólíkt neysluvörum snýst þessi þróun ekki um ytri umbúðir heldur tækni sem getur haft grundvallaráhrif á lýðræðislega umræðu og ákvarðanatöku.

Í fyrri pistlum höfum við rætt um uppspuna gervigreindar, siðferðilegar áskoranir og mikilvægi þess að temja tæknina. Nú stöndum við frammi fyrir því að þessi sama tækni gæti haft bein áhrif á grundvallarþætti lýðræðisins - upplýsingaflæði, skoðanamyndun og jafnvel kosningahegðun.

Það er því sérlega ánægjulegt að sjá frumkvöðlastarf íslenskra aðila eins og Miðeindar, sem nýlega kynnti „íslenska stigatöflu risamállíkana“. Að mínu mati er taflan mikilvægt skref í að tryggja að við getum metið og skilið áhrif þessarar tækni á okkar eigin tungumál og menningu.

Tækni og lýðræði í íslensku samhengi

Hvernig tryggjum við að upplýsingar um stjórnmál og samfélagsmál séu ekki aðeins aðgengilegar heldur einnig áreiðanlegar á tímum gervigreindar?

Risamállíkön eins og Claude og GPT geta nú þegar svarað flóknum spurningum um stefnumál stjórnmálaflokka, útskýrt lagafrumvörp og greint áhrif ólíkra stjórnmálastefna. En eins og ég hef ítrekað varað við, þá eru uppspuni (e. hallucinations) raunveruleg ógn. Rétt eins og með „tröllamúsina“ sem varð til í einu spjalli mínu við gervigreind, geta þessi kerfi búið til sannfærandi en algjörlega rangar upplýsingar um stefnumál eða stjórnmálamenn.

Þetta er sérstaklega mikilvægt núna þegar við förum inn í kosningabaráttu. Við höfum séð dæmi að vestan þar sem gervigreind er notuð til að búa til falska myndbúta af frambjóðendum eða dreifa röngum upplýsingum á samfélagsmiðlum.

Ísland er vissulega minna samfélag, en einmitt þess vegna þurfum við að vera sérstaklega vel á verði.

Tækifærin

En það er ekki öll sagan sögð. Rétt eins og kortasjáin gat gert sögu húsa á Akureyri aðgengilegri, gætu risamállíkön hjálpað okkur að gera lýðræðið skilvirkara og aðgengilegra:

Risamállíkön geta hjálpað til við að útskýra flókin lagafrumvörp á mannamáli
Hægt væri að greina kosningaloforð og fylgjast með efndum þeirra
Auðveldara yrði að bera saman stefnur flokka á nokkuð hlutlausan hátt
Aukinn möguleiki á gagnvirkum samráðsgáttum þar sem almenningur getur tekið þátt í stefnumótun

Áskoranirnar

Líkt og ég fjallaði um í síðasta pistli þegar ég ræddi við Claude um eðli og tilvist gervigreindar, er mikilvægt að gera sér grein fyrir að þessi tækni er hvorki góð né vond í eðli sínu - það er notkunin sem skiptir máli. Í lýðræðislegu samhengi eru áskoranirnar margþættar og alvarlegar:

Upplýsingaóreiða og falsað efni
Persónusniðnar blekkingar
Ójafnt aðgengi
Gagnsæi og ábyrgð

Lausnir og leiðir fram á við

Eins og ég hef ítrekað bent á í pistlunum mínum þá er mikilvægt að vera ekki bara áhorfandi að tækniþróuninni heldur virkur þátttakandi. Hér eru nokkrar tillögur að því hvernig við getum styrkt lýðræðið á tímum gervigreindar:

Íslenskt risamállíkan

Frumkvæði Miðeindar með stigatöfluna er mikilvægt fyrsta skref, en við þurfum að ganga lengra. Ísland þarf sitt eigið risamállíkan, þjálfað á íslenskum gögnum og með skilning á íslenskri menningu og samfélagi. Þetta er ekki bara spurning um tungumál, heldur líka um fullveldi í stafrænum heimi.

Við getum ekki treyst alfarið á erlend fyrirtæki til að varðveita og vinna með okkar viðkvæmustu upplýsingar.

Lýðræðisleg umgjörð

Við þurfum að setja skýrar reglur um notkun gervigreindar í kosningabaráttu og opinberri stjórnsýslu. Þetta gæti falið í sér:

Skyldu til að merkja allt efni sem búið er til með gervigreind
Bann við notkun gervigreindar til að herma eftir raunverulegum einstaklingum án leyfis
Skýrar reglur um gagnsæi þegar gervigreind er notuð í ákvarðanatöku
Jafnt aðgengi allra framboða að grunnþjónustu gervigreindar

Stafrænt læsi

Rétt eins og ég hef reynt að gera með þessum pistlum, þurfum við að efla skilning almennings á gervigreind. Þetta ætti að vera hluti af almennri menntun og símenntun. Fólk þarf að:

Skilja grundvallarhugtök eins og uppspuna og staðfestingarskekkju
Þekkja einkenni falsaðs efnis
Vita hvernig á að staðfesta uppruna upplýsinga
Vera upplýstir þátttakendur fremur en óvirkir neytendur

Lokaorð

Þegar ég horfi til baka yfir þá pistla sem ég hef skrifað frá grunnhugtökum til þessarar umfjöllunar um lýðræði verð ég sífellt meira sannfærður um mikilvægi þess að við sem samfélag tökum virkan þátt í að móta þessa tækniþróun.

Gamla tilvitnunin „Believe nothing you hear, and only one half that you see“ hefur sjaldan átt betur við en einmitt núna. Á tímum þar sem gervigreind getur búið til sannfærandi texta, myndir og myndbönd verðum við að endurhugsa hvernig við nálgumst og meðtökum upplýsingar.

Tæknin á að þjóna mannfólkinu, ekki öfugt. Nýtum kosningarnar fram undan til að ræða þessi mál og mætum á kjörstað, því lýðræðinu verður best varið með virkri þátttöku okkar allra.

Aldrei hefur verið brýnna fyrir kjósendur að tileinka sér gagnrýna nálgun. Við þurfum að draga úr því að taka öllu sem birtist á skjánum sem sannleika og þess í stað mæta á framboðsfundi, kynningar og taka þátt í beinum samskiptum við frambjóðendur. Einmitt í þessu felst eitt stærsta tækifærið sem gervigreind skapar - með því að sjálfvirknivæða ýmislegt daglegt amstur gefst okkur meiri tími fyrir það sem mestu máli skiptir: mannleg samskipti augliti til auglitis.

Frekari lesning, helstu hugtök og skilgreiningar úr pistlinum

[2409.06729] How will advanced AI systems impact democracy?
Fyrir þá sem vilja kynna sér málið nánar mæli ég með ritgerð eftir Christopher Summerfield og félaga (2024) sem fjallar ítarlega um áhrif þróaðra AI-kerfa á lýðræði. Ritgerðin skoðar þekkingarfræðileg, hagnýt og grundvallaráhrif gervigreindar á lýðræði.