Nokkur heilræði varðandi gervigreind

GERVIGREIND - 11

1. Gervigreind er ekki vísun í eitthvað eitt heldur fjölda ólíkra tæknilausna

Gervigreind er tölvutækni sem hefur nokkra undirflokka. Við getum horft á hana eins og verkfærakistu þar sem í eru mörg tól af ólíkum gerðum sem öll hafa misjafna eiginleika en eiga það sameiginlegt að virkni þeirra líkist með einhverjum hætti mannlegri greind.

Sú tegund gervigreindar sem ég er í flestum tilfellum að fjalla um, nema annað komi fram, er svokölluð spunagreind eða generative AI sem byggir á tauganetum sem eru þjálfuð með djúpnámsalgrímum. Fleiri tegundir eru t.d. vélnám (machine learning), tölvusjón (computer vision) og áfram mætti telja.

Ef einhver ætlar að leysa fyrir þig verkefni með gervigreind, spurðu þá „hvernig gervigreind?“

2. Spunagreind fyrir þekkingargreinar er eins og rafhjól fyrir hjólasendla

Ímyndum okkur að við vinnum sem hjólasendlar, við séum á fínu hjóli með mörgum gírum og þeysumst milli bæjarhluta. Starfið er skemmtilegt en það er líka erfitt og veldur miklu áreiti því margir bíða eftir pökkum. Eigandi fyrirtækisins tekur eftir því að einhverjir eru komnir á rafhjól. Þeir geta afhent miklu fleiri pakka og sinnt stærra svæði og viðbótarkostnaðurinn er þess að auki óverulegur.

Það líður ekki á löngu þar til fyrirtækið gerir kröfu um að allir séu á rafhjólum og þar sem þetta er fyrirmyndarfyrirtæki fá allir fræðslu og leiðsögn á meðan verið er að innleiða nýjungarnar. Því þó að tæknin sé frábær og geti aukið afköst og framleiðni fylgja henni nýjar áhættur sem starfsmennirnir þurfa að vera vel undirbúnir að glíma við.

Eftir að fyrsta fyrirtækið var búið að innleiða þessa nýjung, neyddust öll önnur á sama markaði til að skipta yfir í rafhjól hið snarasta til að vera samkeppnishæf.

Er sanngjarnt að aðeins eigendur fyrirtækja njóti ávinnings af tækninni og aukinni framleiðni? Að mínu mati ættu allir að njóta ávinningsins, vinna minna og fá tækifæri til að njóta lífsins.

Samkeppnisástæður og krafa um framleiðni munu leiða til þess að fyrir mörgum verður það ekki val hvort tæknin verður notuð, heldur nauðsyn.

3. Varist gullhúðun siðferðis og persónuverndar

Mikilvægt málefni sem snertir alla tölvunotkun, ekki bara eina tegund tækni. Notkunarmöguleikar spunagreindar áður en komið er að mörkum siðferðislegra álitamála eða persónuverndar eru nær óþrjótandi.

Hins vegar!

Mikilvægt er að taka fram að hér liggja ákveðnar takmarkanir. Sérstaklega á þetta við um notkun spunagreindar í opinberri þjónustu. Að mínu mati er nauðsynlegt að settar verði strangar reglur um gagnsæi og skerpt á skyldu opinberra aðila til að upplýsa um alla notkun spunagreindar í stjórnsýslu, laga- og reglusetningu, eða hvaða málefni sem hefur áhrif á hagsmuni samfélagsins eða borgaranna.

Þetta er grundvallaratriði til að tryggja réttindi og hagsmuni þegnanna.

Ég er nokkuð sannfærður um að notkun opinberra aðila á spunagreind geti flokkast sem vinnugögn og falli þess vegna undir upplýsingalög. Hins vegar hef ég ekkert heyrt um hvort eða hvernig því sé framfylgt.

Mér hrýs hugur við þeirri hugmynd að ríkisstjórnin sé á rafhjólum á meðan þegnarnir eru á þríhjólum.

4. Snákaolía og varasamir mælikvarðar

Það er ekki til nein undravél sem getur greint með nægilegri nákvæmni hvort texti hafi verið skrifaður af manneskju eða spunagreind. Hugbúnaður sem er auglýstur og seldur sem slíkur er að gefa loforð sem tæknilega er ómögulegt að framkvæma.

Hvort uppruni texta sé frá taugaboðum heila til fingurs eða frá spunagreind er ekki forsvaranleg mæling á gæðum hans.

5. Óþarfa áhyggjur menntakerfisins

Hér er hugmynd! Grunnskólar geta einbeitt sér að kjarnaviðfangsefnum eins og íslensku, stærðfræði, hreyfingu og hagnýtri þekkingu. Tæknin gerir það mögulegt að sérsníða námsefnið að þörfum hvers nemanda.

Í framhalds- og háskólum er þessu öðruvísi farið. Það hlýtur að liggja fyrir nokkuð vel skráð tölfræði yfir dreifingu einkunna yfir langan tíma sem ég sé ekki sem annað en spennandi tækifæri! Gerið verkefnin miklu flóknari, ekki endilega lengri en finnið hvar mörkin liggja. Hvað er hægt að leggja mikið á kynslóð nemenda sem hefur aðgang að þessari tækni?

Ég er ansi hræddur um að margir nemendur séu meira að velta því fyrir sér hvernig þeir skili ekki of góðum verkefnum og verði sakaðir um að nota GPT.

Finnið verkefni sem kallar á að nemandi leggi sig alla fram við úrlausn verkefna þó að fullkomnustu módelin séu þeim innan handar.

Þessi tilraun gæti reynst nemendum óþægileg og kostað vinnu fyrir kennara. Spurningin er, viljum við undirbúa nemendur fyrir framtíðina með því að kenna þeim á þriggja gíra DBS, eða viljum við gera þá tilbúna fyrir heim rafhjólsins?

6. Nei, þetta verður ekki endilega þægilegt

Ég segi stundum að ég tilheyri sögulegri kynslóð, þeirri síðustu sem man tímann fyrir tölvur og Internet. Tæknin hefur fært með sér ótrúlegar framfarir sem flestar hafa stuðlað að jákvæðri þróun mannkyns. En við stöndum líka frammi fyrir myrkari hliðum, eins og áhrifum samfélagsmiðla, sem við eigum enn í erfiðleikum með að glíma við.

Umskiptin sem spunagreind og tengd tækni mun fela í sér eru stundum borin saman við uppfinningar eins og rafmagnið eða prentvélina. Mér þykja þessar samlíkingar áhugaverðar og einhver sannleikur er í þeim. En ég hef einnig prófað að líta á þetta öðrum augum og tengja þetta allt saman.

Slík samlíking leiðir í ljós nær stöðuga hröðun framþróunar frá 15. öld sem sífellt bætir í og ekki eru nein teikn á lofti um að hægi á í bráð. Hraði tækniþróunar og hraði samfélagsins hafa að einhverju leyti haldist í hendur en núna stöndum við frammi fyrir því að tæknin mun fara fram úr okkur.

Það eru ógnvekjandi og óvissutímar fram undan. Ég er hins vegar sannfærður um að í þeim felist einnig tækifæri til að hægja á samfélaginu, láta tæknina sjá um það sem hún getur og veita okkur færi á að standa upp frá skjánum, rækta tengsl og vera meira til staðar hvert fyrir annað.

Til þess er ég að standa í þessu – markmiðið er að eiga fleiri gæðastundir og eyða færri fyrir framan skjá.

Í síðustu viku var kynnt tækni sem ég hafði áður haft veður af, einhvers konar eilíft stafrænt líf, mér þykir tilhugsununin óþægileg og þetta vekur upp fjölmörg álitamál sem við munum þurfa að glíma við á komandi misserum.

Í raun og veru þýðir þetta að dætrum mínum gefst tækifæri til að spjalla við stafræna útgáfu af mér, löngu eftir að ég hef gefið þeim mitt síðasta faðmlag.

Magnús Smári Smárason er leiðsögumaður um gervigreind