Gervigreind: Milli ofurbjartsýni og öfga

GERVIGREIND - 6

Gervigreind er heitt umræðuefni sem vekur bæði spennu og áhyggjur í samfélaginu. Við stöndum frammi fyrir mörgum þversögnum en segja má að tæknin sé bæði of- og vanmetin á sama tíma, og skoðanir fylkinga sömuleiðis. Einn hópur hefur ofurtrú á tækninni á meðan annar vill jafnvel ganga svo langt að sprengja gagnaverin sem hýsa hana. Í þessum pistli munum við skoða ólík sjónarmið á gervigreind og reyna að sjá fyrir raunsæjan milliveg fyrir framtíð þessarar tækni.

Öfgar gegn gervigreind: Frá heimspeki til loftárása

Ákveðnir einstaklingar og samtök hafa varað við hættum sem fylgja óheftri þróun gervigreindar. Áberandi einstaklingar í þessari hreyfingu eins og tölvunarfræðingurinn Joseph Weizenbaum og heimspekingurinn Nick Bostrom halda því fram að við séum að búa til kerfi sem við skiljum ekki til fulls eða getum stjórnað.

Aðrir hafa jafnvel stungið upp á róttækum aðgerðum eins og að sprengja í loft upp gagnaver gervigreindar. Þó að slíkar hugmyndir séu öfgakenndar undirstrika þær alvöru áhyggjur sem margir hafa.

Eins og með aðrar tækniframfarir er mikilvægt að taka áhyggjur af öryggi gervigreindar alvarlega. Hins vegar er ég sannfærður um að skammtímaáhrifin séu oft ofmetin, sérstaklega þegar kemur að ímynduðum stórslysum eins og útrýmingu mannkyns.

Það sem mér þykir vanta í umræðuna eru raunverulegri og nærtækari áhættur. Við höfum séð hvernig tækni eins og samfélagsmiðlar geta haft ófyrirséð og oft skaðleg áhrif á andlega heilsu og samfélagið. Svipuð áhætta gæti fylgt útbreiddri notkun gervigreindar.

Langtímaáhrif samvinnu manna og gervigreindar, áhrif á vinnumarkað, persónuvernd og gagnaöryggi eru allt mikilvæg málefni sem þarf að ræða og takast á við. Einnig þurfum við að vera vakandi fyrir möguleikum á misnotkun gervigreindar t.d. í áróðursskyni eða til að auka eftirlit með borgurum.

Með því að einblína um of á ímyndaðar stórslysasviðsmyndir er hætta á að við missum sjónar á þeim raunverulegu áskorunum og tækifærum sem gervigreind býður upp á. Í staðinn ættum við að stuðla að upplýstri og yfirvegaðri umræðu um ábyrga þróun og notkun þessarar öflugu tækni.

Tæknihyggja og óhófleg bjartsýni

Segja má að sumir stuðningsmenn gervigreindar séu óhóflega bjartsýnir. Framtíðarspekingar eins og Ray Kurzweil hafa sett fram háfleygar hugmyndir um hraðar framfarir tækninnar og halda því fram að við séum á barmi þess að skapa vélvit (Artificial General Intelligence) sem gæti farið fram úr mannlegri greind fyrir árið 2029.

Þó að ég efist um nákvæmni slíkra spáa er ég sannfærður um að gervigreindarmódel muni verða sífellt betri og fjölhæfari sem gerir þau nýtileg á fleiri sviðum. Það verður sannarlega áhugavert að fylgjast með þeirri þróun.

Elon Musk, einn af stofnendum OpenAI hefur verið gagnrýninn á þróun mála þar á bæ og kallað eftir reglugerðum til að hafa hemil á tækninni. Þó að gagnrýni hans sé athyglisverð er Musk sjálfur almennt ekki talinn til talsmanna reglugerða og er sjálfur nokkuð umdeildur.

• ORÐSKÝRING
  Vélvit (AGI - Artificial General Intelligence): Hugtak yfir gervigreind sem hefur almenna vitsmunalega getu sambærilega við manninn. Ólíkt núverandi gervigreindarkerfum sem eru hönnuð fyrir afmörkuð verkefni gæti vélvit leyst fjölbreytt verkefni, lært og aðlagast nýjum aðstæðum á svipaðan hátt og mannsheilinn. Þessu stigi gervigreindar hefur enn ekki verið náð og er umdeilt hvenær eða hvort það muni nokkurn tíma nást. 

Gervigreind sem allsherjarlausn?

Einhverjir vilja halda því fram að gervigreind muni leysa öll vandamál mannkynsins allt frá loftslagsbreytingum til fátæktar og sjúkdóma. Þó að gervigreind hafi vissulega möguleika á að leggja umtalsvert af mörkum til að takast á við þessi mál er það einföldun að telja hana allsherjarlausn.

Þetta sjónarhorn tekur ekki tillit til flókinna félags- og efnahagslegra, pólitískra og menningarlegra þátta sem stuðla að mörgum áskorunum og vandamálum heimsins. Enn fremur gæti það beint athygli og auðlindum frá öðrum mikilvægum leiðum til að leysa þessi vandamál.

Gagnrýnar en uppbyggilegar raddir

Yann LeCun, einn af æðstu stjórnendum hjá Meta (áður Facebook) og frumkvöðull á sviði gervigreindar býður yfirvegaðra sjónarhorn. LeCun viðurkennir miklar framfarir í afmörkuðum módelum en leggur áherslu á að við séum enn langt frá því að ná vélviti.

Meta er að eyða milljörðum dollara í að þjálfa módel og gefa þau út opin og frí. Þó að þetta sé athyglisvert framtak er mikilvægt að spyrja gagnrýninna spurninga um hvað fyrirtækinu gengur til.

Fei-Fei Li sem er hjá Stanford - háskóla leggur áherslu á mikilvægi fjölbreytileika og þátttöku í rannsóknum og þróun gervigreindar. Hún heldur því fram að þessir þættir séu nauðsynlegir til að skapa gervigreindarkerfi sem þjóna öllum. Þetta er afar mikilvægur punktur og ein af ástæðunum fyrir því að ég skrifa þessa pistla - við þurfum að vera þátttakendur, ekki áhorfendur.

Raunsæ sýn á gervigreind

Sabine Hossenfelder, fræðilegur eðlisfræðingur og vísindamiðlari, býður jarðbundið sjónarhorn á núverandi stöðu og framtíðarhorfur gervigreindar. Helstu punktar úr nýlegri greiningu hennar eru:

1. Ofmat á efnahagslegum áhrifum gervigreindar: Margar spár um áhrif gervigreindar á hagkerfið gætu verið ýktar.
2. Hár kostnaður við þróun og rekstur: Þróun og viðhald þróaðra gervigreindarkerfa krefst enn mikilla fjárútláta og spurning hvort slíkar fjárfestingar séu orðnar vænlegar á mörgum sviðum.
3. Mikilvægi sérþekkingar: Mannleg sérþekking og ákvarðanataka munu áfram vera nauðsynleg á flóknum sviðum.

Að stórum hluta deili ég þessum skoðunum með Sabine og þykir orðræða hennar góð, eina sem ég myndi kannski rökræða við hana um er mikilvægi almennrar þekkingar og verkvits.

Hver á þá að kaupa framleiðsluna?

Segjum sem svo að sjálfvirknivæðing og gervigreind valdi því að fyrirtæki geti losað sig við langstærstan hluta vinnuafls, aukið framleiðni sína og hraðað þróun.

Hver á þá að kaupa það sem fyrirtækið framleiðir?

Þetta er enn ein þversögnin og áleitin spurning sem tengist því hvernig nær óumflýjanlegt er að tækniþróun muni að lokum krefjast þess að við finnum upp eitthvað sem tekur við af hinum vestræna kapítalisma.

Samantekt og horft til framtíðar

Gervigreind er ekki lengur framtíðartækni - hún er hér og nú og áhrif hennar á samfélag okkar eru þegar farin að gera vart við sig. Í þessum pistli höfum við skoðað ólík sjónarmið allt frá öfgafullum ótta til óhóflegrar bjartsýni. En sannleikurinn liggur einhversstaðar þarna á milli.

Við stöndum á tímamótum þar sem ákvarðanir okkar um þróun og notkun tækni þ.m.t. gervigreindar munu móta framtíðina. Það er mikilvægt að við forðumst bæði óhóflegan ótta og blindan áhuga heldur tökumst þess í stað á við raunverulegar áskoranir af yfirvegun og ábyrgð.

Ábyrgð okkar á þessum tímum er gríðarleg. Við erum fyrsta kynslóðin sem lifir á tölvuöld og um leið síðasta kynslóðin sem man tímann fyrir hana. Þessi einstaka staða leggur á okkur þá skyldu að brúa bilið milli fortíðar og framtíðar. Við megum ekki skila af okkur til næstu kynslóðar samfélagi sem skilur ekki tæknina sem það reiðir sig á. Þetta er áhætta sem er ekki mikið rædd en þegar við íhugum það nánar hlýtur þetta að vera eitt mikilvægasta verkefni okkar.

Framtíðin mun krefjast þess að við endurskoðum margar af grunnhugmyndum okkar um vinnu, menntun og jafnvel efnahagskerfi. Gervigreind getur verið öflugt tæki í þessari þróun en aðeins ef við stýrum henni af skynsemi og með almannahagsmuni að leiðarljósi. Við þurfum að vera vakandi fyrir mögulegri misnotkun tækninnar og mikilvægi þess að tryggja að þróun gervigreindar þjóni hagsmunum alls samfélagsins.

Lokaorð og næstu skref

Í næsta pistli munum við kafa dýpra í hagnýta notkun gervigreindar með sérstaka áherslu á menntun og fræðslu. Þar munum við skoða hvernig þessi tækni er nú þegar að umbreyta námi og kennslu og velta fyrir okkur hvernig við getum best nýtt möguleika hennar til að efla menntun fyrir alla.

Ég hvet ykkur til að halda áfram að fylgjast með þróun gervigreindar, taka virkan þátt í umræðunni og vera gagnrýnin en opin fyrir möguleikunum sem framundan eru. Saman getum við mótað framtíð þar sem gervigreind styður við og eflir mannlega getu, frekar en að ógna henni. Og mikilvægast af öllu, getum við skilað af okkur samfélagi sem ekki aðeins nýtir sér tæknina heldur skilur hana og getur útskýrt hvernig hún virkar. Þetta er arfleifðin sem við skuldum komandi kynslóðum.

Magnús Smári Smárason er lágkóða gagnagrúskari. Pistlar hans um gervigreind birtast reglulega á Akureyri.net.