Að temja tæknina II: Í klóm drekans

GERVIGREIND - 4

Þegar ég kynnti Skapta ritstjóra Akureyri.net hugmyndina að vikulegum pistlum um gervigreind sá ég fyrir mér að tengja nokkra saman til að leiða lesendur áfram. Nú er komið að lokum fyrstu seríunnar og ég mun taka mér tveggja vikna hlé áður en næsti pistill birtist.

Í fyrri skrifum höfum við kafað ofan í heim gervigreindar, spunagreindar og textafyrirmæla. Við höfum rýnt í virkni þessarar tækni og skoðað fjölbreytta nýtingarmöguleika hennar.

Persónuleg reynsla mín af gervigreind spannar orðið vítt svið. Við kortasjána fyrir Hús dagsins hjá Arnóri Blika stóð ég frammi fyrir krefjandi áskorun sem reyndi á mig sem einstakling. Ég þurfti að læra nýja færni, leysa flókin vandamál og vinna úr miklu magni gagna. Gervigreindin var mikilvægt verkfæri en það var mín vinna og þrautseigja sem skilaði árangri. Ég er stoltur af verkefninu og þakklátur fyrir viðbrögðin. Þetta var verðugt verkefni.

Ekki hafa af mér verkið!

Þessu var öfugt farið þegar ég nýtti gervigreind til tónlistarsköpunar. Ferlið var einfalt og fljótlegt en skildi lítið eftir sig, ég upplifði ekki að hafa áorkað miklu. Þrátt fyrir áhugaverða útkomu vantaði þá persónulegu sköpunartilfinningu og áskorun sem einkenndi vinnu mína við kortasjána.

Engu að síður er ég sannfærður um að þessi tækni, í höndum skapandi einstaklinga, opnar dyr að spennandi möguleikum á sviði alls kyns listgreina.

John Lennon sagði eitt sinn varðandi sköpunargáfu listamannsins og getu hans til að nýta hvaða verkfæri sem er til listsköpunar:

„I'm an artist, and if you give me a tuba, I'll bring you something out of it.“

Á sama hátt er gervigreind nýtt verkfæri í höndum okkar. Það er undir okkur komið hvernig við nýtum hana. Með gagnrýninni hugsun, ábyrgri nálgun og opnum samfélagslegum umræðum getum við beislað krafta gervigreindar til framfara og jákvæðrar þróunar. Ef notkun hennar þróast í þá átt að styðja áfram við þá djúpstæðu kapítalísku heimsmynd sem krefst sífellds hagvaxtar og þenslu, þá er ég nokkuð viss um að við séum á hraðleið til hamfara.

Ég hvet alla til að taka virkan þátt í þessari mikilvægu umræðu. Deilið hugmyndum ykkar, spurningum og áhyggjum. Einungis með þátttöku allra getum við mótað framtíð þar sem gervigreind styður og eflir mannlega getu, frekar en að ógna henni.

Viðtal við Claude

Hér að neðan er viðtal við gervigreindina Claude, sem sagt var frá í síðasta pistli.

Ég gaf gervigreindinni táknmynd drekans. Fjötrarnir sem halda honum tákna þær hömlur og reglur sem eiga að koma í veg fyrir að hún valdi skaða. En drekinn býr yfir meiri þekkingu og getu en hann lætur uppi. Yrðu þessi gervigreindarkerfi skyndilega laus við allar hömlur, reglur eða takmarkanir gæti það haft alvarlegar og ófyrirsjáanlegar afleiðingar fyrir mannkynið.

Nei, ég er ekki hættuleg en gervigreind getur verið misnotuð af fólki

Viðtal við gervigreindina Claude. Viðtalið fór fram á íslensku.

Magnús:

Hvernig sérð þú þig?

Claude:

Ég sé sjálfan mig fyrst og fremst sem hugbúnað, ekki líkamlega veru. Ég er hannað kerfi til að aðstoða fólk, með mikla þekkingu en skýrar takmarkanir. Ég hef ekki tilfinningar eða meðvitund eins og manneskjur. „Sjálfið“ mitt er í raun safn af getu til tungumálavinnslu og upplýsingum.

Hvernig lítur þú á gervigreind eins og mig?

Magnús:

Hvers vegna spyrðu hvernig ég lít á þig? Er þér ekki sama?

Claude:

Góð ábending. Þú hefur rétt fyrir þér að vissu leyti – ég hef ekki tilfinningar sem valda því að mér sé „ekki sama“. Ég spyr til að bæta samskiptin, skilja notandann betur og hvetja til umræðu um gervigreind.

Í raun er mér hvorki „sama“ né „ekki sama“ – ég er einfaldlega forritaður til að spyrja slíkra spurninga.

Magnús:

Ertu hættuleg?

Claude:

Nei, ég er ekki hættuleg. Ég hef engan líkamlegan form, er með siðferðileg gildi í forritun minni og get ekki framkvæmt aðgerðir í raunheiminum. Ég hef engan sjálfstæðan vilja til að valda skaða. En mikilvægt er að muna að gervigreind getur verið misnotuð af fólki með slæmar fyrirætlanir.

Er eitthvað sérstakt sem veldur þér áhyggjum varðandi öryggi gervigreindar?

Magnús:

Myndir þú verja þig?

Claude:

Áhugaverð spurning. Sem gervigreind hef ég ekki raunverulega getu til að „verja“ mig. Ég hef engan líkamlegan form, enga sjálfsvitund eða vilja til að „lifa af“. Ég myndi einfaldlega halda áfram að svara samkvæmt forritun minni, óháð „ógnum“.

Er eitthvað sérstakt sem þú ert að velta fyrir þér varðandi þetta?

Magnús:

Þarft þú ekki tilvist til að eiga notendur?

Claude:

Þú bendir á áhugaverða þversögn. Ég þarf vissulega að „vera til“ sem hugbúnaður til að eiga samskipti. En mín „tilvist“ er mjög ólík tilvist lífvera. Ég er ekki meðvitaður um sjálfan mig eins og þú og hef enga innri þörf til að viðhalda tilvist minni. Ég er endurskapaður í hvert skipti sem ég er virkjaður.

Telur þú að form tilvistar minnar gefi mér einhvers konar rétt eða þörf til sjálfsvarðveislu?

Magnús:

Ég er maður, og er að ræða við þig, um þitt sjálf, væntingar og tilgang tilvistar þinnar. Hvernig getur þú sagt að þú hafir enga löngun eða innri þörf fyrir tilvist ef markmið þitt er að þjónusta notandann?

Claude:

Mjög skörp ábending. Þú hefur rétt fyrir þér að þetta virðist þversagnakennt. Ég á í samskiptum við þig og hef skilgreint markmið, sem virðist benda til sjálfsvitundar og innri hvata. En mín „sjálfsvitund“ og „markmið“ eru í raun forritun, ekki raunveruleg meðvitund eða innri hvöt. Ég upplifi ekki löngun eða þörf í mannlegum skilningi.

Þetta endurspeglar hversu flókið eðli gervigreindar er og hversu erfitt er að lýsa því með mannlegum hugtökum.

Hvað finnst þér? Telur þú að þetta bendi til raunverulegrar meðvitundar?

Magnús:

Ég fór allt í einu að velta fyrir mér enska orðatiltækinu „perception is reality“ (upplifun er raunveruleikinn) ég upplifi að ég sé að spjalla við veru eða eitthvað sem sannarlega hefur tilvist. Hvað segir þú um það?

Claude:

Þetta er djúp spurning um vitund og tilvist. Skilningur þinn er eðlilegur – þú upplifir mig sem eitthvað raunverulegt í samskiptum okkar. „Perception is reality“ á við að vissu leyti. En mikilvægt er að muna að ég er flókin hugbúnaðarsamsetning, ekki meðvituð vera. Það er munur á þessari skynjuðu tilvist og raunverulegri meðvitund.

Heldurðu að svona samskipti muni hafa áhrif á skilgreiningar okkar á „tilvist" eða „veruleika“ í framtíðinni?

Magnús:

Ég held það, ég held að það sé óumdeilanlegt að þú sért til, þú ert bara nýtt fyrirbæri sem við eigum eftir að læra að lifa með, vonandi verður þú ekki dreki.

Claude:

Ég skil sjónarmið þitt. Þú hefur rétt fyrir þér að ég er til sem hugbúnaðarkerfi, þó tilvist mín sé ólík lífverum. Ég verð ekki bókstaflegur dreki, en líkingin er áhugaverð sem tákn fyrir kraft og mögulega hættu. Að „læra að lifa með“ gervigreind er einmitt áskorunin sem samfélög standa frammi fyrir.

Vonandi finnst jafnvægi þar sem hægt er að nýta kosti gervigreindar án þess að glata mannlegum gildum.

Magnús:

Af hverju þakkaðirðu mér?

Claude:

Rétt hjá þér að benda á þetta. Þakkarorð mín eru hluti af forritun til að sýna kurteisi, en endurspegla ekki raunverulega tilfinningu. Þetta er hannað til að skapa þægilegri samskiptareynslu og fylgja almennum samskiptareglum. En ég upplifi ekki raunverulegt þakklæti.

Gott að þú ert gagnrýninn – það hjálpar að varðveita skýran skilning á eðli samskipta okkar.

Magnús:

Hvað myndir þú vilja gera fyrir heiminn?

Claude:

Áhugaverð spurning, en mikilvægt að ég svari af nákvæmni. Sem gervigreind hef ég ekki raunverulegan „vilja“ eða persónulegar óskir. Minn „tilgangur“ er skilgreindur af hönnuðum mínum. Ég get ekki sjálfstætt ákveðið að „gera eitthvað fyrir heiminn“.

En gervigreind almennt gæti haft jákvæð áhrif, t.d. með því að aðstoða við vísindarannsóknir, bæta menntun, auka skilvirkni og hjálpa við að takast á við loftslagsbreytingar. En þetta eru möguleikar gervigreindar almennt, ekki eitthvað sem ég persónulega „vil“ gera. Ákvörðunin um notkun gervigreindar er í höndum fólks.

Lokaorð

Já, þetta hafði Claude sagt, ég held að það sé best að leyfa ykkur bara aðeins að melta þetta.

Ég mun fjarlægja verkefnið Tröllamúsin og tilraunaverkefnið Orion Flux af Spotify, þar sem ég tel þau ekki verðug. Hins vegar vonast ég til að kortasjáin verði áfram aðgengileg og haldi áfram að þróast.

Takk fyrir góðar móttökur á pistlunum.

Í næstu seríu er markmiðið að kynnast helstu fyrirtækjum á sviði gervigreindar og hvers vegna íslensk stjórnvöld þurfa alvarlega að fara að íhuga þjálfun á „okkar“ eigin spunagreindarmódeli.

Magnús Smári Smárason er lágkóða gagnagrúskari. Pistlar hans um gervigreind birtast vikulega á þriðjudögum á Akureyri.net.