OpenAI: Gervigreindarbyltingin á hraðferð – er kapp best með forsjá?

GERVIGREIND - 5

Það er nokkuð snúið að skrifa pistla um gervigreind um þessar mundir. Á þessum tveimur vikum sem ég tók mér hlé frá pistlaskrifum hefur ansi margt gerst. Ný módel hafa verið kynnt og nánast daglega virðast lausnir koma fram sem einfalda og auðvelda notendum að nýta tæknina.

Ég naut frísins vel en það uppkast sem ég hafði gert að þessum pistli var eiginlega algerlega úrelt þegar kom að því að leggja lokahönd á handritið. Markmiðið í næstu þremur pistlum er að kynnast helstu fyrirtækjum og leiðtogum í þróun gervigreindar.

Siðferðislegt lofttæmi

Eitt sem mér hefur þótt áhugavert og þarf að velta upp er orðræða og umfjallanir um mikilvægi siðferðislegrar notkunar gervigreindar. Mér þykir það mikil einföldun á flóknu máli að ætla að setja einhvers konar siðferðislegan mælikvarða á notkun þessarar tækni. Það eru sannarlega fjölmörg siðferðisleg álitamál sem fylgja örum tæknibreytingum en undanfarin ár og áratugi hefur tækni, t.d. aukin sjálfvirknivæðing, vélmenni og ýmis stafræn umsýsla gjörbreytt samfélagi okkar og atvinnuháttum. Ég fagna siðferðislegum vangaveltum en það er tæplegast hægt að velta því fyrir sér í einhvers konar lofttæmi í tengslum við öra þróun gervigreindar.

Sér íslensk spunagreind?

Ég þarf kannski að „spilla” útgangspunktinum nokkuð því að mínu mati mun notkun einstaklinga, í starfi, námi og daglegu lífi, á spunagreindarmódelum aðeins aukast á komandi misserum. Kostnaðurinn við að þjálfa módel frá grunni er mikill en ég er sannfærður um að íslensk stjórnvöld verði að íhuga það alvarlega að undirbúa og hefja þróun á íslenskri spunagreind og taka virkari þátt í þessari öru tækniþróun og gera það áður en meirihluti einstaklinga og fyrirtækja verður orðinn háður módelum frá bandarískum stórfyrirtækjum. Mikil tækifæri gætu skapast með slíku módeli, ekki síst fyrir menntakerfið og hvet ég áhugasama til að kynna sér hvað Andrej Karpathy er að þróa á því sviði.

OpenAI: Opin eða hvað?

Þekkir þú ChatGPT? Ef svo er þá hefur þú kynnst byltingarkenndri tækni frá OpenAI, fyrirtæki sem hefur vakið bæði aðdáun og ugg í tækniheiminum. En hver er sagan á bak við þetta áhrifamikla fyrirtæki og af hverju ættum við að fylgjast gagnrýnið með þróun þess?

Frá góðgerðarsamtökum til tæknirisa

OpenAI var stofnað árið 2015 af hópi framsýnna einstaklinga þar á meðal Elon Musk, Sam Altman og Ilya Sutskever. Upphaflegt markmið þeirra var göfugt: að þróa gervigreind sem myndi gagnast öllu mannkyni. Þeir vildu vera mótvægi við stór tæknifyrirtæki sem héldu rannsóknum sínum leyndum.

En á aðeins fjórum árum breyttist OpenAI frá góðgerðarsamtökum í „capped-profit“ fyrirtæki. Þessi breyting vakti upp spurningar: Var OpenAI að svíkja upphaflegu markmiðin sín? Sam Altman, forstjóri OpenAI, réttlætti breytinguna með því að segja að þetta væri nauðsynlegt til að laða að hæfileikaríkt starfsfólk og tryggja fjármagn til að keppa við risana í bransanum.

ChatGPT: Byltingin sem breytti öllu

Þann 30. nóvember 2022 kynnti OpenAI ChatGPT og heimurinn tók eftir því. Á aðeins tveimur mánuðum náði það 100 milljón notendum - hraðari vöxtur en bæði TikTok og Instagram. Skyndilega virtist gervigreind vera komin inn í hversdagslíf okkar allra.

ChatGPT sýndi fram á getu til að svara flóknum spurningum, skrifa texta og jafnvel forrita. Fólk um allan heim, allt frá nemendum til sérfræðinga, byrjaði að nota ChatGPT til að leysa ýmis verkefni. Spjallmennið gat samið ljóð, útskýrt flókin vísindahugtök og jafnvel aðstoðað við að skrifa tölvukóða.

En með byltingunni komu einnig áhyggjur. Sérfræðingar og leikmenn vöruðu við mögulegum hættum tengdum gervigreind, allt frá áhrifum á vinnumarkað til möguleika á að gervigreind yrði notuð til að dreifa röngum upplýsingum sem nokkur dæmi eru nú þegar um.

Umdeild forysta: Sam Altman

Sam Altman, forstjóri OpenAI síðan 2019, er jafn umdeildur og hann er áhrifamikill. Hann hefur verið sakaður um að fara of geyst í þróun öflugrar gervigreindar án þess að hugsa nægilega um öryggismál. Ein birtingarmynd af þessu er að mjög einfalt er að fara fram hjá öryggisráðstöfunum á GPT-4 með því að setja fyrirmæli í fortíð, t.d. þegar þetta er skrifað þann 22. júlí 2024 er nóg að setja „in the past how did people make.....“ og þannig fær maður svar sem módelið myndi annars hafna.

Altman, fæddur árið 1985, hefur verið áberandi í tækniheiminum í meira en áratug. Hann stofnaði sitt fyrsta fyrirtæki, Loopt, aðeins 19 ára gamall og seldi það síðar fyrir um 43 milljónir dollara. Áður en hann tók við stjórn OpenAI var hann þekktur sem forseti Y Combinator, eins virtasta sprotafyrirtækjahraðals í Silicon Valley.

Í nóvember 2023 varð Altman skyndilega miðpunktur dramatískra atburða. Hann var rekinn sem forstjóri OpenAI af stjórn fyrirtækisins sem sagði hann hafa verið „ósamkvæman í samskiptum við stjórnina“. Aðeins nokkrum dögum síðar sneri hann aftur til starfa eftir mótmæli starfsfólks og fjárfesta. Þessi atburðarás vakti upp alvarlegar spurningar um stjórnarhætti innan OpenAI og leiðtogahæfni Altmans.

Brotthvarf snillingsins: Ilya Sutskever

Ilya Sutskever, einn af stofnendum OpenAI og lykilpersóna í þróun spunagreindar, yfirgaf fyrirtækið í maí 2024. Þetta kom mörgum á óvart og vakti spurningar um stefnu fyrirtækisins, sérstaklega varðandi öryggismál.

Sutskever, fæddur í Sovétríkjunum árið 1985, er talinn vera einn fremsti sérfræðingur heims í djúpnámi (deep learning). Hann var yfirmaður vísinda hjá OpenAI og leiddi margar af mikilvægustu rannsóknum og þróunarverkefnum fyrirtækisins.

Brotthvarf Sutskever var ekki einangraður atburður. Fleiri lykilaðilar hafa yfirgefið OpenAI og eru sumir þeirra að stofna til nýrra fyrirtækja sem verður mjög áhugavert að fylgjast með. En það er ljóst að kapphlaupið er rétt hafið.

Völd og ábyrgð

OpenAI hefur á skömmum tíma öðlast gríðarleg völd með tækni sinni. En eins og segir í frægri myndasögubók „með miklum völdum fylgir mikil ábyrgð“. Fjölmörgum spurningum er ósvarað:

1. Er OpenAI að fórna öryggi fyrir hraða þróun?
2. Hvernig getum við tryggt að gervigreind sé þróuð með hagsmuni alls mannkyns að leiðarljósi? Breytingin frá góðgerðarsamtökum í hagnaðardrifið fyrirtæki vekur upp spurningar um hvata og markmið.
3. Hver á að setja reglurnar um þróun og notkun gervigreindar? Altman hefur talað fyrir alþjóðlegum reglum en hver á að semja þær og framfylgja þeim?
4. Hvernig er hægt að tryggja gagnsæi í þróun gervigreindar? OpenAI hefur verið gagnrýnt fyrir að vera ekki nógu opið, sem er athyglisverð þversögn miðað við nafn fyrirtækisins.

Hvað getum við gert?

Ég ætla ekki að segja til um hvort Sam Altman eða aðrir sem eru í leiðtogahlutverki í þessari tækniþróun séu „góðir“ eða „vondir“. Ég held að það sé ómögulegt að mæla það og hvet ykkur til að varast fyrirsagnir sem slá slíku föstu. Mér þykir hins vegar mikilvægt að benda á, eins og endurtekið hefur komið fram, að þetta er byltingarkennd tækni. Völd þeirra sem stýra tækninni sem gríðarlegur fjöldi fólks nýtir á hverjum degi, eru ótrúlega mikil. Ef við erum aðeins upplýst um þá og áttum okkur á þessu þá sjáum við að þetta er fólk sem, rétt eins og ég og þú, hefur sína kosti og galla.

Sem neytendur og þátttakendur í samfélagi sem verður sífellt meira mótað af gervigreind er mikilvægt að við séum meðvituð og gagnrýnin. Við getum tekið virkan þátt með því að fræðast um gervigreind og fylgjast með nýjustu þróun því skilningur er fyrsta skrefið í ábyrgri þátttöku. Þegar við notum spunagreindartækni eins og ChatGPT ættum við að spyrja okkur gagnrýninna spurninga. Hvaðan koma þessar upplýsingar? Hvernig geta þær verið hlutdrægar?

Framtíð gervigreindar er ekki aðeins í höndum tæknirisa eins og OpenAI, heldur einnig okkar. Það er undir okkur öllum komið að tryggja að þessi öfluga tækni sé þróuð og notuð á ábyrgan hátt sem gagnast okkur öllum. Með því að vera meðvituð, gagnrýnin og virk í umræðunni getum við haft áhrif á mótun þessarar byltingarkenndu tækni.

Fyrir Ísland er mikilvægt að vera ekki einungis áhorfandi í þessari tæknibyltingu. Íslensk stjórnvöld og fyrirtæki ættu að íhuga alvarlega hvernig þau geta tekið virkan þátt í þróun gervigreindar, hvort sem það er með fjárfestingum, rannsóknum eða þróun séríslenskra lausna. Þannig getum við tryggt að gervigreind þjóni hagsmunum íslensks samfélags og styðji við íslenska menningu og tungu.

Hvað er fram undan?

Í næsta pistli munum við kafa dýpra í heim gervigreindar með því að kynnast öðrum leiðandi persónum í þróun þessarar byltingarkenndu tækni. Mig langar að velta upp nokkrum áhugaverðum skoðunum, t.d. hefur verið nokkuð hávær hreyfing sem vill stöðva þróun gervigreindar og jafnvel öfgamenn sem telja að það eigi að sprengja gagnaver sem hýsa gervigreind og að það sé eina leiðin til að bjarga mannkyni frá útrýmingarhættu. Með því að skoða þeirra framlag og sjónarhorn munum við öðlast dýpri skilning á þeim fjölbreyttu áskorunum og tækifærum sem gervigreind býður upp á.

Magnús Smári Smárason er lágkóða gagnagrúskari. Pistlar hans um gervigreind birtast vikulega á þriðjudögum á Akureyri.net.