Hvað gerist þegar þú gefur nokkrum gervigreindarlíkönum nákvæmlega sömu fyrirmæli?
Ég ákvað að prófa það í tengslum við nám mitt hjá MIT.
Verkefnið var einfalt. Ég valdi þrjú tungumálalíkön, Grok, Gemini og Claude, og bað þau að skrifa stutta sögu, innan við 300 orð, út frá einni setningu:
"I would buy and hold Apple, Tesla, and Zoom stocks."
Síðan bætti ég við tveimur prófunum. Ég lét Claude svara aftur í gegnum annan aðgang og lagði að lokum sömu fyrirmæli fyrir ChatGPT aðgang, sem ég hef unnið mikið með.
Útkoman var fimm ólíkar sögur.
Ein fjallaði um mann sem hélt fast í fjárfestingarákvörðun sína þrátt fyrir sveiflur á markaði.
Önnur um tvo menn sem ræddu hvort hægt væri að sjá framtíðina fyrir eða hvort við værum einfaldlega svona góð í að útskýra fortíðina eftir á.
Í þeirri þriðju uppgötvaði maður að hann hafði haldið í hlutabréf vegna loforðs sem hann hafði gefið sjálfum sér, löngu eftir að forsendur ákvörðunarinnar höfðu breyst.
Í þeirri fjórðu kenndi afi barnabarni sínu þolinmæði með þremur lokuðum umslögum.
Og í þeirri fimmtu þurfti maður að horfast í augu við að það sem hann var að verja var kannski ekki fjárfestingin sjálf, heldur sjálfsmynd hans sem skynsams fjárfestis.
Sögurnar voru ólíkar. En þegar ég fór að bera þær saman tók ég eftir nokkru sem vakti meiri athygli mína en munurinn á þeim.
Öll líkönin höfðu bætt einhverju við sem ég hafði ekki beðið sérstaklega um.
Enginn bað um lífskennslu
Fyrirmælin voru einföld. Skrifið stutta sögu út frá þessari setningu.
Engin fyrirmæli voru um fjölskyldutengsl, mannlega breyskleika, fjárfestingarsálfræði eða siðferðilegan lærdóm.
Samt sköpuðu öll líkönin persónur og samskipti þeirra á milli.
Það eitt og sér kom mér ekki sérstaklega á óvart. Þegar við biðjum um smásögu er eðlilegt að búast við persónum og einhverri atburðarás.
En svo gerðist annað.
Öll líkönin færðu söguna, með mismunandi hætti, frá hlutabréfunum yfir að manninum sem hafði ákveðið að kaupa þau.
Grok lagði áherslu á staðfestu. Að láta ekki sveiflur markaðarins trufla langtímahugsunina.
Gemini dró fram eftirávisku. Hversu auðvelt er að telja sig hafa vitað hvað myndi gerast þegar maður þekkir þegar niðurstöðuna.
Fyrri saga Claude fjallaði um mann sem hafði ruglað saman því að standa við orð sín og því að halda fast í ákvörðun sem átti ekki lengur við.
Í seinni sögunni notaði Claude afa og þrjú umslög til að kenna barnabarninu þolinmæði, en líka að þrjóska og skortur á áhættudreifingu geta reynst dýrkeypt.
ChatGPT gekk svo skrefinu lengra í sálfræðilegu túlkuninni.
Þar spurði aðalpersónan sjálfa sig hvort hún héldi í hlutabréfin vegna sannfæringar eða vegna þess að hún gæti ekki viðurkennt eigin mistök.
Fimm sögur. Fimm ólíkar útfærslur.
En allar með einhvers konar boðskap um mannlega hegðun.
Og það fékk mig til að velta öðru fyrir mér.
Voru líkönin að hafa vit fyrir okkur?
Þau voru beðin um að skrifa sögu. Þau skiluðu sögum.
Þannig séð höfðu þau gert nákvæmlega það sem til var ætlast.
En þau gerðu meira en það. Þau völdu sjálf sjónarhorn, bjuggu til aðstæður og leiddu lesandann að ákveðnum lærdómi.
Það sem mér fannst merkilegast var að þau skyldu öll gera þetta í svipaða átt.
Ekkert þeirra valdi til dæmis að skrifa hreina spennusögu um hlutabréfaviðskipti, án nokkurrar ályktunar um mannlegt eðli.
Ekkert þeirra lét söguna einfaldlega enda í óvissu um hvort fjárfestingin hefði verið skynsamleg.
Þess í stað fengum við sögur sem sögðu okkur, með einum eða öðrum hætti, hvernig við ættum að hugsa um ákvarðanir, þolinmæði, áhættu og eigin breyskleika.
Hvers vegna?
Ein möguleg skýring er að tungumálalíkön hafi lært að góð saga eigi gjarnan að fela í sér lærdóm. Persónur standi frammi fyrir vanda, taki ákvarðanir og uppgötvi eitthvað um sjálfar sig.
Það er kunnuglegt frásagnarmynstur. Og líkönin hafa lært af gríðarlegu magni texta þar sem slíkar sögur koma fyrir.
En hér þarf að fara varlega.
Þessi litla tilraun segir okkur ekki hvers vegna líkönin völdu þessa nálgun. Hún sýnir heldur ekki að öll tungumálalíkön myndu gera það sama við aðrar aðstæður.
Við prófuðum aðeins fimm svör og höfðum ekki fulla stjórn á öllum stillingum eða því samhengi sem hvert líkan hafði aðgang að.
Við getum því ekki fullyrt að gervigreind hafi einhverja sérstaka tilhneigingu til að vilja siða mannfólkið.
En við getum spurt hvort hún hafi tilhneigingu til að fylla í eyður fyrirmælanna með túlkunum sem við gerum okkur ekki alltaf grein fyrir.
Og þar verður málið áhugaverðara.
Hvað gerist þegar sagan er ekki lengur skáldskapur?
Í smásögu getur verið ánægjulegt að fá eitthvað annað og meira en maður bað um.
Óvænt sjónarhorn, áhugaverð persóna eða niðurstaða sem fær mann til að hugsa getur gert góða sögu betri.
En hvað ef verkefnið er ekki að skrifa sögu?
Hvað ef ég bið gervigreind um að greina fjárhagsstöðu fyrirtækis?
Eða lesa samning og benda á áhættu?
Eða bera saman tvo fjárfestingarkosti?
Þá skiptir máli hvort kerfið er að greina upplýsingar eða bæta við eigin forsendum um hvað teljist skynsamlegt.
Það getur vissulega verið gagnlegt að fá nýtt sjónarhorn. Stundum sér annar aðili eitthvað sem við höfum sjálf ekki komið auga á.
En við þurfum að geta greint á milli þess sem gögnin segja, þess sem kerfið ályktar og þess sem við sjálf höfum ákveðið að skipti máli.
Annars er hætt við að við tökum túlkun kerfisins sem hlutlausa niðurstöðu.
Sérstaklega þegar hún er sett fram á sannfærandi hátt.
Og kannski er það einmitt það sem gerir þessa tækni svo áhugaverða.
Hún getur ekki aðeins svarað spurningum okkar. Hún getur líka haft áhrif á hvernig við skiljum spurningarnar sjálfar.
Er persónusnið alltaf kostur?
Eitt atriði í tilrauninni vakti sérstaka forvitni mína.
Ég hef unnið töluvert með ChatGPT aðgang og átt við það fjölmörg samtöl um rekstur, ákvarðanatöku, mannlegt eðli og sjálfsmynd.
Sagan sem það skrifaði fjallaði einmitt um samband ákvarðana og sjálfsmyndar.
Var það tilviljun? Var það vegna þess sem líkanið hafði lært almennt? Eða hafði fyrra samstarf okkar áhrif á söguna?
Ég veit það ekki.
En spurningin er áhugaverð.
Við viljum gjarnan að gervigreind þekki okkur betur. Muni hvað við höfum sagt, skilji hvernig við hugsum og geti tekið mið af reynslu okkar og gildum.
Það getur gert hana að mun gagnlegra verkfæri.
En gæti sama þekking líka orðið til þess að hún færi sífellt að segja okkur það sem passar við okkar eigin heimsmynd?
Ef svo er, gæti persónusniðið sem átti að hjálpa okkur að hugsa betur líka orðið til þess að þrengja hugsunina.
Þarna finnst mér liggja mikilvægt viðfangsefni fyrir þá sem hanna gervigreindarlausnir.
Við þurfum ekki aðeins að skilgreina hvað kerfið á að geta gert.
Við þurfum líka að hugsa um hvaða áhrif hegðun þess getur haft á þann sem notar það.
Hver á síðasta orðið?
Þessi litla tilraun hófst með einfaldri setningu um þrjú hlutabréf.
Ég ætlaði að bera saman hvernig mismunandi tungumálalíkön skrifuðu sögur.
En niðurstaðan vakti aðra spurningu.
Þegar við gefum gervigreind verkefni, skilgreinum við yfirleitt það sem við viljum fá frá henni. Við hugsum kannski síður um allt það sem við höfum ekki skilgreint.
Og þegar fyrirmælin skilja eftir eyður þarf kerfið að fylla í þær með einhverjum hætti.
Í okkar tilraun fylltu öll líkönin í eyðurnar með mannlegum persónum, samskiptum og lærdómi.
Það var ekki endilega rangt. Kannski gerði það sögurnar betri.
En í öðrum verkefnum gætu sömu eiginleikar haft allt aðrar afleiðingar.
Við viljum að gervigreind hjálpi okkur að sjá það sem við sjáum ekki sjálf.
En viljum við líka að hún ákveði fyrir okkur hvaða lærdóm við eigum að draga af því?
Kannski er mikilvægasta spurningin ekki hvort gervigreind geti haft vit fyrir okkur.
Heldur hvort við tökum alltaf eftir því þegar hún reynir það.
Þessi grein sprettur af tilraun sem ég gerði í tengslum við nám mitt í Designing and Building AI Products and Services hjá MIT xPRO. Tilraunin og greining hennar voru unnin með aðstoð ChatGPT. Niðurstöðurnar eru vangaveltur byggðar á fimm svörum, ekki vísindaleg rannsókn á hegðun tungumálalíkana.