Í Mannréttindahúsið fór nýlega fram námskeið sem varpaði ljósi á eina mest áberandi tækninýjung samtímans gervigreind. Þótt margir hafi þegar prófað sig áfram með hana í daglegu lífi, vita færri í raun hvernig hún virkar eða hvers vegna hún getur verið bæði gagnleg en líka stundum gefið upp villandi og röng svör.
Svanhvít Lilja Ingólfsdóttir frá mál- og gervigreindarfyrirtækinu Miðeind leiddi þátttakendur inn í þennan heim. Með skýrum og aðgengilegum hætti útskýrði hún hvernig gervigreind getur svarað flóknum spurningum á örskotsstundu sem áður hefðu krafist mikillar sérþekkingar. En hún dró einnig fram mikilvæga staðreynd: tæknin „veit“ ekki neitt í hefðbundnum skilningi.
Í stað þess að skilja heiminn eins og manneskja byggir gervigreind á tölfræðilegum líkindum. Hún greinir mynstur í gífurlegu magni texta og spáir fyrir um líklegustu næstu orð. Þetta gerir hana öfluga, en líka óútreiknanlega, því stundum hljómar svarið sannfærandi þótt það sé rangt. Þetta varpar upp spurningum um áræðanleika, hvenær má treysta svörunum, og hvenær þarf að staldra við og sannreyna?
Á námskeiðinu voru sýnd lifandi dæmi um hvernig má nýta gervigreind í textavinnslu, talgreiningu og hugmyndavinnu, sem getur sparað bæði tíma og fyrirhöfn. Um leið var bent á að tæknin endurspeglar þau gögn sem hún er þjálfuð á með öllum þeim skekkjum og forsendum sem þar kunna að leynast.
Því fylgja siðferðileg álitamál sem snerta allt frá hlutdrægni til ábyrgðar á rangri upplýsingagjöf.
Fyrir þá sem ekki voru viðstaddir gefur þessi umræða skýra mynd: gervigreind er ekki töfralausn, heldur verkfæri sem krefst gagnrýninnar hugsunar. Með auknum skilningi á því hvernig hún virkar verður auðveldara að nýta hana á ábyrgan hátt og forðast að láta blekkjast af svörum sem hljóma vel, en standast ekki skoðun.