Vélræni Páfagaukurinn
Það er stundum talað um stór mállíkön (Large Language Models eins og GPT-4 og Claude) sem mjög fleyga páfagauka. Þau "hugsa" ekki í mannskilningi. Í staðinn vinna þau með tölfræði. Þegar þau skrifa setningu eru þau einfaldlega að giska á hvaða orð ætti tölfræðilega séð að koma næst, byggt á því gífurlega magni texta sem þau hafa "lesið".
Tokens (Orðahlutar)
Gervigreindin les ekki heilu orðin. Hún brýtur þau niður í minni einingar sem kallast *tokens*. Eitt "token" gæti verið stutt orð ("og") eða hluti af lengra orði. Þegar þú skrifar spurningu, breytir vélin spurningunni í tokens, keyrir hana í gegnum tauganet (neural network) sem inniheldur milljarða af tengingum, og reiknar út hvaða token er líklegast til að fylgja.
Alignment (Siðferðisþjálfun)
Hvernig vitum við þá að vélin muni ekki segja eitthvað hræðilegt? Það er þar sem Alignment kemur inn. Fyrirtæki eins og Anthropic hafa verið leiðandi í að þróa aðferðir eins og Constitutional AI, þar sem líkaninu er kennd ákveðin "stjórnarskrá" eða siðareglur. Það þýðir að þegar það fær spurningu, þá skoðar það svar sitt gegn siðareglunum sínum áður en það skrifar svarið á skjáinn þinn.
Af hverju skiptir þetta máli fyrir foreldra?
Að vita að líkanið er "spá-vél" en ekki "staðreynda-vél" breytir því hvernig við og börnin okkar umgangast hana. Við ættum ekki að spyrja hana um nákvæmar staðreyndir án þess að sannreyna þær (út af ofskynjunum), heldur nota hana frekar til að hugstorma, rökræða og læra tungumál.