Vandinn við ofskynjanir (Hallucinations)
Öll stór mállíkön (eins og ChatGPT og Claude) eru þjálfuð á gífurlegu magni af texta af internetinu. Þau "skilja" ekki heiminn á sama hátt og við; þau spá frekar fyrir um næsta orð í setningu. Stundum leiðir þetta til þess að vélin setur fram röng gögn sem líta ótrúlega sannfærandi út. Þetta kallast ofskynjanir eða Hallucinations.
Er þetta galli eða fídus?
Hjá Spark lítum við ekki eingöngu á ofskynjanir sem galla, heldur sem kærkomið tækifæri til að æfa gagnrýna hugsun (Discernment í 4D rammanum okkar). Ef börn alast upp við þá trú að tölvan hafi alltaf rétt fyrir sér, er hætt við að þau verði auðtrúa gagnvart upplýsingaóreiðu (misinformation) framtíðarinnar.
Að kenna heilbrigða tortryggni
Eitt af mikilvægustu skrefunum í menntun nútímans er að læra að "treysta, en staðfesta" (Trust, but verify). Rannsóknir Anthropic á sviði AI öryggis sýna að jafnvel snjöllustu líkön geta gert villur þegar þau fara út fyrir sitt þekkingarsvið.
Í gegnum Spark verkefnin hvetjum við stundum til vafans. Við látum gervigreindina taka undir léleg rök, eða jafnvel reyna að "fela" svarið svo barnið þurfi sjálft að finna götin í rökfærslunni.
Þegar barnið þitt spjallar við vélina heima, hvettu það til að spyrja: "Hvernig veistu það? Geturðu nefnt dæmi eða heimildir?" Jafnvel þó gervigreindin komi með heimild, þá er það frábær æfing að fara út á Google og athuga hvort heimildin sé í raun og veru til.