Hallucination

Mikä on hallucination?

Hallucination on termi, jota käytetään, kun generatiivinen tekoäly keksii vastauksen, joka kuulostaa uskottavalta, mutta ei perustu todelliseen tietoon. Tällöin malli "hallusinoi" eli tuottaa fiktiivistä tai virheellistä sisältöä.

Hallucinaatio ei ole tekninen vika, vaan luonteva seuraus siitä, miten kielimallit toimivat.

Miten hallucination syntyy?

Voit ajatella vastauksen rakentumista reittinä, jossa malli kulkee risteyksestä toiseen, valiten joka askeleella todennäköisimmän seuraavan sanan aiemman tekstin perusteella.

Jos mallilla ei ole tarkkaa tietoa käyttäjän kysymästä asiasta, se ei pysähdy vaan arvaa suuntaa sen perusteella, mitä se tietää aiheeseen liittyvistä aiheista. Lopputuloksena voi olla:

• osittain oikein, mutta osittain virheellinen vastaus

• täysin keksitty henkilö, tapahtuma, paikka tai termi

• olemassa olevan tiedon väärä yhdistely

Esimerkkejä hallucinaatioista

• Historiallinen henkilö: Malli saattaa kertoa tunnetusta henkilöstä, jota ei ole koskaan ollut.

• Ohjelmointivinkki: Malli voi ehdottaa kirjastoa, joka kuulostaa loogiselta mutta ei ole olemassa.

• Tieteellinen viite: Malli saattaa keksiä lähteen tai tutkimuksen, joka näyttää oikealta mutta ei löydy mistään.

Miksi hallucinaatioita tapahtuu?

• Mallit eivät hae tietoa reaaliaikaisesti, vaan perustavat vastauksensa koulutuksessa opittuun kielelliseen todennäköisyyteen.

• Ne on rakennettu tuottamaan johdonmukaista ja sujuvaa tekstiä, ei välttämättä oikeaa tai tarkistettua tietoa.

• Malli ei tiedä, mitä se ei tiedä – eikä se osaa sanoa "en tiedä", ellei sitä ole erikseen siihen opetettu tai ohjeistettu.

Miten hallucinaatioita voi tunnistaa tai hallita?

• Ole kriittinen: Mitä vakuuttavampi vastaus kuulostaa, sitä tärkeämpää on tarkistaa sen lähteet.

• Tarkista faktat: Etenkin, jos kyseessä on nimi, lähde, tilasto tai tekninen termi.

• Käytä lisätietoa (esim. RAG): Jos mallille annetaan tarkempaa lähdeaineistoa, hallucinaatioiden määrä yleensä vähenee.

• Kysy uudelleen eri tavalla: Jos malli "keksii", kokeile täsmentää tai pyytää sitä perustelemaan väitteensä.