Wist je dat je een ei kunt smelten?

Na een drukke werkweek heb ik nog even een korte nieuwsbrief voor je geschreven. Met daarin uiteraard wat langere artikelen die je dit weekend op je gemak kunt lezen, maar eerst wil ik het even hebben over AI...

Grote sites laten zien wat er gebeurt als je AI ongecontroleerd zijn gang laat gaan

Kun jij een ei smelten? "Ja", was het antwoord van Google een tijdje. Het is een prachtig voorbeeld van wat er mis kan gaan als taalmodellen ongecheckt laat publiceren op internet en Google dat vervolgens weer indexeert.

Dit verhaal is inmiddels een maand of twee oud, maar toen ik het vorige week hoorde in een podcast, wilde ik er toch even over schrijven in mijn nieuwsbrief. Omdat het zo'n mooi voorbeeld is.

Wat is er precies gebeurd? Op de site Quora waar gebruikers vragen van anderen beantwoorden, worden tegenwoordig ook antwoorden van ChatGPT (of eigenlijk van een oudere versie van GPT) weergegeven. Zo kon het gebeuren dat het eerste antwoord op vraag "Can you melt an egg?" een gegenereerd antwoordt was, waarin het taalmodel hallucinaties vertoonde. Het antwoord was namelijk: "Yes, an egg can be melted. The most common way to melt an egg is to heat it using a stove or microwave."