AI-hallucinaties vanuit een creatieve lens: bevorderlijk voor menselijke creativiteit

In deze bijdrage zet ik kort uiteen hoe mens en machine, met een focus op generatieve AI-modellen, op elkaar lijken ten aanzien van ‘hallucinaties’. Hallucinaties – of anders gezegd: overtuigingen die niet overeenkomen met eerdere waarnemingen – zijn de mens niet vreemd. Ik relativeer het angstbeeld dat ten aanzien van generatieve AI hieromtrent bestaat. Dat angstbeeld zelf is een hallucinatie van de mens.

De neiging van generatieve kunstmatige intelligentiesystemen om met foutieve uitkomsten (ofwel ‘hallucinaties’) te komen kan onzinnig en soms angstaanjagend overkomen. Vooral doordat het veel voorkomt en de toepassingsmogelijkheden van AI vrijwel eindeloos lijken, zijn de gevolgen van hallucinerende AI-modellen niet te voorzien en daardoor mogelijk zeer ingrijpend. Zo raadde vorig jaar in Australië een door een supermarkt ontwikkelde chatbot, die receptsuggesties bood om voedselverspilling tegen te gaan, een klant aan een bepaalde ‘aromatische watermix’ te maken van restjes. Dit bleek uiteindelijk een recept voor dodelijk chloorgas.[1] Ook advocaten hebben geleerd voorzichtig te zijn met de output van generatieve AI-modellen, gezien het vermogen van deze modellen om volledig fictieve zaken te verzinnen. Zo bleek uit een studie dat hallucinaties van geavanceerde generatieve AI-modellen ten aanzien van 200.000 juridische vragen ‘wijdverbreid en verontrustend’ waren.[2] Ook de gratis versie van ChatGPT hallucineerde ongeveer 7 op de 10 maal op specifieke, controleerbare vragen die het kreeg over willekeurige federale rechtbankzaken in de VS, terwijl het Llama 2-model van Meta een foutpercentage van 88% wist te bereiken.[3]

Veel gebruikers ervaren de hallucinaties van generatieve AI als een irritante fout. Zij verwachten dat technologiebedrijven deze ooit zullen oplossen. Oplossingen om hallucinaties te voorkomen worden wel al voorgesteld,[4] maar in hoeverre een oplossing mogelijk is, is momenteel onderwerp van onderzoek en felle discussie.[5] Hallucinaties lijken inherent aan de huidige stand van de technologie. Generatieve AI-modellen zijn probabilistische machines die zijn getraind om de meest statistisch waarschijnlijke reactie te geven. Het kan moeilijk blijken om menselijke eigenschappen zoals gezond verstand, context, nuance of redenering onderdeel te maken van de technologie. Deze modellen blijken echter gemakkelijk de menselijke eigenschap van hallucineren over te nemen. Onze hersenen doen immers continu op basis van eigen herinneringen probabilistische voorspellingen over wat er gaat gebeuren en wat wij gaan waarnemen. Ook deze kloppen vaak niet met de werkelijkheid.

Menselijke en kunstmatige creativiteit

Men kan de inzet van generatieve AI spannend vinden, met name vanwege de ruime toepassingsmogelijkheden, zowel voor positieve als negatieve doeleinden, die het haar gebruikers biedt. Enerzijds kan generatieve AI de drempel aanzienlijk verlagen voor bepaalde gebruikers om geavanceerde computervirussen (bijvoorbeeld gijzelsoftware) te ontwikkelen.[6] Anderzijds maakt deze technologie het mogelijk om, met name literaire, werken van hoogwaardige kwaliteit te genereren. Werknemers in de creatieve sector demonstreren dan ook niet geheel onterecht voor de houdbaarheid van hun functies; kunstmatig gegenereerde creatieve uitingen van hoge kwaliteit zijn op den duur goedkoper dan menselijke creativiteit – dat angstbeeld is geen hallucinatie.

De ontwikkeling van menselijke creativiteit is een interessant onderwerp. De mensheid heeft namelijk millennia lang de input van voorgaande generaties en andere culturen geassimileerd en vermengd om nieuwe creaties tot stand te brengen. Denk bijvoorbeeld aan het keizerlijke Rome met inspiraties uit het oude Griekenland, of de Italiaanse renaissance uit de Arabische wetenschap, of de overname van Chinees schrift en filosofie in Japan, of Ethiopische tradities in de Jamaicaanse Rasta-cultuur.

Het lijkt alsof elke beschaving ertoe neigt de originaliteit van haar eigen cultuur te overschatten om dubieuze claims van superioriteit en eigendom te ondersteunen.[7] Dergelijke claims negeren het feit dat alles ergens vandaan komt, wordt opgegraven, geleend, verplaatst, gekocht, gestolen, opgenomen, gekopieerd en vaak verkeerd begrepen. Daarmee is cultuur per definitie een recycleproject.[8]

Een soortgelijk proces doet zich ook voor bij generatieve AI. In zekere zin doen deze machines wat mensen altijd al hebben gedaan: uit een collectie van eerdere waarnemingen nieuwe output genereren. In dat opzicht leidt generatieve AI tot content waarin culturele versmelting plaatsvindt. Generatieve AI lijkt, voornamelijk ten aanzien van haar afhankelijkheid van imperfecte en incomplete informatie alsmede het overmoedig generaliseren van het bijzondere, misschien meer op feilbare mensen dan we soms durven toe te geven. Hallucinaties zijn dan ook niet zozeer algoritmische afwijkingen, maar eerder eigen aan menselijke natuur en weerspiegelt menselijke cultuur.

De menselijke inzet van generatieve AI-modellen bepaalt uiteindelijk het succes en de meerwaarde voor menselijke creativiteit ervan. Generatieve AI-modellen kunnen een fantastisch hulpmiddel zijn om menselijke creativiteit te verbeteren door nieuwe ideeën en inhoud te genereren, met name op het gebied van muziek, afbeeldingen en video’s. Met het voorbehoud van integer gebruik, kunnen deze modellen dienen als nuttige gesprekspartner en een onvermoeibare bron van inspiratie voor creatieve projecten – een handig hulpmiddel om buiten de kaders te kunnen denken.

Toekomstmuziek van generatieve AI

Het ziet ernaar uit dat we het tijdperk van ‘AI-generated media’ binnengaan. Het internet en sociale media hebben de distributiekosten van content in het algemeen vrijwel tot nul teruggebracht. Nu, dankzij generatieve AI, naderen ook de productiekosten van content bijna de nul; althans voor de gebruiker, omdat de werking van generatieve AI gepaard gaat met een hoog energieverbruik.[9] De laagdrempeligheid voor gebruikers zou kunnen leiden tot een explosie van creativiteit, zowel in positieve als negatieve zin. Het kan natuurlijk ook de reeds bestaande zorgen over onder meer privacy, desinformatie en intellectueel eigendom verder verdiepen.

De hallucinaties van vandaag de dag laten zien dat generatieve AI nog een weg te gaan heeft als het gaat om betrouwbare non-fictie. Dat is prima, zolang we het gebruiken als een hulpmiddel om menselijke creativiteit te verbeteren in plaats van het te zien als een agent die alle menselijke verwerkingskracht kan vervangen.

[1] https://www.sbs.com.au/news/article/supermarket-chatbot-suggests-recipes-for-toxic-gas-and-poisonous-jelly/u4cw51rtw

[2] https://hai.stanford.edu/news/hallucinating-law-legal-mistakes-large-language-models-are-pervasive

[3] https://arxiv.org/pdf/2401.01301

[4] Zie https://www.economist.com/science-and-technology/2024/02/28/ai-models-make-stuff-up-how-can-hallucinations-be-controlled; https://insight.factset.com/ai-strategies-series-7-ways-to-overcome-hallucinations; en https://www.cnet.com/tech/hallucinations-why-ai-makes-stuff-up-and-whats-being-done-about-it/

[5] https://arxiv.org/pdf/2311.14648

[6] Zie https://sitn.hms.harvard.edu/flash/2024/generative-ai-is-vulnerable-to-malware-researchers-warn/; https://blog.barracuda.com/2024/04/16/5-ways-cybercriminals-are-using-ai–malware-generation; en https://www.paloaltonetworks.com/blog/2024/05/ai-generated-malware/.

[7] Vergelijkbaar met Alain Locke’s (een filosoof en kunstkenner) principe van ‘cultural convertibility’, zie https://plato.stanford.edu/entries/alain-locke/, paragraaf 4.3. Zie als voorbeelden ook: https://igniswebmagazine.nl/cultuur/wij-in-het-westen-zijn-beter-dan-de-rest-toch/; en https://www.bnnvara.nl/joop/artikelen/ja-onze-cultuur-is-superieur

[8] https://www.millersbookreview.com/p/martin-puchner-culture-recycling-project

[9] https://nos.nl/artikel/2493605-ai-slurpt-energie-kan-over-vier-jaar-net-zoveel-stroom-als-nederland-gebruiken