Wil je twijfel zaaien? Roep dan dat een foto of video is gemaakt met generatieve AI

En toen liep de zomervakantie alweer op zijn einde. In het zuiden beginnen maandag de scholen weer. Voor iedereen die vakantie had en weer aan de slag moet komende week (en ook voor iedereen die gewoon aan het werk was) een verse nieuwsbrief om je bij te praten. Ik wil het met je hebben over:

• Generatieve AI zonder restricties kan worden misbruikt, maar er is meer om je zorgen over te maken.
• Traditionele media moeten meer als makers gaan denken om jongeren te bereiken

Generatieve AI zonder restricties kan worden misbruikt, maar er is meer om je zorgen over te maken

X is deze week weer veelvuldig in het nieuws vanwege de afbeeldingsgenerator die het beschikbaar heeft gemaakt voor betalende gebruikers. Gebruikers van chatbot Grok kunnen voortaan afbeeldingen laten maken dankzij de technologie, die trouwens van een ander bedrijf is, en in tegenstelling tot de meeste andere breed beschikbare diensten zitten er nauwelijks beperkingen op.

Foto's genereren van bekende mensen? Geen probleem. Afbeeldingen maken met personages die beschermd zijn door het auteursrecht? Mag gewoon. Gewelddadige plaatjes maken? Tuurlijk kan dat. De enige beperking die er lijkt te zijn, is dat je geen naakt of pornografische afbeeldingen kunt maken.

Dat er geen filter zit op wat voor prompts je kunt invoeren is bewust. Elon Musk wil dat gebruikers vrij zijn in wat ze kunnen met AI en wil vooral dat mensen lol kunnen hebben op het internet. Die lol bestaat bijvoorbeeld uit 'foto's' van Mickey Mouse, Kamala Harris of Elon Musk met een geweer. Ook bekende mensen coke laten snuiven in een plaatje, blijkt populair.

Uiteraard zouden er begrenzingen moeten zitten aan dit soort tools, zodat je bestaande personen niet zomaar allerlei dingen kan laten doen die hij nooit heeft gedaan. Sowieso moet altijd duidelijk moet zijn dat afbeeldingen zijn gegenereerd door AI, zodat er geen verwarring over ontstaat, maar los daarvan verwacht ik niet dat de tool direct leidt tot grote desinformatiecampagnes. Daarvoor is uiteindelijk meer nodig dan een foto. Al kun je afbeeldingen die met zo'n tool worden gemaakt natuurlijk altijd misbruiken in campagnes.

Wat in mijn ogen een veel groter gevaar is, is het feit dat je de opkomst van gegenereerde media ook kunt gebruiken om twijfel te zaaien over de echtheid van dingen die wel gewoon echt zijn. Dat kan gaan om afbeeldingen, maar ook over geluids- of zelfs video-opnames. Je kunt simpelweg ontkennen dat iets gebeurd is of dat je iets gezegd hebt, terwijl er opnames van zijn.

Het is iets waar ik maart op SXSW ook al experts voor hoorde waarschuwen als het gaat om de campagnes voor de Amerikaanse presidentsverkiezingen en inmiddels is het ook gebeurd. Donald Trump heeft geroepen dat een foto met de opkomst van een campagnebijeenkomst van Kamala Harris via AI groter was gemaakt dan hij daadwerkelijk is. Een claim die veelvuldig werd gedeeld op social media, maar die simpelweg niet waar was.

Dit is geen potentieel risico meer, maar iets dat al in de praktijk wordt gebruikt om anderen in diskrediet te brengen. Of om jezelf vrij te pleiten. Als er belastende opnames zijn van iets dat je gezegd hebt (om maar in het thema van de Amerikaanse presidentsverkiezingen te blijven: de Access Hollywood tape van Trump), kun je tegenwoordig claimen dat het is gegenereerd met AI.

Zo'n leugen zal misschien in een rechtszaak uiteindelijk onderuit worden gehaald met meer bewijs, maar in de publieke opinie kan het zaaien van twijfel over de echtheid van iets al een groot effect hebben. Het is een keerzijde van de opkomst van de brede beschikbaarheid generatieve AI, waar in mijn ogen nog te weinig bewustzijn over is. En waar we de komende jaren nog heel veel voorbeelden van gaan zien.

Traditionele media moeten meer als makers gaan denken om jongeren te bereiken

Als je de titel van dit stuk leest, dan kan het voelen als iets wat al jaren wordt geroepen, maar aangezien het nog steeds te weinig gebeurt, blijf ik het graag herhalen met voorbeelden. Dit keer wil ik specifiek een voorbeeld aanhalen dat niets met nieuws te maken heeft, waar ik natuurlijk een groot deel van de tijd over schrijf, maar met televisie.

Deze zomer heb ik namelijk een kleine verslaving. Ik ben bezig om in een recordtijd de YouTube-serie 'Jet Lag: The Game' er doorheen te jagen. Het concept is uiteindelijk iets dat we ook kennen op tv: de combinatie van een reis en een spelshow. Denk Peking Express, Wie is de Mol?, Het Onbekende en Bestemming X. De makers van Jet Lag zeggen inspiratie te hebben gehaald uit het Amerikaanse format 'The Amazing Race'.

Inmiddels zijn er tien seizoenen van 'Jet Lag' en hebben de video's op YouTube gemiddeld zo'n miljoen views. Dat nog los van de mensen die kijken op Nebula, een reclamevrij streamingplatform voor en door makers, waar 'Jet Lag' één van de grotere shows op is.

Wat Jet Lag precies is? Uiteindelijk komt het erop neer dat de makers al reizend tegen elkaar strijden en onderweg kleine opdrachten moeten uitvoeren. Het precieze concept is bijna ieder seizoen anders. Er wordt bijvoorbeeld tikkertje gespeeld binnen heel Europa, waarbij het drietal ieder moet proberen een eigen eindlocatie zien te bereiken als 'runner' maar wordt opgejaagd door de twee anderen als 'chasers'. Ze hebben vier-op-een-rij met de staten van de VS, waarbij de makers daadwerkelijk naar een staat toe moesten reizen om voor het Capitool middels een opdracht de staat te claimen. En heel Nieuw-Zeeland werd veranderd in een speelbord om via een roadtrip met opdrachten van noord naar zuid te reizen.

Het grote verschil met de eerder genoemde tv-shows, is dat de kandidaten alles zelf filmen, zelf de voice-over doen en vooral heel erg zichzelf zijn. Nu kun je dat niet één op één kopiëren naar tv, maar op tv wordt er meteen onderscheid gemaakt tussen een presentator en kandidaten. En mogen ze via interviewtjes achteraf vertellen over wat er gebeurd is, zodat dat er in de montage tussen gemonteerd kan worden. Door de kandidaten zelf al spelend alles te laten doen en vertellen, krijg je een veel puurder format dat aansluiting vindt bij wat een jonge doelgroep gewend is van makers. En aangezien we in Nederland toch alles met bn'ers willen maken, moet het geen probleem zijn om die zelf in de camera te laten praten als kandidaat.

Het zou verfrissend zijn als tv-makers eens zouden werken vanuit een niet-traditionele aanpak en veel meer een makersmentaliteit zouden aannemen. Nu is er één voorbeeld op de Nederlandse tv waarbij een soort van gebeurd is: 'Het Jachtseizoen' dat op SBS6 te zien was. Maar wat hier uiteindelijk vooral gebeurd is, is dat een YouTube-format naar tv gebracht is, gemaakt door dezelfde makers. Het zou mooi zijn als ook tv-makers zelf hier mee zouden gaan experimenteren. Of omroepen jong talent met een YouTube-achtergrond de kans geven nieuwe dingen te ontwikkelen.

Kort

• Op de site van Stimuleringsfonds voor de Journalistiek verscheen een artikel over de TikTok en Instagram-strategie van de KRO-NCRV met BrandPunt+ en Pointer. Deels zijn het bepaalde 'trucjes' die je kunnen helpen om te scoren op die platforms, maar het blijft lastig om vooraf te bepalen of iets werkt of niet.
• De nieuwsbriefhype waarbij individuele journalisten voor zichzelf begonnen leek over zijn hoogtepunt heen, maar niks is minder waar. Substack zag het aantal abonnees op nieuws/politieke nieuwsbrieven het afgelopen jaar verdubbelen. En er zijn steeds meer Amerikaanse journalisten die met succes voor zichzelf begonnen zijn op het platform.
• Apple krijgt flink wat kritiek over zich heen, omdat het heeft besloten dat het 30 procent van de omzet wil van alle donaties die makers krijgen via de Patreon-app. Nu is die 30 procent normaal voor in-app-aankopen en abonnementen, maar aangezien het hier gaat om geld dat makers direct van hun publiek krijgen, voelt het oneerlijker. Zelf maak ik ook gebruik van Patreon voor mijn podcast Trust Nobody en kan dit nog wel eens serieuze impact hebben op onze inkomsten als podcastmakers (wat toch al geen vetpot is).
• Threads breidt steeds verder uit met functionaliteiten die professioneel gebruik van het platform makkelijker maken. Op dit moment komen er statistieken beschikbaar en de mogelijkheid om berichten in te kunnen plannen is aangekondigd.
• Ondanks kritiek van onderzoekers en politici heeft Meta CrowdTangle offline gehaald. Deze tool om Facebook-berichten te analyseren werd veel gebruikt voor onderzoek naar desinformatie. Er is een vervangende tool, maar die heeft veel minder mogelijkheden.
• Zonder grootse aankondiging heeft Google een nieuwe versie van zijn AI-model voor het genereren van afbeeldingen beschikbaar gemaakt in de VS. Opvallend is dat Google dit doet vlak nadat X zijn (controversiële) afbeeldingsgenerator beschikbaar heeft gemaakt.
  • Google heeft deze week een nieuwe Pixel-telefoon aangekondigd met een heleboel AI-functies die zijn geïntegreerd. De meeste werken echter (nog) niet in het Nederlands.
  • Twee weken geleden bepaalde een Amerikaanse rechter dat Google met zijn zoekmachine een illegaal monopolie in handen heeft. Wat dat voor gevolgen heeft, moet nog worden bepaald. Het verplicht opbreken van Google zou één van de opties zijn die op tafel ligt.
• Paramount trekt de stekker uit Paramount Television Studios, dat in de VS televisieseries produceerde. Het is een bezuinigingsmaatregel. Alle series die al in productie waren of op de planning stonden worden ondergebracht bij CBS Studios.