De journalistiek moet AI inzetten op het publiek beter te bedienen, niet om geld te verdienen

Afgelopen week was ik op SXSW in Austin, Texas om me onder te dompelen in wat er allemaal gebeurt op het gebied van tech en media. Nu is het natuurlijk mijn werk om dat te volgen, maar SXSW helpt me ieder jaar weer om alles even een plek te geven, verbanden te leggen, grotere ontwikkelingen te zien, mijn kijk te verbreden en nieuwe dingen te leren. Zo ook dit jaar. Ik deelde woensdag al wat eerste lessen en heb ook nog een aantal ideeën voor toekomstige nieuwsbrieven. Deze zaterdag wil ik het hebben over:

• Hoe de journalistiek AI wel en niet in moet zetten.
• Media publiceren massaal mislukte Photoshop-poging van Kate Middleton.

Hoe de journalistiek AI wel en niet in moet zetten

SXSW is altijd een goede indicator voor hypes en trends. Vorig jaar waren er logischerwijs heel veel sessies over kunstmatige intelligentie, waar het ook allemaal ramdruk was. ChatGPT was toen net publiek beschikbaar en een paar weken later zou de halve wereld het hebben over nepfoto's van de paus in een Balenciaga-jas die waren gegenereerd door AI. Het jaar daarvoor ging het heel erg veel over NFT's.

Dit jaar viel me op dat de sessies over spatial computing (de term die Apple-gebruikt voor wat je doet met een Vision Pro) razend populair waren en dat er een zeer uitgebreid programma was rondom XR (de verzamelterm voor augmented reality en virtual reality).

Uiteraard was er ook dit jaar veel aandacht voor AI met zowel de technisch kant en hoe je interface ontwerpt voor AI, als de praktische toepassingen binnen verschillende sectoren en de risico's. De CTO van Paramount vertelde over hoe zij bezig zijn met de impact van AI binnen de entertainment-industrie. Hoe het het productieproces van films en series ingrijpend verandert, maar ook hoe ze experimenteren met het genereren van nieuwe content voor hun franchises met speciaal op hun eigen archief getrainde AI-modellen. Mocht je hier mee over willen lezen: ik schreef hier woensdag al over.

De meest interessante sessie om uit te lichten in deze nieuwsbrief is die van Zach Seward. Hij is mede-oprichter van Quartz, waar hij al bezig was met de toekomst van de journalistiek. Sinds een paar maanden is hij 'Editorial Director of A.I. Initiatives' bij The New York Times. Hij vertelde over het gebruik van AI in de journalistiek tot nu toe. Dat bestond uit een reeks voorbeelden hoe onderzoeksjournalisten door middel van machine learning grote datasets hebben kunnen analyseren. Het gaat hierbij dus niet om generatieve AI, wat inmiddels een soort synoniem is geworden voor AI, maar om bijvoorbeeld image recognition. Sommige voorbeelden waren al vijf jaar oud, want uiteindelijk is AI en het toepassen ervan niet nieuw.

Seward had uiteraard ook een aantal specifieke toepassingen van generatieve AI. Hij begon zijn presentatie met een reeks uitgevers die generatieve AI hebben gebruikt om artikelen te genereren om hoog in Google te komen en geld te verdienen via bijvoorbeeld affiliatielinks. Denk aan CNET en Sports Illustrated, waar ik in deze nieuwsbrief ook al over schreef. Dit zijn de 'foute' toepassingen, maar je kunt ook goede dingen met generatieve AI. Hij had voorbeelden van hoe journalisten van The Marshall Project documenten van 30 gevangenissen in de VS hebben samengevat om erachter te komen welke boeken verboden waren in die gevangenissen. Van een Filipijnse journalist die een taalmodel gebruikte om overheidsdocumenten in begrijpelijke taal om te zetten. En van de site Realtime, die automatisch nieuwsberichten schrijft op basis van realtime data.

Er zat één vrij simpele boodschap in zijn verhaal: de journalistiek moet AI inzetten om het publiek beter te bedienen, niet om geld te verdienen. En uiteraard moet er een mens onderdeel zijn van het proces:

Maar altijd met menselijk toezicht: het aansturen van de samenvattingen en vervolgens het controleren van de resultaten, de bot leren hoe een auditrapport te doorlopen, beslissen wanneer de bot wel en niet de controle over te laten nemen, en de rest van de software ontwerpen die de site aandrijft. In al deze gevallen is het eerst de mens en als laatste de mens, met wat krachtige, generatieve AI in het midden om het verschil te maken.

Zach heeft zijn hele verhaal inclusief slides gepubliceerd op zijn website. Het is wat leeswerk, maar zeer de moeite waard.

Media publiceren massaal mislukte Photoshop-poging van Kate Middleton

De laatste sessie die ik zag op SXSW was er één die hoog op mijn lijstje stond: 'AI and Journalism: The Massive Consequences When Truth is AI'. Een panel met een journalist en twee chefs fotografie van CNN en The Washington Post. De grap was dat een aanzienlijk deel van het panel helemaal niet over AI ging, maar over een foto die 'met de hand' was bewerkt in Photoshop. Nu gebruikt Photoshop natuurlijk ook AI, maar daar gaat het in dit geval niet om.

Waar het wel om gaat is de foto van de Britse Prinses Kate, die werd teruggetrokken door de persbureaus toen mensen was opgevallen dat er allerlei gekke fouten in de foto zitten. Fouten die, als je een foto een beetje goed inspecteert, heel duidelijk opvallen, maar als het Britse Koningshuis een foto aanlevert aan een persbureau wordt deze blijkbaar niet superuitgebreid gecontroleerd.

Bernadette Tuazon, chef fotografie bij CNN, vertelde hierover:

Ik werd zondag gebeld, het was middernacht in Londen. Ik dacht dat er iemand van het Britse Koningshuis overleden was, anders bellen ze niet vanuit Londen op dat tijdstip, maar het ging om de foto van Kate Middleton en haar kinderen. Verschillende media en persbureaus hadden de foto teruggetrokken. Toen ik goed keek zag ik inderdaad dat er niets klopte, maar ik wilde eerst alle informatie hebben voordat ik hem offline haalde. Wat was hier gebeurd? Uiteindelijk hebben we besloten de foto niet weg te halen, omdat we tot de conclusie kwamen dat de foto zelf het verhaal was.

Er volgden in de dagen daarna nog veel meer artikelen in alle Westerse media over geruchten die al langere tijd gaan over de gezondheid van Kate Middleton. De zeer beperkte verklaring dat de prinses zelf aan de slag gegaan was met Photoshop en dat dat mis was gegaan, voedde de geruchten alleen maar meer.

Maar daar gaat het nu niet om, het gaat erom dat de foto in eerste instantie is verspreid door meerdere persbureaus en is geplaatst door allerlei journalistieke organisaties. Terwijl bij een kleine check duidelijk was dat er iets niet klopte en dan verspreidt of plaats je zo'n foto niet, totdat hier een verklaring voor is. "De snelheid en de druk van de concurrentie staan in contrast met zorgvuldigheid", vatte David Allen van CNN, die het panel leidde de situatie samen. En die zorgvuldigheid wordt alleen maar belangrijker nu het steeds makkelijker wordt om media te genereren en te manipuleren.

Bij The Washington Post heeft men de situatie gebruikt om de lezers meer uit te leggen over hoe het journalistieke proces werkt en hoe dit mis heeft kunnen gaan. En dat is belangrijk, want transparantie en uitleg wordt alleen maar belangrijker om het vertrouwen van het publiek te behouden (of te winnen). Recent onderzoek van het Reuters Institute laat zien dat ruim twee derde van leidinggevenden in de journalistiek verwacht dat AI ervoor gaat zorgen voor minder vertrouwen in nieuws.

Tuazon van CNN kwam begin vorig jaar tot de conclusie dat haar redactie niet klaar was om goed om te kunnen gaan met afbeeldingen die zijn gegenereerd door AI.

Ik ben contact gaan opnemen met wetenschappers, techbedrijven etc. Niet alleen om meer te leren, maar ook om te kijken of er technologie is die ons kan helpen dit te herkennen.

Journalisten bij CNN, en trouwens ook bij The Washington Post, krijgen nu training. Maar blijkbaar was die training nog niet genoeg om een gephotoshopte foto van het Britse koningshuis te herkennen, simpelweg omdat de bron vertrouwd werd. Je gaat je wel afvragen of redacties dan echt klaar zijn om om te gaan met wel goed bewerkte of gegenereerde foto's.

Kort

• De Volkskrant publiceerde donderdag een artikel over Gerard Timmer. Hij zou als directeur van BNNVARA niet hebben ingegrepen toen hij signalen kreeg van de misstanden binnen zijn omroep. Timmer stapte in 2018 over naar de NOS waar hij directeur werd, maar stapt nu op vanwege de berichtgeving.
• De RTL Group verwacht dat zijn streamingactiviteiten, waar in Nederland Videoland onder valt, in 2026 winstgevend zijn.
• Persbureau AP gaat op zijn site productreviews en -vergelijkingen publiceren om geld te verdienen middels affiliatelinks. De artikelen worden niet door AP zelf gemaakt, maar Taboola gaat dat doen. Dit bedrijf is vooral bekend van de blokjes aanbevolen artikelen op nieuwssites, die vol met clickbait-spam staan. Een prima partij om stukken voor op de site van een persbureau te laten schrijven, lijkt me zo...
• Het Amerikaanse Huis van Afgevaardigen heeft ingestemd met een wet die TikTok verbiedt. De wet moet nog door de senaat en het is maar zeer de vraag of dat gaat gebeuren, maar een Amerikaanse TikTok-verbod was nog nooit zo dichtbij.
  • Donald Trump wilde als president dat TikTok verplicht in Amerikaanse handen kwam, toen hij in een handelsoorlog was beland met China. Nu is hij plots tegen een verbod, omdat hij daar als presidentskandidaat jongeren kan bereiken.
  • In Europa heeft TikTok weer een nieuwe boete gehad. Dit keer in Italië, omdat het schadelijke content heeft getoond aan minderjarige gebruikers. Het gaat om 10 miljoen euro.
• Meta dreigt in de Amerikaanse staat Illinois nieuws te blokkeren als het bedrijf verplicht wordt om lokale uitgevers te betalen. Het wijst naar Canada, waar het dit al heeft gedaan, om het dreigement kracht bij te zetten.
  • In augustus gaat CrowdTangle offline. Met deze tool, die in 2016 werd overgenomen door Facebook, kunnen journalisten en wetenschappers data uit Facebook halen voor onderzoek. Het was al bekend dat Facebook zou stoppen met CrowdTangle, maar nog niet wanneer. De Meta Content Library moet een alternatief zijn, maar heeft allerlei mogelijkheden die CrowdTangle heeft niet.
• Het Europees Parlement heeft de Europese AI-wetgeving goedgekeurd, waardoor deze dit voorjaar zal worden ingevoerd. De wet verbiedt onder meer enkele 'gevaarlijke' toepassingen van AI en verplicht transparantie over het gebruik van AI.
• Google laat gebruikers geen vragen over aankomende verkiezingen stellen aan AI-chatbot Gemini. Tenminste: niet in het land waar de verkiezingen plaatsvinden.
  • Midjourney, waarmee je afbeeldingen kunt genereren, laat gebruikers in aanloop naar de Amerikaanse verkiezingen geen afbeeldingen van Trump of Biden genereren.
• Spotify claimt dat Apple een update van zijn app in de EU tegenhoudt. In de update wordt uitgelegd hoe je buiten de App Store om een goedkoper abonnement afsluit, wat Apple moet toestaan onder de Digital Markets Act.
  • Apple blokkeerde afgelopen week ook het ontwikkelaarsaccount van gamemaker Epic, die net als Spotify al jaren een conflict heeft met bedrijf. De reden was dat directeur Tim Sweeney zich negatief had uitgelaten over Apple en dat mag niet volgens de voorwaarden. Twee dagen geleden werd de blokkade weer opgeven.
  • Apple heeft in de EU een extra wijziging aangekondigd om te voldoen aan de Digital Markets Act: apps mogen direct vanaf de website van een ontwikkelaar worden gedownload en geïnstalleerd.
• Spotify voegt in een aantal landen, waaronder Nederland, videoclips toe aan de app. Net als bij videopodcasts, kunnen gebruikers wisselen tussen luisteren en kijken.