YouTube laat iedereen gewoon deepfakes uploaden

Er is de afgelopen dagen ongelofelijk veel gebeurd dat ik met je wil bespreken, dus ik heb een lekker lange nieuwsbrief voor je. Laten we meteen beginnen:

• TikTok en Instagram groeien als nieuwsbronnen.
• Sam Altman is plots ontslagen als CEO van OpenAI; hij gaat nu aan de slag bij Microsoft.
• YouTube's AI-beleid: deepfakes mogen, behalve van sommige artiesten.
• Adverteerders rennen weg bij Twitter X, omdat Elon Musk een antisemiet blijkt te zijn.

TikTok en Instagram groeien als nieuwsbronnen

Ik wil deze week niet openen met een lang stuk, maar met een grafiek die in mijn ogen eigenlijk geen toelichting nodig heeft.

Nu zijn dit uiteraard Amerikaanse cijfers, maar volgens mij is deze ontwikkeling in Nederland ook bezig. Facebook Twitter X worden minder belangrijke nieuwsbronnen, LinkedIn wordt juist iets belangrijker. Maar vooral Instagram en TikTok worden steeds belangrijker als nieuwsbron. En laten dat nou net kanalen zijn waar veel nieuwsmerken niet of slechts beperkt actief zijn... Twee weken geleden schreef ik al over de gevolgen die dat heeft.

Sam Altman is plots ontslagen als CEO van OpenAI; hij gaat nu aan de slag bij Microsoft

Twee Amerikaanse techjournalisten noemden het dit weekend het grootste nieuws uit de techindustrie van dit jaar, misschien zelfs van de afgelopen paar jaar: Sam Altman, de CEO van OpenAI, is van de ene op de andere dag door het bestuur ontslagen. Mede-oprichter Greg Brockman besloot daarop ook op te stappen.

De precieze reden voor het ontslag is nog steeds niet helemaal duidelijk. Je zou denken dat er iets is voorgevallen en er straks allemaal dirt naar buiten komt, maar als dat zo is, is het opmerkelijk dat Greg Brockman ervoor kiest om Altman achterna te gaan. Als er een schandaal is, blijf je daar vooral weg toch?

Techjournalisten speculeerden dit weekend dat het er mogelijk mee te maken heeft dat in het bestuur mensen zitten die voorzichtig met de ontwikkeling van AI om willen gaan vanwege de risico's en dat Altman vooral heel snel dingen naar de markt wil brengen met alle risico's van dien. Een andere reden zou kunnen zijn dat Altman ondertussen ook bezig zou zijn met een andere startup en waardoor er volgens het bestuur sprake was van belangenverstrengeling.

Hoe dan ook: er ontstond een grote golf van kritiek bij medewerkers van het bedrijf en bij de aandeelhouders (het bestuur van OpenAI bestaat uit mensen die geen aandelen hebben), dat er zondag werd onderhandeld over de terugkeer van Altman. Een extra bevestiging dat hij niet iets op zijn geweten heeft dat het bedrijf zou kunnen schaden. Die onderhandelingen zijn echter op niets uitgelopen en Altman en Brockman keren niet terug bij het bedrijf.

Sterker nog: ze hebben al een nieuwe baan. Ze gaan samen aan de slag bij Microsoft binnen hun AI-onderzoeksteam. Opmerkelijk, als je je bedenkt dat Microsoft een grote investeerder in OpenAI is en ook de technologie van het bedrijf gebruikt in al zijn producten.

Ondertussen heeft OpenAI besloten om de interim-CEO die het vrijdag had aangesteld meteen te vervangen. Emmett Shear, mede-oprichter en ex-CEO van videostreamingsite Twitch, wordt de baas van het AI-bedrijf.

Mocht je een completer overzicht willen van wat er dit weekend is gebeurd: TechCrunch heeft een complete tijdlijn gemaakt van de reeks aan bizarre ontwikkelingen in de top van OpenAI.

De vraag is nu vooral: wat heeft dit voor gevolgen voor OpenAI. Veel medewerkers waren onder meer vanwege Altman bij het bedrijf gaan werken. En het afgelopen jaar liep het bedrijf voorop met het ontwikkelen van diverse generatieve AI-modellen. Kan het die positie nog vasthouden of valt het bedrijf uit elkaar? En wat is Microsoft precies van plan? Wordt vervolgd...

YouTube's AI-beleid: deepfakes mogen, behalve van sommige artiesten

YouTube heeft een nieuw beleid rondom het gebruik van generatieve AI opgesteld en de korte samenvatting is: je kunt zonder problemen deepfakes op het platform plaatsen, behalve als het gaat om artiesten die aangesloten zijn bij een platenmaatschappij waar YouTube een deal mee heeft gesloten.

De uitgebreidere versie: YouTube verplicht iedereen die gebruik heeft gemaakt van AI om beeld en geluid te bewerken of te genereren om dit te vermelden bij het uploaden. Vervolgens worden er labels getoond, zodat gebruikers zien dat niet alles wat je ziet in de video in kwestie echt is.

To address this concern, over the coming months, we’ll introduce updates that inform viewers when the content they’re seeing is synthetic. Specifically, we’ll require creators to disclose when they've created altered or synthetic content that is realistic, including using AI tools. When creators upload content, we will have new options for them to select to indicate that it contains realistic altered or synthetic material. For example, this could be an AI-generated video that realistically depicts an event that never happened, or content showing someone saying or doing something they didn't actually do.

Houd je je niet aan deze verplichting dan behoudt YouTube zich het recht voor om bijvoorbeeld de mogelijkheid om geld te verdienen aan advertenties uit te zetten of zelfs je account te verwijderen.

Wordt er een deepfake van je gemaakt en ben je het daar niet mee eens? Dan kun je een formulier invullen en beoordeelt YouTube of je hier schade van ondervindt. Hierbij wegen allerlei factoren mee, bijvoorbeeld of je beroemd bent. Het kan dus zijn dat YouTube beslist dat een deepfake die van jou gemaakt is, gewoon online mag blijven staan en dan rest je niets anders dan naar de rechter te stappen.

Een belangrijke uitzondering op de nieuwe regeling is er voor muziek. YouTube (en ook TikTok) worden de afgelopen maanden overspoeld met gekloonde stemmen van artiesten. Nu wil YouTube heel graag platenmaatschappijen te vriend houden en dus krijgen die een aparte behandeling. Zij kunnen alle video's waarin de gekloonde stem van hun artiesten wordt gebruikt offline laten halen. Tenminste: als ze een contract met YouTube hebben gesloten.

De videosite komt namelijk met een speciale tool, genaamd Dream Track, waarmee je muziekvideo's kan maken met gekloonde stemmen van artiesten. Je kunt daarbij de stemmen (en muziekstijl) gebruiken van artiesten waarvan de platenmaatschappijen een deal hebben met YouTube en die labels krijgen vervolgens een vergoeding van het bedrijf voor het gebruik van die stemmen. Onder meer Charlie Puth, Demi Lovato, Sia en T-Pain zijn bij de start beschikbaar in Dream Track.

YouTube geeft expliciet aan de regels rondom het gebruik van generatieve AI niet definitief zijn en met de tijd kunnen worden aangepast. Mijn verwachting is dat ze op termijn niet houdbaar zijn, omdat ze veel te veel vrijheid bieden om deepfakes van bijvoorbeeld acteurs of politici te uploaden. Of dat er wetgeving komt die YouTube verplicht om al bij het uploaden van een video niet alles toe te laten in plaats van pas achteraf in te grijpen. Dit is in het verleden ook gebeurd met auteursrechtelijk beschermd materiaal en is ook hierbij te verwachten.

Adverteerders rennen weg bij Twitter X, omdat Elon Musk een antisemiet blijkt te zijn

"Elon Musk May Have Just Signed X’s Death Warrant", kopte Wired afgelopen week. Wat is er aan de hand? Onder meer IBM, Disney, de Europese Unie en Apple zijn, in ieder geval tijdelijk, gestopt met adverteren op Twitter X. Zeker die laatste is pijnlijk voor X, omdat Apple een heel grote adverteerder was.

De directe reden is dat Elon Musk via een reply zijn steun uitsprak voor een antisemitische complottheorie. Maar er is meer aan de hand: de advertenties van grote bedrijven duiken namelijk veelvuldig op bij extreem-rechtse, racistische en antisemitische posts op X. En deze posts worden ook niet verwijderd door moderatoren. De stichting Media Matters for America zette dit uiteen met een hele reeks voorbeelden.

X kwam zaterdag met een reactie waarin de enige verdediging was dat de voorbeelden van Media Matters incidenten waren en dat de organisatie veel moeite had gedaan om die boven water te krijgen. Daarnaast verklaarde het dat media proberen om X kapot te maken:

Despite our clear and consistent position, X has seen a number of attacks from activist groups like Media Matters and legacy media outlets who seek to undermine freedom of expression on our platform because they perceive it as a threat to their ideological narrative and those of their financial supporters. These groups try to use their influence to attack our revenue streams by deceiving advertisers on X.

Je ziet hier duidelijk de retoriek terug die we kennen van extreem-rechtse politici. De kop en de afsluitende zin van de verklaring waren dan ook 'Stand with X to protect free speech'. Elon Musk kondigde na de verklaring aan dat hij maandag een rechtszaak zal aanspannen tegen Media Matters. Het is Elon Musk, dus de kans is groot dat hij dat helemaal niet doet. Zo wel, dan staat hij blijkbaar toch niet zo voor 'free speech' als hij altijd roept...

Nederlandse bedrijven adverteren ondertussen gewoon lekker door. Toen ik net even door mijn tijdlijn scrolde zag ik advertenties van onder meer de Nederlandse loterij (een staatsbedrijf), NRC, KPN, Ziggo en Odido.

Ondertussen blijft contentmoderatie op Twitter X een groot probleem. Bijna alle haatdragende berichten op het platform worden niet verwijderd, blijkt uit onderzoek van The Center for Countering Digital Hate. Volgens de EU heeft het bedrijf vele malen minder moderatoren dan de concurrentie. In september waren het er in/voor de EU 2294, terwijl TikTok er 6125 heeft en YouTube 16.974.

Kort

• SBS6 stopt eind dit jaar met GoedNieuws Vandaag, het dagelijkse televisieprogramma met positieve en constructieve journalistiek. Er kijken gemiddeld minder dan 100.000 mensen naar. Het zal niet geholpen hebben dat het programma al sinds de eerste aankondiging kapot werd gemaakt in Vandaag Inside, de talkshow die op dezelfde zender te zien is.
• RTL Nieuws is gestart op een TikTok-account. Er zijn twee TikTok-gezichten en er worden onderwerpen gekozen die een jong publiek interessant vindt. In aanloop naar de verkiezingen worden er video's gemaakt over de jongste kandidaat-Kamerleden.
• Business Insider veranderde zijn naam twee jaar geleden in Insider. Dat bleek achteraf gezien niet slim en dus wordt de naamsverandering weer teruggedraaid.
• The Guardian is een nieuw product gestart: een papieren magazine met lange artikelen. Het is niet de eerste keer dat de krant dit probeert, maar dit keer is het een prachtig vormgegeven tijdschrift dat niet misstaat op de gemiddelde salontafel.
• BuzzFeed heeft het bouwen van een site op basis van verkeer via social media (en dan vooral Facebook) zo ongeveer uitgevonden, maar ziet ook in dat de tijd vanuit social media (en Google) voorbij is. Het roer gaat om en BuzzFeed zet in op direct verkeer naar zijn website.
• Google zou Amerikaanse uitgevers meer dan 10 miljard dollar per jaar schuldig zijn voor het gebruik van hun content, stellen onderzoekers van Columbia University. Ze hebben berekend dat Google 17,5 procent van alle omzet uit de zoekmachine aan uitgevers zou moeten geven, omdat zonder hun artikelen de zoekresultaten waardeloos zouden zijn.
  • Google betaalt lokale media in de VS om zijn AI-toepassing Genesis te gebruiken voor het genereren van nieuwsartikelen. Het systeem kan persberichten en data omzetten in artikelen voor websites en nieuwsbrieven, waardoor redacties efficiënter kunnen werken.
  • Google's Jigsaw heeft een gratis tool beschikbaar gemaakt waarmee kleine platforms terrorismecontent offline kunnen halen.
• Amazon ontslaat honderden mensen die werken aan spraakassistent Alexa. Inmiddels wordt duidelijk dat dit soort diensten nooit zijn geworden wat de techbedrijven hadden gehoopt en verschuift de focus naar generatieve AI.
• TikTok vecht het EU-besluit aan dat het is aangemerkt als 'poortwachter' onder de Digital Markets Act. Facebook Meta doet dit ook maar enkel voor Facebook Messenger en Marketplace. Het bedrijf accepteert dat Facebook, Instagram en WhatsApp deze status hebben gekregen. Als je een 'poortwachter' bent, zijn er een hele reeks extra voorwaarden waar je aan moet voldoen.
• Twitter-alternatief BlueSky heeft 2 miljoen gebruikers. Ik ben daar zelf inmiddels actiever dan op Twitter X.
• Adobe heeft een nieuwe technologie getoond waarmee je audio uit elkaar kunt halen: achtergrondgeluid en verschillende stemmen worden dankzij kunstmatige intelligentie opgesplitst in losse audiosporen. Wanneer de tool beschikbaar komt voor gebruikers is nog niet bekend.