Generatieve AI wordt vaak vergeleken met een zwarte doos: je voedt het een prompt en aan de andere kant rolt er een stuk tekst, beeld of muziek uit. Tijdens het Paradisodebat op zondag 6 september deden culturele instellingen, onderzoekers en de politiek een poging om de box te hacken. Wat is de macht en kracht van de culturele en creatieve sector?

Hoe het proces van generatieve AI eruitziet, daarover zijn big tech bedrijven niet transparant. Het is de vraag of een opgeheven vuist van de culturele en creatieve sector daar verandering in kan brengen. Het afgelopen jaar leidde GenAI tot onrust binnen de sector vanwege dataroof, inbreuk op het auteursrecht en teruglopende werkgelegenheid.

Bij de muziekindustrie zijn de eerste klappen al gevallen, benadrukt componist en sounddesigner Johan van der Voet in de eerste gespreksronde. AI-muziek overspoelt streamingplatforms als Spotify en drukt de menselijke makers weg. Onlangs introduceerde Spotify een AI-label voor muziek, ‘zodat luisteraars een bewuste keuze kunnen maken’.

‘Mensen hebben een voorkeur voor door mensen gemaakte muziek’, stelt Van der Voet. Musici spelen met emotie en interpretatie. Tegelijkertijd werd de omstreden AI-track Wij zeggen nee nee nee tegen een azc van JW Broken Veteran miljoenen keren gestreamd op Spotify – gevolgd door een tegenbeweging van de Dolle Mina’s, die mensen opriepen om Sophie Straats nummer Vrijheid, Gelijkheid, Zusterschap te streamen. Het lijkt op het begin van een nieuwe kloof tussen een groep die geen enkel probleem heeft met AI-muziek en een groep die pro-menselijke kunst is.

Van der Voet: ‘AI-bedrijven benaderen componisten als ik om AI-modellen te trainen.’ Het laat zien hoe techbedrijven op makers en journalisten parasiteren door het internet af te scrapen en hun AI-modellen ermee te trainen, die vervolgens met dezelfde journalisten en makers concurreert. Zo bezien worden de sectoren van binnenuit uitgehold. ‘Eerst worden mijn films gescrapet en vervolgens moet ik geld betalen om toegang te krijgen tot de modellen die met mijn werk zijn getraind’, aldus cameraman en filmregisseur Jean Charles Counet.

Bezuinigingen
Nog meer dan de opkomst van AI vreest Counet de bezuinigingen bij de NPO – zie het wegvallen van VPRO Tegenlicht en EO docs. Het ‘geweten’ van gespreksronde 1, Tim Schoot Uiterkamp (Stichting Democratie en Media) en Stefan Heijendaal (NDP Nieuwsmedia), benadrukt dat we een gedeelde realiteit nodig hebben om het voortbestaan van de democratie te garanderen. Uiterkamp wijst op het verschil tussen het lezen van de Volkskrant of Telegraaf enerzijds, en gepersonaliseerd AI-nieuws anderzijds. Hij lijkt hiermee te suggereren dat verzuiling minder een bedreiging vormt voor de democratie dan filterbubbels.

Democratiserend effect
In het daaropvolgende interview toont Payal Arora (hoogleraar Universiteit Utrecht, oprichter het Inclusive AI Lab) zich juist kritisch op culturele instituties, mainstream media en het auteursrecht. Het grootste deel van de wereldbevolking gaat nooit naar een museum en veel mensen voelen zich niet gerepresenteerd door instituties.

AI heeft een krachtig democratiserend effect voor mensen die voorheen geen toegang hadden tot een opleiding of netwerk, aldus Arora. Dat is iets om hoopvol over te zijn. Iedereen kan nu films maken. In het globale Zuiden – waar naar schatting 90% van de wereldbevolking woont, en de meeste jonge mensen – leidt de opkomst van AI tot groot optimisme. Met haar Inclusive AI LAB zet Arora zich mede in om AI-modellen inclusiever te maken, door gemarginaliseerde gemeenschappen te betrekken in de ontwikkeling van AI.

Arora pleit voor meer globalisme: kijk voorbij de eigen grenzen naar ontwikkelingen in het globale Zuiden. Het westen hoeft niet alles zelf of opnieuw (en trager) te ontwikkelen. Ze krijgt goede kritische vragen vanuit het publiek over de klimaat-effecten van AI en hoe we als gebruikers zelf kunnen bijdragen aan meer inclusieve AI.

Eigen AI eerst
Arora’s boodschap vindt weinig weerklank in het afsluitende minidebat met politici, cultuurwoordvoerders en woordvoerders digitale zaken uit de Tweede Kamer. Daar gaat het vooral over het beschermen van ‘onze’ makers en auteursrecht en het ontwikkelen van Europese AI-modellen om onze soevereiniteit te waarborgen ten opzichte van andere wereldmachten. De afgezanten van PRO, VVD, D66, CDA en Volt zijn het daarin opvallend met elkaar eens.

Mooi is dat de politici de hand in eigen boezem steken: de Tweede Kamer draait namelijk nog steeds volledig op de software van Microsoft. Het is de vraag of het nieuwe kabinet de vlucht naar voren durft te maken.

Het Paradisodebat is georganiseerd door Kunsten ’92, in samenwerking met de Akademie van Kunsten, ACI (directieoverleg Amsterdamse culturele instellingen) en Paradiso. Met deze editie ook Waag Futurelab.