Stemming: Digitale technologie en cultuur

In de afgelopen jaren maakte de cultuursector kennis met streaming, de Spotifys en de Netflixen, platforms als Instagram en TikTok, VR, NFT, en de metaverse. Er is digitale mode, die je in de metaverse kunt dragen. De leden van de Zweedse popgroep Abba zijn dik in de zeventig, maar het is de bedoeling dat de muziekshow met hologrammen van Anni-Frid, Benny, Björn en Agnetha op wereldtournee gaat. Er is zelfs een app Love is on, die mensen matcht op basis van hun muzieksmaak. De coronacrisis is als versneller opgetreden, maar we kunnen stellen dat ook zonder die crisis de implementatie van digitale technologie in de cultuursector voort zou zijn gegaan.

AI en de bibliotheek

Nog geen jaar geleden was er veel woede en hilariteit in de berichtgeving over het feit dat NBD Biblion had besloten om de aanschafinformatie, die bibliotheken gebruiken bij het uitkiezen van boeken voor hun collecties, in het vervolg te laten samenstellen door speciale AI-software. Dat betekende ook het ontslag van 700 recensenten. 

In april 2022 stuurde Auteursbond een brief naar Biblion met de vraag het besluit te heroverwegen. Voorzitter van de Auteursbond Maria Vlaar schreef: “Een deskundige auteur die een recensie schrijft kan iets zeggen over aspecten die software niet kan beoordelen, zoals gelaagdheid, ontwikkeling van de personages en de spanningsboog, emotionele lading, en historische en wetenschappelijke juistheid. De door uw software geproduceerde aanschafteksten zijn dunner, oppervlakkiger en daardoor minder waardevol voor de collectioneurs bij bibliotheken”. Iets wat beaamd werd door Ronald Giphart op Twitter. Nina Nannini, directeur van NBD Biblion, verdedigde zich op de radio. "We breken met de traditie dat we een oordeel in het aanschaf- en informatiepakket stoppen", zegt Nannini. "We geven een beschrijvende tekst over een boek, geen recensie." 

Nannini wil verder: “Voorheen kwam je de bibliotheek binnen en zocht je een boek waarvan je de titel niet meer wist. Bijvoorbeeld een boek over een kikker, die in het moeras woont en een blauw huisje heeft. Als je dit voorlegde aan een bibliotheekmedewerker dan was de kans zeer groot dat die je niet verder kon helpen. De technologie van Bookarang (het bedrijf dat de technologie voor Biblion heeft ontwikkeld, red.) stelt ons nu wel in staat om op basis van deze informatie te zoeken naar dat specifieke boek.”

Gevaren voor cultuurmakers

Ik moest aan de commotie terugdenken, toen ik dit las: "Kunstmatige intelligentie heeft het potentieel om onafhankelijke journalistiek beter te maken dan ooit was - of het gewoon te vervangen". Dat is een recente uitspraak van Mathias Döpfner, CEO van Axel Springer, de Duitse nieuwsmediagigant. Klinkt goed Nannini en Döpfner. Beschrijvend, geen oordeel, onafhankelijk en beter. Zou Döpfner met zijn opmerking ‘gewoon vervangen’ verwijzen naar het idee dat technologie ons vrijmaakt (van arbeid) zodat we meer van het leven kunnen genieten? 

Serieuzer is de Internationale Arbeidsorganisatie van de Verenigde Naties (ILO). Uit een verslag van Kunstenbond blijkt dat het ILO overheden wil verplichten ‘’te zorgen dat het gebruik van AI op een ‘op de mens gerichte’ wijze wordt ingezet en dus als aanvulling op onze menselijke inzet en creativiteit, níet met het doel dit te vervangen.” De laatste maanden zijn er veel zorgen over AI. Dat komt door de bereikbaarheid van chatbots, veelal gratis software, die teksten en beelden kunnen genereren op basis van vragen of opdrachten die door mensen worden ingevoerd. De trainingsdata worden van het internet gescraped, wat vergaande gevolgen heeft voor het auteursrecht en de vraag rondom authenticiteit van beelden.

Auteursrecht en concurrentie

Pictoright ontvangt de laatste tijd regelmatig berichten van beeldmakers die zich zorgen maken over de ontwikkelingen. ‘We zien twee problemen,’ zegt Luna Schumacher, jurist bij Pictoright. “Enerzijds zijn mensen bang voor hun concurrentiepositie. Ze zien de kans dat ze op een gegeven moment vervangen gaan worden door AI-programma’s. Aan de andere kant vrezen ze dat hun werk onrechtmatig gebruikt wordt.” In een gesprek met ‘Waag’ ziet ze wel mogelijkheden voor individuele beeldmakers om te voorkomen dat werk wordt gebruikt voor AI-trainingsdoeleinden. Pictoright zal zich, met de organisaties uit de Federatie Beeldrechten en haar Europese partners, waar mogelijk en noodzakelijk inzetten voor een verbetering van de auteursrechtelijke positie van makers in deze commerciële AI-processen. De organisatie heeft de belangrijkste vragen over AI en auteursrecht voor beeldmakers (of hun erfgenamen) op een rijtje gezet. 

Persbureau Reuters meldde in februari dat Amazon overspoeld werd met boeken die door kunstmatige intelligentie 'geschreven' of 'getekend' zijn. Maar auteursrecht hebben de 'makers' van met AI gegenereerde boeken niet, heeft het Amerikaanse auteursrechtenbureau bepaald. Het bureau heeft ook gekeken naar het stripboek Zarya of the Dawn. Het boek bestaat uit afbeeldingen die zijn gegenereerd door het AI-systeem Midjourney, aangevuld met tekst die wel door een mens is geschreven: Kristina Kashtanova. Er is bepaald dat zij geen auteursrecht heeft op die afbeeldingen, maar wel op haar tekst en de "selectie en rangschikking" van de AI-gegenereerde afbeeldingen. De Auteursbond organiseerde op 27 maart een workshop over AI en auteursrecht. Daar kwamen een aantal vragen aan de orde, vragen die vergelijkbaar zijn met de beeldmakers. 

Wat kan AI?

Wat kan AI allemaal? Welnu, Google heeft met MusicLM een AI-systeem gebouwd dat op commando liedjes kan maken. Ook kan de AI voortbouwen op melodieën die het hoort, bijvoorbeeld door er tegen te fluiten of te neuriën. 

Dichter Carina van der Walt ging in de weer met de chatbot ChatGPT en vroeg o.m. een artikel te schrijven over de poëzie van Lieke Marsman. Gaston Fransen, hoogleraar Nederlandse Letterkunde aan de Universiteit van Amsterdam, vroeg ChatGPT om een gedicht te schrijven in de stijl van Lucebert. Beide experimenten waren nogal teleurstellend. 

Op PLOT, het online magazine over scenarioschrijven, is Gertie Schouten positiever over ChatGPT, “een geweldig hulpmiddel om ideeën te genereren”. Wel stelt Schouten vast dat voor scenarioschrijvers vooral de ethische richtlijnen van de chatbots erg beperkend zijn. Daar valt nog veel te winnen. 

Architect Hans Teerds schrijft dat het wachten is op een AI-programma dat niet alleen beelden genereert, maar ook echt ontwerpt. “Architecten delen wel presentatiebeelden op hun websites, maar de echte data die nodig is om een architectonisch ontwerp samen te stellen, de bouwtekeningen en GIS modellen, wordt niet (zomaar) beschikbaar gesteld.” AI daagt de architecten uit om na te denken over de politieke dimensie van het vak en de essentie van ontwerpen. Aan AI ligt wel degelijk een ideologisch gekleurd wereldbeeld ten grondslag, waarin het draait om efficiency, optimalisatie, expertise. Met dat beeld heeft hij moeite,” niet alleen omdat het zich verschuilt achter expertise en daarom niemand meer verantwoordelijk is voor gemaakte keuzes, maar ook omdat een humane wereld mijns inziens ruimte biedt voor te kunnen aanrommelen, het maken van fouten, af en toe te spelen.”

De grote Vermeer expositie in het Rijksmuseum heeft niet de gehele periode ‘Het meisje met de parel’ kunnen vertonen. Het Mauritshuis wilde het topstuk graag terug voor de paasvakantie. Het Mauritshuis heeft in de periode dat het schilderij in Amsterdam verbleef, het gemis opgevuld met 5 geselecteerde inzendingen uit de wedstrijd 'Maak je eigen meisje'. En wat bleek: het geselecteerde werk 'A Girl With Glowing Earrings' van de Duitse fotograaf Julian van Dieken creëerde hij met behulp van AI systeem Midjourney. Hij heeft het concept overigens verfijnd met bewerkingssoftware zoals Photoshop. Eva Toorenent, die met de European Guild for Artificial Intelligence Regulation voor wetgeving en regels voor wat ze ‘onethische technologie’ noemt, zegt in De Volkskrant : “Terwijl Midjourney veel geld verdient met zijn software, zien de artiesten en makers wier werk onvrijwillig in deze dataset zit hier niks van terug’, stelt Toorenent. Het is ook niet mogelijk om Midjourney eenmaal aangeleerd werk te laten vergeten. Het stoort haar hogelijk: ‘Zonder het werk van menselijke artiesten zou dit programma helemaal geen werken kunnen generen. Hoe hoger de kwaliteit van kunst in de dataset, hoe hoger de kwaliteit van de AI-kunst”.

Kansen bieden

Eric Postma, hoogleraar kunstmatige intelligentie van Tilburg University, is niet bang dat makers overbodig worden. “‘lk denk dat elke nieuwe technologie meer kansen biedt dan ze doodt. Photoshop maakte schilders ook niet overbodig. Het creëerde een golf van digitale kunstenaars. Op dezelfde manier zal AI het werk van een kunstenaar doen evolueren.” Postma verder: “Dit verrijkt de kunst omdat er een nieuw soort visuele kunstenaar bij komt, namelijk mensen die vaardig zijn met tekst. Zij krijgen hiermee fantastisch gereedschap in handen.” Hij ziet zelfs een wereld voor zich waar realistische films kunnen worden gemaakt zonder acteurs! Filosoof Doortje Lenders schrijft dat kunstenaars niets te vrezen hebben van AI. “Alle kunst, menselijk of algoritmisch, is namelijk geïnspireerd op het werk van anderen. De grens tussen inspiratie en diefstal is op zijn minst vaag.” Het belangrijkste verschil tussen het maakproces van een computer en dat van een mens: “een (menselijke) kunstenaar overwint persoonlijke, sociale, technische en conventionele beperkingen om tot een werk te komen.” Het maakproces dat het werk waarde zou geven, ontbreekt bij AI.

Pauzeknop

Eind maart werd een open brief wereldwijd gepubliceerd waarin wordt gepleit om een pauze in te lassen met betrekking tot de ontwikkeling van kunstmatige intelligentie. En deze pauze te gebruiken om na te denken over de maatschappelijke gevolgen van deze technologie. Het gaat dan bijvoorbeeld over automatisering van banen en de grotere hoeveelheden “propaganda en onwaarheden”, al noemen de ontwikkelaars bij die laatste categorie geen specifieke voorbeelden. Ook vragen de briefschrijvers zich af of '’we geen risico lopen onze samenleving kwijt te raken”.

Europa bereidt een internationaal verdrag voor dat overheden een pauzeknop biedt als kunstmatige intelligentie (AI) een bedreiging vormt voor democratische waarden of mensenrechten, schrijft Trouw. Aan het verdrag werken ook de VS, Japan en Canada mee. Claes de Vreese, hoogleraar AI en Society aan de Universiteit van Amsterdam noemt in het bericht dat iedereen met behulp van de huidige versie van ChatGPT frauduleuze e-mails kan opstellen. Hij denkt ook aan allerlei vormen van desinformatie, met tekst en beeld, die gemakkelijker dan ooit kunnen worden verspreid. “Want dat is de beslissende gamechanger: de ongelooflijk brede toegankelijkheid van deze technologie.”