De mogelijkheden van Artificial Intelligence worden zowel over- als onderschat. Zoveel was wel duidelijk tijdens de bijeenkomst over Kunstmatige Kennis en de Toegankelijkheid van Media en Apps op woensdagavond 27 maart in Rozet – Arnhem.
De avond was georganiseerd onder de paraplu van Publieke Pioniers (#VPRO Medialab en #NPO Innovatie). Veel nieuwe AI-platforms en -toepassingen hebben beperkte mogelijkheden – zo legden de inleiders uit – omdat ze gebouwd zijn door mensen met een afgebakend wereldbeeld en doordat de gegevens waarmee de intelligentie gevoed wordt, niet gevarieerd en inclusief zijn.
Een week later hebben deze partijen met studenten van de HAN een hackathon opgezet, die vrijdag 5 april resulteert in enkele open demo’s bij de hogeschool aan de Ruitenberglaan 26 in Arnhem.
Een openbaring op de AI-avond in Rozet – zeker voor mannelijke toeschouwers – was het commentaar van Judith Zoë Blijden op menstruatie-apps. Die vormen in de categorie gezondheid één van de meest populaire online diensten. Volgens Femtech World worden stonde-apps anno 2024 gebruikt door 350 miljoen vrouwen wereldwijd.
Blijden merkt op dat AI gepaard gaat met grote beloften die in praktijk lang niet altijd waargemaakt worden. De voorspelbaarheid van het vrouwelijk lichaam is minder eenvoudig dan veel ontwikkelaars (en zeker ook financiers van nieuwe technologie) veronderstellen. Bovendien houden de meeste apps geen rekening met veranderende omstandigheden en gebruiksredenen, observeert Blijden. “Vrouwen willen graag zwanger worden of juist helemaal niet. Vrouwen hebben sex met mannen. Vrouwen houden van roze en bloemen.”
De realiteit is volgens Blijden veel meer fluïde. Die diversiteit laat zich niet in een simpel algoritme van een 28-daagse cyclus vangen. Blijden heeft nog veel meer te vertellen in haar podcast The Digital Period.
Ook bij met het maken van portretten heeft AI moeite met diversiteit, demonstreerde Erdinç Saçan (Fontys University) op de AI-avond in Rozet met enkele kunstmatig gecreëerde foto’s. Veel algoritmes worden gevoed met historische gegevens, met als gevolg dat diverse kunstmatige kennis-platforms het traditioneel witte voorrecht en de invloed van mannen versterken.
“Vraag een text-to-image tool om een beeld van een advocaat, een architect of een CEO, dan zijn het vooral witte mannen van middelbare leeftijd die je te zien krijgt. Schoonmakers en fast-food medewerkers zijn daarentegen vaak donkere mensen. Een Indische persoon draagt vrijwel altijd een tulband en een Mexicaan wordt standaard afgebeeld met een sombrero. AI versterkt zo vooroordelen en stereotypen.”
Saçan wijst erop dat veel AI-platforms gevoed zijn met gedateerde gegevens: garbage-in, garbage-out. Dat roept ook politiek weerstand op. Hij signaleert dat er in de VS vraagtekens bij ChatGPT worden geplaatst. Die kiest de zijde van de Democraten, met als gevolg dat er nu aan een Republikeinse ChatGPT wordt gewerkt. Saçan voorziet daarom ook een BlackGPT, een MuslimGPT en een Hardrock_GPT, oftewel een steeds verdergaande fragmentatie van kunstmatige inzichten.
Smile: you are on cam!
Om tegenkrachten te versterken, worden er nu inclusieve tools gelanceerd. Saçan noemt MissJourney en Lexica als voorbeeld. Maar toch blijft de culturele bias zichtbaar. Vraag om beelden van inheemse mensen, en je ziet hele stammen met een stralende glimlach op de foto verschijnen. Zo hoort dat immers in het Westen. Volgens Saçan is op originele oude foto’s te zien dat deze mensen zelden of nooit glimlachend op de foto gingen.
Ironisch is dat de foto’s die Erdinç toont als voorbeeld van authentieke beelden op hun beurt ook veelal in scene gezet zijn. Fotografen van eind 19e eeuw vonden het een goed idee om de oorspronkelijke bewoners van Amerika rijkelijk uit te dossen met veren, kettingen en wapens. Het was destijds een businessmodel van winstbeluste beeldverkopers om bewoners van het wilde westen te tooien met accessoires die ze in het dagelijks leven helemaal niet gebruikten. De namaak die we van kunstmatige intelligentie vrezen, heeft blijkbaar ook een voorgeschiedenis.
Erdinç Saçan heeft een eigen website vol toepasselijke blogberichten. Zijn boek Inclusive Artificial Intelligence is gratis te downloaden bij Fontys.
VPRO Medialab en NPO Innovatie trekken door het land om vanuit de publieke omroep gelegenheidsprojecten aan te gaan met lokale experts en mediamakers van de toekomst. Op 26 maart landden de Publieke Pioniers bij Rozet in Arnhem voor een publieke inspiratiebijeenkomst met het Ontwerp Platform Arnhem (#OPA) en de Hogeschool van Arnhem & Nijmegen (#HAN). Een week later gaan deze partijen met studenten van de HAN aan de slag in een publieke hackathon, die vrijdag 5 april resulteert in enkele open demo’s bij de hogeschool aan de Ruitenberglaan 26 in Arnhem.
Publieke Pioniers: open demo’s HAN > 5 april 16:00
Public Space | Rozet > 22 februari tot 4 mei
