I Spy with my AI - AI in surveillance en artistieke praktijken

Van apps die je menstruatiecyclus bijhouden tot digitale gezichtsherkenning: we delen data over ons lichaam vaak achteloos met AI-systemen, zonder stil te staan bij wat er met die data gebeurt. Hoe kan kunst mensen meer bewust maken van de risico’s die dit met zich meebrengt? En welke ethische dilemma’s komen kunstenaars tegen wanneer zij in hun artistiek praktijk met deze data en technologieën aan de slag gaan? In het artistieke onderzoeksproject ‘I Spy with my AI’ werken onderzoekers, kunstenaars en kunstinstellingen samen aan vragen rondom AI en de surveillance van het menselijk lichaam.

Image by Zeina Saleem / AIxDESIGN + Netherlands Institute of Sound & Vision / Better Images of AI / surveillance_eye / CC-BY 4.0

Een gezichtsherkenningssysteem in een supermarkt identificeert een toevallige voorbijganger ten onrechte als veroordeelde crimineel. Een commerciële app verzamelt intieme data van een tiener om te voorspellen wanneer zij menstrueert, en verkoopt deze gegevens door aan Meta. Een biometrisch systeem analyseert hoe een politieke vluchteling spreekt, om te controleren uit welke regio zij afkomstig is. Haar dialect wordt niet door het systeem herkend, waardoor haar asielaanvraag in gevaar komt.  

Van stem tot gezicht, lichamelijke data worden steeds vaker door middel van AI geanalyseerd en gecontroleerd, zonder dat je daar als individu inspraak in hebt. Dit project onderzoekt hoe kunstenaars kunnen bijdragen aan een beter begrip en bewustzijn van deze AI-gedreven surveillance. Daarvoor ontwikkelen we een interactieve kunstinstallatie die AI-gedreven surveillance van het lichaam invoelbaar en inzichtelijk maakt.  

We zetten dit ontwikkelproces vervolgens in om ook te reflecteren op de verantwoordelijkheid die kunstenaars zelf dragen ten aanzien van de technologie die ze gebruiken, en de data die ze verzamelen in hun artistieke praktijk. Met een community van kunstenaars en onderzoekers uit de creatieve industrie gaan we ethische kwesties in kaart brengen die ontstaan in artistieke onderzoeken en praktijken met en over AI. Ook verzamelen we strategieën om hier op een verantwoorde manier mee om te gaan.

Partners

Dit is een artistiek onderzoeksproject waar Rosa Wevers, senior onderzoeker Art & Technology van het lectoraat Image in Context (Kenniscentrum Kunst & Samenleving, Hanze) en culturele instelling IMPAKT (Centrum voor Mediacultuur) samenwerken met kunstenaars en (praktijk)partners: kunstenaar Roos Groothuizen, kunstenaarscollectief WERC, en de organisatie Bits of Freedom als externe stakeholder.

Dit onderzoek is medegefinancierd door Regieorgaan SIA, onderdeel van de Nederlandse Organisatie voor Wetenschappelijk Onderzoek (NWO).