Waarom de app Lensa AI niet zo onschuldig is als die lijkt
De kans is groot dat je deze maand tijdens het scrollen op sociale media minstens één digitale creatie van de controversiële app Lensa AI voorbij hebt zien komen. Kunstenaars klagen het gebruik van de app aan en noemen het soms zelfs ‘diefstal’. Zijn deze digitale creaties eigendom van de applicatie of van de kunstenaars? Wederom blijkt dat er een dunne lijn is tussen door de mens gemaakte kunst en door intelligentie gegenereerde kunst.
AI, ofwel artificiële of kunstmatige intelligentie, heeft in verschillende werkvelden de nodige gesprekken teweeggebracht. AI blijkt namelijk in staat om taken uit te voeren waarvoor men voorheen dacht het menselijke brein nodig te hebben; van het schrijven van nieuwsberichten tot het maken van kunst. Voor nog minder dan 10 euro, creëert de app Lensa AI in zo’n twintig minuten indrukwekkende digitale creaties op basis van tien tot twintig geüploade foto's van jezelf en in de door jou gekozen categorieën. De gebruiker heeft in een handomdraai fotorealistische of abstracte illustraties van zichzelf.
In eerste instantie kan dit onschuldig lijken, maar de app heeft een hoop kanttekeningen. Om tot een wonderbaarlijk eindresultaat te komen, scant Lensa kosteloos het wereldwijde web zonder enige rekening te houden met auteursrechten. Met als resultaat dat er replica’s ontstaan van het harde werk van kunstenaars; stijlen waar vaak jaren aan gewerkt is om ze zich eigen te maken en te verfijnen. Soms kan je zelfs het watermerk van de kunstenaar terugvinden op de replica’s van de app. Hoewel sommige artiesten Lensa AI gebruiken om hun eigen kunst te verfijnen, zijn veel andere kunstenaars daarom tegenstanders van het gebruik ervan.
Hoe DE app Lensa AI data gebruikt
Het Amerikaanse bedrijf Prisma Labs lanceerde Lensa AI in 2018. Toen was deze nog een zogenaamde ‘digitale retoucheer’-app; een app waarmee je je foto’s en selfies kan bewerken. Door recente ontwikkelingen op het gebied van AI, die in een stroomversnelling indrukwekkende, realistische avatars genereert, wist het bedrijf dit jaar hun populariteit te vergroten. In de eerste twaalf dagen van december werd de app 13,5 miljoen keer gedownload - tegenover 2 miljoen in november -, en gaven gebruikers ongeveer 29,3 miljoen dollar uit in de app, zo schrijft Time Magazine.
Lensa AI maakt gebruik van Large-scale Artificial Intelligence Open Network (LAION), een non-profitorganisatie die gratis datasets vrijgeeft voor AI-onderzoek en -ontwikkeling. LAION heeft echter haken en ogen: veel kunstenaars spreken zich uit tegen dergelijke modellen, omdat hun kunst zonder medeweten, noch toestemming in de datasets wordt gebruikt. Concreet bestaan LAION-datasets uit lijsten met URL’s die doorverwijzen naar de originele afbeeldingen, inclusief alt-teksten; deze alt-teksten zijn titels van foto’s die dienen als een samenvatting van wat er op de afbeeldingen staat. Nadat Lensa AI het internet heeft afgespeurd met LAION, maakt de applicatie vervolgens gebruik van AI Stable Diffusion, een programma dat getraind wordt aan de hand van de data op LAION en realistische portretten creëert. Door gebruik te maken van de app wordt de AI dus getraind. Daarnaast converteert de app je foto’s naar gezichtsgegevens. Zo stuitte een kunstenaar op persoonlijke medische gegevens van zichzelf, toen ze haar foto uploadde op Have I Been Trained, een website waar kunstenaars kunnen zien of hun werk door LAION wordt gebruikt.
Hoe ZIT HET MET DE PRIVACY?
In het huidige digitale tijdperk maken bedrijven gretig gebruik van je data en verkopen deze zelfs soms. Door de kleine lettertjes in de voorwaarden te tekenen, gaan de gebruikers daar vervolgens mee akkoord - zowel bewust als onbewust. Onderzoekers spreken van ‘digital resignation’, een digitale overgave, om het fenomeen te beschrijven waarbij gebruikers van technologie het idee hebben opgegeven dat ze ervoor kunnen kiezen niet mee te doen met het afgeven van data aan apps of websites. Ook de app Lensa AI schijnt zich schuldig te maken aan het verzamelen en gebruiken van de data van hun gebruikers, al schrijft Aldrey Usoltsev in een mail aan Wired, een Amerikaanse magazine gespecialiseerd in technologie, dat het bedrijf bezig is met het bijwerken van het privacybeleid, waarin oorspronkelijk stond dat Prisma Labs de rechten op het gezicht van de gebruikers voor altijd zou bezitten.
Zo schrijft Usoltsev, de CEO van Prisma Labs en één van de ontwikkelaars van de app, dat de foto’s en gegevens van de gebruikers na het maken van je digitale creaties en avatars verwijderd worden. Deze veranderingen zijn een gevolg van de kritiekgolf van de afgelopen maand. Usoltsev, één van de ontwikkelaars van de app, vertelde eerder deze maand aan NBC News dat hij het belangrijk vindt om het gesprek te blijven voeren over veilig en ethisch gebruiken van dergelijke technologie.
Prisma Labs, het bedrijf achter de app waarvan Usoltsev CEO is, probeerde de zorgen rondom het vervangen van echte kunstenaars weg te nemen op Twitter. Toch bleef het bedrijf opvallend stil over het feit dat veel artiesten nooit hebben ingestemd met het gebruik van hun werk door de app. Kunstenaars maken zich daarom zorgen en spreken van diefstal.
De vooroordelen van app Lensa AI
Ook bevestigt de app de heersende westerse gendervooroordelen en draagt hij bij aan de seksualisering van vrouwen, aan het racisme en het colorisme in de maatschappij. Zo kun je bij het maken van je foto enkel kiezen tussen de genderidentiteiten ‘man’ en ‘vrouw’, die vervolgens gekoppeld zijn aan stereotyperende genderrollen. Als ‘vrouw’ kun je bijvoorbeeld wel kiezen voor de categorie ‘sprookjesprinses’, maar niet voor de categorie ‘superheld’. Als femme kun je ook verwachten dat je uitgebeeld wordt met een cupmaat of twee groter. Zwarte gebruikers worden daarbovenop vaak met een lichtere huidskleur geportretteerd.
Hoewel er in de servicevoorwaarden geïnstrueerd wordt om geen naakt- en kinderfoto’s te uploaden, blijkt de app desondanks verontrustende avatars te creëren. Volgens verschillende artikelen, zoals dat van verslaggever Melissa Heikkilä van MIT Technology Review, een magazine van de prestigieuze technische universiteit MIT, blijkt dat Lensa AI zonder consent naaktfoto’s genereert aan de hand van selfies, wat vaker voorkomt bij Zwarte vrouwen en andere vrouwen van kleur. Na een eigen onderzoek concludeerde schrijfster en hoogleraar Olivia Snow dat de app ook in staat is om seksueel getinte kinderfoto’s te genereren. In datzelfde artikel, verschenen in december op Wired, schrijft ze dat ze naakfoto’s terugkreeg, hoewel ze alleen portretfoto’s had geüpload.
In de digitale wereld ontbreekt er wetgeving om kunstenaars juridische bescherming te bieden tegen auteursrechtenschendingen. Dat technologie tegenwoordig zo snel verandert dat het vrijwel onmogelijk is om de wetgeving up to date te houden, is een welbekend probleem waar burgers vaker tegenaan (zullen) lopen. Als je zeker wilt zijn dat je gegevens daadwerkelijk verwijderd worden na het gebruiken van zo’n app, kan je vaak mailen naar het bedrijf. In het geval van Lensa AI, kan je een verzoek indienen bij privacy@lensa-ai.com. Maar de beste manier om dit te voorkomen, zo schrijft Wired, is door geen gebruik te maken van zulke apps en kunstenaars een eerlijke prijs te betalen.