De afgelopen week heb ik een aantal keren geblogd over ChatGPT, een applicatie waarmee je teksten kunt genereren (hier, hier, en hier). Een andere toepassing van zogenaamde generatieve AI is Lensa. Deze toepassing kent echt een aantal risico’s waarvoor Reece Rogers terecht voor waarschuwt.
Lensa stelt je in staat foto’s van personen te uploaden om hier vervolgens cartoons van te maken. Je kunt op deze manier bijvoorbeeld avatars en originele profielfoto’s maken. De app is op dit moment erg populair. Reece Rogers schrijft dat je je moet bezinnen voordat je met Lensa begint.
Verdiep je in de privacy regels
Realiseer je dat je biometrische data deelt met een bedrijf dat de data in de VS opslaat. Lensa werkt met gezichtsherkenning, maar geeft aan geen gezichten met elkaar te vergelijken. Ook worden foto’s van gebruikers verwijderd nadat een afbeelding is gegenereerd. Er is echter niemand die controleert of het bedrijf zich hier ook aan houdt. Daarnaast deel je, net als bij andere apps, ook andere data via Lensa zoals logbestanden, identificatie van het apparaat en informatie over geregistreerde gebruikers. Je kunt deze data wel laten verwijderen. Je weet volgens Reece ook nooit wat er gebeurd als het bedrijf door een ander bedrijf wordt overgenomen. Dat weet je overigens nooit (kijk naar de overname van Twitter door Elon Musk).
Importeer geen afbeeldingen van kinderen of naaktfoto’s
Het gaat in tegen de gebruiksvoorwaarden om dergelijke foto’s in te voeren om afbeeldingen via Lensa te genereren. De ervaring leert echter dat vrouwen hyperseksuele resultaten krijgen als ze foto’s van zichzelf uploaden (denk aan grote borsten of zwoele houdingen). Lensa kan seksuele beelden van volwassenen produceren zonder hun toestemming.
Wees voorbereid op vreemde of beledigende resultaten
Je kunt ook resultaten ontvangen die racistisch of anderszins beledigend wanneer je deze app gebruikt. De onderliggende data bevat, zoals zo vaak, namelijk vooroordelen.
Denk aan de grotere gevolgen voor echte kunstenaars
Volgens Reece zijn er kunstenaars die deze technologieën omarmen. De commercialisering van deze ‘beeldgeneratoren’ kan volgens hem echter ook ten koste gaan van de inkomenspositie van kunstenaars. Dat is natuurlijk altijd het geval met digitalisering: werkgelegenheid verdwijnt, er komen nieuwe banen bij en werk verandert vooral.
Probeer de app na gebruik te verwijderen
Ga je deze app echt vaak gebruiken? Indien nee: verwijder de app dan en laat jouw data verwijderen.
Mijn mening
Toepassingen als Lensa zijn prima lesmateriaal op het gebied van digitale geletterdheid en mediawijsheid. Ze onderstrepen m.i. zelfs het belang om aandacht te besteden aan mediawijsheid. Ik ben zelf erg terughoudend met het delen van biometrische gegevens, zeker buiten de EU. Er staan inderdaad -zakelijke- foto’s van mij online (denk aan LinkedIn), ook in de hoop dat deze niet misbruikt worden.
Ik vind het eerlijk gezegd ook niet heel lollig om avatars te creëren. Het generen van seksuele beelden zonder toestemming of racistische beelden is voor mij reden om deze app ook niet te gebruiken.
Wat ik wel interessant vind, is het laten genereren van foto’s op basis van omschrijvingen. Dat doe je bijvoorbeeld met DALL-E. Ik heb nog niet gelezen of ervaren dat deze toepassingen seksuele, racistische of beledigende afbeeldingen produceert.
This content is published under the Attribution 3.0 Unported license.
Geef een reactie