La IA i l’estil Ghibli: una tendència viral amb riscos per a la privacitat

Generar amb IA il·lustracions a l’estil de la companya d’anime Studio Ghibli. Aquesta és la nova tendència a xarxes socials que diu Sam Altman —CEO d’OpenAI, l’empresa de ChatGPT— ha “desfet” els seus servidors.

Segur que heu vist alguna d’aquestes il·lustracions per Instagram o compartida per WhatsApp (fins i tot Sam Altman se n’ha posat una de foto de perfil al seu compte de X). Però, què hi ha al darrere? Què vol dir això per a la protecció de dades? Donem un cop d’ull a la dimensió ètica de la tendència viral.

Qui accedeix a les nostres dades i què se’n fa d’elles

Per tal que ChatGPT generi la versió Ghibli de nosaltres, li hem de donar accés a les nostres imatges. Aquest punt és molt important perquè el tractament de les dades que fa l’empresa propietària del model és diferent segons com les aconsegueix i per a què.

La normativa de cessió de drets d’autor és la mateixa per a xatbots com ChatGPT com per a plataformes com Instagram, X o TikTok, i ve regulada pel Reglament General de Protecció de Dades —que unifica la protecció de dades a tots els països de la Unió Europea—, segons explica a Verificat Gerard de Lucas, president de la Secció de Drets de Propietat Intel·lectual i drets d’Imatge de l’Il·lustre Col·legi de l’Advocacia de Barcelona (ICAB).

Quan acceptem les polítiques de les plataformes —i també de ChatGPT— i pugem una foto, estem cedint els nostres drets d’imatge i acceptem que l’empresa propietària en pot fer ús. Ara bé, si una IA accedeix a aquesta imatge com a tercer, és a dir, trobant-la publicada en una altra plataforma, ja no disposa dels mateixos drets sobre ella. En aquest cas, cal analitzar quin ús se’n fa. Per exemple, si s’utilitzen imatges de personatges famosos o polítics amb finalitats paròdiques, això no constitueix una vulneració del dret d’imatge, ja que la paròdia està protegida legalment, tant si s’ha fet amb IA com sense. Però per a imatges nostres, l’ús paròdic està limitat.

En definitiva, si aportem imatges a un xatbot estarem donant a l’empresa propietària el permís per emprar-les amb finalitats prohibides si les extreu de les xarxes socials.

La IA i l’alumnat

Cal transmetre a l’alumnat el valor que tenen les seves dades i com és d’important considerar la privacitat abans de prendre decisions en línia. En aquest cas, abans de donar una imatge a ChatGPT, però també quan fem una compra online o quan fem servir les xarxes socials.

En aquest sentit, l’Observatori d’Ètica en Intel·ligència Artificial ha publicat diversos materials pedagògics pel tractament de la IA a l’aula d’una forma segura i ètica. La Unió Europea també va publicar unes Directrius per a l’ús ètic de la IA i el tractament de les dades. D’altra banda, l’Autoritat Catalana de Protecció de Dades ofereix diversos recursos que poden ajudar el professorat a entendre (i explicar!) aquestes qüestions. 

Més enllà de les qüestions legals, també existeix una dimensió moral i ètica que no podem deixar de banda. Aquest cas ha cridat encara més l’atenció per l’opinió del cofundador de Studio Ghibli Hayao Miyazaki que, en un vídeo de 2016 descriu les imatges generades amb IA com un “insult a la vida” i diu que mai faria servir aquesta tecnologia en les seves obres. 

Un cop som conscients dels riscos pel que fa a la privacitat, aquesta mena de converses es posen sobre la taula. Els centres educatius poden ser uns espais per a aquests diàlegs. Aquesta tendència i les paraules de Miyazaki són un bon punt de partida per començar la reflexió. Des de Desfake —el projecte educatiu de Verificat—, treballem  per promoure un ús de la IA conscient i sempre des del pensament crític. Els materials didàctics de la nostra Càpsula sobre intel·ligència artificial generativa aborden aquests temes. A més a més, oferim una sèrie de Píndoles (unitats més breus per aprofundir en aspectes concrets de les temàtiques) sobre diversos aspectes complementaris com la IA i els drets d’autor, els biaixos, i com verificar contingut generat amb aquestes eines, entre altres. Podeu accedir als recursos en aquest enllaç.