És important que els alumnes tinguin clar que qualsevol usuari pot crear imatges amb intel·ligència artificial (IA) l’aparença de les quals pot semblar gairebé real, cosa que planteja problemes quant a la veracitat, privadesa i ètica. El desenvolupament dels sistemes d’IA capaços de substituir o recrear cares augmenta la vulnerabilitat digital dels ciutadans en poder ser presentats en escenes que mai no han existit. Tot això, fa que hàgim de tractar en les nostres classes aspectes com:
- La dificultat per saber si és un ésser humà real o no el que ens parla, ens truca o ens demana per realitzar una tasca
- La capacitat de realisme que mostren algunes fotografies que fa que les mentides s’expandeixin amb més rapidesa
- La suplantació d’identitat a l’hora de fer vídeos virals
- La dificultat per filtrar imatges que ja estan creades a través d’IA
El fenomen dels “deepfakes” actualment no té límits i fins i tot és difícil de detectar per als més experts que parlen de “replicants digitals”.
La facilitat d’accés a les eines de creació d’imatges o textos generatius amb intel·ligència artificial – com DALL-E o XAT GPT entre d’altres – no ha fet més que començar i el seu ús s’estén a diferents sectors del mercat, entre ells als nostres instituts.
