A principis de 2026, el Govern espanyol va aprovar un avantprojecte de llei per regular l’ús de la intel·ligència artificial, amb una atenció especial a la manipulació d’imatges mitjançant tècniques conegudes com a deepfakes. El text normatiu estableix que la creació i difusió d’imatges manipulades amb finalitats perjudicials contra l’honor, la imatge o la reputació de les persones pot constituir delicte. Aquesta iniciativa situa la fotografia —i la seva credibilitat— al centre d’un debat jurídic i cultural de gran abast.
Els deepfakes, generats amb sistemes d’IA capaços de recrear rostres, gestos i contextos amb un alt grau de versemblança, han evolucionat amb una rapidesa notable en els darrers anys. El que inicialment es percebia com una aplicació experimental o vinculada a l’entreteniment s’ha convertit en una eina amb capacitat real d’alterar la percepció pública, generar desinformació o vulnerar drets fonamentals. En aquest sentit, la regulació pretén establir límits clars entre la creació artística o experimental i l’ús fraudulent o lesiu de la imatge.
La qüestió no és menor en un context en què la fotografia, històricament associada a la idea de testimoni i prova, veu qüestionada la seva condició d’evidència visual. Des dels seus orígens al segle XIX, la imatge fotogràfica ha estat objecte de manipulacions —des de retocs químics fins a muntatges digitals—, però la irrupció de la intel·ligència artificial introdueix una escala i una sofisticació que desdibuixen les fronteres entre document i ficció amb una facilitat sense precedents.
En paral·lel, l’Agència Espanyola de Protecció de Dades (AEPD) ha advertit sobre els riscos associats a l’ús d’imatges de tercers per entrenar sistemes d’intel·ligència artificial. Segons l’organisme, la recopilació massiva de fotografies sense consentiment explícit pot vulnerar la normativa de protecció de dades i els drets d’imatge, especialment quan aquestes imatges s’incorporen a bases de dades destinades a desenvolupar models generatius.
Aquest advertiment afecta de manera directa l’ecosistema fotogràfic: des d’arxius històrics i col·leccions digitals fins a creadors que publiquen la seva obra en línia. La circulació oberta d’imatges a internet, concebuda durant anys com una oportunitat de difusió i democratització, es troba ara en un terreny més complex, on la traçabilitat i el consentiment esdevenen elements centrals.
Més enllà de la dimensió jurídica, el debat sobre els deepfakes interpel·la la cultura visual contemporània. Quina responsabilitat tenen els creadors en l’ús d’eines d’IA? Com es pot preservar la confiança en la fotografia documental? I quins mecanismes cal establir per distingir entre experimentació artística i manipulació enganyosa? Aquestes preguntes, que ja formen part de la reflexió teòrica i professional, adquireixen ara una nova urgència davant un marc normatiu en construcció.
La regulació en curs no només busca sancionar pràctiques nocives, sinó també establir un marc de garanties per protegir els drets individuals i la integritat de la imatge en l’era digital. Per a associacions i col·lectius fotogràfics, aquest escenari obre la necessitat d’informar, debatre i formar els seus membres sobre els límits legals i ètics de les noves tecnologies, en un moment en què la fotografia es redefineix constantment entre la memòria, la creació i la simulació.
