Czy AI zabije fotografię jako dowód? Kiedy zdjęcie przestanie być dowodem rzeczywistości

Przez dziesięciolecia fotografia była jednym z najprostszych sposobów dokumentowania rzeczywistości. Zdjęcie samochodu po wypadku, fotografię z miejsca zdarzenia, dokumentację wojenną czy zdjęcie konkretnej osoby można było przedstawić jako wizualny zapis tego, co rzeczywiście się wydarzyło. Oczywiście fotografia nigdy nie była całkowicie obiektywna. Kadr można było odpowiednio wybrać, zdjęcie można było wykadrować, poprawić albo zmanipulować. Mimo to istniało podstawowe założenie: aparat zarejestrował coś, co znajdowało się przed obiektywem.

Generatywna sztuczna inteligencja zaczyna podważać właśnie to założenie.

Dzisiaj można stworzyć obraz przedstawiający wydarzenie, które nigdy nie miało miejsca. Nie potrzeba do tego profesjonalnego studia, zaawansowanego programu graficznego ani wielogodzinnej pracy. Wystarczy odpowiedni model AI i opis tego, co ma znaleźć się na obrazie. Efekt może wyglądać na tyle realistycznie, że przeciętny odbiorca nie będzie w stanie odróżnić go od prawdziwego zdjęcia.

I tutaj pojawia się poważny problem. Co stanie się, kiedy zdjęcie przestanie automatycznie oznaczać „to wydarzyło się naprawdę”?

Aparat kiedyś rejestrował rzeczywistość…

Fotografia nigdy nie była idealnym dowodem. Już dawno nauczyliśmy się, że zdjęcie można zmanipulować. Można było usunąć element z kadru, zmienić kolory, połączyć kilka fotografii albo wykorzystać odpowiednią perspektywę, aby przedstawić wydarzenie w zupełnie innym świetle.

Różnica polegała jednak na skali i dostępności takich manipulacji.

Jeszcze kilkanaście lat temu stworzenie wiarygodnego fałszerstwa wymagało umiejętności obsługi programów graficznych. Dzisiaj granica między fotografią a wygenerowanym obrazem staje się coraz mniej widoczna. AI może stworzyć realistyczną twarz, samochód, budynek czy całe wydarzenie, które nigdy nie istniało.

Co więcej, użytkownik nie musi nawet wiedzieć, jak działa obróbka zdjęć.

To zmienia charakter problemu. Fałszowanie fotografii przestaje być domeną specjalistów, a staje się czynnością dostępną praktycznie dla każdego.

Największym problemem nie będzie fałszywe zdjęcie

Paradoksalnie największym zagrożeniem może nie być nawet to, że ktoś stworzy fałszywą fotografię.

Znacznie większym problemem będzie sytuacja, w której prawdziwe zdjęcia również przestaną być automatycznie wiarygodne.

Wyobraźmy sobie nagranie lub fotografię przedstawiającą ważne wydarzenie polityczne, katastrofę, przestępstwo albo działania wojenne. Jedna strona publikuje materiał i twierdzi, że przedstawia on rzeczywiste wydarzenie. Druga odpowiada: „To wygenerowane przez AI”.

I co dalej?

Jeżeli odbiorca nie posiada dodatkowych informacji, może nie być w stanie samodzielnie rozstrzygnąć, kto mówi prawdę.

Powstaje zjawisko określane czasem jako „liar’s dividend”, czyli sytuacja, w której powszechna świadomość istnienia deepfake’ów pozwala ludziom odrzucać autentyczne materiały jako rzekome fałszerstwa. Skoro wszystko można wygenerować, można również twierdzić, że prawdziwy materiał jest fałszywy.

To znacznie poważniejsze zagrożenie niż pojedynczy wygenerowany obraz.

„Mam zdjęcie” może przestać wystarczać

W przeszłości zdanie „mam zdjęcie” miało sporą siłę argumentacyjną.

Dzisiaj coraz częściej trzeba będzie powiedzieć: „mam zdjęcie i mogę udowodnić, skąd pochodzi”.

To ogromna różnica.

W przyszłości znaczenie mogą mieć metadane, informacje o urządzeniu, sposób wykonania zdjęcia, historia pliku oraz techniczne mechanizmy potwierdzające jego pochodzenie. Rozwijane są również rozwiązania pozwalające na kryptograficzne podpisywanie materiałów jeszcze w momencie ich tworzenia.

Jednym z przykładów jest standard Content Credentials, rozwijany w ramach inicjatywy C2PA. Jego celem jest umożliwienie sprawdzenia pochodzenia materiału oraz historii jego modyfikacji.

Takie rozwiązania mogą stać się szczególnie ważne dla dziennikarzy, sądów, instytucji państwowych i organizacji zajmujących się dokumentowaniem wydarzeń.

Bo w świecie, w którym obraz można wygenerować, coraz ważniejsze staje się nie tylko pytanie „co przedstawia fotografia?”, ale również „skąd ona pochodzi?”.

Dziennikarstwo stanie przed trudniejszym zadaniem

Problem szczególnie mocno dotknie media.

Fotografia od dawna jest jednym z podstawowych elementów materiałów dziennikarskich. Zdjęcie z miejsca protestu, wojny, katastrofy czy wydarzenia politycznego potrafi przekazać więcej niż kilka akapitów tekstu.

Jednocześnie redakcja nie może bezrefleksyjnie publikować każdego obrazu znalezionego w internecie.

W przyszłości dziennikarze będą musieli jeszcze dokładniej weryfikować materiały wizualne. Konieczne może być sprawdzanie źródła fotografii, autora, czasu i miejsca wykonania, oryginalnego pliku oraz innych dostępnych dowodów potwierdzających autentyczność.

To oznacza więcej pracy.

AI może więc paradoksalnie zwiększyć znaczenie profesjonalnego dziennikarstwa. Im łatwiej stworzyć przekonujące kłamstwo, tym większą wartość ma osoba, która potrafi sprawdzić, czy przedstawiony materiał jest prawdziwy.

Czy detektory AI rozwiążą problem?

Na pierwszy rzut oka rozwiązaniem wydają się narzędzia wykrywające obrazy wygenerowane przez sztuczną inteligencję.

Problem w tym, że nie istnieje magiczny detektor, który zawsze powie prawdę.

Modele generatywne są rozwijane bardzo szybko. Techniki wykrywania również się rozwijają, ale wraz z nimi pojawiają się nowe sposoby omijania zabezpieczeń. Dodatkowo zwykła obróbka, kompresja czy zmiana rozmiaru obrazu może utrudnić analizę.

Dlatego przyszłość prawdopodobnie nie będzie należała wyłącznie do detektorów AI.

Znacznie bardziej sensowne może być potwierdzanie autentyczności materiału już na etapie jego powstawania.

Jeżeli aparat lub smartfon będzie mógł kryptograficznie potwierdzić, że konkretne zdjęcie zostało wykonane określonym urządzeniem w określonym momencie, jego wiarygodność będzie znacznie większa.

Nie oznacza to oczywiście, że taki system będzie idealny. Można ukraść urządzenie, zmanipulować kontekst albo wykorzystać prawdziwe zdjęcie do przedstawienia fałszywej historii. Autentyczność pliku nie zawsze oznacza autentyczność narracji wokół niego.

Fotografia nie umrze. Zmieni się jej znaczenie

Trudno powiedzieć, że AI całkowicie zniszczy fotografię jako dowód. Fotografia nadal będzie niezwykle wartościowym narzędziem dokumentacyjnym.

Zmieni się jednak poziom zaufania, jakim ją obdarzamy.

W świecie sprzed generatywnej AI mogliśmy często zacząć od założenia, że zdjęcie przedstawia rzeczywistość, a dopiero później szukać powodów, aby w to wątpić.

W przyszłości coraz częściej będziemy musieli odwrócić tę kolejność.

Najpierw trzeba będzie ustalić, czy fotografia pochodzi z wiarygodnego źródła. Dopiero później będziemy mogli traktować ją jako dowód.

To może być jedna z największych zmian, jakie sztuczna inteligencja przyniesie mediom!

Przez ponad sto lat aparat fotograficzny pozwalał nam powiedzieć: „tak wyglądała rzeczywistość”.

Generatywna AI sprawia, że coraz częściej będziemy musieli dodać drugie pytanie:

„Skąd wiemy, że to naprawdę się wydarzyło?”