- Bezprawnik -
- Technologie -
- AI wyostrzyło zdjęcie. Czy sąd może uwierzyć w to, co wygenerował model?
AI wyostrzyło zdjęcie. Czy sąd może uwierzyć w to, co wygenerował model?
Po zamachu w Krakowie internauci próbowali odczytać nadruk na koszulce napastnika. Wystarczyło przepuścić niewyraźny kadr przez AI, żeby dostać całkiem czytelny wynik. W innych wersjach wychodził inny nadruk. Co jeśli, czysto teoretycznie, tylko taka „wyostrzona” wersja jako jedyna trafiłaby do akt sprawy?
Z jednej plamy zrobiło się kilka nadruków
Po ataku z 7 listopada po sieci krążyło nagranie, na którym policjant stoi nad leżącym napastnikiem. Internauci wrzucali do narzędzi AI zdjęcia i stopklatki z krakowskich wydarzeń, żeby przyjrzeć się szczegółom.
NASK pokazał, jak skończyło się odczytywanie nadruku na koszulce sprawcy. W obiegu pojawiło się kilka wersji. W każdej można było zobaczyć coś, czego na niewyraźnym materiale trudno było się dopatrzyć. I każda nadawała się do podania dalej z podpisem „zobaczcie, co miał na sobie”.
Model wie, jak wygląda oko. Które oko sfotografowano?
Wyobraźmy sobie własne zdjęcie zmniejszone tak mocno, że oko zajmuje na nim kilka pikseli. My wiemy, czy mamy pod okiem pieprzyk. Edytor widzi kilka plamek koloru. Możemy podbić kontrast, żeby lepiej zobaczyć różnice zapisane w pliku. Ale jeśli pieprzyk po zmniejszeniu zlał się z kolorem skóry, cudów nie zdziałamy.
Generatywne powiększanie działa inaczej. Model uzupełnia szczegóły na podstawie wzorców, których nauczył się podczas treningu. Wyobraźmy sobie dwa niemal identyczne zdjęcia. Na jednym pod okiem jest pieprzyk, na drugim skóra jest gładka. Po mocnym zmniejszeniu oba mogą wyglądać tak samo. Model może narysować przekonującą wersję z pieprzykiem albo bez niego. I tu wracamy do koszulki z Krakowa. Nawet jeśli po obróbce da się przeczytać każdą literę, nadal trzeba ustalić, czy te litery rzeczywiście były na koszulce.
Co, jeśli do akt trafi tylko zdjęcie po obróbce?
W polskim postępowaniu karnym samo dołączenie pliku do akt jeszcze niczego nie przesądza. Najpierw trzeba ustalić, co właściwie ktoś chce nim wykazać. Przerobiony kadr może się przydać, gdy sprawa dotyczy tego, jaki obraz opublikowano w internecie.
Jeśli ten sam kadr ma dowodzić, że napastnik miał na koszulce konkretny napis, sąd może dojść do wniosku, że materiał się do tego nie nadaje. Kodeks przewiduje oddalenie wniosku dowodowego, gdy dowód jest nieprzydatny do ustalenia danej okoliczności. Jeżeli sąd przeprowadzi dowód, ocenia go wraz z pozostałym materiałem.
A co jeśli oryginał przepadł?
Tak, wiem, w czasach, w których wszystko najpierw ląduje w sieci to niemal niemożliwe, ale co gdyby na serio tak się stało? Można szukać nieprzerobionej kopii u autora nagrania, ujęcia z innej kamery albo świadka, który widział koszulkę z bliska. Cokolwiek, jakoś trzeba sobie poradzić. Gdy ustalenie istotnego dla sprawy faktu wymaga specjalistycznej wiedzy, zasięga się opinii biegłego.
Biegły może ocenić, co da się ustalić z zachowanych plików. Jeżeli jednak jedyny czytelny napis pojawia się dopiero po obróbce, a poza tym kadrem nic go nie potwierdza, na czym mielibyśmy oprzeć przekonanie, że akurat te litery rzeczywiście tam były?
W USA sędzia miał obie wersje nagrania
W 2024 r. w sprawie State v. Puloka obrona chciała pokazać ławie przysięgłych kilkusekundowy film ze strzelaniny, poprawiony m.in. za pomocą Topaz Video AI. Ekspert oskarżenia porównał obie wersje i wykazał, że po obróbce niektóre obiekty zmieniły kształt i kolor. Sąd w stanie Waszyngton wykluczył przerobione nagrania, wskazując m.in. na brak ogólnej akceptacji tej metody wśród specjalistów od analizy nagrań na potrzeby sądowe.
Obie strony mogły posłużyć się materiałem pozyskanym z telefonu świadka. I od tego zacząłbym również poza salą sądową. Zanim pokłócimy się o to, co widać na wyostrzonym kadrze, zobaczmy, co da się odczytać z niego przed obróbką.
ChatGPT zmyślał w tekście. Edytor może zmyślać na zdjęciu
Kiedy w 2022 roku pojawił się ChatGPT, już przy premierze OpenAI ostrzegało, że model potrafi podać błędną odpowiedź, która brzmi całkiem przekonująco. Nazwaliśmy to halucynowaniem. Obecnie w „tekstowym AI” zjawisko to zostało ograniczone i jest zjawiskiem rzadkim.
Ale zatem czemu, gdy AI dopisuje litery na koszulce albo dorysowuje komuś twarz, tak łatwo przychodzi nam nazwać to „wyostrzeniem”? Jeśli w kilku pikselach zlały się oczy, skóra i cień, model może zgadnąć, jak wyglądała twarz. Czasem nawet trafi. Tyle że z samego wyniku nie dowiemy się, które szczegóły zarejestrowała kamera, a które dopowiedział model.
Usunąć trochę szumu z tła rodzinnego zdjęcia? Jasne. Ale jeśli ktoś z kilku plam odtwarza całą twarz, a potem pokazuje ją jako twarz człowieka z nagrania, to właśnie bierze halucynację za dowód. I naprawdę niewiele zmienia tu fakt, że oczy na przeróbce wyszły ostre.
