Dokážete rozeznat falešné fotografie od té vygenerované pomocí AI? Dnes už jen stěží. Zatímco před dvěma lety jsme se smáli šestiprstým postavám, loni nedokonalostem v obličeji, dneska už je to velice těžké a rozdíly mezi skutečnou a generovanou fotografií pomocí AI se zcela smazávají.

My jako fotografové jsme postaveni před velice složitý úkol. Na internetu – protože je to nejčastější médium na prezentování fotografií – musíme začít oddělovat fotku skutečnou od těch vygenerovaných.

Jak je to složité a jak na to se pokusím ukázat v tomto krátkém článku. Napsat by se o této problematice dala celý kniha, ale na to nemám úplně prostor.

Nijak nechci zpochybňovat um autora a jeho cit pro obraz. Fotografie je skvělá a krásná, ale měl by zachovat jistý morální postoj a férově přiznat, jak fotografie vznikla a nevymlouvat se na přítele.

První krok: rozumíme fotografii

Začít bychom měli tím, že rozumíme fotografii, že víme, že je nedokonalá, že fotograf ani model není ideální a také všechny drobné detaily nejsou jako z žurnálu. A AI už dnes generuje ideální fotografie, které ale nikdo nechce nebo se prostě pozastavuje nad tím, čemu mají sloužit a jakou mají “hodnotu” pro lidi, když jich za večer vygenerujete 300?

K napsání tohoto materiálu mě vybudila jedna krásná fotografie na Instagramu. Byla až neskutečně krásná a neskutečně melancholická, a zaslouženě dostala nezvykle velké množství pozornosti od lidí. Ovšem těch neskutečných přívlastků začalo být poněkud příliš.

Už první pohled fotografa, který často stojí na svahu kopce nebo na vyhlídce do údolí a dole se válí mlha, nebo v uragánu na skotském kopci bičovaném prudkým deštěm, spustí velký blikající červený majáček upozorňující na to, že: “tady něco nehraje”. Ta fotografie je prostě úplně ideální.

Takovou jednu fotku publikoval na Instagramu jirka_foti na svém profilu má fotografie urbexového stylu.

Zvláštně na mě zapůsobilo tvrzení autora, že fotka není jeho, že mu ji poslal jeden ze sledujících, aby mu (Jirkovi) udělal radost. A proto ji (Jirka) zveřejňuje. To je tak dojemný příběh, že ten text musím publikovat v původním znění:

Není to má fotka! Byla mi poslána dlouho sledujícím přítelem. Chtěl mi udělat radost 😎 a proto ji zveřejňuju tady já ✌️

#cechurbex #kostel #urbexplaces #urbexcz #ic_urbex

Musím také dostát své novinářské praxi a musím tedy zveřejnit také URL příspěvku včetně jeho vizuálu.

https://www.instagram.com/p/DamT4T7IHiG/?next=undefined

A máme věřit AI?

Připomíná mi to takový ten příběh: “Došlo mi na WhatsUp od neznámého fanouška, tak to zveřejňuji”, nebo “Poslali mi to fanoušci…”. To známe, že?

Protože mám docela cit na “scénu”, nesčetněkrát jsem stál někde na kopci nebo pod kopcem a čekal, až vyjde Slunce nebo se začne mlha rozplývat, zaujala mě i tato jedna fotografie. Na první dobrou: krása.

Ovšem, když máte něco nafoceno a našpalápno se stative, nesčetněkrát jste někde zmokli nebo zapadli do kaluže a bláta, vnímáte přírodu jinak. Víte, že nesymetrická, neideální, divoká a rozeklaná.

Pro mě je tedy uvedená fotografie vygenerovaná v AI. A důvody pro to mám takovéto:

• je to příliš idealizované místo a kompozice,
• dům  popředí, který je dům, ale měla to být fara, domy se v takové blízkosti u kostela nestavěly v minulých 200 letech,
• oprýskané omítky zcela pravidelně, nikoliv pod okapy, neexistující okapy,
• mlha na pozadí ideálně ustoupila, aby kostel byl z pohledu kamery vidět krásně, prostě obrovské štěstí fotografa,
• branka pootevřená, vítejte v příběhu.

Jak odhalit falešné fotografie

Nejvýraznější problém vidím v omítce. Na domě i na kostele je poškození rozložené téměř rovnoměrně po celé ploše, jako kdyby někdo na zdi nanesl jednu dekorativní texturu „staré ruiny“. Ve skutečnosti se omítka nerozpadá náhodně a stejně všude. Její stav obvykle souvisí se zatékáním od střechy, poškozenými okapy, vzlínající vlhkostí od země, prasklinami, parapety, římsami nebo konkrétní návětrnou stranou. Tady ale podobné skvrny pokrývají rozdílné části obou budov bez zjevné fyzikální příčiny. Vypadá to vizuálně efektně, nikoli věrohodně.

Velmi podezřelá je také mlha. Největší množství mlhy se nachází přesně za kostelem, takže světlé pozadí dokonale odděluje věž a její siluetu. Prostor před kostelem, cesta, keře i brána jsou přitom neobvykle tmavé, ostré a kontrastní. Skutečná mlha by obvykle zasahovala i do prostoru před stavbou, postupně snižovala kontrast, zesvětlovala stíny a vytvářela plynulejší atmosférickou perspektivu. Zde působí spíš jako scénografická kulisa umístěná za hlavním zábavním objektem.

Podezřele dokonalá je i celá kompozice: otevřená železná brána, cesta vedoucí přímo ke kostelu, zřícený dům v levé části – spíše to měla být fara, holé stromy, temná obloha a mlha právě tam, kde je kompozičně nejúčinnější. 

Je to všechno téměř kompletní soubor stereotypních prvků z promptu pro „opuštěný gotický kostel v mlhavém lese“.

Soubor navíc pochází z Instagramu, takže byl zmenšen, znovu komprimován a zbaven většiny původních metadat. Z této kopie proto nelze získat údaje o fotoaparátu, objektivu, GPS ani použitém softwaru. Bez originálního souboru nebo dalších fotografií stejného místa nelze původ dokázat absolutně.

Ale můj odhad: 90–95 % pravděpodobnost, že při vzniku výsledného obrazu byla významně použita generativní AI.

Několik fotografií vygenerovaných v ChatGPT Image 2.0 vám chci dát i sem, protože jejich autentičnost je excelentní, včetně vad, které

Zadejte si prompt a vyzkoušejte sami

Celý prompt pro precizní zadání by mohl vypadat takto:

Zachovej fotorealistický vzhled, temnou gotickou atmosféru, studené tlumené barvy a širokou kompozici. V popředí je stará rezavá dvoukřídlá kovaná brána mezi kamennými sloupy. Přesně jedno křídlo je otevřené dovnitř a vytváří průchod, druhé zůstává zavřené.

Za branou stojí zchátralý dům s oprýskanými stěnami a úplnou sedlovou střechou ze starých tmavých tašek, místy porostlou mechem. Pohled je mírně z výšky, nikoliv z dronu. V pozadí stojí opuštěný gotický kostel s věží a částečně propadlou střechou, odkrytými polámanými krovy a nepravidelnými okraji.

Okolí tvoří vlhký listnatý les, břečťan, mech a spadané listí. Mlha není souvislá: vytváří oddělené nepravidelné chuchvalce s různou hustotou a mezerami mezi stromy. Zachovej realistickou perspektivu a přirozené světlo. Bez lidí, zvířat, moderních předmětů, světel, fantasy prvků, textu, vodoznaku, přehnaného HDR a homogenní mlhy.

Svůj názor jsem si chtěl nechat samozřejmě ověřit, a jak to jinak udělat než pomocí AI

AI kritizuje fotografii jiného AI

Fotografii jsem vzal jako studijní materiál, abych si ověřil, do jaké míry mi jiný model AI pomůže s odhalením toho, jak fotografie vznikla. Zkusil jsem společně s AI udělat forenzní cestou analýzu, zda fotka je nebo není AI generovaná, do jaké míry (protože to nelze určit na 100 %) a v čem vidí potenciálně problematická místa na fotce.

Je také dobré připomenout, že fotografie byla zveřejněná na Instagramu a říci si, jak právě Instagram a obecně sociální sítě s fotografií zacházejí. 

Sítě totiž při nahrávání fotografie na síť fotografie zcela předělají, smažou z EXIF všechna data, včetně GPS souřadnic a předělají JPEG kompresi (na polovinu).

Stručně: Sítě fotografii zcela vykostí.

V kopii fotografie na sociálních sítích nenajdete model fotoaparátu, objektiv, expoziční údaje, datum a čas pořízení, GPS souřadnice ani informaci o programu, ve kterém byla fotografie upravena. 

Fotografie může zároveň obsahovat pouze technické značky infrastruktury společnosti Meta, které dokazují zpracování Instagramem, nikoli původ obrazu. Z instagramové kopie tedy nelze spolehlivě určit, kde a čím byla fotografie pořízena ani zda před zveřejněním prošla generativní AI; k tomu je potřeba původní soubor, ideálně RAW nebo originální JPEG přímo z fotoaparátu.

Ten samozřejmě nikdo nikdy neviděl. Technicky tedy fotku z hlediska EXIF nelze “analyzovat”.

Ale pořád máme samotný obraz a já se chci pomocí AI zaměřit na něj. Požádal jsem Gemini, aby mi udělala analýzu fotografie a napsala odborný názor.

Instagram vysvětluje technickou podobu souboru

Rozměr 1080 × 1440 px přesně odpovídá instagramovému portrétnímu poměru 4 : 5. Instagram navíc:

• odstraní původní EXIF,
• znovu fotografii zkomprimuje,
• přeškáluje ji,
• může do souboru vložit metadata z infrastruktury společnosti Meta.

Proto předchozí stopu FBMD… nelze interpretovat striktně jako „staženo z Facebooku“. Přesnější formulace je: Soubor prošel zpracovatelským řetězcem společnosti Meta, což odpovídá i Instagramu.

Z instagramové kopie tedy nelze zjistit fotoaparát, GPS ani původní editační software.

Odlupování omítky skutečně nevypadá přirozeně

Tohle je podle mě jeden z nejsilnějších argumentů.

Ve skutečnosti se omítka nepoškozuje rovnoměrně. Rozpad je obvykle navázán na konkrétní fyzikální příčiny:

• zatékání od střechy a okapů,
• vzlínající vlhkost od země,
• praskliny ve zdivu,
• okolí parapetů a říms,
• návětrnou stranu,
• místa s odlišným materiálem,
• vegetaci a biologické napadení.

Na této scéně je ale „oprýskanost“ rozložena téměř jako dekorativní textura:

• podobná velikost světlých skvrn,
• podobná hustota na různých stěnách,
• stejný charakter na kostele i obytném domě,
• slabá vazba na konstrukční a vlhkostní poměry.

Nejvíce je to patrné na čelní stěně domu. Skvrny pokračují poměrně rovnoměrně přes plochu štítu, místo aby bylo poškození zásadně odlišné pod střechou, kolem oken, u země a poblíž komína.

To je typický problém generativních modelů: AI zná vizuální pojem „opuštěná oprýskaná budova“, ale často nevytvoří fyzikálně věrohodnou příčinu každého poškození. Místo toho nanese statisticky přesvědčivou texturu.

Mlha je prostorově nelogická

Za kostelem je výrazná šedobílá mlha, která částečně zakrývá stromy. V prostoru mezi bránou, domem a kostelem je však atmosféra podstatně průzračnější.

Taková situace není zcela nemožná — mlha může ležet v údolí nebo za objektem může být vzdálenější svah. Jenže obraz nedává dostatečné prostorové vysvětlení:

• mlha se zdá začínat téměř přesně za siluetou kostela,
• přední vegetace je velmi tmavá a kontrastní,
• bok a průčelí kostela zůstávají relativně ostré,
• mlha málo zasahuje do prostoru vedle kostela,
• přechod mezi čistším popředím a mlžným pozadím je příliš scénografický.

Kdyby byla mlha souvisle v prostoru, očekávali bychom alespoň částečně:

• zesvětlené černé tóny v okolí kostela,
• nižší kontrast vzdálenější části cesty,
• mléčný závoj přes boční vegetaci,
• měkčí obrysy zadní hrany kostela,
• plynulejší změnu kontrastu podle vzdálenosti.

Místo toho mlha funguje skoro jako kulisa vložená za hlavní objekt, aby oddělila věž od pozadí.

Další podpůrné znaky

Také kompozice působí podezřele účelově:

• otevřená brána přesně uprostřed,
• cesta vede přímo ke vstupu do kostela,
• dům vyvažuje kostel v levé třetině,
• věž je dokonale oddělena světlou oblohou,
• nejdramatičtější mlha je právě za hlavním objektem,
• celý obraz obsahuje téměř všechny stereotypní prvky „gothic abandoned place“.

Jednotlivě může být každý prvek reálný. Jejich přesné spojení ale připomíná spíš prompt typu:

abandoned ruined church and house behind an old iron gate, foggy forest, dark gothic atmosphere

Podezřelá je také konstrukce poškozené střechy kostela. Některé trámy působí opticky věrohodně jako textura, ale hůře jako skutečný krov, který musí mít nosnou a geometrickou logiku.

Závěr: na 90 procent je to AI

Přesné procento nelze objektivně sice změřit; je můj expertní odhad a konzultace s AI mi potvrdila, že obraz je z 90procentní šancí vygenerovaný v AI. Nebo alespoň masivně doupravený včetně jiných budov a mlhy apod.