Alig jelentek meg a különféle diffusion modellek de már szabályozni akarnák őket. Amire lehet szükség is lenne, csak nem úgy és azért ahogy a kedves lobbisták gondolják. Dupla, mese az algoritmus által történő képgenerálás világából.

Nincs 2 hónapja, hogy arról írtunk, hogy algoritmussal generált képek rajzversenyen első helyezést hoztak el, és akkor még csak az interneten, pontosabban a twitteren durrant el a vihar, ami azóta sem csendesült el, sőt egyre nagyobb hangja és szele van. Nem segít a helyzeten, hogy volt egy nagyon gyatra képlopás és még egy amcsi lobbista szervezet is megjelent a színen.  A cikk ketté lesz bontva, ez a cikk a képlopással foglalkozik. Az egész képlopás jelensége nem újdonság, olyan ez mint a kínai crawlerek, akik lelopkodják Twitterről, Artstationról, DeviantArtról és a jó ég tudja még honnan a képeket, és mindenféle termékre rányomják és árulják őket, mindenféle weboldalon. Mint ahogy ebbe mi is belefutottunk a vászonképekkel (amik azóta sincsenek készen). Sőt, ezekkel a képgenerálókkal történő lopás/másolás sem újdonság ahogy majd olvashatjátok. Nem, ez a sztori azért szólt nagyot, mert a tolvaj mellé még retardált is volt. Csapjunk is bele rögtön a lecsóba.

Íme az eredeti (a lenyúlása idején még félkész rajz) a bal oldalon, az algoritmus és némi ps mágia segítségével gyorsítva "befejezett" rajz meg a jobb oldalon.

Hogyan történt? Nos, 2022. október 11-én egy AT nevű Genshin rajongó épp streamelte Twitchen ahogy egyik új alkotását rajzolta, nézői előtt. Majd egy musaishh nevű (mostmár törölt) Twitter felhasználó fogta és feltehetőleg printscreenelte az akkor félkész munkát, majd megetette valamelyik generátorral, és AT előtt posztolta azt.

Sajnos ez a legjobb kép amit tudtam szerezni, bal oldalon a lopott kép egy viszonylag új felhasználói fiókon, jobb oldalt még a folyamatban lévő stream szerinti állapot. Talán nem lett volna ekkora balhé, vagy egyáltalán hangja a dolognak, ha és amennyiben musaishh nem egy retardált, és nem posztolja a következőt twitterre:

Tesó, amikor a rajongóidat kéred arra, hogy zaklassanak lopás miatt, legalább legyél ésszerű, 5-6 órával utánam posztoltad a képet, és egy ilyen képet nagyon gyorsan meg lehet rajzolni. Nincs azzal baj, hogy referenciaként használsz egy AI generált képet, de legalább ismerd be, vagy posztold anélkül, hogy figyelmet szeretné magadnak szerezni.

Nem tudom máshogy megfogalmazni, de ez oltári nagy öngól. Ha már ilyen nyilvánvalóan lopsz, akkor legalább ne csinálnál segglyukat a szádból, főleg, ha nagyon egyszerűen kideríthető, hogy te vagy az, aki hazudik. És esetünkben nagyon könnyű volt kideríteni, hogy ki hazudik, elég csak a timestampeket összehasonlítani.

Ezek után még egy kis "alázatos" önfényezés is belefért, hogy aztán törölje a fiókját. Ami megint egy kötényrúgás önmagadnak, mert ha ártatlan vagy akkor fennhagyod a munkád és kiállsz amellett amit csináltál, nem pedig törlöd a fiókod. Ami érdekes, hogy az elkövető  fiókján alig volt követés és reakció (ezt a képet leszámítva természetesen), és sajnos most már nem megállapítható, hogy a fiókot mikor nyitották.  Így felmerül a kérdés, hogy vajon a fiók nem egy troll fiók volt, akinek kizárólag a dráma keltés volt a célja? Ezt már nem fogjuk megtudni. A helyzet mindenképpen elítélendő. Csak ott téved mindenki, hogy az algoritmusra is morcosak sokan, nem csak a lopást elkövető emberre. Holott a NovelAI nem tehet róla hogy erre használták. Az én állásfoglalásom ami a generált képeket illeti a következő: jelenleg nem tartunk ott, hogy a művészeket veszélyeztessék ezek a különféle generált képek, mert hogy egy anont idézzek:

Távolról és azonnal felismerem a NovelAI által generált latexet te filiszteus

Hasonló képpen, ránézel a generált képre és rögtön feltűnnek jelek, melyek rögtön elárulják, hogy nem ember készítette őket. A füle tövében az egyenes vonalban lejövő haj, a lófarkat összefogó kötél befejezetlensége, a háta közepén látható random plussz vonal ami az egész árnyékolást elrontja, a kézfej, ami azt se tudja melyik irányba akar nézni. De tovább megyek, nem is fogják veszélyeztetni, mert a nem generált képnek ugyan olyan értéke lesz mint eddig volt, és aki tényleg tehetséges azokhoz továbbra is járni fognak az emberek, hogy megbízást adjanak nekik. Azok akik viszont nem kiemelkedőek vagy nem törődnek a rajongói bázisukkal, de pénzt azért szednek bármilyen platformon keresztül, azok viszont elkezdhetnek aggódni, ugyanis őket valószínűleg le fogja váltani. Viszont azon hangokkal nem értek egyet, akik szerint ezeket a modelleket teljesen be kellene tiltani, mert azzal nem jutunk előrébb, bár felmerül a kérdés, hogy mit nyerhetünk azzal, ha algoritmusokat tanítunk rajzolni mások képei alapján (mert jelenleg erről szól az összes modell)? Szóval röviden és tömören nem az eszközzel van baj, hanem azt használó csalókkal. Két embert említenék meg, akiknek viszonylag sokat nyúlják a munkáját és hangot is emeltek ez ellen: Greg Rutkowski, aki egy lengyel fantasy zsánerben festő művész, akinek a képeivel találkozhattatok a D&D világában, illetve Simon Stalenhag, akinek mi is szenteltünk néhány posztot itt a blogon. Mind a ketten arról számoltak be a Business Insider-nek, hogy egyre többször futnak össze a "saját" alkotásaikkal, amiket nem is ők csináltak, de a szignójuk rajta van a képen. Alant rögtön mutatok is néhány példát az Insider cikkből:

Mondjuk meglátásaim szerint Rutkowskinak nem kell aggódnia, ha az Insider a legjobbakat gyűjtötte össze, akkor a generált képek sehol nincsenek az övéihez képest, maximum elnagyolt vázlatnak tekinthetőek, és aki elhiszi, hogy azok eredeti munkák az meg is érdemli, hogy átverjék. Stalenhag szerint a kép generátorok irányítása nem a művészek kezében van, hanem azokéban, akik a technológiát hamar elkezdték használni. Ami furcsa, mert ha vetünk egy pillantást a Twitter oldalára, akkor láthatjuk, hogy használ képgenerálást. No nem a festményeiben, hanem a rémálomszerű procedurálisan generált profilképénél ami mutatja, hogy kalandozott egy picit, noha ránézésre az egy teljesen más, és sokkal korábbi modell volt. Szóval a nyilvánvaló válasz adja magát, miért nem lettél te is korai alkalmazó, és akkor a te kezedben is lehetne az irányítás. Azzal nem tudunk mit tenni, ha egy művész társadalom kollektíven lenéz egy eszközt és nem alkalmazzák. 

Elérkezünk a legfontosabb kérdéshez: vajon kell-e gátat vetni a generált képek jövőjének? Hogy ezt a kérdést meg tudjuk válaszolni, meg kell értenünk, hogy mi alapján működnek ezek a különféle generátorok. A nagyobb online változatok (Midjourney, Dall-e, OpenAi) mind-mind működtet valamilyen internet crawlert, hogy minél több példaképet szedjenek össze,  Ezeket az crawlereket nem igazán érdekli a szerzőjogi dolgok, csak leszívja a tartalmat, pont mint a kínai társaik, hogy aztán ebből építsen egy adathalmazt, amin trenírozhatják az algoritmust, hogy az minél jobb eredményeket produkálhasson. Ez lenne az egyik támadható pont talán, hogy ezeknek a crawlereknek nincs engedélyük leszedni a képeket, és ezt mint oktató anyag felhasználni, azonban az már nehezen támadható, hogy az algoritmus által kiköpött teljesen új képek, melyek utánozzák valakinek a stílusát az lopás lenne és különben is a művészet területén elég gyakori az egymás utánzása. Ami a jogi területet illetti ott meg nem tudnak mit kezdeni a másik imitálásának fogalmával. De itt nem is a másik imitálásával volt a baj, hanem a munka saját neveden való megjelenítésével. A kérdés szerintem nem az, hogy kell e gátat vetni a generált képek jövőjének, hanem az, hogyan kellene a képlopás jelenségét megakadályozni? Ami a twitteres esetet illeti, ott abszolút gátat kell vetni, illetve minden hasonlónak. Rutkowski és Stalenhag esetében már szerintem egy picit más helyzet. Ott a következményeknek kell gátat vetni, hogy cégek NE generálhassanak effektíve ingyen híres és még élő művészek munkáihoz hasonló képet. Az megint egy teljesen másik téma, hogy mi szüli az ő utánzásukat: a képeik szeretete és valószínűleg az alkotók elérhetetlen távolságban létezése. Mert ez egy egyszerű kereslet és kínálat szituáció, kereslet van, kínálat nincs, vagy annyi pénze nincs egyeseknek, hogy eredeti comissiont festessenek, vagy nem is foglalkozik az adott alkotó magánszemély megkeresésével (most nem feltétlen csak róluk van szó). Ebben az esetben a rajongó talál megoldást magának, és ez valahol, pont úgy mint a kalózkodás szerintem elfogadható. Az nem, ha megpróbálod eladni, vagy a sajátodénak feltüntetni. 

De itt érkezik a következő logikus kérdés: hogyan lehetne ennek gátat vetni? Röviden és tömören sehogy. Több okból sem. A cégeket most sem akadályozza meg senki és semmi, hogy nyugodtan felbérelhetnek valakit és azt mondják, hogy rajzolj ehhez hasonló képet, és máris olcsóbb. Rutkowski azt javasolta, hogy a még élő alkotók eleve legyenek kizárva a datasettekből, ami megint csak nehezen eszközölhető, mert honnan fogja megállapítani bárki, hogy az emberünk, aki esetleg ÁLNÉV alatt alkot, az él e még vagy meghalt? Még ha hozzáférés is lenne egy halotti anyakönyvi kivonat adatbázishoz ez akkor is lehetetlen lenne. Csak akkor működhetne, ha a művészek regisztrálnák az álneveiket egy adatbázisba ami összeköti őket, ami meg gondolom el sem kell magyaráznom, hogy miért nagyon rossz ötlet. Tök jó lesz amikor valaki valamit elbasz, kikerül egy lista és mindenkit elkezdenek doxxolni. Aztán Rutkowski ötlete még egy okból nem eszközölhető. A különféle online platformok (Midjourney, StableDiffusion, OpenAI) hoztak szabályokat, amik megakadályozzák hogy pornót, erőszakot vagy épp valós hírességekről/politikusokról generálj képeket (miért csak ezt a kettő kategóriát védjük amúgy? Hisz láttunk példát már kispolgári cyber hadviselésre) vagy azokat üzleti célokra használd. De, ezek a biztonsági ellensúlyok és ötletek mind szép és jók, de a selfhostolható modellek megjelenésével, amik függetlenek ezektől az online platformoktól és biztonsági szabályoktól, mi fog megakadályozni bárkit abban, hogy olyan képet etessen meg amit akar? Semmi és senki. És ennek már meg lehet találni különböző helyeken az eredményeit, egy futó látogatás mondjuk a 4chan /b/ boardjára ahol gyakoriak a a pornó kategóriájú generált kép threadek, lehet bennük tömérdek képet látni, melyek legalitásába most bele se menjünk és nem, linkelni sem fogok. Maradjunk annyiban aki olyanra ránt rá az sürgősen keressen szakemberi segítséget, és akkor szerintem ezzel mindent elmondtam. És ezen kívül természetesen a hírességekről és politikusokról is nagy mennyiségben lehet találni generált és hamisított képeket.

Szóval ahogy az előbbi példa is mutatja, már a biztonsági szabályok sem segítenek. A dzsinn kint van a palackból a jogalkotók meg letolt gatyával állnak a dolog előtt és pislognak mint potyka a szatyorban. Jelenleg szerintem úgy néz ki a helyzet, hogy bármilyen törvény is születik, az nem lesz mind két félnek megfelelő, hanem valamelyik felé fog billenni a nyelv. És ha le kell tennem a voksomat, ugyan az fog történni, mint a tömérdek meztelenítő algoritmussal anno, kikiáltják illegálisnak, holott nem az algoritmus a hibás (najó ott talán az is, de ebben az esetben nem az). Ahogy már többször mondtam, az támadható, hogy ha lerajzoltatsz így egy algoritmussal egy már létező képet és azt megpróbálod elpasszolni mint a sajátod. És itt kapcsolódik be a sztoriba egy amerikai szervezet, az ESHOO akiket a bevezetőben említettem, de róluk majd a következő cikkben mert ez már így is hosszú.

Kép lopás via.: Kotaku
Képgenerálás helyzete via.: Business Insider