Ki írta ezt a szöveget? Az AI korában már erre sem könnyű válaszolni

A TechCrunch Equity podcastjában Max Spero, a Pangram Labs társalapítója és vezérigazgatója arról beszélt, hogy az AI által létrehozott tartalmak felismerése jóval bonyolultabb annál, mint egyszerűen eldönteni: „ember vagy gép?”. A korábbi Google- és Tesla-mérnökök, Max Spero és Bradley Emi által alapított Pangram kifejezetten generált szövegek felismerésére fejleszt technológiát, és rövid idő alatt az AI-detektálási piac egyik legismertebb szereplőjévé vált. A céljuk nem pusztán a teljesen gépi szövegek kiszűrése, hanem annak felismerése is, amikor az emberi és az AI által készített tartalom már szinte észrevétlenül összemosódik.

A legtöbb szöveg már nem fekete vagy fehér

Az AI-detektálást könnyű úgy elképzelni, mint egy digitális hazugságvizsgálót. Betesszük a szöveget, az eszköz pedig megmondja, hogy ember vagy mesterséges intelligencia készítette.

Csakhogy a valóságban egyre kevesebb tartalom sorolható ilyen tisztán valamelyik kategóriába.

Valaki megír egy e-mailt, majd egy nyelvi modellel gördülékenyebbre fogalmaztatja. Más elkészíti a cikk vázlatát, az AI-val kibővítteti, végül saját maga átszerkeszti. Megint más csak a helyesírást vagy a címet bízza rá. Ilyenkor mit detektálunk?

Spero szerint éppen ez a legnehezebb kérdés: hol húzódik a határ az AI-val segített és az AI által létrehozott tartalom között?

Ez pedig már nem puszta technikai vita. Egy szerkesztőségben teljesen más megítélés alá eshet, ha az újságíró szerkesztési segédeszközként használ egy modellt, mint ha az egész cikket generáltatja vele. Ugyanez igaz egy önéletrajzra, beadandóra vagy álláspályázatra is.

Megszületett az internet új „bizalmi rétege”

**A probléma mögött már komoly üzlet van.**A Pangram nemrég 9 millió dollárnyi befektetést vont be, és együttműködésbe kezdett a Substackkel. A hírlevélplatform arra használja a technológiát, hogy nagyobb átláthatóságot biztosítson az AI használatáról. A Pangram közben már nemcsak szövegek, hanem AI-generált képek felismerésén is dolgozik.

Mindez jól mutatja, hogy az interneten egyre értékesebbé válik annak bizonyítása, honnan származik egy tartalom.

Az elmúlt években azt szoktuk meg, hogy szinte bármit pillanatok alatt létre lehet hozni. Most ennek ellenkező irányú üzlete kezd kialakulni: olyan technológiákra van szükség, amelyek segítenek eldönteni, mennyire bízhatunk abban, amit látunk vagy olvasunk.

Egy jelzés azonban még nem bizonyíték

A probléma ott kezdődik, amikor egy detektor eredményéből automatikusan ítélet lesz. Egy hírlevélplatformon egy AI-jelölés elsősorban tájékoztatás: az olvasó eldöntheti, zavarja-e, hogy egy szerző mesterséges intelligenciát használt.

Egy álláspályázatnál, vizsgánál vagy biztosítási ügyben azonban ugyanennek a címkének már komoly következménye lehet.

És éppen itt válik fontossá, hogy az AI-detektorok sem mindentudók. Nem egy megdönthetetlen tényt állapítanak meg, hanem mintázatokból következtetnek arra, mekkora valószínűséggel készült egy szöveg mesterséges intelligenciával.

Minél több ember használja ráadásul az AI-t szerkesztésre, fordításra, ötletelésre vagy javításra, annál nehezebb lesz meghúzni az egyértelmű választóvonalat.

Lehet, hogy rossz kérdést teszünk fel

Talán éppen ez lesz az AI-detektálás következő nagy problémája. Ma még azt kérdezzük: „Ezt mesterséges intelligencia írta?” Néhány év múlva ez a kérdés könnyen értelmét veszítheti, mert szinte minden digitális munkafolyamatban megjelenhet valamilyen formában az AI.

Sokkal fontosabb lehet majd azt tudni, hogy mire használták. Ötletelésre? Nyelvi javításra? Fordításra? Adatok feldolgozására? Vagy az ember helyett a teljes munka elkészítésére?

A különbség óriási, és egyetlen százalékos érték aligha fogja minden esetben megadni rá a választ.

A bizalom lesz az igazi tét

Az AI-detektorok ezért valószínűleg nem végső bírók lesznek, hanem egyre fontosabb jelzőrendszerek. Segíthetnek kiszúrni a gyanús mintázatokat, átláthatóbbá tehetik a tartalomkészítést, de az eredményeiket továbbra is kontextusban kell értelmezni.

Mert az internet következő korszakának egyik legfontosabb kérdése már nem feltétlenül az lesz, hogy ember vagy gép készítette-e, amit látunk. Hanem az, hogy tudjuk-e, hogyan készült – és ezek után mennyire bízhatunk benne.