Amikor a forrás létezik, mégis rossz a hivatkozás

SZEMLÉZŐ
Friss kutatások, tanulmányok és szakmai publikációk nyomában

Jill Walker Rettberg: LLMs are metaphor machines: orbital argumentation, misaligned citations, and scientific fabrication in AI-generated writing
Megjelent: 2026. szeptember 8.
Eredeti tanulmány: AI & Society
A tanulmány nyílt hozzáférésű, lektorált tudományos közlemény.

Amikor a forrás létezik, mégis rossz a hivatkozás – az AI „elcsúszott hivatkozásai”

Az AI-val végzett szakirodalmi munkában az egyik első óvatossági szabály, hogy ellenőrizzük: valóban létezik-e a hivatkozott forrás. A generatív modellek ugyanis képesek meggyőzőnek tűnő szerzőket, tanulmánycímeket vagy akár DOI-azonosítókat is kitalálni. Jill Walker Rettberg azonban egy kevésbé látványos, ezért nehezebben felismerhető problémára hívja fel a figyelmet. Mi történik akkor, ha a szerző létezik, a tanulmány is létezik, témájában még kapcsolódik is a szöveghez – csak éppen nem támasztja alá azt az állítást, amely mellé hivatkozásként odakerült?

Rettberg ezt nevezi misaligned citationnek, amelyet magyarul talán legpontosabban elcsúszott hivatkozásnak nevezhetünk. A jelenség azért különösen érdekes, mert nem egyszerű forráshallucinációról van szó: az AI valódi elemekből épít fel hibás tudományos kapcsolatot. Rettberg értelmezésében az ilyen hivatkozások az LLM-ek asszociatív, hasonlóságokon és közelségeken alapuló szöveggenerálásával függnek össze.

Amikor a forrás valódi, de…

Rettberg egy 2025-ben, ugyancsak az AI & Society folyóiratban megjelent tanulmányból hozza talán legszemléletesebb példáját. Az elemzett cikk egyik állítása szerint a mesterségesintelligencia-eszközök segíthetnek a veszélyeztetett őslakos nyelvek revitalizációjában. Az állítás mögött szabályosnak látszó hivatkozás áll: Marie Battiste 2002-es munkája.

Csakhogy Battiste tanulmánya nem foglalkozik mesterséges intelligenciával, így az idézett mű nem támasztja alá a hozzákapcsolt állítást. A hivatkozás mégsem teljesen véletlenszerű. Battiste neve szorosan kapcsolódik a vizsgált cikk egyik központi fogalmához, a cognitive imperialismhez – olyannyira, hogy Rettberg szerint valójában ennek a fogalomnak a bevezetésekor kellett volna rá hivatkozni. A forrás tehát létezik, a szerző releváns, a témák között is van kapcsolat, csak éppen a hivatkozás rossz helyre került.

Rettberg éppen ezért nem egyszerűen irreleváns hivatkozásról beszél:

“They are associated with concepts mentioned somewhere in the context window of the LLM, but they are not relevant to the specific claim they are supposed to support.”

Az elcsúszott hivatkozás tehát első pillantásra akár megbízhatóbbnak is tűnhet, mint egy teljesen kitalált forrás. Bibliográfiailag ellenőrizhető, szemantikailag hihető – érvelésileg mégis hibás.épülő kísérleti helyzet. A végső mintában 70 nő és 34 férfi szerepelt, 19 és 40 év között.

A fogalmak körül keringő szöveg

Az elcsúszott hivatkozás Rettbergnél nem elszigetelt hibatípus, hanem az LLM-ek szövegalkotásának általánosabb sajátosságával függ össze. A nyelvi modellek hasonlóságok és asszociatív közelségek alapján kapcsolják egymáshoz a szöveg elemeit. Rettberg ezért nevezi őket metaforagépeknek: olyan kapcsolatokat hoznak létre, amelyek statisztikailag és szemantikailag valószínűek lehetnek, de ebből még nem következik, hogy az eredmény az adott összefüggésben pontos vagy helyénvaló.

Ehhez kapcsolja Rettberg John Gallagher orbital argumentation, vagyis keringő érvelés fogalmát. Az ilyen szöveg újra és újra megközelíti a központi gondolatot, kapcsolódó fogalmakat mozgósít körülötte, de magát a lényegi összefüggést nem fejti ki pontosan. Első olvasásra akár meggyőző is lehet: a megfelelő fogalmak a megfelelőnek látszó környezetben jelennek meg.

A Battiste-hivatkozás pontosan így „csúszik el”. A szerző neve, az őslakos nyelvek és a kognitív imperializmus fogalma egymás közelében vannak a modell asszociációs terében. A kapcsolat ezért valószínűnek látszik, de nem bizonyító erejű. Rettberg gravitációs metaforájával élve a kapcsolódó fogalmak maguk felé húzzák a generált szöveget – a modell a megfelelő fogalmi térben mozog, miközben elvéti a pontos kapcsolatot.

Létezik a forrás – de ez még nem elég

Az AI-val támogatott szakirodalmi munkában ezért kevés azt ellenőrizni, hogy a hivatkozott mű megtalálható-e. Egy elcsúszott hivatkozás ezen a próbán gond nélkül átmegy: valódi szerzőhöz valódi publikáció tartozik, sokszor még a témája is kapcsolódik ahhoz, amiről a szöveg beszél.

A forrásellenőrzésnek ezért legalább három kérdésre kell választ adnia: Létezik a forrás? → Kapcsolódik a témához? → Valóban alátámasztja ezt a konkrét állítást?

Az utolsó kérdésre azonban már nem ad választ egy bibliográfiai adatbázis, egy keresési találat vagy akár a tanulmány absztraktja sem. Ehhez vissza kell térnünk magához a szöveghez. Rettberg tanácsa ezen a ponton feltűnően egyszerű:

“always read what you are citing and cite page numbers and direct quotations as much as possible.”

vagyis: olvassuk el, amire hivatkozunk, és ahol lehet, kössük az állításainkat konkrét oldalszámhoz, szöveghelyhez vagy idézethez. Rettberg szerint éppen ez tette volna azonnal láthatóvá a Battiste-példában is, hogy a hivatkozott szöveg nem bizonyítja a mesterséges intelligenciáról megfogalmazott állítást. Az AI tehát nem teszi fölöslegessé a hagyományos forráskritikát. Éppen ellenkezőleg: fontosabbá teszi a pontos olvasást.

Nem a forrást, a kapcsolatot kell ellenőriznünk

Rettberg elemzése azért fontos, mert az AI-használat egyik kevésbé feltűnő kockázatára mutat rá. A kitalált hivatkozást viszonylag könnyű leleplezni: rákeresünk, és kiderül, hogy nem létezik. Az elcsúszott hivatkozás ennél megtévesztőbb. A forrás valódi, a téma megfelelőnek tűnik, a bibliográfiai adatok rendben vannak – csak az állítás és a forrás közötti kapcsolat hibás.

Ez pedig megváltoztatja azt is, mit jelent az AI által készített szöveg forrásainak ellenőrzése. Nem elég azt kérdeznünk, hogy „létezik?”. A döntő kérdés az, hogy „azt mondja-e, aminek bizonyítékaként hivatkozunk rá?”

Talán éppen ezért találó az elcsúszott hivatkozás kifejezés: minden majdnem a helyén van. Csak éppen a hivatkozás nem ott van, ahol lennie kellene.