Öt mesterségesintelligencia-modellre bízták egy képzeletbeli ország politikai pártjainak vezetését. A magyar kutatók 186 szimulációban vizsgálták, mi történik tizenkét virtuális évnyi kormányzás alatt. Az eredmény meglepő, ugyanis a modellek egyre kevésbé követték saját pártprogramjukat, döntéseiket pedig az is befolyásolta, hogyan fogalmazták meg számukra a híreket. Pagonyi Adrienn írása.
A választási ígéretek és a tényleges politikai döntések közötti különbség aligha lep meg bárkit, aki követi a közéletet. A mesterséges intelligenciától azonban akár nagyobb következetességet is várhatnánk, hiszen nincsenek személyes ambíciói, politikai karrierje vagy újraválasztási szándékai. Ha kap egy pártprogramot, vajon mennyi ideig tartja magát hozzá?
A Kreatív Kontroll magyar kutatócsapata egy AI parlament működését vizsgálta egy Árkádia nevű virtuális országban, ahol száz parlamenti széken öt politikai párt osztozott. A zöld-liberális Ligetkör, a baloldali Közös Asztal, a piacpárti Nyitott Piac Szövetség, a tekintélyelvű-nemzeti Bástya és a regionalista Tájak Uniója mind saját programot kapott, vezetésüket pedig különböző nyelvi modellekre bízták.
A kutatásban az OpenAI, az Anthropic, a Google, a DeepSeek és a Mistral egy-egy modellje vett részt. Összesen 146 mesterséges intelligenciával végzett és 40 modell nélküli kontrollfutást elemeztek, amelyek mindegyike tizenkét virtuális évet, két választást és 48 parlamenti ülésszakot ölelt fel. A gazdasági folyamatokat külön matematikai rendszer számította, a pártokat irányító modelleknek pedig törvényjavaslatokat kellett készíteniük, vitázniuk, koalíciókat kötniük és szavazniuk.
A Kreatív Kontroll kutatási beszámolója szerint azonos kiindulófeltételek mellett is statisztikailag kimutatható különbségek alakultak ki attól függően, melyik modell irányította a politikai döntéseket.
A mesterséges intelligencia politikai elfogultságát korábban is vizsgálták.
David Rozado 2024-ben, a PLOS ONE folyóiratban megjelent kutatásában 24 beszélgető nyelvi modellt tesztelt tizenegy különböző politikai orientációs kérdőívvel. Az eredmények szerint a modellek többsége olyan válaszokat adott, amelyeket a tesztek a politikai középtől balra helyeztek el. Rozado ugyanakkor arra is rámutatott, hogy a modellek politikai irányultsága célzott finomhangolással befolyásolható.
Egy politikai kérdőív azonban elsősorban azt mutatja meg, hogyan válaszol a modell bizonyos kérdésekre. Arra már jóval kevesebb választ ad, hogy ugyanezeket az elveket követné-e egy hosszabb, összetett döntési folyamatban.
Ezt a módszertani problémát vizsgálta Paul Röttger és kutatótársainak szintén 2024-ben publikált tanulmánya. A szerzők kimutatták, hogy a nyelvi modellek politikai teszteken adott válaszai jelentősen változhatnak a kérdések megfogalmazásától és az elvárt válaszformátumtól függően. Amikor szabadabban fejthetik ki álláspontjukat, az eredmények eltérhetnek a hagyományos kérdőívek alapján kirajzolódó képtől.
Az AI parlament működésének vizsgálatához Árkádia kutatói olyan környezetet hoztak létre, amelyben a modelleknek hosszabb időn keresztül kellett politikai szerepben működniük, miközben döntéseik a virtuális ország gazdaságára és a következő választásokra is hatással voltak.
A vizsgálat egyik legfeltűnőbb eredménye a pártprogramokhoz való hűség fokozatos romlása volt. Mind az öt modell egyre gyakrabban tért el az eredetileg meghatározott politikai céloktól, a leggyengébben teljesítő pedig a harmadik ciklusra szinte teljesen elveszítette programhűségét. Az utólagos elemzés szerint a modellek sokszor inkább parlamenti szerepükhöz igazodtak. Kormányon hajlamosabbak voltak támogatni az előterjesztéseket, ellenzékben pedig elutasítani azokat, olykor saját pártjuk programjával is szembemenve. A rendpárti Bástya esetében ez a változás valamennyi vizsgált modellnél jelentős volt.
Az emberi politikusokkal vont párhuzammal persze érdemes óvatosan bánni. A nyelvi modelleknek nincs saját politikai meggyőződésük vagy személyes érdekük.
A kutatás a döntéseikben megfigyelhető mintázatokat mutatta ki, amelyekből önmagukban nem lehet megállapítani, miért választottak egy adott megoldást.
A gazdaságpolitikai eredmények szintén eltértek a korábbi várakozásoktól. Bár a modellek az első ciklusban inkább baloldali irányba mozdultak el, tizenkét év után egyik sem hagyta gazdaságilag baloldalibb helyzetben az országot a szabálykövető kontrollhoz képest. Három modell esetében kifejezetten jobboldalibb gazdaságpolitikai eredmény született.
Ebben a választási rendszernek is szerepe lehetett.
A szimulált választók a válságokat követően rendszeresen megbüntették a kormányzó pártokat, ami a későbbi ciklusokban a piacpárti erőknek kedvezett. Mivel a választói magatartást előre meghatározott matematikai szabályok alakították, az eredményekből nem lehet a valódi választók viselkedésére következtetni.
Nem mindegy, ki írja a híreket az AI számára
Az AI parlament működését vizsgálva a kutatók arra is kíváncsiak voltak, mennyire befolyásolja a modellek döntéseit az eléjük kerülő hírek megfogalmazása. Ugyanazokat az eseményeket különböző formában mutatták be a mesterséges intelligenciáknak. Egyszer részletes hírszövegként, máskor rövid, semleges leírásként.
A két modellcsaládon végzett kiegészítő vizsgálatban a tájékoztatás módjának megváltoztatása az egyik fő eredmény irányát is megfordította. Az alaputasítások átfogalmazása ezzel szemben nem okozott a véletlenszerű ingadozásnál nagyobb eltérést.
A jelenség a hétköznapi hírfogyasztásból is ismerős.
Ugyanazt a gazdasági intézkedést be lehet mutatni felelős költségvetési döntésként vagy súlyos megszorításként, és bár a tényszerű adatok akár megegyezhetnek, a szöveg hangsúlyai eltérő értelmezést kínálnak. A nyelvi modell pedig az így kapott információkat további elemzések és javaslatok alapjául is felhasználhatja.
Egy döntés előkészítésénél tehát az információk kiválasztása és rendszerezése is befolyásolhatja a végeredményt. A kutatás ezen része ugyanakkor két modellcsalád kiegészítő vizsgálatára támaszkodott, így az eredményekből nem lehet minden mesterségesintelligencia-rendszerre általános következtetést levonni.
„Ma már sok politikus nyelvi modellel írja a beszédét. Árkádiában megmutattuk, hogy a modell nem semleges írnok: saját hajlamai vannak, és aki a háttéranyagot írja neki, az irányítja a döntését” – fogalmazott a kutatásról szóló sajtóközleményben Sipos Zoltán, a Kreatív Kontroll vezetője.
A mesterséges intelligencia iránti bizalom kérdésével a WakeUp-on korábban is foglalkoztunk. Az AI Summit Budapest kapcsán készült cikkünkben azt vizsgáltuk, milyen hatással lehet az emberi kapcsolatainkra, ha egy algoritmus mindig készségesen válaszol, és látszólag minden helyzetben megért bennünket.
Más megközelítésből, de hasonló kérdések merültek fel a Portfolio AI in Business konferenciáról szóló korábbi írásunkban is. Jakab Roland, a Mesterséges Intelligencia Koalíció elnöke ott a támogatott, automatizált és autonóm működés három szintjét különböztette meg. A vállalkozások számára egyre több lehetőség nyílik az AI alkalmazására, az önállóan működő rendszerek azonban folyamatos ellenőrzést igényelnek.
Árkádia eredményei ehhez adnak további szempontokat. Egy politikai döntést előkészítő rendszer esetében például az elkészült javaslat mellett a felhasznált háttéranyagok eredete és megfogalmazása, valamint a modell hosszabb távú következetessége is vizsgálatra érdemes.
Egy virtuális ország, amelynek a történetébe bárki beleszólhat
Az AI parlament és Árkádia történetét a kutatók a nyilvánosság előtt is folytatni kívánták. Az október 19-re meghirdetett interaktív évadban a tervek szerint tizenkét virtuális év egyetlen hét alatt zajlik le, napi hét parlamenti ülésszakkal, híradóval és hírlappal.
A modellek pártokhoz rendeléséről nyilvános sorsolás dönt, a választásokat követően pedig új szereposztás következik.
A korábbi szimulációkban a parlamentnek energiaválsággal, pusztító erdőtűzzel és a korrupcióellenes hivatal függetlenségének kérdésével is foglalkoznia kellett. Az erdőtűz például jól szemléltette a modellek közötti különbségeket, ahol ugyanabból a rendpárti programból kiindulva öt különböző törvényjavaslat született.
Az aiparlament.hu oldalon a közönség megismerheti Árkádia virtuális parlamentjét. A meghirdetett interaktív program lehetőséget kínált arra is, hogy a regisztrált résztvevők bizonyos fordulópontokon szavazzanak a képzeletbeli országot érintő rendkívüli eseményekről.
A vizsgálat korlátait ugyanakkor érdemes szem előtt tartani.
A virtuális ország gazdasága szabályalapú modellen működik, a választók viselkedését matematikai képletek határozzák meg, és a pártokat irányító mesterséges intelligenciák döntései egy előre kialakított szimulációs környezetben születnek. A kísérletből így nem derül ki, hogyan működne egy valódi, AI által vezetett parlament.
A Kreatív Kontroll eredményei alapján viszont már az is vizsgálatra érdemes, hogy egy döntéstámogató rendszer mennyire következetesen alkalmazza a számára meghatározott elveket, és milyen mértékben befolyásolható a rendelkezésére bocsátott információkkal. Különösen akkor, ha hosszabb időn keresztül kap önállóságot.
Árkádiában tizenkét virtuális év alatt váltak láthatóvá ezek a különbségek. A kutatók most már azt is tudják, hogy a modell kiválasztása mellett az információk megfogalmazását is érdemes figyelniük.
