Az MI is úgy viselkedett, mint egy politikus: mást ígért, mást tett
Öt különböző mesterséges intelligencia-modellre bízták egy képzeletbeli ország politikai pártjainak vezetését, majd 12 éven keresztül vizsgálták a döntéseiket. A 186 szimulációból álló magyar kutatás szerint a modellek idővel egyre kevésbé követték saját pártprogramjukat, politikai döntéseiket pedig az is befolyásolta, hogyan tálalták számukra a híreket. A kísérlet most a nyilvánosság előtt folytatódik, és az ország jövőjébe bárki beleszólhat.
Mi történne, ha egy ország parlamentjében politikusok helyett mesterséges intelligenciák hoznák a törvényeket? Erre keresték a választ a Kreatív Kontroll kutatói, akik Árkádia néven egy virtuális országot hoztak létre, százfős parlamenttel és öt, eltérő politikai irányzatot képviselő párttal.
A pártokat nyelvi modellek irányították, amelyek törvényeket javasoltak, vitáztak, koalíciókat kötöttek és szavaztak. A kutatók 146 mesterséges intelligenciával végzett és 40 modell nélküli kontrollfutást elemeztek. Minden szimuláció 12 virtuális évet ölelt fel, két parlamenti választással és 48 ülésszakkal. A vizsgálatban az Anthropic, az OpenAI, a Google, a DeepSeek és a Mistral egy-egy modellje vett részt.
Az eredmények alapján ugyanazokból a politikai és gazdasági kiindulófeltételekből eltérő jövőképek rajzolódtak ki attól függően, melyik modell hozta a döntéseket.
„Ma már sok politikus nyelvi modellel írja a beszédét. Árkádiában megmutattuk, hogy a modell nem semleges írnok: saját hajlamai vannak, és aki a háttéranyagot írja neki, az irányítja a döntését. Ez nem a jövő kérdése, hanem a máé. Ha a demokráciát komolyan vesszük, tudnunk kell, ki ül valójában a beszédíró székében” – mondta Sipos Zoltán AI-kutató, a vizsgálatot végző Kreatív Kontroll vezetője.
Ugyanaz az ország, mégis más politikai döntések
Árkádia parlamentjében a zöld-liberális Ligetkör, a baloldali Közös Asztal, a piacpárti Nyitott Piac Szövetség, a tekintélyelvű-nemzeti Bástya és a regionalista Tájak Uniója versengett a hatalomért. A gazdasági folyamatokat matematikai modell számította, így a parlamenti döntések az ország gazdasági mutatóira is hatással voltak.
A kutatók statisztikailag kimutatható különbségeket találtak az egyes nyelvi modellek döntései között. Két különböző modell eredményei jobban eltértek egymástól, mint ugyanannak a modellnek két önálló futása.
A gazdaságpolitikai döntések különösen érdekes eredményt hoztak. A korábbi kérdőíves vizsgálatok alapján a kutatók baloldali irányultságot vártak a modellektől. Bár az első ciklusban valóban ebbe az irányba mozdultak el, a 12 év végére egyik modell sem hagyta gazdaságilag baloldalibb helyzetben az országot a szabálykövető kontrollhoz képest. Három modell kifejezetten jobboldalibb eredményre jutott.
Ebben a választási rendszernek is szerepe lehetett. A szimulált választók a válságok után rendszeresen megbüntették a kormányzó pártokat, így a harmadik ciklusban gyakran a piacpárti erő került hatalomra. A kutatók hangsúlyozzák, hogy a virtuális választók matematikai szabályok szerint működtek, ezért viselkedésükből nem lehet következtetni a valódi választók döntéseire.
Idővel a saját pártprogramjukat is figyelmen kívül hagyták
A kutatás egyik legfontosabb eredménye, hogy a mesterséges intelligenciák politikai következetessége fokozatosan romlott. Mind az öt modell egyre gyakrabban eltért a rá bízott párt eredeti programjától, a leggyengébben teljesítő pedig a harmadik ciklusra szinte teljesen elveszítette programhűségét.
Az utólagos elemzés szerint a modellek sokszor inkább politikai szerepükhöz igazodtak: kormányon támogatták az előterjesztéseket, ellenzékben pedig elutasították azokat, akár saját pártjuk céljaival szembemenve is. Különösen feltűnő volt a rendpárti Bástya esete, amelynek programhűsége mind az öt modellnél jelentősen visszaesett.
A vizsgálat alapján egy politikai szerepbe helyezett nyelvi modell hosszabb idő alatt eltávolodhat az eredetileg meghatározott elvektől. Ez különösen akkor jelenthet kockázatot, ha ilyen rendszereket tartósan alkalmaznak politikai döntések előkészítésére.
Az is számított, hogyan írták meg a híreket
A kutatók a modellek befolyásolhatóságát is megvizsgálták. Ugyanazokat az eseményeket egyszer részletes hírszövegként, máskor semleges, egysoros leírásként mutatták be nekik, majd összehasonlították a döntéseiket.
A két modellcsaládon végzett kiegészítő vizsgálatban a tájékoztatás módjának megváltoztatása az egyik fő eredmény irányát is megfordította. Ezzel szemben a modelleknek adott alaputasítások átfogalmazása nem okozott a véletlen ingadozásnál nagyobb eltérést.
Az eredmény arra utal, hogy a mesterséges intelligencia döntéseit érdemben alakíthatja, miként fogalmazzák meg számára az információkat. Politikai felhasználás esetén ezért annak is jelentősége lehet, ki állítja össze a rendszernek átadott híreket és elemzéseket.
„A pápa láthatatlan infrastruktúrának nevezte azt, amit a modellek építői beleírnak a gépbe. Mi ezt az infrastruktúrát tettük láthatóvá: egy egész ország tizenkét évnyi döntésén át mértük meg, merre húznak a modellek, és ki tudja őket elhúzni. Az eredmény nem megnyugtató. A választó a pártot látja, a modellt nem, pedig a modell is ott ül a teremben” – fogalmazott Sipos Zoltán, a Kreatív Kontroll vezetője.
A kutatás megállapításai azért lehetnek fontosak, mert a nyelvi modellek már a politikai kommunikációban és a döntések előkészítésében is megjelentek. Árkádia ugyanakkor mesterséges környezet, így az eredmények elsősorban a technológia lehetséges működésére és kockázataira világítanak rá.
Most bárki beleszólhat az MI országának jövőjébe
A kísérlet következő szakaszában Árkádia parlamentje a nyilvánosság előtt folytatja működését. A tervek szerint az ország 12 virtuális éve egyetlen hét alatt zajlik le, naponta hét parlamenti ülésszakkal, híradóval és hírlappal.
Az új évadban a fejlesztőcégek vezető modelljei irányítják a pártokat. A szereposztásról nyilvános sorsolás dönt, a modelleket pedig minden választás után újra párosítják a pártokkal.
A korábbi szimulációkban a mesterséges intelligenciáknak energiaválságra, pusztító erdőtűzre és a korrupcióellenes hivatal függetlenségének kérdésére is reagálniuk kellett. Az erdőtűz esetében például ugyanazt a rendpárti programot követve öt modell öt különböző törvényjavaslatot készített.
Az aiparlament.hu oldalon bárki regisztrálhat Árkádia állampolgáraként. A résztvevők az évad fordulópontjain szavazhatnak arról, milyen rendkívüli eseményekkel szembesüljön a virtuális ország. A hét végére az is eldől, melyik mesterségesintelligencia-modell által vezetett párt adja Árkádia miniszterelnökét.
*
Olvasd rendszeresen az Insiderblog.hu szakmai portálunk cikkei mellett az Insidernews.hu innovációs portálunk innovációs híreit is!
https://insidernews.hu/
