Reális közelségbe került az emberiség találkozása egy magasabb szintű intelligenciával

A mesterséges intelligencia térhódításával eddig ismeretlen helyzettel találhatja magát szemben az emberiség: amióta létezünk, sosem találkoztunk a miénknél magasabb szintű intelligenciával, de most úgy tűnik, ez pár éven belül bekövetkezhet. Nem véletlen, hogy az ENSZ New York-i Közgyűlésén is a mesterséges intelligencia térhódítása volt az egyik legforróbb téma. Kőrösi Csaba, az ENSZ Közgyűlésének korábbi elnöke, a Kék Bolygó Alapítvány stratégiai igazgatója maga is jelen volt a megbeszéléseken. A vele készült interjúban beszélt a válságban lévő ENSZ jövőjéről, de szóba került az anyai ösztön és a különböző generációk szerepe is a mesterséges intelligencia szabályozása kapcsán.

Az ENSZ elsődleges célja a világbéke és a nemzetközi biztonság megtartása. Hogyan haladnak ennek elérésével?

Amikor 1945-ben létrejött az ENSZ, a célja valóban a további világégések megelőzése volt, később a tevékenységi köreinek listája kiegészült, és a szervezet küldetése ma már jóval túlmutat a háborús fegyveres konfliktusok rendezésénél és a békekötések elősegítésénél. Talán meglepő, amit most mondok, de az ENSZ a megalapítása óta olyan súlyos pénzügyi válsággal még nem küzdött, mint napjainkban. Ennek egyik oka az országok be nem fizetett tagdíja. Szintén meglepő lehet, de a hiány több mint 50 százaléka amerikai tartozásból származik.

A másik megkerülhetetlen probléma a multilateralizmus hanyatlása, miközben a világ egyre markánsabban multipoláris. Ez a két trend ellentmond egymásnak, és a képet még bonyolultabbá teszi, hogy a hidegháború utáni hatalmi állapotok valójában a mai napig sem konszolidálódtak. A régi és az újabb erőközpontok egymással is versengenek, s a jövőről alkotott elképzeléseik nagyon eltérőek. Az ENSZ jelenlegi intézményi struktúrája már nehezen tudja lekövetni ezeket a folyamatokat. Ha azt szeretnénk, hogy az ENSZ relevanciája megmaradjon, át kell gondolni a szervezet működési rendjét, és bizonyos pontokon változtatni kell.

Kőrösi Csaba, az ENSZ Közgyűlésének korábbi elnöke, a Kék Bolygó Alapítvány stratégiai igazgatója

Hogyan lehet egy ekkora szervezet működését a mai realitásokhoz igazítani?

Erre a kérdésre az ENSZ az UN80 (United Nations 80) kezdeményezéssel válaszol, ami egy nagyszabású reformfolyamat ígéretével látott napvilágot. A kifejezés az ENSZ megalapításának idei, 80. évfordulójára utal, célja pedig a szervezet működésének optimalizálása, valamint felkészülés a jövőbeli kihívásokra, köztük a robbanásszerűen fejlődő mesterséges intelligencia hatásaira.

A Kék Bolygó Alapítvány és a volt ENSZ Közgyűlési Elnökök Tanácsa, melynek a tagja vagyok én is, komolyan foglalkozik a jelenséggel. Tény és való, hogy a mesterséges intelligencia az élet minden területére beszivárgott, gazdasági és társadalmi tekintetben is. Forradalmasítja a gazdaság hatékonyságát, sok egyéb terület mellett az energetikát, az élelmiszeripart, az orvostudományt és a tudományos kutatásokat is. Bizonyos területeken a mesterséges intelligencia meghaladja az emberi képességeket, csak hogy a legegyszerűbbre gondoljunk, a ChatGPT szinte minden kérdésre azonnal generál válaszokat.

Nem cél, hogy ezt a rohamos fejlődést megállítsák, és nem is kivitelezhető, hiszen az általános mesterséges intelligencia fejlesztése részben a geopolitikai versenyből, részben pedig a dominancia megszerzésének az igényéből származik. Ezt megállítani nem lehet.

Mit tehetünk, hogy a jövőben ne egy gépek által vezérelt világban éljünk?

A mesterséges intelligencia fejlesztése alapvetően a védelmi és a biztonsági területről jön. Mind a mai napig ott történik a legnagyobb előrehaladás, és ott valósulnak meg a legnagyobb befektetések. A szabályozása azért sem egyszerű, mert a fejlesztések célja az, hogy geopolitikai előnyöket hozzon a versenytársakkal szemben. És ne legyünk naivak, a mesterséges intelligencia jövőbeli fázisai is elsősorban ehhez a területhez fognak kapcsolódni. Ez pedig az én meglátásom szerint nem csökkenti, hanem épphogy növeli a kockázatokat.

Alapvetően két ország vezeti ezt a trendet, az Egyesült Államok és Kína, még néhány ország van valahol mögöttük, a világ többsége pedig jelentősen le van maradva. Ez olyan terület, ahol félévnyi előny döntőnek bizonyulhat másokkal szemben. Azt megengedheti magának egy fejlesztő, hogy a korábban tervezettnél sokkal drágább legyen egy mesterséges általános intelligencia (AGI) ágens, de azt nem, hogy valamilyen okból fél évet csússzon. Ebben a helyzetben pontosan az a geopolitikai előny erodálódna, amiért alapvetően a verseny folyik.

A gond az, hogy a fejlesztések mögött messze le van maradva a kockázatkezelés rendszerének kialakítása. Utólag derül ki, hogy egy fejlesztés mekkora kockázattal jár, és csak reméljük, hogy a kockázat csökkenthető. Mi azt szeretnénk – és ez nemcsak a Kék Bolygó Alapítványra vonatkozik, hanem komoly nemzetközi összefogás van kutatók, intézmények, szervezetek között –, hogy a kockázatkezelési rendszert, a biztonsági rendszert emeljük fel a technológiai fejlesztések szintjére.

Ha a mesterséges intelligencia elvileg annyival okosabb nálunk, miért ne ő szabályozzon minket? Erről mi az ön véleménye?

Amióta az emberi civilizáció létezik, azóta folyamatosan alkotunk szabályokat. Ezek azt mondják ki, hogy mi, emberek hogyan viselkedjünk, akár egyénileg, akár közösségben. Legyenek ezek törvények, írott vagy szóbeli hagyomány nyomán létező szabályok, királyi rendeletek, parlamenti határozatok, a sok erkölcsi, politikai, gazdasági szabály mind arról szól, hogy mi, emberek mit csináljunk, és mit ne csináljunk. Ha helyesen cselekszünk, akkor mi a jutalom, ha pedig a tiltás ellenére megteszünk valamit, akkor mi a büntetés. A szabályok foglalják magukba az emberi tevékenység irányítására vonatkozó közös bölcsességet.

Amióta ember él a Földön, nem találkoztunk a mienknél magasabb szintű intelligenciával. Most mégis minden afelé mutat, hogy ez hamarosan bekövetkezhet. Erre viszont intézményi, szabályozási és biztonsági értelemben sem vagyunk felkészülve. Nincs kialakult módszerünk annak az intelligenciának a szabályozására, amely nem az emberi működéshez kötődik. A számítások szerint nagyjából hat hónaponként duplázódik a mesterséges intelligencia ágenseinek a teljesítménye, ami valóban robbanásszerű fejlődés. Tehát most olyan szabályrendszert kellene kifejleszteni, ami az emberi viselkedésen kívül eső dolgok számára is megbízható keretet teremt.

Az érdekes intellektuális felvetés, hogy miért ne a mesterséges intelligencia szabályozza az emberi tevékenységet. Én nagyon bízom abban, hogy odáig soha nem jutunk el. Azt kell kitalálni, hogy hogyan lehet a jelenlegi tudást birtokolva olyan globális szabályozási, kormányzási rendet kialakítani, amely a kockázatokat megnyugtató mértékben csökkenti, miközben a lehetőségeket engedi kibontakoztatni.

A technológia mindig fejlődött, mindig volt egy újabb találmány, amely elterjedt a bolygón. Miért gondolja, hogy ez a kihívás különlegesebb lenne, mint bármely másik korábban?

Sem az emberiség történetében, sem az evolúció történetében nem volt még példa arra soha, hogy egy fejlettebb intelligencia teljes mértékben alárendelje magát egy kevésbé szofisztikált intelligenciának. Mindig a fejlettebb intelligencia került nyerő helyzetbe az evolúció során. Itt nekünk ezt most meg kellene fordítanunk. Egyetlen példa létezik, amelyet talán valamire lehet használni.

Az evolúció során mindig az anyai, illetve a szülői ösztön volt az, amely biztosította, hogy egy fejlettebb, intelligensebb lény teljes mértékben alá tudja rendelni a saját érdekeit egy kevésbé fejlett, kevésbé intelligens lénynek; ez az a működés, ahogyan egy anya teljes mértékben gyermeke védelmét és fejlődését szolgálja. Ha ebből fel tudunk használni valamit, az nagyon jó, de ha másféle módon tudjuk garantálni, hogy a további fejlődés is az emberi érdeket szolgálja, akkor másféle módot kell keresnünk.

Ön mitől tart leginkább a mesterséges intelligenciával kapcsolatban? Mennyire bízik a jelenlegi folyamatokban, amelyeket egyébként a részvétele révén ön is alakíthat?

Attól tartok, hogy kicsúszhatunk az időből. Ha fél évig vagy akár egy évig is halogatjuk a mesterséges általános intelligencia szabályozására vonatkozó döntéshozatalt, vagy óvatoskodunk, mert geopolitikai és piaci érdekekről van szó, és egy szabályrendszer miatti korlátozás esetleg egyik vagy másik szereplő pozícióját gyengítené, egyszerűen elszalaszthatjuk a lehetőséget.

Készítettek egy tanulmányt, amelyet a tagállamok és a közgyűlés majd megvitat az ENSZ-en belül. Mi szerepel ebben?

Felkértünk egy szakértői csoportot, amelynek tagjai a mesterséges általános intelligencia területén a legjobbaknak számítanak, hogy készítsenek nekünk egy rövid összegző elemzést arról, hol tart az általános mesterséges intelligencia fejlesztése, milyen lehetőségeket és kockázatokat hoz magával, és ezeket a kockázatokat hogyan tudnánk kezelni. Néhány konkrét javaslatot ebből szeretnénk bevinni az ENSZ-be.

Az első lépés tájékoztatás lenne az ENSZ 193 tagállamának a részvételével, ahol ezt a tanulmányt és a hozzá kapcsolódó megállapításokat ismertetnénk azzal a céllal, hogy közös tudásunk legyen a témáról. Meghívnánk azokat az ipari, technológiai vezéreket, akik jelenleg részt vesznek és élen járnak a szóban forgó technológiáknak a fejlesztésében; ők is úgy látják – Kínától az Egyesült Államokig, a Teslától a Google-ig –, hogy szükség lesz egyfajta globális rendre a mesterséges általános intelligencia kérdéskörében.

Ennek a tájékoztatónak a tapasztalatai alapján javasolnánk, hogy legyen az ENSZ Közgyűlésének egy különleges ülésszaka, amely kifejezetten ennek a kérdésnek már a döntéshozatal irányába mutató kérdéseivel foglalkozik. Hozzunk létre egy globális AGI- (általános mesterséges intelligencia) megfigyelő platformot, ahol a tagállamok meg tudják osztani egymással a legfontosabb tapasztalataikat. Ez a platform szolgálhat arra is, hogy egy certifikációs rend alapján eldönti, mi az a termék, amit piacra lehet engedni, és mi az, amit nem.

Emellett pedig van egy távlati célunk is. Az ENSZ-nek jelenleg nagyon sok ügynöksége van, amelyek különféle felügyeletet látnak el, gondoljunk csak például az Nemzetközi Atomenergia-ügynökségre. Fontos lenne létrehozni egy általános mesterséges intelligenciával foglalkozó ügynökséget is, a megvalósításának az ideje azonban sajnos még beláthatatlan. A multilaterális tárgyalások időigénye rendkívül nagy. A tapasztalatom szerint az ENSZ-ben ehhez minimum 2 vagy 3, de akár 10 év is kellhet. A gond az, hogy az általános mesterséges intelligencia megjelenésének és uralkodóvá válásának problematikájában nincs 10 évünk, de talán még 5 évünk sincs.

A mesterséges intelligencia és a digitális világ a mai fiataloknak természetes közege, az idősebb generációk természetszerűen bizalmatlanabbak, elutasítóbbak vele szemben. Amikor döntést kell hozni egy a generációk tekintetében is ennyire megosztó, de az egész emberiséget érintő jelenségről, kikérik fiatalabb szakértők véleményét? Megjelenik a folyamatban az, hogy a fiatalabbaknak értelemszerűen sokkal tovább kell majd együtt élniük a döntések következményeivel?

A jelentést elkészítő szakértői csapat átlagéletkorát nem ismerem. A vezetőjük 60 év körüli, de vannak a tagok között nagyon fiatal, kifejezetten tech-vezérek is. Én itt nem húznék olyan határt, hogy ez a fiatalok ügye, vagy az idősebbek ügye. Ez mindenki ügye. A világtörténelemben eddig bármilyen technológiai fejlesztés általában inkább a fiatalokat mozgatta meg, miért lenne ez most másképp. De ebből ne csináljunk doktrínát!

Ha most megnézzük a világban azokat, akik élen járnak az általános mesterséges intelligencia fejlesztésében, akkor találunk kifejezetten 60-plusszosokat, ketten még Nobel-díjat is kaptak érte. És vannak mellettük 20-as éveikben járó fiatalok is. Szerintem ez az emberiség közös problémája, ahol a tapasztalatra, a tudásra, a jövőbe látásra, a felelősségvállalásra mindenki részéről szükség van. Hiszek abban, hogy a mesterséges intelligencia fejlesztése alapvetően jó dolog, viszont látni kell, hogy az általános mesterséges intelligencia kockázatkezelése nagyon sürgősen figyelmet igényel.

Fotók: Kék Bolygó Alapítvány