A Nobel-díjas közgazdász figyelmeztet a mesterséges intelligencia hatalmas kockázataira, amelyek komoly kihívások elé állítják társadalmunkat.

Fedezd fel a bankszektor digitális jövőjét! Az AI robbanás, a fintech újítások és a digitális átalakulás izgalmas világában merülünk el május 27-én a Portfolio Financial IT konferenciáján. Ne hagyd ki ezt a lehetőséget, hogy első kézből értesülj a legújabb trendekről és fejlesztésekről! Regisztrálj most, és tudd meg, hogyan formálják át a technológiai újítások a pénzügyi szektort! Részletek itt!

A különféle modellek jelentős eltéréseket mutatnak a hatásaik terén.

Az emberek nap mint nap több száz döntést hoznak, amelyek közül néhány jelentős hatással lehet karrierjükre, megélhetésükre vagy akár boldogságukra is. Sok esetben ezek a választások nem tökéletes, vagy éppen hogy hiányos információkon alapulnak; gyakran az érzelmeink, intuícióink, ösztöneink vagy impulzusaink irányítanak minket. David Hume híres megállapítása szerint: "Az értelem csupán a szenvedélyek szolgája - és így is kellene lennie." Az emberek gyakran hoznak döntéseket anélkül, hogy alapos érvelést alkalmaznának, vagy figyelembe vennék a választásaik hosszú távú következményeit. De ahogy Hume megjegyezte, ez a "kellene" kifejezés arra utal, hogy ez nem feltétlenül negatív dolog. Az érzelmeink tesznek minket valóban emberivé. A szenvedélyek megmutatják céljainkat és kulcsszerepet játszanak abban, hogyan navigálunk az összetett világ kihívásai között.

A személyre szabott, megbízható, a kontextusnak megfelelő, hasznos információkat nyújtó AI-tanácsadókkal számos fontos döntés javítható, de az emberi indítékok továbbra is dominánsak maradnak. De mi a rossz abban, ha az autonóm AI-megoldások döntenek a nevünkben? Nem javíthatnák tovább a döntéshozatalt, nem takaríthatnának meg időt, és nem előzhetnék meg a hibákat?

Ezzel a nézőponttal több alapvető probléma is felmerül. Először is, az emberi cselekvőképesség kulcsfontosságú az egyéni fejlődés és tanulás szempontjából. A döntéshozatal és az eredmények értékelése - még ha az információk és tanácsok nem is emberi forrásból származnak - megerősíti a saját cselekvési képességünket és céljaink iránti érzésünket. Az emberi tevékenység zöme nem csupán a számításokról vagy adatgyűjtésről szól, hogy megtaláljuk a legjobb megoldást; sokkal inkább a felfedezésről és az élményekről szól. Ez a tapasztalat fokozatosan eltűnhet, ha minden döntést mesterséges intelligenciára bízunk.

Továbbá, ha a technológiai szektor főként az önálló mesterséges intelligencia ügynökökre összpontosít, akkor nagymértékben megnő a valószínűsége annak, hogy számos emberi munkakör automatizálásra kerül.

Ha az AI csupán az automatizálás gyorsításának szolgálatába áll, akkor a társadalmi jólét széleskörű megvalósulásának lehetősége eltűnik a láthatárról.

Fontos kiemelni, hogy alapvető különbség van az emberek nevében eljáró AI-ügynökök és az önmagukért cselekvő emberek között. Számos olyan helyzetben, amikor emberek interakcióba lépnek egymással, vannak kooperatív és konfliktusos elemek egyaránt. Vegyük például azt az esetet, amikor az egyik vállalat inputot biztosít egy másiknak. Ha ez az input kellően értékes a vevő számára, a két vállalat közötti kereskedelem kölcsönösen előnyös (és általában a társadalom számára is).

Ahhoz, hogy bármiféle csere létrejöjjön, az input árának meghatározása egy eredendően konfliktusos folyamat eredménye kell, hogy legyen. Minél magasabbra kúszik az ár, annál kedvezőbb helyzetbe kerül az eladó a vásárlóval szemben. Az alku kimenetele gyakran a normák (mint például a méltányosságra vonatkozó elvek), az intézmények (például a jogi szerződések, amelyek megszegése pénzügyi következményekkel járhat) és a piaci tényezők (például az eladó lehetősége, hogy a termékét más vevőknek is értékesítse) összetett interakciójának függvénye. Most képzeljünk el egy helyzetet, ahol a vevő híre a kompromisszumképtelenségéről terjedt el - kizárólag a lehető legalacsonyabb árat hajlandó elfogadni. Ilyen esetben, ha nincs más érdeklődő, az eladó kénytelen lehet elfogadni az alacsony ajánlatot.

Szerencsére a mindennapi üzleti élet során az ilyen kompromisszumképtelen viselkedés meglehetősen ritka, részben azért, mert senkinek sem éri meg a rossz hírnév, másrészt pedig mert a legtöbb embernek hiányzik a bátorsága vagy az eltökéltsége ahhoz, hogy ilyen agresszív módon lépjen fel. Most azonban képzeljünk el egy olyan szituációt, ahol a vevő rendelkezik egy autonóm mesterséges intelligenciával, amelyet nem befolyásolnak az emberi érzékenységek, és a döntéshozatala sziklaszilárd. Ez az AI képes lenne arra, hogy mindig ezt a kompromisszumkerülő, határozott álláspontot képviselje, így a másik fél számára gyakorlatilag esélytelenné válna, hogy meggyőzze őt egy kölcsönösen előnyösebb megoldásról.

Ezzel ellentétben abban a környezetben, ahol a mesterséges intelligencia mint tanácsadó funkcionál, bár mindig javasolhat olyan álláspontokat, amelyek nem hajlanak a kompromisszumra, a végső döntés mindig az ember kezében van, hogy elfogadja-e ezt az irányt.

A közeljövőben várhatóan az autonóm AI-ügynökök egy olyan világot formálhatnak, ahol a hatalom és a lehetőségek egyre inkább koncentrálódnak, és csupán néhány vállalat vagy egyén rendelkezik a legfejlettebb, valóban hatékony AI-modellekhez való hozzáféréssel. De még ha a technológia elérhetővé válna mindenki számára, az nem biztos, hogy megoldaná a problémákat; a helyzet továbbra is bonyolult és kihívásokkal teli maradna.

Társadalmunk egyfajta "kimerítő küzdelem" színterévé válna, ahol az mesterséges intelligencia ügynökök minden egyes konfliktust olyan szintre fokoznának, hogy az a totális összeomlás szélére taszítaná az embereket.

Az ilyen összecsapások alapvetően tele vannak kockázatokkal. Olyanok, mint a híres "csirke játék", ahol két autó száguld egymás felé, hogy kiderüljön, ki hajlandó előbb elrántani a kormányt. Ebben a helyzetben mindig ott lebeg a lehetőség, hogy egyik fél sem hátrál meg. Ha ez a forgatókönyv valósággá válik, mindkét résztvevő "győztesnek" mondhatja magát – de a valóságban mindketten súlyos következményekkel néznek szembe.

Egy olyan mesterséges intelligencia megoldás, amelyet kifejezetten arra terveztek, hogy a chicken game-ben győzelmet arasson, soha nem fogja elengedni a kormányt. Noha az AI kiváló tanácsadó lehet az emberek számára, releváns és megbízható információkat nyújtva valós időben, az autonóm AI-ügynökök világának megjelenése valószínűleg számos új kihívást generál majd. Eközben a technológia által nyújtott előnyök egy része is veszélybe kerülhet, ahogy a komplexitások és a váratlan következmények egyre inkább teret nyernek.

Daron Acemoglu egy neves közgazdász, aki elsősorban a gazdasági fejlődés, a politikai gazdaságtan és az intézmények szerepének kutatásával foglalkozik. Munkássága során kiemelte, hogy a gazdasági teljesítmény nem csupán a természeti erőforrásoktól vagy a technológiai fejlettségtől függ, hanem a társadalmi és politikai intézmények minőségétől is. Acemoglu figyelemre méltó elméleteket dolgozott ki a demokrácia és a gazdasági növekedés közötti összefüggésekről, valamint arról, hogyan befolyásolják a különböző politikai rendszerek a gazdasági teljesítményt. Munkái, például a "Why Nations Fail" című könyve, világszerte nagy hatással voltak a közgazdaságtani diskurzusra és a politikai elemzésekre.

Az MIT (Massachusetts Institute of Technology) Nobel-díjas közgazdászprofesszora. Kutatásai többek között a politikai gazdaságtan, a gazdasági fejlődés és növekedés, a technológiai fejlődés, a jövedelmi egyenlőtlenség kérdéseire vonatkoznak. A Nobel-díjat 2024-ben kapta.