Áprilisban jelent meg magyarul Tilesch György és Omar Hatamleh Mesterség és Intelligencia című könyve. Tilesch Györggyel, a Neumann Társaság MI nagykövetével, a PHI Institute elnökével beszélgettünk a könyvről.

- Az MI behálózza az életünket, a téma nemcsak a tudományos cikkekben van jelen, hanem a popkultúrában is. Azt gondolná az ember, hogy már mindent elmondtak róla. Mi volt az a hiátus, ami arra indította Önöket, hogy mégis könyvet írjanak róla?

- A hiátust úgy fogalmaztuk meg, hogy bizonyos cégek és államok úgy gondolják, tudják, mi a mesterséges intelligencia fejlesztési és terjesztési iránya, mi lesz legjobb a társadalomnak, de ugyanezek az emberek, amikor nem a pulpitusról beszélnek, hanem magánemberként, bizalmas légkörben, akkor elárulják a félelmeiket. Mi egy balanszírozott könyvet szerettünk volna írni.

Fontos leszögeznem, hogy személyes benyomásokból indultunk ki. Nem szobatudósok vagyunk, hanem vállalatvezetők és tanácsadók. Kint dolgozunk a terepen.

Ön is utalt rá, hogy a science-fiction világa erőteljesen beszűrődött a mainstreambe.

Mi azt szeretnénk bebizonyítani a könyvben, hogy a mesterséges intelligencia nem jövőidejű kérdés, hanem jelen idejű, és a legnagyobb civilizációs feladatunk jelenleg ennek a megfelelő irányba állítása.

- Ha mesterséges intelligenciáról beszélünk, sokaknak Terminátor-szerű gépemberek jutnak eszükbe. Pedig ennél jóval színesebb a kép. Mi az MI ismérve?

- A mesterséges intelligencia egy marketing „buzzword”. Egy ernyő, körülbelül 15 technológiai ágazat összefoglaló neve.

A mesterséges intelligencia körülbelül ötven éve született meg, mint tudományág a mi Neumann Jánosunk aktív közreműködésével a Princeton Egyetemen. Az az 5-6 ember, aki akkor elkezdett dolgozni ezen, azok nagy része játékelméletekkel foglalkozott, ezért a korai definíciók is a játékosításra épültek.

Alan Turing például kitalálta a Turing-tesztet, amely lényege, hogy egy játék-környezetben, gyakorlatilag egy chatszobában kell valakinek kitalálni azt, hogy akivel épp beszélget, az robot vagy ember. Ha nem tudja eldönteni, akkor megszületett az emberrel ekvivalens, úgynevezett általános mesterséges intelligencia.

Eddig egy gép az alapján tudott működni, amit beleprogramoztak. A mesterséges intelligencia pont ezt a határt haladja meg. Egyre növekvő autonómiát adunk a gépek kezébe. Képesek ajánlásokat adni, vagy ha hagyjuk, akár döntéseket hoznak helyettünk, ráadásul sokkal több adatpont alapján, mint amit az emberi elme képes kezelni, sokkal hatékonyabban, és közben nem kérnek enni.

Ez egy nyílt végű folyamat, és ez az, ami félelmetessé teszi. Ez az, amiben a sci-fim filmeknek igaza van: bizony, eljöhet az a pont, amikor az emberrel egyenértékű lesz a mesterséges intelligencia. Bár azt gondolom, ha meg is történik ez, akkor is a nagyon távoli jövőben. Igaz: azt a pillanatot körülbelül két perc választja el attól, hogy az MI szuperintelligenciává váljon, magyarán az embert messze meghaladóvá.

Tehát ezek igaz narratívák, amikkel foglalkoznunk kell, de mi a könyvünkben azt mondjuk, hogy a jelenre és a közeljövőre kell fókuszálnunk, mert itt tudunk cselekedni.

-  Egyszer Kürti Sándorral beszélgettem erről a témáról, aki azt mondta, biztos benne, hogy a mesterséges intelligencián is lesz valamiféle „kikapcsoló gomb”, ha baj van, le fogjuk tudni állítani. Ön szerint bebiztosíthatjuk magunkat?

- Az biztos, hogy maximálisan óvatosnak kell lennünk, ami nem azt jelenti, hogy le kell mondanunk erről a technológiáról, hanem hogy fékeket és ellensúlyokat kell beépíteni.

Egyébként az Európai Unió a múlt héten jelentette meg az világ első mesterségesintelligencia-szabályozását. Ők nagyon erősen a kockázatokra helyezik a hangsúlyt. Ha úgy tetszik, a Kádári „tiltott, tűrt, támogatott” rendszerhez hasonló kategóriákat vezettek be. Bizonyos MI technológiákat kifejezetten tiltani akarnak.

Persze vannak kiskapuk. Mondok egy példát: elsődleges veszélyként a manipulációt határozták meg. De kérdezem én, mi számít annak? A marketing nem manipulatív? A közösségi média nem manipulatív? Vagy a politikai hirdetés? Hol lesznek a manipulálás határai?

Ami a „kikapcsoló gombot illeti”, Kürti Sándornak abban mindenképp igaza van, hogy azt szabályozásként be kell építeni mindenhová. Ezzel csak két probléma van:

Az egyik, hogy a kockázatok nem azonnal derülnek ki. A mesterséges intelligenciában pont az a félelmetes, hogy amit egy ember száz év alatt végez el, azt ő öt perc alatt.

Már ma is sok olyan kormányzati MI rendszer van a világon, ami az emberek életére hatással bír. Kevesen tudják például, hogy Amerikában a feltételes szabadlábra helyezéseknél 30-40%-ban mesterséges intelligencia támogatja a bíró döntését.

A gond ott kezdődik, amikor az emberi beavatkozás, kontroll lehetőségét elengedjük, ami az emberi lélektől nem teljesen idegen. Amikor azt mondjuk, hogy a gép úgy is okosabb, nekem ezzel nincs is dolgom. Ezt tesztelték is már, és az lett az eredmény, hogy a tisztségviselők 98-99%%-ban nem bírálják felül a gép javaslatát.

A másik probléma, hogy nagyon nagy károkat tud okozni egyetlen hiba is. Amire elérünk a gombhoz, addigra már megszületik több millió döntés. Lehet, hogy a fejlesztő szemével az csak egy „bug”, amit két héten belül majd megold, de a társadalom szempontjából óriási károkat okozhat, a jogi következményekről nem is beszélve.

- Néhány éve, amikor Elon Musk 115 társával petíciót írt az ENSZ-hez, hogy tiltsák be az autonóm fegyvereket, Vlagyimir Putyin is megszólalt a kérdésben, idézem: „A világ ura lesz az az ország, amelyik elsőségre tesz szert a mesterséges intelligencia kifejlesztése terén.”

Putyin ugyan azt ígérte, hogy Oroszország megosztja majd a technológiát a világgal, de hát ő mégis csak Putyin.

Szépen hangzik, hogy mi, európaiak önmérsékletet tanúsítunk az MI használata terén, de ha más nagyhatalmak nem ilyen belátóak, akkor elképesztő erőfölényre tehetnek szert.

- Oroszország jelenleg abból él, hogy sokkal nagyobbnak és erősebbnek mutatja magát, mint amilyen. Nem hiszem, hogy Oroszország a mesterséges intelligencia tekintetében vezető hatalom lesz. Az igaz, hogy kiberháború és dezinformáció tekintetében tényleg jók, de a gazdasági befektetéseik rendkívül csekélyek.

Az ENSZ egyébként már évek óta foglalkozik az autonóm fegyverek betiltásával. A gond az, hogy az öt legnagyobb tagállam ellenáll, épp ezért szerintem ez itt meg is fog állni, vagy kiüresítik.

Az MI szoftveres hadászati alkalmazásai ennél jóval tágabbak, és ezen a téren most is folyamatosan háború zajlik, amiről a közvélemény nem is nagyon tud. Egy NATO főtisztviselő 3-4 évvel ezelőtt azt mondta zárt ajtók mögött, hogy

Ezt négy éve mondta, képzeljük el, ma mi van!

Tény és való, hogy jelen pillanatban rövidtávon a negatív aktoroknál van az előny. De úgy gondolom, ez csak ideiglenes előny. Abban igaza van Önnek, hogy ezt szabályozási oldalról nagyon nehéz kikényszeríteni. Ennek egyik konzekvenciája a fegyverkezés.

A másik, hogy a társadalmi bizalom fontos értékmérővé válik. A könyvben is sokat írunk arról, hogy korunk egyik legkarakteresebb jellemzője a bizalomvesztés.

Nem bízunk senkiben és semmiben: sem az intézményekben, sem a politikusokban. Ez alól a mesterséges intelligencia sem kivétel. Most már többségben vannak a világban azok, akik féltik a kormányoktól és a cégektől az adataikat, félnek, hogy ellenük fogják felhasználni a mesterséges intelligenciát. Két évvel ezelőtt még nem ez volt a helyzet.

Mit mondunk mi a könyvben? Új technológiai generációra van szükség. A közérdeket szolgáló technológiákat kell támogatni és terjeszteni, amelyek alapvetően arra építenek, hogy a felhasználó megbízik bennük, és minden okot meg is adnak rá, hogy a felhasználó megbízzon bennük.

Egyik vesszőparipám, hogy a Facebook átvette a társadalmi párbeszéd szerepét. Miért fogadtuk el, hogy ez az egyedülálló modell? Gondoljuk újra! Azzal a kérdéssel kell kezdenünk, hogy milyen üzleti és technológiai modellek, milyen dizájnok és objektívák szolgálják a társadalom érdekeit,

- Szintén nagy félelem, hogy az MI el fogja venni a munkánkat. Míg az egyszerűbb gépek főleg a fizikai munkásokat fenyegették, hiszen az izomerőt tették fölöslegessé, az MI már olyan intellektuális szakmákat fenyeget, mint a jogászoké vagy a fordítóké.

- Azok az állások, amiket szeretünk értelmiséginek titulálni, nagyon sok esetben valójában nem azok. Az embereket alulfoglalkoztatják.

Elvégez valaki öt évig egy jogi vagy közgazdaságtudományi egyetemet, és utána lótifuti lesz valami nagy cégnél. Kávét főz és űrlapokat tölt ki.

Az, hogy a gyári munkások veszélyben vannak a mesterséges intelligencia miatt, az 100 százalék, de látok egy rohamosan növekvő fehérgalléros problémát is. Azoknak a szakmáknak, amelyek főleg folyamatalapú dolgokkal foglalkoznak, nem lesz sok értelme.

A szoftveralapú automatizáció manapság a leggyorsabban fejlődő területe az MI-nek. Ha akarjuk, kiválthatjuk vele az emberek munkáját, és elbocsáthatjuk őket. Vagy azt is mondhatjuk, hogy értelmesebb feladatot adunk az embereknek. Ez nagyrészt a munkáltatók hozzáállásán fog múlni.

Egyébként a legnagyobb robbanás éppen a szövegalapú technikák területén volt. A Microsoft tulajdonolta OpenAI-nak van egy GPT-3 nevű szöveggenerátora, amit a nagyközönség egyáltalán nem ismer még belülről. Azok, akik a szövegiparban dolgoznak, még nem is sejtik, milyen brutális eredményeket értek el. Az a mesterséges intelligencia már könyveket tud írni - igaz, még nem tökéletesen.

- Újságíróként és műfordítóként kicsit abban bízom, hogy az egyéniséget, a stílust nem képes utánozni a gép.

- Az újságírók vagy a műfordítók könnyen lehet, hogy inkább lektori szerepbe kényszerülnek majd. A munka oroszlánrészét elvégzi a gép, az embernek csak a finomhangolás jut.

Ráadásul exponenciálisan sokkal jobb. A személyiséggel rendelkező robotembereket én inkább az ábrándozások világába sorolnám. A legnagyobb probléma, hogy ettől függetlenül mindenki ebbe az irányba megy, mindenkinek produkálnia kell ezen a területen, és mindenféle szörnyek, illuzionisták és cirkuszi törpék fognak kijönni MI néven, amikről a profitra éhes előállító azt fogja állítani, hogy mindent tud. Körülbelül úgy, mint a mi Kempelen Farkasunk 300 évvel ezelőtt.

Ez egy női fej olyan szöveggenerátorral, ami szerintem jóval butább, mint mondjuk a Google asszisztens vagy Siri. Az MI szakértők általában nem szeretik, a média viszont imádja, mert lehet mutogatni. Egy Android asszisztensen nincs mit mutogatni.

- Miközben az MI nyitotta fantasztikus lehetőségekről álmodoztunk, jött egy világjárvány, ami azért kicsit visszarángatott a földre: még mindig nagyon is sebezhetőek vagyunk. Mit jelentet a Covid az MI szempontjából?

- A könyv, amit a kezében tart, angolul jelent meg először, tavaly áprilisban. Ez azért érdekes, mert márciusban adtuk le a kéziratot, és akkor zárult a világ. Nem tudtuk, meddig fog tartani. Annyit tehettünk, hogy releváns maradjon a munka, hogy az utolsó pillanatban betettünk egy utószót, amely a Covid es az MI kapcsolatával foglalkozik.

Hogy ne csak írjunk róla, összehoztunk a NASA-nál egy nagy, egy hónapos roham-kollaborációt a világ legnagyobb cégeinek innovációs es technológiai vezetőivel. Pont azt vizsgáltuk, hogy milyen MI alapú megoldásokat, javaslatokat nyújthatunk a kormányoknak a pandémiára.

A mesterséges intelligencia rendkívül felgyorsította a vakcinafejlesztést, jó volt a járvány előrejelzésében, készítettek kontaktkutató alkalmazásokat. Kaliforniában ez államilag támogatott projekt: majdnem minden ember telefonján ott ez az alkalmazás. Semmit nem kell csinálni, csak bekapcsolni a bluetooth-t, és a rendszer anonim módon regisztrálja, ha kapcsolatba kerültünk olyan emberrel, akiről később kiderült, hogy Covidos volt. Ilyen esetben riaszt a telefon, hogy menj el tesztelni.

Tehát ebben a káoszban is bizonyította a mesterséges intelligencia, hogy hasznos, lehet jó dolgokra használni.

A történet másik oldala, hogy sajnos a pandémia alatt sok ember elvesztette a munkáját, és attól tartok, többen a vírus után sem fogják visszakapni, mert a munkáltatók rájöttek, hogy sok minden megoldható szoftveres alapon.

- Meséljen még kicsit a kutatóintézetről, amelynek alapítója és elnöke.

- Ez a PHI Institute for Augmented Intelligence. A közérdekű, emberi arcú mesterséges intelligenciáért küzdünk és tanácsot adunk kormányoknak, nagy cégeknek, jobbító programokat indítunk be.

Most szeretnék Magyarországra hozni egy átképzési programot. Amerikában jelenleg a Fehér Házzal, 25 minisztériummal, két nagy tech céggel és 42 egyetemmel dolgozom azon, hogy a teljes közalkalmazotti réteget át tudjuk képezni adatérettre és MI érettre.

Amerika ezt a programot szeretné kiterjeszteni a szövetségesekre, hogy segítsen nekik gyorsabban, hatékonyabban a mesterséges intelligencia útjára lépni. Ez Magyarországnak is rendkívül fontos lesz.