Testvérszervezetünk (a német EAK, Protestáns Műhely) vezetőjének a beszéde:
A HIT ÉS A MESTERSÉGES INTELLIGENCIA
SZERZŐ Dr. THOMAS RACHEL, FORDÍTÓ DR. BÉKEFY LAJOS
Bevezetés
Kortárs szemtanúi vagyunk és érintettjei is egy hatalmas technológiai forradalomnak. A "dolgok internete" mindenütt jelen van, és már lehetetlen elképzelni az életünket nélküle. Az olyan kifejezések és hívószavak, mint „mesterséges intelligencia”, „Ipar 4.0” vagy „digitalizálás”, közszájon forognak. Bár óriási innovatív változási folyamatok közepette vagyunk, amelyek egész életmódunkat, munkavégzésünket és gondolkodásunkat egyre jobban megváltoztatják, mindezen változások mértéke jelenleg még nem látható előre. De már ma sejtjük: komoly lesz, igen nagy változások előtt állunk. Egy ilyen, életünk minden területére behatoló fejlemény természetesen számos új, lélegzetelállító lehetőséget kínál, de számos kockázatot és veszélyt is rejt magában. Az új digitális korszak, mint oly sok korszak ezelőtt, újabb paradigmaváltást jelent az emberiség történelmében. Egyszerre lehet áldás és átok is. Ezért veszem komolyan Pál apostol üzenetét: „Mindent vizsgáljatok meg: a jót tartsátok meg” (1Thessz 5,21).
Amikor a „digitalizálás és a mesterséges intelligencia” mára már megatémává vált legfontosabb kérdéseiről szólunk, józannak kell maradnunk. Azaz a keresztyén hit által kiélesített kritikus, de beleérző szemmel és lelkülettel ajánlott rátekintenünk a legfontosabb kérdésekre. Kerülnünk kell olyan szélsőségeket, amelyek a technológiai fejlődést apokaliptikus látomások kereteibe helyezik. Így a démonizálás pátoszát, miszerint az egész MI rossz. Ugyanígy a haladás totalitárius-technikai ideológiáját, ami egyeseknél már az emberisten mítoszába torkollik. A „mesterséges intelligenciával” (AI) kapcsolatos kérdéseket inkább intenzíven és széleskörűen szükséges megvitatnunk, mielőtt elhamarkodott és differenciálatlan értékeléseket, véleményt alkotnánk és terjesztenénk.
A következőkben szeretném röviden kifejteni, hogy miben látom a fő kihívásokat. Olykor leírok néhány fontos alkalmazást és gyakorlati példát is megemlítek, s arról is lesz szó, mi várható a jövőben a MI fejlődése nyomán. Végül a felmerülő etikai kérdések és problématerületek fontosabbjai közül érintek párat a keresztyén emberkép perspektívájából.
Mivel nem vagyok matematikus, sem programozó, sem informatikus, vagyis nem vagyok szakértő, még egy utolsó megjegyzés: a technológiai folyamatok részletesebb magyarázatát, amelyek az AI hátterében állnak, pl. mesterséges neuronális hálózatok (ANN), "adatbányászat/adathalászat" vagy "mély tanulás", itt nélkülöznöm kell.
A digitalizáció és a technológiai változás megváltoztatja körülményeinket
Emlékszünk még, milyen volt, amikor nem volt okos telefon? Ez a kis digitális csoda, és mindennapi használata természetesen megváltoztatta életünket. 2007-ben (az Apple első iPhone-jának évében) szinte senki sem tudta, mi az a "szelfi", és nagyon kevesen használták a "facebook" (2004-ben alapították) vagy a "twitter" alkalmazást. A „WhatsApp”-ra (2009) és az „Instagramra” (2010) még csak gondolni sem lehetett. XVI. Benedek pápává választásáról 2005-ben még teljesen normális volt, hogy hagyományos úton kaptuk meg a fotókat. Ferenc pápa megválasztása óta (2013) már a római katolikus egyház feje is egyre gyakrabban "szelfizik"…
Ugorjunk csak vissza pár évtizedet történelmünkben. Melyikünknek volt a 90-es évek közepén saját személyi számítógépe (PC) internet kapcsolattal? A „Google-ben” a 90-es évek végén kezdtünk el keresgélni (1997-ben hozták létre)… S ma már az „e-könyvek” idejét éljük.
Egy másik példa. Köztudomású, hogy mai szemmel nézve viszonylag látványos sakk komputerek közül már mindegyik legyőzhet minket. 2015-ben voltak még olyan neves AI-MI (mesterséges intelligencia) szakértők, akik teljesen kizártnak tartották, hogy ez megtörténjen. De aztán eljött az idő: a Google „AlphaGo” szoftvere legyőzte az előző kínai fejlesztésű Go játék világbajnokát, Lee Sedolt. Öt kör után a gép és az ember párharca 4:1 volt a gép javára.
Ezzel a néhány példával azt szerettem volna illusztrálni, milyen hihetetlenül gyors volt a technológiai fejlődés az elmúlt években, és hogyan változott meg azóta egész mindennapi életünk. És az is tény, hogy folyamatos változásban élünk a digitális forradalom által.
Ma az emberiség 95%-ának van legalább egy mobiltelefonja. Okos telefonunkat (azaz internet-hozzáféréssel rendelkező mobiltelefonokat) felváltva használjuk óraként, ébresztőként, naptárként, jegyzettömbként, navigációs eszközként, nyelvi fordítóként, zenelejátszóként, fényképezőgépként és videó-lejátszóként. Ugyanígy vásárláshoz, fizetéshez, olvasáshoz és játékhoz. Több mint négymilliárd ember, több mint a világ népességének fele minden nap használja az internetet.
A technológiai forradalom egyre gyorsabban halad előre. A kaliforniai "Szilícium-völgy" úgynevezett "nagy ötöse – Big Five" mind olyan világcég, amelyek a digitalizálás és a mesterséges intelligencia területén végbemenő úttörő fejlesztéseknek köszönhetően fejlődött nagyon rövid idő alatt hatalmas, világpiaci vezető nagyvállalattá.
Egyedül a Google több mint 3,29 milliárd keresést regisztrált három évvel ezelőtt, és világszerte több mint egymillió szervere van. A világ összes okos telefonjának 80%-a is vele fut az "Android" operációs rendszeren. Az interneten a Google-nek szinte monopolhelyzete van. Teljesen megváltoztatta az életünket. Csak egy dolog: korábban diákként kétségbeesetten keresgéltél a könyvtárak polcain kötelező szakirodalmat. Manapság szinte minden csak egy egérkattintásnyira van tőlünk és elérhető, azonnal letölthető. Mindehhez fel sem kell kelni az íróasztalától vagy a kanapétól. Ez az érem egyik oldala.
Az érem másik oldala: ma percenként (!) több mint 3,8 millió Google-keresést feltételezhetünk. Senki sem tudja, hogy ez a cég összesen mennyi adatot tárol vagy mentett már el. A kritikusok becslése szerint az összes globális adat fele náluk van. Mindennapi életünkből tudjuk: amit a Google nem sorol fel, az gyakorlatilag nem is létezik. Amit azonban egyszer felsorol, az nem tűnik el olyan egyszerűen.
Hatalmas "adatmennyiségek", az úgynevezett "Big Data"-k képezik a digitális kor új aranybányáit és sikerkoncepcióit. Különösen érzékeny személyes adatainkat, amelyeket akár önkéntesen és tömegesen is elérhetővé teszünk minden nap az új közösségi médiában, a Google, a Facebook, az Amazon, az Apple és a Microsoft használja. Ezeket gyűjtik, feldolgozzák és jövedelmezően fel is használják. „Az eladások összes eurójának majdnem 70%-a Németországban az e-kereskedelemben valósul meg, az Amazonon keresztül”. Az "Amazon" alapítója, Jeff Bezos most a világ leggazdagabb embere, megelőzve Bill Gates-t, a Microsoft alapítóját, akinek "Windows"-a a világ legsikeresebb számítógépes operációs rendszere. Minden internetes kattintással, minden Google-kereséssel, illetve az Amazon-nal szorosan nyomon követhető, mit nézünk. És mintegy varázsütésre – a valóságban a matematika, a statisztika és az algoritmusok alapján - további megfelelő és személyre szabott javaslatokat kapunk "Ez téged is érdekelhet" mottó szerint. Zseniális üzleti modell, nem? A Facebook (amely ma már az Instagram és a WhatsApp tulajdonosa is) csak 15 éve létezik, de teljesen megváltoztatta a kommunikáció világát. E "szociális hálózat" mögött a "twitter", a "Snapchat" és mások, nem puszta jótékonykodás a földön élő összes ember szabad hálózatba szervezésének céleszméjével, de egyben rendkívül nyereséges és profitorientált cégkoncepció is. Ma ez már mindenki számára világos. A Facebook-nak most van mintegy 2,34 milliárd felhasználója. Naponta 2,5 milliárd tartalmat, ill. 300 millió fényképet dolgoz fel. Ekkora adatmennyiség szinte elképzelhetetlen.
Életünk minden területét érinti a digitalizáció: még az élettárs keresése is gyakrabban történik digitális úton, és még sok más is. Az Algoritmus alapján és a statisztikai valószínűség számítások segítségével karakter kompatibilitást és összekapcsolódó érdekeket lehet feltárni két ember között. Ennek célja, hogy segítse a partnerkeresőket, házastársat keresőket a boldogulás útján. Elképesztő, hogy az emberi vágyak ezen a területen milyen hatalmasak. Milyen gyakorisággal látja az ember most mindenhol a „Parship” vagy az „Elite Partner” hirdetéseket. Nem nehéz elképzelni, hogy az ilyen digitális szolgáltatások működtetői mekkora összegeket kaszálnak – szinte munka nélkül.
Ezek az adatok és információk valóságos infóhegyek, amelyeket nap mint nap használunk. Mindenekelőtt mindenkitől gyűjteni kell adatokat, ésszerűen, intelligens és célorientált módon, majd válogatni és értékelni is szükséges ezeket. Ez nem volna lehetséges a „mesterséges intelligencia”-nak nevezett találmány nélkül.
Mit értünk „mesterséges intelligencia” alatt, és mire alkalmazható?
Mi az a "mesterséges intelligencia" (AI) és mire alkalmazható? A Wikipédián azt olvassuk, hogy ez részterülete a számítástechnikának, „amely az intelligens viselkedés és a gépi tanulás automatizálásával foglalkozik”. A kifejezést nem lehet egyértelműen meghatározni, amennyiben már az „intelligencia” pontos meghatározása is hiányzik. Ennek ellenére széles körben, mindenek előtt a kutatás-fejlesztésben alkalmazzák”.
A Wikipédia szerint nem csak mesterségesen előállított automatákról, gépekről és műszaki alkalmazásokról van szó, amelyek az ipari forradalom óta az átfogó számítógépesítés révén életünket a legváltozatosabb módon megváltoztatták. Ennél sokkal többről is szó van. Olyan rendszerekről, meg folyamatokról és alkalmazásokról, amelyek "intelligensek".
De valójában mit is jelent "intelligenciával" rendelkezni?
Itt nyilvánvalóan kulcsfontosságú az egész rendszer fogalmi pontosítása. Hiszen már a gőzgép, a mechanikus óramű, a robotpilótás repülőgép, illetve a korszerű fűtési rendszer is változó szabályozási technológiával működik, s bizonyos szempontból már ezek is „intelligens” technológiáknak tekinthetők.
Az angol "smart" jelző, ami az okos telefonunkban található, bár inkább csak átvitt értelemben, de "okosnak" és "intelligensnek" jelöli a mobilt. De azonnal felismerjük: okosnak és intelligensnek lenni valójában egyáltalán nem azt jelenti, hogy ez magának az eszköznek vagy a gépnek a tulajdonsága, hanem sokkal inkább azt, hogy ez a zseniális emberi-mérnöki tevékenység tükre. Segítségével képesek vagyunk arra, hogy bizonyos feladatokat sokkal jobban, hatékonyabban és ezért intelligensebben oldjunk meg. Az intelligenciáról a szó eredeti értelmében csak az embernél, mint teremtménynél beszélhetünk. De a mesterséges intelligenciának nyilvánvalóan nincs biológiai alapja, nincs önálló élete. Következésképpen nincs tudása a világról, nincsenek érzések benne és nincs reflektív tudata, öntudata. Ebből a szempontból a mesterséges intelligencia kifejezést egyszerre képletesen és szó szerint kell értenünk. Ezt kezdettől fogva szem előtt kell tartanunk annak érdekében, hogy ne ragadjunk bele meddő vitákba, illetve ne vegyünk téves irányt.
Az emberekkel és más élőlényekkel kapcsolatban akkor beszélünk formálisan és kezdetlegesen intelligenciáról, ha képesek megfelelően reagálni a környezeti ingerekre, illetve a környezetükre. Mivel az állatoknak, mint élőlényeknek - ellentétben az élettelen anyaggal és minden géppel, számítógéppel és robottal - van tudatuk és természetes ösztöneik, így bizonyos értelemben túlszárnyalják az emberek által tervezett és megvalósított mesterséges Al-rendszert. A legmodernebb AI technológiával felszerelt számítógépek minden bizonnyal a matematikai intelligencia lenyűgöző leképeződései, hatalmas számítási teljesítményükkel sok tekintetben toronymagasan felülmúlnak bennünket (például sakk- és go-játékok). Mégis a MI minden elképesztő "képessége", tulajdonsága ellenére végső soron csak egy ember által programozott és korlátozott gép, szoftver, meghatározott algoritmusokkal. Az autonómiáról a szó teljes értelmében szó sem lehet, mert ez az élő tudat szintje lenne, az öntudaté.
Az emberek sok területen alulmaradnak az állatokhoz képest, legyen szó érzékszervi észlelésről vagy motorikus készségekről, általános testalkatról. Az intelligencia tekintetében viszont különböznek nagyon döntő módon minden más élőlénytől a földön. Ugyanis az embereknek rendelkezésükre áll tudatosságuk, önálló öntudatuk és reflexiós képességük, továbbá önálló és ésszerű gondolkodásuk, valamint a szabad és autonóm cselekvési lehetőségük. Ez is kiváltképpen mutatja, mennyire fontos elkezdenünk tisztázni a modern MI-hez kapcsolódó intelligencia fogalmát. Már a házi légy, a hangya és a denevér is, mivel élő szervezetek, lenyűgöző, okos tulajdonságokkal és képességekkel rendelkeznek, amelyhez hasonlókkal - mai korunk ismeretei szerint – egyik, korábban az emberek által épített gép sem képes. Még a modern AI-alapú rendszerek sem rendelkeznek emberi tulajdonságokkal, hanem csak utánozzák vagy szükség esetén szimulálják ezeket a tulajdonságokat.
Ez különösen jól látható a "Sophia" roboton. A Sophia valójában fejlett humanoid hangrobot, amelyet a hongkongi székhelyű "Hanson Robotics" cég készített megtévesztő emberi arcvonásokkal és csodálatos kommunikatív jellemzőkkel. 2017-ben "Sophia" volt az első humanoid robot az Egyesült Nemzetek Szervezetében, aki megbeszélést folytatott az ENSZ főtitkár-helyettesével. Megtekinthető a "Youtube" videó portálon, amely egyébként szintén a Google birodalmához tartozik. Szinte el lehetett hinni, hogy Sophia tényleg megérti, amit a vele szemben ülő ember mond, mintha ő saját öntudattal rendelkező intelligens lény lenne. De egyáltalán nem ez a helyzet. Köszönhetően a magasan fejlett mesterséges intelligenciának, az emberi beszélgetés szimulálása tökéletesen sikerült. Sophia ugyanis számos különböző emberi arckifejezést és gesztust felismert, utánzott és reagált a beszélgetőtársára. Őt arra képezték ki, hogy felismerje az egyszerű, alapvető kommunikációs mintákat, és megfelelően reagáljon azokra. Egyébként szépen tudott énekelni duettben a műsorvezetővel, illetve képes ellenállni az amerikai színész, Will Smith csábító művészetének (ezek megtekinthetők a youtube-on).
Ez azt mutatja, hogy a számítógépek és a robotok programozott matematikai gépek és azok is maradnak. Az igazi életet nem lehet teljesen matematizálni vagy algoritmizálni. Sophia csak utánozza az emberi intelligens viselkedést, de nem más, mint egy rendkívül összetett, programozottan viselkedő készülék. Érdekesség, hogy 2017 óta Sophia is rendelkezik szaúd-arábiai állampolgársággal. Ő az egyetlen nő – legalábbis neve, de nem neme szerint - abban az országban, és szabadon mozoghat nyilvánosan. Ez a körülmény gyorsan egy furcsa „álhírhez” vezetett. Ebben az összefüggésben meg kell említenem, mert teljesen új kommunikációs problémákról ad tájékoztatást, modern digitális világunk abszurditásai közül. Egy szatirikus blog („BuzzFeed.News”) révén, közvetlenül a Sophiának adott szaúd-arábiai állampolgárság után, érdekes hír került fel a világhálóra. A Facebook ezt írta: „Szaúd-Arábia lefejezte az első nőt, aki robotpolgár volt”. A szatirikus cikk szerint Sophia „leplezetlenül, fátyol nélkül mutogatta magát (...) és ezzel kapcsolatosan is hangot adott saját véleményének”. A probléma ez volt: a nyilvánvalóan „álhírt, fake newst” sok felhasználó egyáltalán nem tartotta szatírának. Több mint 120 000 interakció érkezett, s volt közöttük néhány igen heves reakció. – Az ember tényleg nem tudja, ezen nevetni vagy sírni kell!
De vissza a témánkhoz! A jelenlegi vitákban az AI-rendszerek technikai problémáiról az látszik, hogy azok az emberi-intelligens viselkedés automatizálásait és szimulációit képviselik. Ezért különbséget kell tenni az úgynevezett „erős” és „gyenge” MI között. A „gyenge aIgoritmus” a mesterséges intelligencia egyik formája, amely képes önálló tanulási műveleteket végrehajtani. Ezért beszélünk egyszerűen „gépi tanulásról”. Ezek a gépi tanulási folyamatok csak mesterséges leképezései az emberi tanulásnak, például az úgynevezett "mesterséges neuron hálózatokon keresztül", mégis jelentősen eltérnek ettől. Jelenleg ez a „gyenge AI” képezi megbeszéléseink központi témáját. Ezzel szemben az "erős AI" (vagy egy AI a szó teljes értelmében) az, amikor egy gép ténylegesen az összes intellektuális képesség teljes skálájával rendelkezik, illetve még azt is felülmúlja, amit egy emberi lény birtokol. Mintha egy adott rendszer olyan további jellemzőkkel rendelkezne, mint az intuíció, az átfogó kreativitás és a valódi öntudat. Olyan területre érkezünk, amit általában "sci-fi"-nek nevezünk.
A humanoid robotok, Cyborgok és más, emberfeletti óriási számítógépek, amelyek a jövőben esetleg önálló öntudatra tesznek szert, felsőbbrendű intelligenciájuk miatt veszélyt jelenthetnek saját teremtőjükre, nevezetesen az emberekre nézve. Ez a fajta "sci-fi" az, ami kizökkent minket normális életritmusunkból, és megborzongtat. De ez már az emberi képzeletet az ókor óta foglalkoztatta. Kezdve a sántító Héphaisztosz istenséggel, akinek a mítosz szerint már két mesterséges segítője volt, a zsidó gólemen át, az alkímiai homunculuson keresztül Frankenstein szörnyetegéig és a "gépistenig" terjed a sor a Mátrix című játékfilm-trilógiából.
Mindenkit megnyugtathatok: a jelen év embere messze van az ilyen mesterséges intelligencia létrehozásától.
De a puszta gondolat, hogy képesek vagyunk ilyen lényeket létrehozni, máris feltár egy alapvetően problematikus, tisztán racionalista emberképet. Ez már nem tesz kellő különbséget az emberi és a mesterséges intelligencia között, hanem mindkettőt - alapvető különbségeik ellenére – egybe gyúrja.
Véleményem szerint Nida-Rümelin Julia filozófus helyesen jegyzi meg: „Az erős mesterséges intelligencia magában foglalja azt a tézist, hogy nincs (kategorikus) különbség az emberi gondolkodás és a szoftverfeldolgozás vagy a számítógépes folyamatok (számítástechnika) között. (...) Az erős mesterséges intelligencia képviselői tudatosan vagy akár öntudatlanul is az egyetemes, teljesen determinált gépeszményt képviselik, mint a világ és az ember magyarázó értelmezésmódját. Az erős mesterséges intelligencia minden változatában az antihumanizmus egyik formája. Tagadja az emberi értelmet – és így az okok által vezérelt képességeket is –, valamint a szubjektív állapotok szerepét az élő természet egy részében. (...) Az erős mesterséges intelligencia a nyers, mechanisztikus materializmus kortársi variánsa”. És csak a teljesség kedvéért teszem hozzá: az ilyen gondolkodás kezdettől fogva ellentmond a keresztény hitnek, gondolkodásnak és emberképnek. És ez attól függetlenül érvényes megállapítás, hogy ez valaha is megtörténik a távoli jövőben vagy nem.
Hagyjuk most el ezt a fajta "sci-fi"-t, és inkább foglalkozzunk a valóban döntő fő kérdéssel. Térjünk vissza az AI-ról folyó vitához. Az eddigiek nyomán röviden és tömören elmondható: az AI vagy a „gépi tanulás” alapvetően különbözik az emberi tanulástól. Ez egy igen magas szintű és hatékony digitális rendszer, amely képes mintákat és szabályszerűségeket generálni és ezeket nagy adatmennyiségen, illetve információkon belül önállóan továbbadni. meghatározni az információkat. Ez matematikai függvények és algoritmusok alapján valósul meg statisztikai és más módszerek igénybe vételével, és képzési tréning folyamatokon keresztül, amelyeket végső soron mind-mind emberek kísérnek és felügyelnek. A "gépi tanulás" nem alkimista boszorkányság, hanem az alkalmazott matematika egyik formája.
De hogyan tesz szert egy ilyen "intelligens" rendszer új tudásra? Válasz: nem csak úgy, hogy deduktív úton, szigorúan programozott vezérlési szekvenciák és számítások révén szerzi meg azt (minden primitív zsebszámológép és minden PC így tesz), hanem egy adott adatmennyiség induktív továbbfejlesztésével független „tanulási és elemzési folyamatok” gerjesztésével. Deduktívnak azt a tanulást mondjuk, amely egy igaz tételt következtet ki érvényes szabályból vagy törvényszerűségből kiindulva (ilyen a matematika).
Az induktív tanulás a fordított utat járja be. Többféleképpen is kipróbáltam: adatok tömegéből igyekszik érvényes szabályokat és törvényszerűségeket megfogalmazni (ilyen a kísérletezéssel dolgozó természettudomány).
Ma már megértjük, hogy nagy internetes vállalatok és nagyipari vállalatok miért fordulnak világszerte a mesterséges intelligenciához. Csak segítségükkel és hatalmas számítási teljesítményükkel sikerülhet, hogy a világszerte elképzelhetetlen mennyiségű digitális adatból és információból célirányos, értékesítést növelő ismeretekre tehetünk szert. Amennyiben statisztikai valószínűséggel ki tudom számolni, hogy bizonyos célcsoportból hány embert érdekelhet az új termékem, már hatalmas versenyelőnyhöz jutok. Ha pedig a mesterséges intelligencia segítségével fel tudom mérni egy célcsoport statisztikailag valószínűsíthető vágyait és elképzeléseit, akkor komolyan tudom optimalizálni a kommunikációt ezzel a célcsoporttal.
Ha a cégemben a termelési folyamatok a MI segítségével így és ennyire optimalizálhatók, új szabadságot nyerek és óriási megtakarítási lehetőség nyílik meg számomra (nem ritkán az emberi munka tekintetében is). A modern AI alkalmazásai azonban messze túlmutatnak ezeken a tisztán kereskedelmi szempontokon és érdekeken. Egyre jobban érintik egész életünket, és áthatják az élet minden területét. Például:
ha a technikai rendszerek felismerési teljesítményét az AI forradalmasítja, akkor az autonóm (vezető nélküli) közúti közlekedés elérhető közelségbe kerül. Jelenleg már beszélünk autonóm vezetésről. Valamikor teljesen autonóm repülőgépek is lesznek? Másrészt esetleg a katonai harci drónok és robotok fokozottabb alkalmazására is sor kerül, vagy ugyanezzel a technológiával a kiber-háború kora jön el?
Ha az orvostudományban és az egészségügyben a mesterséges intelligencia segítségével sokkal korábban és pontosabban azonosíthatók lesznek a súlyos betegségek (esetleg genetikai elemzési módszerekkel kombinálva), ez valószínűleg számtalan ember életét mentheti meg. Azonban ha ugyanazok az adatok rossz kezekbe kerülnek, annak beláthatatlan következményei lesznek az érintettekre nézve. Például, ha AI-t használnak egy bizonyos célcsoport megbetegedési valószínűségének meghatározására, ennek súlyos következményei lehetnek az egész korábbi társadalombiztosítási rendszerre nézve.
Ha AI-t használunk a terrorizmus és a bűnözés elleni küzdelemben nyomon követésre és megelőzésre, ezzel hozzájárulhatunk az ország polgárainak védelméhez. Ha azonban a mesterséges intelligencia segítségével bizonyos embercsoportot tartósan gyanú alá vonnak, ez az alapvető emberi jogok nyilvánvaló megsértését jelentené. Arról nem is beszélve, mekkora botrány lenne az, ha a teljes lakosságra kiterjedő videokamerás megfigyelést vezetnének be valamelyik országban.
Ez a néhány példa már szinte a határtalanságot mutatja a modern AI alkalmazási lehetőségeiről. Már Ön is érzékelheti azokat a veszélyeket és kockázatokat, amelyek akkor állhatnak elő, ha ezeket a technológiai alkalmazásokat nem vetik alá az etikai, szabályozott politikai körülmények biztosítása és a szabad jogállamiság elveinek.
Azt a tényt, hogy a visszaéléseknek ezek a veszélyei már ma riasztó valóságok, már nem hagyhatja figyelmen kívül egyetlen politikailag tudatos kortárs sem. Példa: a "Cambridge Analytica-botrány" a Facebookon, ami megmutatta, hogy a legutóbbi amerikai elnökválasztási kampányban mi történhet, ha érzékeny személyes adatok rossz kezekbe kerülnek, és az elemi állampolgári jogokat egyszerűen semmibe viszik a biztonsági hatóságok. Vagy: milyen lehetőségek rejlenek az AI innovációkban a demokratikus és a szabad alkotmányos ellenőrzést nélkülöző totalitárius államok számára?
Az átfogó megfigyelés mai lehetőségei, például a kifinomult arcfelismerő eljárások a legsötétebbek az orwelli horror-víziók közül, a totális megfigyelés fenyegető árnyékáról. A "gyűlöletbeszéd", az embertelen propaganda és az "álhírek" az interneten további aggasztó fejlemények egy ellenőrizetlen folyamatban. A "buborékok" kialakulása az úgynevezett "új közösségi médiában", valamint az internetes cégek folyamatosan növekvő adatgyűjtési őrülete egyre ijesztőbb méreteket ölt. A digitalizáció előrehaladása azzal is fenyeget, kellő és hatékony jogi és más kontroll nélkül, hogy a jövőben valódi „digitális proletariátus” (Markus Gabriel) alakul ki. Akkor ez az új proletariátus a tudatlanság, az ignorálás és a tudatos letompítás révén teljes digitális kiskorúságban fog maradni.
A gazdaságra, a szociális ügyekre és a munkaerőpiacra gyakorolthatásokat is figyelembe kell venni. Büszkék lehetünk arra, hogy szociális piacgazdaságban élünk Németországban. Nincsenek jogi vákuumok, az adómorál hiányával nem kell küszködnünk vagy akár a monopóliumok kialakulásával sem számolunk a digitális világban. De vannak országok, ahol teljesen más az üzleti és a gazdasági etika. Az egyik kétségtelenül az USA. A digitalizáció sok újat hoz létre ott is. Munkahelyeket, viszont egyre több hagyományos munkahely elveszik. A további technológiai fejlesztések minden bizonnyal alapvető változásokhoz vezetnek majd Németországban is. Vannak előrejelzések, hogy a Standard & Poor 500, azaz a digitalizálásba és a mesterséges intelligenciába be nem fektető gazdasági társaságok 75%-a eltűnik a piacról. Egész hagyományos szakmák sorát fenyegeti az a veszély, hogy eltűnnek a munkaerőpiacról, és sok ember jut versenyhátrányba. San Franciscoban, a Szilícium-völgy kapujában már léteznek robotkávézók és teljesen autonóm, ember nélkül vezetett élelmiszerboltok.
Összefoglaló etikai értékelés és kilátások
Remélem sikerült világossá tennem, hogy a mesterséges intelligenciával kapcsolatos fejlesztések és alkalmazások elképzelhetetlenül sok új, előnyös lehetőséget és esélyt kínálnak. Ugyanakkor átokká is válhatnak. Ezért mindig fontos figyelni Stephen Hawkins mondatára: „Jövőnk versenyfutás a technika növekvő hatalma és azon bölcsesség között, amivel ezt alkalmazzuk”.
Az elmúlt években köztudott, hogy újra és újra megtörténtek olyan balesetek, amelyek az autonóm járművekkel (vezető nélküli járművek) végzett tesztvezetések során vezettek halálos balesetekhez. Még akkor is előfordult ilyen, amikor élő tesztpilóta is volt a fedélzeten, akinek reagálnia kellett volna a vészhelyzetre. Szigorúan véve ezek a tesztmodellek csak részben voltak autonóm és semmiképpen sem teljesen autonóm rendszerek. Másik alkalommal egy kerékpárost nem ismertek fel időben a sötétben, mert a mesterséges intelligencia nem azonosította őt. De a légiközlekedésben is történt már ilyen természetű baleset. Az ok szinte valamennyi esetben: szoftver hiba a rendszerben! Ezek a drasztikus példák ismét megmutatják azokat a sajátos etikai kihívásokat, amelyek a mesterséges intelligencia és a digitalizáció fejlődésével függenek össze. Egyelőre még a mai rendszerek is tökéletlenek és hibákra hajlanak, s egyelőre ilyenek is maradnak. Ez minden alkalmazási területre vonatkozik, legyen az a biztosítási ágazat, a helyi közlekedés, orvostudomány vagy akár a katonai felhasználás. Alapvetően az AI a folyamatok során generálja az „öntanuló” adatfeldolgozást, s olyan statisztikai valószínűségi modelleket produkál, melyek a rendkívül összetett mintafelismerési folyamatokon alapulnak. Ehhez az AI-t, például a képfelismerésben, először több százezer adattal kell ellátni, amire a humán programozó tanítja a kívánt eredmény eléréséig. Így a nagy számítási teljesítmény és az új, elképesztően hatalmas tárolókapacitás miatt lehet lélegzetelállító, sőt forradalmi eredményekre jutni. De hogy egy MI-rendszer által felismert minta valóban megfelel-e valós világunk valós helyzetének, ezt a rendszer maga sem felismerni, sem felmérni nem tudja.
Mert egy gép – a világ minden normális kisgyermekével ellentétben – nem ismeri fel a különbséget az utcán álló kerékpár és egy kutya között. Csak akkor állhat be ebben javulás, ha az AI rendszer számtalan, időigényes folyamatban elég információt gyűjtött össze a kerékpárokról és a kutyákról (minden formában és színben). Csak így javulnak a felismerési arányok. Ezért lehet, hogy az autonóm vezetés ellenére is végzetes esemény következik be, például akkor, ha egy gyéren kivilágított teherautó éjjel, hirtelen balról bekanyarodik, a MI ezt nem minden esetben ismeri fel. Még a 99%-os felismerési arány is katasztrofálisan végződhet. Ezért ehhez szükséges a felelős emberi kéz, és a felelős emberi ész, amely minden folyamatot figyelemmel kísér és felügyeli a helyzetet.
A statisztikai hitelminősítések az AI segítségével nyert valószínűség számításokon alapulnak, s mindig csak hozzávetőleges tájékoztatást képesek adni a gazdaság, a pénzügy és a biztosítás területén. Ennél a valóság mindig több. Ez az oka annak is, hogy egyetlen orvosi felismerési és diagnosztikai programnak sem szabad végül magát a szakorvost helyettesítenie, legyen az a MI-diagnosztika bármilyen kifinomult is. Egyetlen autonóm vezetési rendszer sem vállalhatja át az emberekért viselt felelősséget, s nem dönthet életről, halálról. Ezért a változó világban, s a munka világában is olyan szakmák tevékenykednek, amelyek közel maradnak az emberekhez. A végén marad az emberi tényező, ami nem tévedhet túl nagyot.
És legyünk itt is realisták: nem tudom elképzelni, hogy egy elöregedő társadalomban miként a miénk, ilyenek lennének a cégek, s hosszú távon képesek lennének valódi emberi kapcsolatok nélkül gazdálkodni. Hosszú távon elképzelhetetlen, hogy csak mesterséges "chatbotokkal" (mesterséges nyelvi programokkal) kommunikáljunk. Vagy ügyfelekként kétségbeesésbe sodródjunk csak azért, mert a végtelenül sokáig tartó telefonos kapcsolásig a senki földjén kell várakoznunk. Az egészséges piaci helyzet végül is korrigálni fogja az ilyen nem megfelelő szolgáltatási modelleket.
Összefoglalva: az etikai konfliktus- és dilemmahelyzeteket, bármilyen jellegűek legyenek is azok, soha nem szabad intelligens gépekre hagyni, hiszen a gépek nem rendelkeznek morális ítélőképességgel. „A mesterséges intelligenciáknak nincsenek alapelveik. Nincsenek érzéseik, nem rendelkeznek morális érzékenységgel, nincsenek célkitűzéseik, s ilyeneket nem várhatnak el másoktól sem. Ezen képességek hiányában kizárt az erkölcs gyakorlása” (Julian Nida-Rümelin, Nathalie Weidenfeld).
A mesterséges intelligencia sok mindenben áldás lehet számunkra, és nagy segítség, ha megmarad emberek által kísért és felelősen irányított technológiának. És az embereknek soha nem szabad lemondaniuk felelősségükről. A digitális átalakulásban az emberi méltóságnak és az emberi jogoknak viszonyítási pontokként kell szolgálniuk. Csak ez segíthet abban, hogy a nyílt és globális vitákban meg tudjuk húzni a határokat, s a lehetőségeket jól felhasználjuk. Ahogy Luther Márton fogalmazott: „Embereknek kell lennünk, s nem Istenné válni! Ez mindenek summája."
A digitalizálás nem öncél. A digitalizálásnak az embereket kell szolgálnia, s nem az embereknek a digitalizálást. Az embereknek kell a középpontban maradniuk. Csak ez, és csakis ez felel meg a bibliai emberképnek.
(A szerző Dr. Thomas Rachel, a német Bundestag tagja, keresztyéndemokrata politológus, a CDU/CSU EAK, Protestáns Munkaközösség elnöke, az EKD (A Németországi Protestáns Egyház) Tanácsának tagja.)
Fordítás: Dr. Békefy Lajos Ph.D. – Forrás: Evangelische Verantwortung
