Képzeljük el, ahogy autónkkal hazafelé tartunk egy ködös decemberi estén. Fejben már szinte otthon vagyunk, azt tervezgetjük, hogy mit fogunk majd vacsorázni, kissé még bennünk élnek munkanapunk ügyes bajos dolgai, amikor hirtelen előttünk a zebrán, fittyet hányva az alapvető közlekedési szabályokra, a piros lámpa ellenére, elénk lép egy, az esti kocogásába éppen nagyon belemerült futó. Mit csinálunk? Elrántjuk a kormányt, irány az oszlop, vagy az árok? Esetleg erőből fékezünk? Talán nem is igazán tudjuk megmondani így hirtelen, hogy mit is tennénk? Az ott abban szent minutumban dőlne esetleg el?

Ez az életeket eldönthető kérdés az eddigiekben kizárólag a vezetőn múlt, az ő tettei határozták a végkimenetelt! Kialakult intuíciói, egy összetett tanulási folyamat és az aktuális koncentrációs szintje határozta meg, hogy mi fog történni. Viszont ennek az időszaknak hamarosan itt a vége! Lehet, hogy még nem tapasztaljuk, csak itt-ott látunk már az önvezetés alapszintjén közlekedő Teslákat, de már az autógyárak és fő jelenlegi és potenciális későbbi beszállítói gőzerővel dolgoznak az ún.  4. és 5. szintű önvezető autók prototípusain, amelyek már teljes mértékben emberi beavatkozás nélkül juttathatják majd el az autó utasát A-ból B-be. Csak ülünk, mint egy taxiban, amit nem vezet ember, és oda megyünk, ahova csak szeretnénk. Mi döntjük el, hogy alszunk, dolgozunk, vagy csak úgy kedvtelésből egy pohár pezsgő mellett nézzük a tájat.

De várjunk csak! Mi van akkor a fentiekben említett példával, olyankor mi lesz? Ha a mesterséges intelligencia vezérli a szuperintelligens autónkat, akkor bele kellene programozni az ilyen helyzetekben a döntést is az autóba, nem? Az autó választ majd, hogy elüti-e azt a szabálytalanul közlekedő futót, vagy esetleg mi halunk meg? És mi van, ha egy kutya szalad ki elénk, vagy esetleg egy macska? Mi van, ha balra kormányozva három nyugdíjast ütünk el, egyesen haladva két gyereket, és ha éppen jobbra kanyarodik az autó, akkor frontálisan megyünk neki a szegélykorlátnak? Itt kezd ez a történet nagyon érdekessé és bonyolulttá válni! Ez az a pont, ahol, ha tetszik, ha nem, az embernek egyfajta istenként, Yuval Noah Harari után, homo deus-ként kell majd eljárnia, hiszen ezeket a kérdéseket jó előre el kell döntenie, bele kell programoznia az önvezető autóba!

Ez az a pont, ahol, ha tetszik, ha nem, az embernek istenként, kell majd eljárnia.

Ez év őszén a rangos Nature folyóiratban megjelentek az MIT (Massachusetts Institute of Technology) Moral Machine kutatási projektjének eredményei1. Ebben a tanulmányban többek között pont ezt a kérdést feszegetik. Mégis kinek az életét mentenénk meg ilyenkor, a fiatalét vagy az öregét? A szegény és gazdag ember között különbséget tennénk? Van, hogy esetleg inkább egy háziállatot mentenénk meg? A vizsgálat során összeállítottak egy online kérdőívet2, amelyre a világ 233 országából jött több, mint 40 millió válasz! A felmérésben kíváncsiak voltak arra, hogy abban az esetben, ha a végzetes kimenetel elkerülhetetlen, a válaszadó, vagyis a potenciális autótulajdonos kit, kiket mentene meg, illetve kiket preferálna kevésbé? Továbbá azt is vizsgálták, hogy kulturálisan, ország vagy régiós szinteken vannak-e kimutatható különbségek a preferenciákban?

Az eredmények alapján nem meglepő módon az állatokkal szemben az emberek életét előnyben részesítették a válaszadók jelentős többsége, illetve több emberélet megmentése mellett döntöttek a kevesebbel szemben. Azokban az országokban, amelyeknél erős a jogkövetés (például Finnország, Japán), kevésbé voltak elnézők a szabálytalanul közlekedő gyalogosok irányában, szemben olyan országokkal, mint például Nigéria vagy Pakisztán. Amikor azt vizsgálták, hogy vajon a hajléktalanokkal szemben van-e negatív megkülönböztetés az egyes országok között, azt találták a kutatók, hogy az adott országban tapasztalható gazdasági egyenlőtlenségnek jelentős hatása van a folyamatra!  Például Finnországban, ahol relatíve kevesebb a különbség a szegények és gazdagok között, nem találtak preferenciát a magasabb szociális státuszú emberek irányában, míg Kolumbia esetében, ahol ez az olló sokkal szélesebbre nyílik, a válaszadók inkább a hajléktalanokat áldozták fel.

Három olyan nagyobb csoportot (Nyugati, Keleti és Déli) különítettek el a vizsgálatot végző tudósok, amelyek között jelentős különbség volt. Egyik érdekes különbség, hogy a Nyugati csoport sokkal inkább hajlamos feláldozni az öregeket a fiatalokkal szemben, ez viszont a Keleti országokra egyáltalán nem volt igaz. A Déli csoport esetében az egyik érdekes tény, hogy a másik két főcsoporttal ellentétben, sokkal inkább védi a női nemet (ebben, a Déli csoportban található a felmérés szerint Magyarország is).

Egy biztos, nincs egy morális igazság! Jelentős különbségek mutathatók ki az egyes kultúrák, országok között és ezt mérlegelnie kell majd a döntéshozóknak és véleményalkotóknak ebben a kérdésben. Az talán mégsem járná, hogy Japánban egy hatvanéves férfi sokkal inkább érezze magát biztonságban egy autóban, mint mondjuk New York-ban, mivel Japánban az öregek morálisan jobban védik, vagy a feleségem például sokkal nyugodtabban sétáljon Budapest utcáin, mint Tókióban csak azért, mert nő?

Egy korábbi felmérés szerint2 az emberek azt szeretnék, ha ezek az önvezető autók megvédenék a gyalogosokat, még akkor is, ha ez a vezetők feláldozásával járna, ugyanakkor nem vennének ilyen autókat; azért van itt egy kis ellentmondás, nem? A technológia fejlődését bizonyosan nem lehet megállítani, 2021-re legalább öt nagy autógyártó cég szeretné már fogalomban látni önvezető autóikat, elindult az új „fegyverkezési” verseny! A németek elsőként rukkoltak elő 2017-ben egy etikai útmutatóval3, amelyben fontos alapgondolatokat, irányelveket fektettek le. De ezt a kérdést nem Németországnak vagy az USA-nak kell megoldania, globális megoldásra van szükség, ismét csak nem lehet a problémát lokálisan kezelni! Az előzetes eredmények azt mutatják, hogy világszinten emberéletek százezreit lehetne megmenteni az önvezető autók segítségével, hisz a balesetek többségét emberi hibák okozzák, és a robot, nem fárad, nem részeg, nem álmos, nem frusztrált a házassága miatt és nem is zavarja a gyerekek közelharca a hátsó ülésen. No de mi fog történni akkor, amikor az önvezető autók is okoznak majd balesetet? Mert ez meg fog történni, ez a technológia sem lesz hibátlan! Majd az újságírók és mi halandó emberek, hogyan fogunk erre reagálni? Tudatosan állunk a kérdéshez és nem ülünk fel majd a botrány és siker hajhászát expresszére? Hisz az ember, ember, ezt elfogadjuk; mindenki hibázhat, nem? No de a robot, az önvezető autó is hibázhat, ezt is elfogadja majd az emberiség?  Ugyanakkor ki fogja majd eldönteni, hogy ki haljon majd meg, mik legyenek majd a preferenciák? Az adott kódoló mérnök, az autógyár, a jogalkotók? Ki lesz a felelős az ilyen balesetek estén? Vagy ki akar majd olyan autó venni, amelyben tudvalevőleg be van programozva egy forgatókönyv amikor, az autó tulajdonosa, vagyis én a két gyerekemmel a hátsó üléssoron fogom a rövidebbet húzni?

Igaz, viszonylag ritkán állunk ilyen dilemma előtt, de a fenti kutatás eredményei felhívják a figyelmünket arra, hogy egyre több ilyen, etikai kérdést kell majd megfontolnunk, előre eldöntenünk a mesterséges intelligencia világának hajnalán 21. században. Ki játssza majd isten szerepét? Ki dönti el, hogy az autóm elüti-e futót, vagy engem áldoz fel? Foglalkozunk majd ezzel a kérdéssel? Egyelőre, ez még a technológia hírek hasábjain, egy-egy egyetem saját oldalán vagy szakújságírók tollai közül jönnek ki, még nagyon alacsony az ezzel kapcsolatos ismeret, tudatosság az emberekben! Pedig ez a korszak már itt kopog az ajtónkon. Óvatosan mi magunk kinyitjuk, vagy várjuk, hogy berúgják? A lovakat annak idején leváltottuk, kérdés, hogy hogyan állunk az önvezető autók kérdéséhez? Végül is csak az életünkről van szó.

1 - Awad, E. et al. Nature https://doi.org/10.1038/s41586-018-0637-6 (2018).

2 - http://moralmachine.mit.edu/

3 - Bonnefon, J. et al. Science 352, 1573-1576 (2016)

4 - https://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.pdf?__blob=publicationFile

Kenyeres András - linkedin.com/in/andraskenyeres

kenyeres.com

#mestersegesintelligencia #mi #ai #machinelearning #onvezetoautok #selfdrivingcars #autonomouscars #autonomous #kenyeresandras #kenyeresconsulting #kenyeresdotcom #blog #moralmachine #bigdata #gepitanulas #maiblog #mai

ábra: moralmachine.mit.edu