Néhány napja, azok, akik a közösségi médiafelületeket aktívan látogatják, tapasztalhatták, vagy akár aktívan részt is vehettek a vírusként terjedő 10 éves kihívás elnevezésű jelenségben. A dolog rémegyszerű: végy egy rólad készült 2009-es képet és tedd mellé a mai, friss fényképedet és tádám mosolyoghatunk rajta, hogy „semmit nem változtál Kata” vagy, hogy „úristen mennyit őszültél Laci”, esetleg „ez a Jennifer Lopez nem változott semmit!”, és így tovább. Első pillantásra ez nem több, mint egy aranyos mém, amin jót szórakozhatunk a buszon olvasgatva, vagy éppen kellemesen elszórakoztathatjuk az ismerőseinket, esetleg celebként van apropója annak, hogy ismét közzétehessük magunkat valamilyen formában, hogy lássák élünk, virulunk, jelen vagyunk.

Nézzük meg ezen kis „ártatlan vírus” másik oldalát is! Ha beütjük a Google keresőjébe a „10 years challenge” szavakat képek ezreit kapjuk meg. Elgondolkodtunk már azon, hogy mire lehet még felhasználni ezeket a képeket, ezt a rengeteg adatot? Ez egy remek lehetőség azoknak a cégeknek (pl. facebook), akik arcfelismerő rendszereik fejlesztésén dolgoznak. Adott rengeteg olyan adat, amely viszonylagos pontossággal információval szolgál arra vonatkozóan, hogy mennyit és hogyan változnak az arcok 10 év alatt. Ezzel hatékonyan tanítható bármelyik arcfelismerő algoritmus arra, hogy mennyit változik egy ember arca ennyi idő alatt, hogyan módosul. Jó, lehet, hogy a képek többsége már így is elérhető volt a neten, de egészen más bányászni az adatok között, és más amikor a „piac” tálcán kínálja nekünk a minták tömkelegét, és ezt tesszük mi emberek teljesen önkéntesen, működik a csordaszellem és a magamutogatás. Félreértés ne essék, nem akarok senkit bántani, a csordaszellem sem véletlenül alakult ki az evolúció során, hisz ha a vízből például többen ittak és nincs semmi bajuk tőle, akkor megéri követni a többieket, evolúciósan magyarázható és abszolút érthető (ha valahol sor van, oda biztos érdemes beállni). Itt inkább arra kívánom felhívni a figyelmet, hogy mennyire nem vagyunk tudatosak az információinkkal kapcsolatban!

Az arcfelismerőrendszerek alkalmazása már itt-ott jelen van a világon, de egyre jobban el fog terjedni, ha nem szabályozzuk a folyamatot. Jogi szabályozás híján még viszonylag szabad keze van a fejlesztőknek (A Microsoft a tavalyi évben hívta fel az amerikai törvényhozás figyelmét arra, hogy lépni kellene a területen). Képzeljük el, ahogy rendszeresen bemegyünk egy bevásárlóközpontba, amely használ arcfelismerő rendszert. Pontosan tudni fogja, hogy mikor járunk oda, merre megyünk vásárolni, mennyi időt tartózkodunk ott! Akarjuk, hogy ez az információt használhassák esetleg reklámcélokra, vagy mondjuk, értékesítsék az adatokat a tudtunk nélkül?

Az első lépés, hogy tudatosan állunk ehhez a kérdéshez! Amennyiben nem akarunk egy orwelli 1984-es világ eljövetelét, amely irányában most éppen mérföldes léptekkel halad Kína, akkor ismerjük meg ezeket a módszereket legalább alapszinten és ennek tudatában döntsünk arról, hogy ingyen adunk-e mintát a világnak magunkról vagy sem (gondolom, a véradás nem menne ilyen könnyen)! Nem tudjuk, ki indította el ezt a folyamatot! De egy biztos, hogy adatgyűjtésre kiváló lehetőség és azzal, hogy hírességek is beállnak a sorba, még inkább egy olyan folyamatot erősítenek, amely végül rengeteg adattal látja el azokat, akik ezt használni szeretnék!

Természetesen mindenki dönthet arról, hogy közzé teszi-e a képeit vagy sem. Viszont véleményem szerint itt is tetten érhető a lényeges információk hiánya, a tájékozatlanság! Honnan veszünk tudomást a hírekről, ki dönti el, hogy mit nézünk, olvasunk, hallgatunk? Tényleg mi vagyunk a volán mögött? Vagy esetleg szerkesztők, marketing-szakértők tömkelege azok, akik azon dolgoznak, hogy a véleményünket formálják? Gondolkodjunk el egy kicsit ezen, szánjuk rá egy kis időt, most az egyszer ne reagáljuk le egyből a kérdést! Nézzük meg egy napunkat, mi irányítja a figyelmünket? Nem kéne elgondolkodnunk egy figyelemdiétán, egy olyan folyamaton ahol tudatosan átgondoljuk, hogy mire szeretnénk figyelni és mit nem engedünk be az életünkbe? Ez ma aktuálisabb kérdés, mint valaha!

#ai #tudatosjelenlet #etika #facebook #10eveskihivas #10yearschallenge #arcfelismeres #machinelearning #szemelyesinformaciok #figyelemdieta

Rengeteget hallhatjuk és olvashatjuk manapság a Mesterséges Intelligencia (MI vagy AI az angol Artificial Intelligence után) kifejezést. No de mi is ez, egész pontosan hogyan írhatjuk körbe a fogalmat úgy, hogy mindenki megértse? Fontos és szerény véleményem szerint kifejezetten hasznos, hogy egy kicsit mindenki utána olvasson a témának, legalább alapszinten tudja, hogy mit takar ez a gyakran használt kifejezés? Ez később a mindennapok emberét abban is segítheti, hogy tudatosítson bizonyos folyamatokat, tudja, hogy mivel áll szemben, amikor MI-vezérelt gépekkel, rendszerekkel kommunikál, amikor facebook-posztot olvas, amikor az instagram-ra képet tesz fel, vagy amikor egyszerűen csak vásárol, vagy éppen híreket olvas a neten. Igen, az említett területeken mind-mind dübörög a gépezet, amelynek bizony nagyon is megvannak a hátulütői, de erre majd egy külön írásban térünk ki, mert érdemes! Egy dolgot ki kell vernünk a fejünkből, éspedig azt, hogy ez valami tech-dolog, és mivel én nem vagyok fejlesztő mérnök, vagy olyan IT-beállítottságú valaki, ehhez nekem semmi közöm nincs. Az MI olyan szinten szövődik be napról-napra az életünkbe, hogy szinte észre sem vesszük. Nem attól kell első körben félnünk, hogy az MI-vezette rendszerek átveszik a helyünket, hisz sokkal okosabbak lesznek, mint mi, hanem attól, hogy túl korán bízunk meg olyan rendszerekben, amely maguk is hibásak, tökéletlenek, telis-tele pakolva a saját emberi tudatalatti hülyeségeinkkel, előítéleteinkkel.

Amikor mesterséges intelligenciáról beszélünk, akkor egy olyan rendszerre gondoljunk, amely képes a kívülről beletáplált adatokat „helyesen” értelmezni, tanulni ezekből az adatokból és ezekkel a tanultakkal meghatározott célokat és feladatokat ellátni úgy, hogy közben megfelelő rugalmassággal adaptálódik az új információk alapján. ¹ Lényegében a gép olyan döntéseket hoz, amelyeket korábban alapesetben az emberek hoztak meg.  A mellékelt ábra² nagyon egyszerű megfogalmazásával segít abban, hogy meghatározzuk, hogy a rendszer használ-e mesterséges intelligenciát vagy sem? Haladjunk lépésről, lépésre és megértjük!

Fontos megjegyeznünk, és ezzel előre is vetítjük a folyamatos kérdések özönét, hogy bizony van gond rendesen a mesterséges intelligenciával. Nem csak az, hogy száz fogalommeghatározást találhatunk ezzel kapcsolatban, hanem az is, hogy bizony sokszor maga a fejlesztő, aki dolgozik vele, sem tudja, hogy a gép mit pontosan hogyan tesz, egy fekete dobozzal néz szemben és ezt a típusú dobozt nem szoktuk szeretni, mert jellemzően valamilyen katasztrófára asszociálunk a szó hallatán, és talán nem is baj ha óvatosak vagyunk. Félreértés ne essék, nem akarok az MI ellen beszélni, sőt, nagyon sok területen tudja majd segíteni az emberiséget ezek a rendszerek, de ahogy a vasút feltalálása után mi emberek döntöttük el, hogy gyógyszereket vagy koncentrációs táborokba embereket szálltunk vele, úgy a mesterséges intelligencia használatának és kontrolljának a kulcs a mi kezünkben van! Legyünk tudatosak! Folytatjuk…

1 - https://www.sciencedirect.com/science/article/pii/S0007681318301393

2 - https://www.technologyreview.com/s/612404/is-this-ai-we-drew-you-a-flowchart-to-work-it-out

Képzeljük el, ahogy autónkkal hazafelé tartunk egy ködös decemberi estén. Fejben már szinte otthon vagyunk, azt tervezgetjük, hogy mit fogunk majd vacsorázni, kissé még bennünk élnek munkanapunk ügyes bajos dolgai, amikor hirtelen előttünk a zebrán, fittyet hányva az alapvető közlekedési szabályokra, a piros lámpa ellenére, elénk lép egy, az esti kocogásába éppen nagyon belemerült futó. Mit csinálunk? Elrántjuk a kormányt, irány az oszlop, vagy az árok? Esetleg erőből fékezünk? Talán nem is igazán tudjuk megmondani így hirtelen, hogy mit is tennénk? Az ott abban szent minutumban dőlne esetleg el?

Ez az életeket eldönthető kérdés az eddigiekben kizárólag a vezetőn múlt, az ő tettei határozták a végkimenetelt! Kialakult intuíciói, egy összetett tanulási folyamat és az aktuális koncentrációs szintje határozta meg, hogy mi fog történni. Viszont ennek az időszaknak hamarosan itt a vége! Lehet, hogy még nem tapasztaljuk, csak itt-ott látunk már az önvezetés alapszintjén közlekedő Teslákat, de már az autógyárak és fő jelenlegi és potenciális későbbi beszállítói gőzerővel dolgoznak az ún.  4. és 5. szintű önvezető autók prototípusain, amelyek már teljes mértékben emberi beavatkozás nélkül juttathatják majd el az autó utasát A-ból B-be. Csak ülünk, mint egy taxiban, amit nem vezet ember, és oda megyünk, ahova csak szeretnénk. Mi döntjük el, hogy alszunk, dolgozunk, vagy csak úgy kedvtelésből egy pohár pezsgő mellett nézzük a tájat.

De várjunk csak! Mi van akkor a fentiekben említett példával, olyankor mi lesz? Ha a mesterséges intelligencia vezérli a szuperintelligens autónkat, akkor bele kellene programozni az ilyen helyzetekben a döntést is az autóba, nem? Az autó választ majd, hogy elüti-e azt a szabálytalanul közlekedő futót, vagy esetleg mi halunk meg? És mi van, ha egy kutya szalad ki elénk, vagy esetleg egy macska? Mi van, ha balra kormányozva három nyugdíjast ütünk el, egyesen haladva két gyereket, és ha éppen jobbra kanyarodik az autó, akkor frontálisan megyünk neki a szegélykorlátnak? Itt kezd ez a történet nagyon érdekessé és bonyolulttá válni! Ez az a pont, ahol, ha tetszik, ha nem, az embernek egyfajta istenként, Yuval Noah Harari után, homo deus-ként kell majd eljárnia, hiszen ezeket a kérdéseket jó előre el kell döntenie, bele kell programoznia az önvezető autóba!

Ez az a pont, ahol, ha tetszik, ha nem, az embernek istenként, kell majd eljárnia.

Ez év őszén a rangos Nature folyóiratban megjelentek az MIT (Massachusetts Institute of Technology) Moral Machine kutatási projektjének eredményei¹. Ebben a tanulmányban többek között pont ezt a kérdést feszegetik. Mégis kinek az életét mentenénk meg ilyenkor, a fiatalét vagy az öregét? A szegény és gazdag ember között különbséget tennénk? Van, hogy esetleg inkább egy háziállatot mentenénk meg? A vizsgálat során összeállítottak egy online kérdőívet², amelyre a világ 233 országából jött több, mint 40 millió válasz! A felmérésben kíváncsiak voltak arra, hogy abban az esetben, ha a végzetes kimenetel elkerülhetetlen, a válaszadó, vagyis a potenciális autótulajdonos kit, kiket mentene meg, illetve kiket preferálna kevésbé? Továbbá azt is vizsgálták, hogy kulturálisan, ország vagy régiós szinteken vannak-e kimutatható különbségek a preferenciákban?

Az eredmények alapján nem meglepő módon az állatokkal szemben az emberek életét előnyben részesítették a válaszadók jelentős többsége, illetve több emberélet megmentése mellett döntöttek a kevesebbel szemben. Azokban az országokban, amelyeknél erős a jogkövetés (például Finnország, Japán), kevésbé voltak elnézők a szabálytalanul közlekedő gyalogosok irányában, szemben olyan országokkal, mint például Nigéria vagy Pakisztán. Amikor azt vizsgálták, hogy vajon a hajléktalanokkal szemben van-e negatív megkülönböztetés az egyes országok között, azt találták a kutatók, hogy az adott országban tapasztalható gazdasági egyenlőtlenségnek jelentős hatása van a folyamatra!  Például Finnországban, ahol relatíve kevesebb a különbség a szegények és gazdagok között, nem találtak preferenciát a magasabb szociális státuszú emberek irányában, míg Kolumbia esetében, ahol ez az olló sokkal szélesebbre nyílik, a válaszadók inkább a hajléktalanokat áldozták fel.

Három olyan nagyobb csoportot (Nyugati, Keleti és Déli) különítettek el a vizsgálatot végző tudósok, amelyek között jelentős különbség volt. Egyik érdekes különbség, hogy a Nyugati csoport sokkal inkább hajlamos feláldozni az öregeket a fiatalokkal szemben, ez viszont a Keleti országokra egyáltalán nem volt igaz. A Déli csoport esetében az egyik érdekes tény, hogy a másik két főcsoporttal ellentétben, sokkal inkább védi a női nemet (ebben, a Déli csoportban található a felmérés szerint Magyarország is).

Egy biztos, nincs egy morális igazság! Jelentős különbségek mutathatók ki az egyes kultúrák, országok között és ezt mérlegelnie kell majd a döntéshozóknak és véleményalkotóknak ebben a kérdésben. Az talán mégsem járná, hogy Japánban egy hatvanéves férfi sokkal inkább érezze magát biztonságban egy autóban, mint mondjuk New York-ban, mivel Japánban az öregek morálisan jobban védik, vagy a feleségem például sokkal nyugodtabban sétáljon Budapest utcáin, mint Tókióban csak azért, mert nő?

Egy korábbi felmérés szerint² az emberek azt szeretnék, ha ezek az önvezető autók megvédenék a gyalogosokat, még akkor is, ha ez a vezetők feláldozásával járna, ugyanakkor nem vennének ilyen autókat; azért van itt egy kis ellentmondás, nem? A technológia fejlődését bizonyosan nem lehet megállítani, 2021-re legalább öt nagy autógyártó cég szeretné már fogalomban látni önvezető autóikat, elindult az új „fegyverkezési” verseny! A németek elsőként rukkoltak elő 2017-ben egy etikai útmutatóval³, amelyben fontos alapgondolatokat, irányelveket fektettek le. De ezt a kérdést nem Németországnak vagy az USA-nak kell megoldania, globális megoldásra van szükség, ismét csak nem lehet a problémát lokálisan kezelni! Az előzetes eredmények azt mutatják, hogy világszinten emberéletek százezreit lehetne megmenteni az önvezető autók segítségével, hisz a balesetek többségét emberi hibák okozzák, és a robot, nem fárad, nem részeg, nem álmos, nem frusztrált a házassága miatt és nem is zavarja a gyerekek közelharca a hátsó ülésen. No de mi fog történni akkor, amikor az önvezető autók is okoznak majd balesetet? Mert ez meg fog történni, ez a technológia sem lesz hibátlan! Majd az újságírók és mi halandó emberek, hogyan fogunk erre reagálni? Tudatosan állunk a kérdéshez és nem ülünk fel majd a botrány és siker hajhászát expresszére? Hisz az ember, ember, ezt elfogadjuk; mindenki hibázhat, nem? No de a robot, az önvezető autó is hibázhat, ezt is elfogadja majd az emberiség?  Ugyanakkor ki fogja majd eldönteni, hogy ki haljon majd meg, mik legyenek majd a preferenciák? Az adott kódoló mérnök, az autógyár, a jogalkotók? Ki lesz a felelős az ilyen balesetek estén? Vagy ki akar majd olyan autó venni, amelyben tudvalevőleg be van programozva egy forgatókönyv amikor, az autó tulajdonosa, vagyis én a két gyerekemmel a hátsó üléssoron fogom a rövidebbet húzni?

Igaz, viszonylag ritkán állunk ilyen dilemma előtt, de a fenti kutatás eredményei felhívják a figyelmünket arra, hogy egyre több ilyen, etikai kérdést kell majd megfontolnunk, előre eldöntenünk a mesterséges intelligencia világának hajnalán 21. században. Ki játssza majd isten szerepét? Ki dönti el, hogy az autóm elüti-e futót, vagy engem áldoz fel? Foglalkozunk majd ezzel a kérdéssel? Egyelőre, ez még a technológia hírek hasábjain, egy-egy egyetem saját oldalán vagy szakújságírók tollai közül jönnek ki, még nagyon alacsony az ezzel kapcsolatos ismeret, tudatosság az emberekben! Pedig ez a korszak már itt kopog az ajtónkon. Óvatosan mi magunk kinyitjuk, vagy várjuk, hogy berúgják? A lovakat annak idején leváltottuk, kérdés, hogy hogyan állunk az önvezető autók kérdéséhez? Végül is csak az életünkről van szó.

1 - Awad, E. et al. Nature https://doi.org/10.1038/s41586-018-0637-6 (2018).

2 - http://moralmachine.mit.edu/

3 - Bonnefon, J. et al. Science 352, 1573-1576 (2016)

4 - https://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.pdf?__blob=publicationFile

Kenyeres András - linkedin.com/in/andraskenyeres

kenyeres.com

#mestersegesintelligencia #mi #ai #machinelearning #onvezetoautok #selfdrivingcars #autonomouscars #autonomous #kenyeresandras #kenyeresconsulting #kenyeresdotcom #blog #moralmachine #bigdata #gepitanulas #maiblog #mai

ábra: moralmachine.mit.edu