Kit öl meg egy önvezető autó? Gép, ments meg minél több embert, de legfőképpen engem!

Ha olyan helyzet adódik, amikor egy autó autonóm rendszerének gyorsan kell választania, kit áldoz fel egy közelgő baleset esetén, hogyan reagáljon? Utasokat áldozni a gyalogosok megmentése érdekében? Ha kell, megölni egy gyalogost, hogy megkímélje például az autóban utazó négytagú családot? Vagy lehet, hogy először mindig meg kell védenie magát?

Míg csak Kaliforniában már több mint hatvan vállalat kapott személyes tesztelési engedélyt, nehéz megmondani, hogy az iparág etikai dilemmákkal szembesül. Jelenleg alapvetőbb problémákkal küszködik - a rendszerek működésével és navigációs hatékonyságával, valamint egyszerűen az ütközések és váratlan események elkerülésével. Az olyan helyzetekben, mint a közelmúltban egy gyalogos meggyilkolása Arizonában vagy az azt követő balesetek (1), eddig egyszerűen a rendszer meghibásodásáról volt szó, nem pedig az autó valamiféle "etikus választásáról".

Mentsd meg a gazdagokat és a fiatalokat

Az ilyen jellegű döntések meghozatalának kérdései nem elvont problémák. Ezt bármely tapasztalt sofőr igazolhatja. Az MIT Media Lab kutatói tavaly több mint negyvenmillió válaszadót elemeztek a világ minden tájáról érkező válaszadóktól, amelyeket a 2014-ben indított kutatás során gyűjtöttek össze. Az általuk "Ethical Machine"-nek nevezett szavazási rendszer azt mutatta, hogy a környék különböző helyein a világ, hasonló kérdésekre különböző válaszokat tesznek fel.

A legáltalánosabb következtetések előre megjósolhatók. Extrém helyzetekben az emberek inkább az emberek megmentését részesítik előnyben, mint az állatokról való gondoskodást, hogy minél több életet mentsenek meg, és általában fiatalabbak, mint az idősek (2). Vannak bizonyos, de kevésbé nyilvánvaló preferenciák, amikor a nők megmentéséről van szó a férfiakkal szemben, a magasabb státuszú embereket a szegényebbekkel és a gyalogosokat az autó utasaival szemben..

2. Kit mentsen meg az autó?

Mivel közel félmillió válaszadó töltött ki demográfiai kérdőíveket, így lehetőség volt preferenciáit korrelálni, nemmel és vallási meggyőződéssel. A kutatók arra a következtetésre jutottak, hogy ezek a különbségek „nem befolyásolták jelentősen” az emberek döntéseit, de megfigyeltek bizonyos kulturális hatásokat. A franciák például hajlamosak a halálozások becsült száma alapján mérlegelni a döntéseket, míg Japánban ez volt a legkevesebb. A felkelő nap országában azonban sokkal többre értékelik az idősek életét, mint Nyugaton.

„Mielőtt megengednénk autóinknak, hogy maguk hozzák meg etikai döntéseiket, globális vitát kell folytatnunk erről. Amikor az autonóm rendszereken dolgozó cégek megismerik preferenciáinkat, akkor ezek alapján etikai algoritmusokat dolgoznak ki a gépekben, és a politikusok megkezdhetik a megfelelő jogi rendelkezések bevezetését” – írták a tudósok 2018 októberében a Nature-ben.

A Moral Machine kísérletben részt vevő egyik kutató, Jean-Francois Bonnefont riasztónak találta a magasabb státuszú emberek (például a vezetők, mint a hajléktalanok) megmentését. Véleménye szerint ez nagyon összefügg a gazdasági egyenlőtlenség mértéke egy adott országban. Ahol nagyobbak voltak az egyenlőtlenségek, ott előnyben részesítették a szegények és hajléktalanok feláldozását.

Az egyik korábbi tanulmány különösen azt mutatta be, hogy a válaszadók szerint egy autonóm autónak a lehető legtöbb embert meg kell védenie, még akkor is, ha ez utasok elvesztésével jár. A megkérdezettek ugyanakkor úgy nyilatkoztak, hogy nem vennének ilyen módon programozott autót. A kutatók ezt magyarázták miközben az emberek etikusabbnak tartják több ember megmentését, önérdekeket is vállalnak, ami azt jelezheti a gyártók felé, hogy a vásárlók vonakodnak az altruista rendszerekkel felszerelt autók megvásárlásától.. A Mercedes-Benz cég képviselői egy ideje azt mondták, ha csak egy embert ment meg a rendszerük, akkor a sofőrt választanák, nem a gyalogost. A lakossági tiltakozási hullám arra kényszerítette a céget, hogy visszavonja nyilatkozatát. De a kutatás egyértelműen azt mutatja, hogy sok képmutatás volt ebben a szent felháborodásban.

Ez néhány országban már megtörténik. első próbálkozások a jogi szabályozásra mezőben. Németország törvényt fogadott el, amely előírja, hogy a vezető nélküli autóknak minden áron el kell kerülniük a sérüléseket vagy a halált. A törvény azt is kimondja, hogy az algoritmusok soha nem hozhatnak döntéseket olyan jellemzők alapján, mint az életkor, a nem, az egészségi állapot vagy a gyalogosok.

Az Audi átveszi az irányítást

A tervező nem tudja megjósolni az autó működésének összes következményét. A valóság mindig olyan változók kombinációját tudja biztosítani, amelyeket korábban még soha nem teszteltek. Ez aláássa a gép „etikus programozásának” lehetőségébe vetett hitünket. Számunkra úgy tűnik, hogy azokban a helyzetekben, amikor "az autó hibájából" történik hiba és tragédia, a felelősséget a rendszer gyártójának és fejlesztőjének kell viselnie.

Talán ez az érvelés helyes, de talán nem azért, mert téves volt. Inkább azért, mert olyan mozgalmat engedélyeztek, amely nem volt 2019%-ban mentes a megvalósítás lehetőségétől. Úgy tűnik, ez az ok, és a megosztott felelősség alól a cég sem kerüli el magát, amely nemrégiben bejelentette, hogy vállalja a felelősséget a 8 éves A3-as balesetekért, amelyekben automatikus Traffic Jam Pilot (XNUMX) rendszert használnak.

3. Audi Traffic Jam Pilot Interface

Másrészt emberek milliói járnak autóval és hibáznak is. Miért kellene tehát hátrányosan megkülönböztetni azokat a gépeket, amelyek statisztikailag sokkal kevesebb hibát követnek el, mint az emberek, amint azt számos hiba bizonyítja?

Ha valaki azt gondolja, hogy az etika és a felelősség dilemmái az autonóm járművek világában egyszerűek, gondolkozzon tovább...