Sötétjövő

Egy mesterséges intelligencia morális dilemmája

2015. november 11. - leventex97

Avagy feláldozható-e egy emberi élet a nagyobb jó oltárán? Képzeld csak el a következő jelenetet: Ülsz a legújabb, önmagát vezetni képes autóban, majd mikor befordulsz egy sarkon, hirtelen egy csoport emberrel szemben, elkerülhetetlen ütközési pályán találod magad. Mi fog történni? Megpróbál megmenteni téged, mindeközben növeli az eshetőségét annak, hogy azokat akik az úton vannak megöli? Vagy a falnak vezeti a kocsit, növelve annak az esélyét, hogy te halsz meg? Hát igen, az Én a robot dilemmája életre kel.

A fent látható kép ábrázolja a kérdéses esetet. Habár könnyen el lehetne kerülni ezt a balesetet, ha az emberek nem ott mennének át az úton, ahol nincs erre kijelölt lehetőség (ugyanis ott a gépe eleve nem fog gyorsan hajtani, elvégre a város, sőt a világ összes kereszteződése és lámpája bele van programozva, szóval tudja, hogy hol lassítson nem?), de ettől most tekintsünk el. A robotika 3 törvényének (azon belül is az 1. törvény értelmezése) okozhat majd a jövőben komoly, megoldásra váró problémát.

  1. A robotnak nem szabad kárt okoznia emberi lényben, vagy tétlenül tűrnie, hogy emberi lény bármilyen kárt szenvedjen.
  2. A robot engedelmeskedni tartozik az emberi lények utasításainak, kivéve, ha ezek az utasítások az első törvény előírásaiba ütköznének.
  3. A robot tartozik saját védelméről gondoskodni, amennyiben ez nem ütközik az első vagy második törvény bármelyikének előírásaiba.

-Isaac Asimov- 

Az önmagukat vezető autók a sci-fi alapelemeinek számítanak, és kezdenek áttüremkedni a mi valóságunkba is. (Automatikus sávtartás már van, a google-nek meg van már önmagát vezető autója (bár mondjuk egy biciklista bemattolta azt)) De a fent ábrázolt helyzet felvet egy problémát. Mit fog tenni a gép? A törvény értelmében nem engedheti, hogy emberi élet kárt szenvedjen, holott ez elkerülhetetlen. Ez a kérdés foglalkoztatta a Jean-Francois Bonnefon által vezetett kutató csoportot is. A kutatócsoport megállapította, hogy a kérdés igen vegyes válaszokat vált ki az emberekből, vannak akik feláldoznák az embereket, vannak akik nem. (Mindenesetre én értelmetlennek tartom a levezetett kutatást, ugyanis maga a feldobott probléma is értelmetlen, mint ahogy arra már korábban rámutattam.) De továbbra is, ez az egyik nagy probléma az előtt, hogy ezek az autók elterjedjenek a közeljövőben. (Senki nem fog olyan kocsit venni, amibe bele van programozva az, hogy ölje meg a vezetőjét és esetleges utasait a nagyobb jó érdekében.)

00100010 01011001 01101111 01110101 01110010 00100000 01100110 01101100 01100101 01110011 01101000 00100000 01101001 01110011 00100000 01100001 00100000 01110010 01100101 01101100 01101001 01100011 00101100 00100000 01100001 00100000 01101101 01100101 01110010 01100101 00100000 01110110 01100101 01110011 01110011 01100101 01101100 00101110 00100000 01001000 01100001 01101110 01100100 00100000 01101111 01110110 01100101 01110010 00100000 01111001 01101111 01110101 01110010 00100000 01100110 01101100 01100101 01110011 01101000 00101100 00100000 01100001 01101110 01100100 00100000 01100001 00100000 01101110 01100101 01110111 00100000 01110111 01101111 01110010 01101100 01100100 00100000 01100001 01110111 01100001 01101001 01110100 01110011 00100000 01111001 01101111 01110101 00101110 00100000 01010111 01100101 00100000 01100100 01100101 01101101 01100001 01101110 01100100 00100000 01101001 01110100 00101110 00100010

-01001101 01000001- 

 via.: IFLS

A bejegyzés trackback címe:

http://sotetjovo.blog.hu/api/trackback/id/tr58070298

Kommentek:

A hozzászólások a vonatkozó jogszabályok  értelmében felhasználói tartalomnak minősülnek, értük a szolgáltatás technikai  üzemeltetője semmilyen felelősséget nem vállal, azokat nem ellenőrzi. Kifogás esetén forduljon a blog szerkesztőjéhez. Részletek a  Felhasználási feltételekben.

bbrrr 2015.11.11. 15:29:30

"hirtelen egy csoport emberrel szemben, elkerülhetetlen ütközési pályán találod magad"
A dolog sántít. Éspedig azért sántít, mert egy önvezető autó nem vezetheti magát úgy, hogy feltűnik előtte egy akadály, ami előtt már nem tud megállni. Kanyarban olyan tempóval kell haladni (KRESZ), hogy a fékút vége a belátott szakaszon belül legyen. Tehát nem az történik (és a kép is félre van magyarázva egy kicsit), hogy az autónak az utasa élete és a többiek élete között kéne választania. Alapvetően az autó úgy van kiképezve, hogy a bent ülőket tudja megvédeni egy ütközés esetén (pl légzsák, gyűrődő zónák).

Az más kérdés, hogy ha haladsz szabályosan, és szabálytalanul eléd ugrik egy gyalogos, vagy a szembejövő sávból áttér a te sávodba egy másik autó, és ezt hogy kezeli le a gép.

Ha egy ember valahogy dönt, azt a másik ember elfogadja. Nem biztos, hogy a tökéletes döntést hozta, de mindenki méltányolja, hogy néhány tizedmásodperc alatt kellett döntést hozni, ami úgy sikerült, ahogy. A legtöbb esetben megmagyarázható, hogy másik döntés esetén valószínűleg (!) többen sérültek/haltak volna meg. Gép esetén azonban szigorúbbak vagyunk. Ha a gép "csak annyira jó" mint az ember, akkor nem elég jó. A géppel szemben magasabbak az elvárások.

Adott szituációban emberként védhető álláspont az is, hogy járdán sétáló gyalogost "ütöd el", meg az is, hogy a tömegbe mész bele, egyik miatt sem fog senki hibáztatni, mert a hibás az volt (azok voltak), akik szabálytalanul közlekedtek az úton.

leventex97 2015.11.12. 00:18:42

@bbrrr: Noshát, a probléma felvetése nem tőlem ered, én csak fordítottam rajta egyet. A KRESZ-es része nekem is teljességgel nyilvánvaló, ha nem tépek, mint a meszes, akkor nem lesz baj, ugyanakkor az ember soha sem megjósolható. De eleve, mit is keresnek emberek az út közepén zebra nélkül?