Kolumna

Autopilot: dvojba razuma i morala

Njemački odgovor na problem tramvaja: Prepušten sam sebi, robotizirani Mercedes će radije žrtvovati četu đaka na putu iz škole, nego ozlijediti vas koji ste ga kupili

Marin Tomaš |

Zanimljivu kolumnu Marina Tomaša prenosimo u cijelosti s njegovog bloga autoblog.marintomas.com. Dobro znani autor i fotograf koji se bavi isključivo automobilskom tematikom na zanimljiv način piše o autopilotima i onome što oni mogu uzrokovati, ponukan izjavom čelnika velike njemačke kompanije. Tekst je dulji, ali toplo preporučamo da ga u cijelosti pročitate. (op.ur.)

Automobili koji samostalno upravljaju već su realnost na cestama. Možda još ne kod nas, ali po Europi da – tamo mnogi vlasnici Teslinih automobila prepuštaju svojim ljubimcima da samostalno upravljaju na autocesti koristeći tzv. Autopilot, sustav autonomne vožnje iako je on još u fazi razvoja. Problem je što ga je Elon Musk svejedno ponudio svojim kupcima kako bi od njih skupljao podatke koji će sustav učiniti preciznijim, pretvarajući ih tako u eksperimentalne zamorce. No Musk ovaj eksperiment provodi van laboratorija, na javnim prometnicama izlagajući tako i svoje kupce i sve druge pogibelji. I to nije samo paranoja ili senzacionalizam – ti automobili zaista ubijaju ljude. U ovih godinu dana od kako Teslini automobili voze sami, sumnjiče se za smrt bar tri osobe. Primjerice, Joshua Browna, pasioniranog zaljubljenika u Tesline automobile kojeg je njegov vlastiti samovozeći automobil u svibnju ubio dok je gledao Harryja Pottera zabivši se u tegljač koji je skretao. Ili 23-godišnjeg Gao Yankina kojeg je još početkom godine njegov automobil na autocesti u Kini zabio u kamion koji čisti cestu. Ili pak 53-godišnjeg nizozemskog vozača Tesle S koji je također tragično poginuo nakon što je njegov Model S blizu mjesta Baarn skrenuo s ceste i u punoj se brzini zabio u drvo. Da je riječ o ozbiljnom problemu govori i činjenica da su u Njemačkoj svi vlasnici Teslinih automobila od svog Ministra prometa Alexandera Dobrindta dobili pismo u kojem ih upozorava da je Autopilot zamišljen kao “pomoć u vožnji” i da u potpunosti snose odgovornost za bilo kakvu nesreću koju automobil napravi dok sam vozi. No što kada automobil ubije svog vlasnika kao u slučajevima do sada? Može li obitelj, kao što i obitelj Gao Yankina pokušava, okriviti i tužiti proizvođača automobila za pogibelj svog sina?

To je samo jedan problem s kojim se suočavamo ako pustimo automobile da samostalno upravljaju po cestama. Još za vrijeme Drugog svjetskog rata autor SF-ova Isaac Asimov je predvidio umjetnu inteligenciju i postavio tri osnovna zakona robotike od kojih prvi glasi: stroj ne smije ozlijediti ljudsko biće ili, u bilo kakvoj interakciji, dozvoliti da ljudsko biće nastrada. No što ako je to neizbježno? Kao npr. u slučaju klasičnog etičkog problema tramvaja, što bi bio moj slobodni prijevod za The trolley problem. Premisa je jednostavna: tramvaj bez kontrole juri tračnicama na čijem je kraju pet ljudi koji nemaju mogućnosti da pobjegnu. No, ispred njih je skretnica kojom upravljate vi i kojom tramvaj možete skrenuti na sporedni kolosijek na kojem je (samo) jedan čovjek koji će pritom poginuti. Vječno pitanje je da li ćete spasiti petoro na račun jednog? Opcije su zapravo samo dvije – ne učiniti ništa i pustiti da pogine pet ljudi ili povući skretnicu i tako odrediti smrt jednog čovjeka. Da li je moralno prihvatljivije žrtvovati jednog kako bi spasili petoro? Na ovom problemu, koji se kao etički eksperiment pojavio u šezdesetim godinama, radili su brojni filozofi, ali i psiholozi pa se s vremenom na njega vezalo nekoliko drugih dilema. Koga zanima kojih neka pročita slijedeći odjeljak, ostali ga mogu preskočiti

Npr. dilema debelog čovjeka. Mnogi će naime, žrtvovati jednog kako bi spasili petoro no što ako je jedina opcija da zaustavite tramvaj to da bacite nešto teško ispred njega, a na nadvožnjaku na kojem stojite je debeli čovjek? Hoćete li ga gurnuti s nadvožnjaka pred tramvaj kako bi spasili petoro ljudi na tračnicama? Sada, za razliku od prvog slučaja, trebate osobno i namjerno nekome načiniti zlo kako bi spasili druge. Da li je namjerno nekoga ubiti krivo i neprihvatljivo čak i ako ćete time spasiti pet drugih života? Što ako zamislimo da je taj debeli čovjek pritom još i kriminalac. Olakšava li to situaciju? Možemo li lakše žrtvovati život čovjeka za kojeg znamo da je radio zlo drugima kako bi spasili petero nevinih? Idemo li dalje, u verziji petlje kolosijek na koji skrećemo tramvaj na kojem je jedan čovjek vraća se natrag na glavnu prugu i to ispred petoro nevinih. Ako tramvaj udari u pet ljudi on će stati, ali ako udari u samo jednog neće i nastavit će putovati. Znači, ako ne učinimo ništa žrtvovati ćemo petoro kako bi spasili jednog. U varijaciji “čovjek u dvorištu” tramvaj možete zaustaviti samo ako na njega iz suprotnog smjera pustite drugi tramvaj no u sudaru će tramvaji iskočiti iz tračnica i sjuriti se niz brdo ubijajući čovjeka u dvorištu. Ova verzija je više psihološka začkoljica s obzirom da je jedina razlika u odnosu na originalni problem u tome što čovjek u dvorištu potpuno nevin, odnosno nije na nikakav način “uključen” u zbivanja. Mnogi će naime, smatrati da su ljudi na pruzi jednim dijelom sami krivi što su se tamo našli pa je odgovornost njihova, ali da nije fer žrtvovati potpuno nevinog čovjeka. No treba li nečiji status ili aktivna uloga u scenariju činiti moralnu razliku?

Sada ste se već sigurno pitali kakve veze sva ova filozofija ima s automobilima?! Ima sve s onima koji samostalno voze! Jer onda su sve ove dileme prepuštene njima! Točnije, ne njima nego onima koji će ih programirati kako će se u kojoj situaciji ponašati. A to posljedično znači da odluka više nije vaša nego će je netko donijeti umjesto vas. I ne samo to, nego ćete je znati unaprijed! I sada je pitanje hoćete li moći živjeti s njom i da li će, ako se ne slažete s njom, to utjecati na kupnju tog automobila? Jer kako možete posjedovati i prepustiti se samoupravljanju automobila koji je programiran da napravi ono što se u samim temeljima kosi s vašim osobnim moralno-etičkim kodeksom? Upravo iz tog razloga većina proizvođača automobila koji rade na sustavima samoupravljanja na sve moguće načine izbjegavaju odgovoriti na problem tramvaja – da li će automobil, u slučaju neizbježnog, pogaziti pješaka na cesti kako bi spasio vas koji ste u automobilu? Je li vam sad jasno zašto je ovo pitanje noćna mora svakog PR-a? Naprosto nema dobrog odgovora na ovu dilemu! Prva opcija je da kažu da će vaš budući automobil ubiti vas prije nego li nekog drugog. Kakvo bi to PR samoubojstvo bilo! A druga opcija je da kažu da će vaš automobil nemilosrdno ubiti svakog drugog tko vam stane na put.

Iako je ovo pitanje vrući kesten koji nitko ne želi primiti, Mercedes se iz nekog razloga odlučio izjasniti na temu. Na nedavno održanom salonu automobila u Parizu, Christoph von Hugo, Mercedesov menadžer za sustave pomoći pri vožnji u intervjuu za američki časopis Car and Driver se bez puno oklijevanja izjasnio za opciju broj dva. “Svi budući samovozeći Mercedesi razine 4 i 5 imati će prioritet spasiti živote ljudi koje prevoze“, izjavio je Mercedesov čelni čovjek za aktivnu sigurnost. “Ako znate da možete spasiti samo jednog čovjeka, spasite jednog. Spasite onog u automobilu”, rekao je von Hugo zaključivši: “Ako jedino što znate je da možete spriječiti smrt jednog, onda bi to trebao biti vaš prioritet“. No znate li što to zapravo znači? Evo da bude malo zornije: to znači da će Mercedes S-klase koji vas vozi upravljajući sam sobom zato jer imate toliko para da ga kupite, u slučaju neizbježnog glatko pregaziti dijete koji se vraća iz škole kako bi spasio vašu bogatu i lijenu guzicu umjesto da se zabije u kuću pored ceste i nastradate vi… Ili zašto bi zamislili samo “obično” dijete, zašto to ne bi bilo siroče koji prosi uz cestu? Ili zašto jedno, zašto ne čitavu grupu đaka?! Biste li kupili takav automobil…?