Ще могат ли умните коли да взимат етични решения?

Още откакто компаниите започват да разработват автомобили със самостоятелно управление, хората се питат как дизайнерите ще се справят с моралния въпрос кого трябва да спаси автомобилът, ако фаталната катастрофа е неизбежна. Последните изследвания показват, че този въпрос може да бъде още по-труден за производителите на автомобили, отколкото се е смятало преди, тъй като моралните предпочитания на хората са много различни в различните страни.

Изследователите, базирани в Харвардския университет и Масачузетския технологичен институт, са разработили онлайн игра, симулираща ситуации, в които фаталната катастрофа е неизбежна. Те помолили около 40 милиона души от над 200 държави да избират между различни резултати от инциденти, като например да решат кой да бъде спасен – пешеходците или пътниците в колата.

Резултатите разкриват няколко културни групи, в които етичните предпочитания на участниците се различават. Например, в южната група, която включва повечето участници от Латинска Америка и някои бивши френски колонии, има силно предпочитание да бъдат съхранени жените пред мъжете. Източната група, която включва много ислямски страни, както и Китай, Япония и Корея, има по-слабо предпочитание да бъдат спасени по-млади хора пред възрастните.

Изследователите сметнали, че тази информация би трябвало да повлияе на създателите на автомобили. Но наистина ли е така? Докато този документ изтъква интересно откритие за глобалните различия в моралните предпочитания, то също така подчертава постоянното вземане на грешни решения от изкуствения интелект и какво всъщност може да направи той. Като се има предвид съществуващата технология на изкуствения интелект, използвана в автомобилите със самостоятелно управление, идеята, че едно превозно средство може да вземе морално решение, всъщност е невъзможна.

Въображението на “моралната машина”

Самостоятелно управляващите се автомобили са обучени да вземат решения за това къде да ускоряват или кога да спират, като използват специфичен, слаб, изкуствен интелект – изкуствен интелект, който е фокусиран върху завършването на една определена, несложна задача. Той е проектиран с редица сензори, камери и лазери за измерване на разстояния (лидари), които дават информация на централния компютър. След това компютърът използва AI, за да анализира тези данни и да вземе решение.

Въпреки че технологията в момента е сравнително проста, автомобилите в крайна сметка ще надминат хората при тези основни задачи на шофиране. Все пак е нереалистично да се мисли, че автомобилите със самостоятелно управление също трябва да могат да вземат етични решения, което дори най-моралните човешки същества няма да имат време да направят в сценарий на катастрофа. Една кола ще трябва да бъде програмирана с общ AI, ако се очаква да направи това.

Общият изкуствен интелект е еквивалент на това, което ни прави хора. Това е способността да разговаряме, да се наслаждаваме на музиката, да намираме нещата смешни или да правим морални преценки. Понастоящем производството на общ AI е невъзможно поради сложността на човешката мисъл и емоциите. Няма да можем да постигнем морални самостоятелни превозни средства поне още няколко десетилетия, ако изобщо някога ги постигнем.

Друг проблем в новото изследване е, че много от ситуациите, които участниците бяха помолени да преценят, бяха нереалистични. В единия сценарий, участниците бяха помолени да решат кого да убие колата, ако спирачките й откажат: тримата пътници в колата – възрастен мъж, възрастна жена и момче или трима възрастни пешеходци, двама мъже и една жена.

Хората могат внимателно да обмислят такъв вид проблеми, когато отговарят на въпросник. Но при повечето истински инциденти шофьорът няма време да направи такива преценки през секундата, преди катастрофата да се случи. Това означава, че сравнението е невалидно. И като се има предвид настоящата технология на изкуствения интелект на автомобилите със самостоятелно управление, тези превозни средства също няма да могат да направят преценките.

Сегашните автомобили със самостоятелно управление имат усъвършенствани сензорни способности и могат да различават пешеходците от други предмети, като например лампи или пътни знаци. Въпреки това, авторите на изследванията предполагат, че автомобилите със самостоятелно управление могат, ще могат и би трябвало да могат да правят по-сложно различаване. Например, те биха могли да разпознаят хората, считани за по-необходими за обществото, като лекари или спортисти, и да изберат да спасят тях при сценарий на катастрофа.

Реалността е, че проектирането на автомобили, които правят такива усъвършенствани преценки, ще включва производство на общ AI, което в момента е невъзможно. Съществува дори и въпросът дали се желае това. Не трябва да позволяваме предпочитанията, идентифицирани в изследването, колкото и големи да са размерите на извадката, да определят стойността на живота.

В най-основната си форма автомобилите със самостоятелно управление се проектират така, че да избегнат инциденти, ако могат, и да намалят скоростта при въздействие, ако не могат, въпреки че, подобно на хората, те не могат да вземат морални решения при неизбежна катастрофа. Но автомобилите със самостоятелно управление ще бъдат по-безопасни от тези, шофирани от хора, тъй като те са по-внимателни, могат да реагират по-бързо и ще използват пълноценно възможностите на спирачната система в случай на катастрофа.

Понастоящем най-голямото етично предизвикателство, с което се сблъскват дизайнерите на самоуправляващите се автомобилни, е да се определи кога има достатъчно доказателства за безопасно поведение между симулациите и контролираното участие в движението, за да бъдат пуснати такива автомобили на пътя. Но това не означава, че те са “морални” или скоро ще бъдат. Да твърдим това, би означавало да накараме специфичният AI да изпълнява задачи за управление като общ AI – нещо, което вероятно няма да се случи в този ни живот.

В крайна сметка, автомобилите със самостоятелно управление ще бъдат по-безопасни от хората. Те ще постигнат това чрез предвиждане и избягване на злополуки, където е възможно, и намаляване на щетите там, където това не е възможно. Но автомобилите няма да могат да вземат морални решения, които дори ние не можем. Тази идея остава пресилена фантазия, а не мечта, на която трябва да се надяваме. Вместо това, нека се концентрираме върху безопасността: нещо, в което можем да имаме оправдано доверие.

Превод от английски – НинаЖишева