Predstavniki ruskih varnostnih organov se bojijo, da bi lahko že v bližnji prihodnosti avtomobili brez voznika postali orodje za kazniva dejanja. »Čez 20 let bodo avtonomna vozila izrinila tradicionalne avtomobile, kot so slednji nekoč izrinili konje. Vendar pa še ni bilo dobro preučeno vprašanje, kakšne vse nevarnosti to prinaša,« je že leta 2016 rekel načelnik prometno-patruljnega oddelka ruske vladne uprave za prometno varnost (DPS GIBDD) Aleksander Bikov.
Že pred to izjavo je ruska uprava za prometno varnost zabeležila primere daljinske ugrabitve avtomobilov z elektronskimi nadzornimi sistemi. Medtem v poskusno javno uporabo v Rusiji počasi prihajajo prvi avtonomni avtomobili, kot sta Kamazov minibus Shuttle in Yandexov taksi brez voznika.
Scenarij z minimalno škodo
Po besedah strokovnjakov iz podjetja Cognitive Technologies, ki sodeluje s Kamazom pri razvoju vozil brez voznika, bodo tehnologije brez voznika spremenile ustaljene vzorce cestnega prometa. Vseh situacij na cesti, zlasti izrednih, ki so pogosto ključne za preživetje udeležencev v cestnem prometu, pa ni mogoče preprosto umestiti v matematične modele.
»Obstaja vrsta moralnih vidikov in kriterijev, ki jih je potrebno upoštevati pri razvoju scenarijev obnašanja avtomobila-robota. Kako se mora na primer vesti brezpilotno vozilo, ko se mora eden od udeležencev v prometu žrtvovati?« razmišlja Olga Uskova, predsednica družbe Cognitive Technologies.
Že v začetku leta 2016 je to podjetje izvedlo javnomnenjsko raziskavo med prebivalci Rusije, v katero so vključili preko 80 tisoč anketirancev. Vprašani so večinoma podprli, da se morajo avtonomna vozila v izrednih situacijah obnašati po scenariju, ki bo povzročil minimalno škodo, na podlagi števila rešenih življenj.
Vendar Uskova pravi, da se udeleženci raziskave najbrž niso povsem zavedali, da bi se lahko sami znašli v kabini avtomatičnega avtomobila, ki bi se na podlagi takega scenarija odločil za samouničenje skupaj s svojim potnikom, da bi rešil večje število življenj nekih drugih ljudi, ki so, na primer, pred njim stekli na cesto.
Robot kot smrtonosno orodje
Avtonomna vozila je mogoče uporabiti kot orožje, pritrjujejo tudi pri Cognitive Technologies. Kriminalci bi na primer lahko vplivali na »sistem aktivnega pozicioniranja« (instrumente in senzorje) ali mehansko poškodovali vozilo, s čimer bi umetna inteligenca izgubila določene funkcije. Seveda bi lahko tudi hekerji »vlomili« naravnost v sistem, ki upravlja vozila.
»Pristop pri Cognitive Technologies omogoča maksimalno zaščito pred zunanjimi vplivi, saj so kamere in 'inteligenca' nameščeni v kabini,« razlaga na to temo Uskova. Kar se tiče hekerskih napadov, pa Uskova pravi, da so varnostne rešitve podjetja na tako visoki ravni kot pri največjih bančnih sistemih.
»Pri razvoju scenarijev obnašanja brezpilotnega vozila v pogojih zunanjega vmešavanja izhajamo iz prvega zakona robotike, ki ga je formuliral že pisatelj znanstvene fantastike Isaac Asimov: minimalna škoda in minimalne človeške žrtve. Toda ni nam še uspelo razviti zadovoljujočega modela, ki bi v celoti zaščitil avto brez voznika pred kakršnimkoli zunanjim vmešavanjem,« je priznavala Uskova. Medtem ruski mediji pišejo, da podjetje na vseh že omenjenih področjih postopoma napreduje.
Kako preprečimo napad avta brez voznika?
Cognitive Technologies namerava na avte brez voznika nameščati naprave, ki so v marsičem podobne tistim na letalih, na primer črne skrinjice. Uskova je prepričana, da bomo morali sestaviti nov CPP in pripraviti javne ceste na nova vozila, kar vključuje posebne pasove, znake in oznake na cestah za vozila brez voznikov.
Še vedno ostaja odprto vprašanje, kdo točno bo odgovarjal za morebitne prometne nesreče z udeležbo robotskega avtomobila – človek na vozniškem sedežu ali podjetje, ki je razvijalo avtomobil?
»Zakon določa, da mora vsako prevozno sredstvo upravljati človek, ta pa ga je dolžan nadzorovati in odgovarjati za posledice. Za dejanja avtopilota pa bi v bistvu moral odgovarjati programski sistem, ki ga je definiral proizvajalec,« razmišlja Bikov. Tudi ko je marca 2016 na to temo prvič razpravljala komisija za razvoj strateških informacijskih sistemov v ruski državni dumi, je odgovornost padla na voznika, tudi če njegov avto upravlja umetna inteligenca.
»Trenutno je umetna inteligenca le sistem, ki lahko opozarja na nevarne situacije z minimalnim vmešavanjem v nadzorni sistem. Z nadaljnjim razvojem inteligence pri avtonomnih vozilih se bo urejala tudi zakonodaja in odgovornost bo padla na podjetje, ki je razvilo vozilo,« pa poudarja Uskova.
© Rossijskaja gazeta, vse pravice pridržane.
Preberite še:
Tri tehnologije samovoznih avtomobilov, ki so delo ruskih inženirjev
Je umetna inteligenca grozljivka prihodnosti ali priložnost za človeštvo?
Če bi radi uporabili vsebino s spletne strani Russia Beyond (delno ali v celoti), pri svoji objavi dodajte zraven še povezavo na prispevek na naši strani.
Naročite se
na naše novice!
Prejmite naše najboljše zgodbe po elektronski pošti.
