Kuka vastaa itseajavan auton etiikasta?

Autonomisen ajamisen suurin haaste tulee olemaan ihmisen päättelykyvyn korvaaminen koneälyllä. Konetta ei voida nykyisellään opettaa tekemään puhtaasti abstrakteja päätöksiä, vaan kaikki reagointimallit ovat seurausta laitteeseen ennakkoon ohjelmoiduista ratkaisumalleista.

Ongelmatilanteissa kone ohjelmoidaan luonnollisesti valitsemaan mahdollisista ratkaisuista vähäisimmän haitan vaihtoehdon eli välttämään kolarit tai henkilövahingot, mikä on ns. win-lose-tilanne. Ongelmaksi muodostuvat tilanteet, joissa mikään oletettava vaihtoehto ei tuota positiivista lopputulosta eli ns. lose-lose-tilanteet. Miten kone ohjelmoidaan ratkaisemaan eettinen ongelma ja kuka päättää, miten ongelma tulee ratkaista?

Kuvitellaan tilanne, jossa auton eteen hyppää yllättäen lapsi, ja ainoa keino olla osumatta lapseen on ajaa auto ojaan, mikä puolestaan johtaa suurella todennäköisyydellä kuljettajan ja muiden matkustajien kuolemaan. Miten auto tulisi ohjelmoida tällaisten tilanteiden varalle: säästää matkustajat surmaamalla lapsi, vai surmata matkustajat ja pelastaa siten lapsi? Kone voi joutua myös tilanteisiin, joissa se joutuu tekemään valinnan muiden näkökohtien perusteella: vanha vai nuori; yksi ihminen vai monta ihmistä?

Kuva: Ethical cars

Lähde: MIT Technology Review.

Eettisten valintojen suhteen nykylainsäädännöstä ei ole juurikaan apua. Perustuslaki turvaa jokaiselle ihmiselle oikeuden elämään ja koskemattomuuteen (PL 7 §) ja sen, ettei ketään tule asettaa huonompaan asemaan syrjivin perustein (PL 6 §). Tämän valossa valintaa ei voida tehdä sen välillä, keneen osutaan tai miten osuttava kohde valikoituu.

Lukuisissa keskusteluissa eettisimpänä vaihtoehtona pidetään ratkaisumallia, jossa ajoneuvon tulisi jatkaa valitsemallaan kaistalla eli ajaa niiden ihmisten päälle, jotka olisivat tilanteessa suoraan sen edessä. Tässä mallissa ei otettaisi huomioon henkilöiden henkilökohtaisia ominaisuuksia tai lukumäärää. Kannan eettisenä perusteena on ajatusmalli, jonka mukaisesti on parempi tai ainakin vähemmän huonompi vaihtoehto antaa kuoleman tapahtua kuin aktiivisesti valita joku kuolemaan.

Mihin tahansa ratkaisuihin lopulta päädytäänkin, niiden tulee olla ennakoitavissa ja johdonmukaisesti noudatettavissa. Tällaista päätäntävaltaa ei voida asettaa yksittäisen yrityksen tai koodaajan ratkaistavaksi, vaan eettisen logiikan tulee perustua valtiolliseen päätäntään ja lainsäädäntöön. Oman ongelmansa luovat tilanteet, joissa eri valtiot soveltaisivat erilaisia eettisiä näkökulmia tämän ongelman ratkaisemiseen. Tästä voisi nousta kysymykseksi, tulisiko auton ominaisuuksien muuttua sen mukaan, missä valtiossa sen kanssa kulloinkin liikutaan.

Törmäystilanteissa kaikista vaihtoehdoista todennäköisin on ratkaisumalli, jossa ajoneuvon matkustajat suojataan muiden kustannuksella. On vaikea nähdä, että itseajavat autot voisivat olla kovinkaan suuria myyntimenestyksiä, jos autot ohjelmoitaisiin hätätilanteessa asettumaan omistajaansa vastaan. Toisaalta ajoneuvoon pystytään ohjelmoimaan asetus, jolla matkustaja hyväksyy tämän ratkaisuvaihtoehdon. Tällainen hyväksyntä tulisi pyytää kaikilta matkustajilta ja jokaiselle matkalle erikseen. Kysymys tässä tilanteessa tietysti on: kuka meistä on valmis antamaan tällaisen hyväksynnän?

Autojen älyominaisuuksien lisääntyminen asettaa muutospaineita voimassa olevalle lainsäädännölle. Nykyisellään aputoiminnoista huolimatta jokaisessa tilanteessa toimintavastuu on kuljettajalla. Esimerkki tästä on Floridassa tapahtunut Teslan Autopilot-toiminnon aiheuttama tapaturma, joka johti kuljettajan kuolemaan. Yhdysvaltain National Highway Traffic Safety Administration ei katsonut Teslan olevan vastuussa kuolemantapauksesta, joka aiheutui rekan käännyttyä yllättäen vastaantulijoiden kaistalle, koska kuljettaja ei seurannut liikennettä riittävän aktiivisesti Teslan ohjeistuksen mukaisesti, vaan katsoi todistajanlausuntojen mukaan Harry Potter -elokuvaa DVD-soittimelta. Autopilot-toiminnossa kuljettajalla on vastuu vaaratilanteessa ottaa ajoneuvo takaisin hallintaansa. Iso-Britanniassa lainsäädäntö mainitsee erikseen kuljettajan olevan vastuussa auton suorittamista toiminnoista (the Road Traffic Act, 1998).

Suomessa voimassa oleva lainsäädäntö tarjoaa joitakin vastauksia vastuukysymykseen. Tuotevastuulain mukaan vahingonkorvausta on suoritettava vahingosta, joka on johtunut siitä, että tuote ei ole ollut niin turvallinen kuin on ollut aihetta odottaa. Saman lainkohdan mukaan turvallisuutta arvioitaessa on otettava huomioon ajankohta, jona tuote laskettiin liikkeelle, tuotteen ennakoitavissa oleva käyttö, tuotteen markkinointi ja käyttöohjeet sekä muut seikat. Samaisen lain 2 § tosin poissulkee korvausvelvollisuuden ajoneuvon itselleen aiheuttamasta vahingosta.

Jos kuljettajan rooli ajoneuvossa lähestyy passiivisen matkustajan roolia, tulisiko kuljettajan vastuun mukautua tähän tilanteeseen? Voidaanko itseajavassa autossa matkustava henkilö rinnastaa taksimatkustajaan? Voisiko matkustajan vastuu aktualisoitua ainoastaan tilanteissa, joissa hän on omilla toimillaan aiheuttanut sellaisen häiriön, jonka voidaan katsoa vaikuttaneen kuljettajan toimiin? Voidaanko tätä analogiaa soveltaa myös muihin auton tekemiin rikkomuksiin? Teslan Autopilot-ohjelma on mahdollista asettaa ajamaan tietoisesti ylinopeutta, mikä on tietyissä olosuhteissa korkeintaan 10 km/t. Tämän katsotaan lisäävän ajoturvallisuutta auton mukautuessa muun liikenteen nopeuteen, kun ihmiset ajavat yleisesti hieman nopeusrajoituksia kovempaa.

Suurella todennäköisyydellä älyautoihin asennettavaksi tulevat ohjelmistot tuottaa tulevaisuudessa autonvalmistajasta ulkopuolinen toimija. Tuleeko älyautoista tietokoneiden tapaisia alustoja, joihin ohjelmisto ostetaan erikseen? Tai tuleeko markkinoille pari suurta toimijaa, joiden ohjelmistoja kaikki autonvalmistajat käyttävät puhelinmarkkinoiden tapaan (Android, iOS)? Entä voidaanko tällainen ohjelmisto vaihtaa myöhemmin toiseen? Tämä herättää mielenkiintoisen kysymyksen älyautoon liittyvästä vastuusta. Mikä on tällaisen ohjelmistotuottajan sekä toisaalta autonvalmistajan vastuu lopputuotteen toiminnasta?

Tarpeeksi pitkällä tarkasteluaikavälillä kaikki tekniset komponentit lakkaavat toimimasta, osa nopeammin kuin toiset. Lineaarisen tai asteittaisen hajoamisen sijaan ohjelmistokomponenteille on ominaista binäärimuotoinen toimivuus. Ne joko toimivat täysimääräisesti tai eivät ollenkaan, mikä tekee niiden kuntoisuuden tarkistamisesta varsin vaikeaa. Miten näiden komponenttien hajoamistodennäköisyys voidaan havaita ja miten niiden kuntoa voidaan valvoa? Mikä on yksittäisen komponenttivalmistajan vastuu, jos osan toimimattomuus johtaa suurempaan haittaan? Voidaanko valmistajan vastuuta siirtää kuluttajalle asettamalla tälle vaatimus komponenttien huolenpidosta esimerkiksi vaatimalla huolto-ohjelman mukainen osien tai ohjelmistojen vaihtaminen tietyllä intervallilla?

On ilmeistä, että tieliikennelakia, liikennevakuutuslakia ja lakeja tuotevastuusta tulee muuttaa, jotta ne ottaisivat paremmin huomioon tulevan muutoksen sekä teknologisessa kehityksessä että toisaalta myös ajokulttuurissa. Nykyisellään lainsäädäntö herättää liikaa kysymyksiä, joihin ei saada suoria vastauksia, vaan ainoastaan huomattavia tulkintaongelmia.

Tilanne aiheuttaa epävarmuutta vastuun jakautumisesta ongelmatilanteissa sekä ostajien että valmistajien keskuudessa. Liian tiukka tuotevastuu valmistajalle, mikä asettaisi autonvalmistajat automaattiseen vastuuseen kaikista kolarivahingoista ja tapaturmista, todennäköisesti jarruttaisi itseajavien autojen kehitystä. Valtion tulee kantaa vastuu eettisten kysymysten ratkaisuista. Näiden annettujen parametrien sisälle valmistajat voisivat sitten muovata tekniset ratkaisunsa ja ohjelmistonsa.

Kari-Matti Lehti
Osakas

Mikko Leppä
Osakas

Mikko Kaunisvaara
Legal Trainee

 

Kirjoittajat
Kari-Matti Lehti
Osakas
HPP Asianajotoimisto Oy

Kari-Mat­ti Leh­ti on yksi Suo­men joh­ta­vis­ta in­for­maa­tio­tek­no­lo­gi­aan ja ul­kois­tuk­siin eri­kois­tu­neis­ta ju­ris­teis­ta. Hä­nel­lä on yli 15 vuo­den ko­ke­mus asiak­kai­den avus­ta­mi­ses­ta lii­ke­ju­ri­dii­kas­sa, eri­tyi­ses­ti so­pi­muk­siin, ul­kois­tuk­siin, im­ma­te­ri­aa­lioi­keu­teen sekä yk­si­tyi­syy­den­suo­jaan ja tie­to­tur­vaan liit­ty­vis­sä asiois­sa sekä Suo­mes­sa että kan­sain­vä­li­ses­ti. Hän on pe­reh­ty­nyt laa­ja-alai­ses­ti eri­tyi­ses­ti kau­pal­li­siin so­pi­muk­siin liit­ty­viin jär­jes­te­lyi­hin, stra­te­gioi­hin ja imple­men­toin­tiin.

Mikko Leppä
Osakas
HPP Asianajotoimisto Oy

Mik­ko Lep­pä on eri­kois­tu­nut avus­ta­maan asiak­kai­ta rii­dan­rat­kai­suun liit­ty­vis­sä asiois­sa. Mi­kol­la on vii­den­tois­ta vuo­den ko­ke­mus ko­ti­mais­ten ja ul­ko­mais­ten asiak­kai­den edus­ta­mi­ses­ta kau­pal­li­siin rii­toi­hin liit­ty­vis­sä oi­keu­den­käyn­neis­sä ja vä­li­mies­me­net­te­lyis­sä. Li­säk­si Mik­ko avus­taa koti- ja ul­ko­mai­sia yri­tyk­siä kau­pal­lis­ten so­pi­mus­ten laa­ti­mi­ses­sa ja neu­vot­te­luis­sa.

Jaa artikkeli