NRGreport
Menü

AI: felelős lehet-e egy robot a tetteiért?

Interjú | Végh Zsófia | 2017-02-06 08:00

Ki vonható felelősségre, ha egy önvezető autó miatt baleset történik? Milyen szabályokat kell az intelligens robotokat tervező mérnököknek a jövőben követniük? Meddig „mehet el” egy háztartási ápoló robot anélkül, hogy megsértené a gondozott személy privát szféráját? Többek között ezekre a kérdésekre kíván választ adni az az Európai Parlament Jogi Bizottsága által készített és január 12-én elfogadott jelentés. A dokumentumot februárban tárgyalják a Európai Parlament plenáris ülésén. Az Unión kívül is nagy figyelmet is kiváltó jelentést jegyző Mady Delvaux képviselőnővel beszélgettünk.​

A jelentés EU-n kívül is figyelmet keltő felvetései, javaslatai

 1. Adó fizettetése az intelligens robotok után: "meg kellene vizsgálni a robot által végzett munka megadóztatásának lehetőségét annak a kontextusában, hogy a munkanélkülivé váló emberek támogatását és átképzését finanszírozni kell"

2. Új jogi státusz az intelligens robotoknak: "a robotok önállósága fölveti, hogy a meglévő jogi kategóriák fényében tisztázni kell, milyen természettel rendelkeznek, vagy esetleg új kategóriát kell megalkotni"

3. Vészleállító: Könnyen elérhető vészleállítókat kell beépíteni a robotokba (kill switch)

4. Alapjövedelem: "vitát kell indítani az új foglalkoztatási modellekről, az adó- és társadalombiztosítási rendszerünk fenntharthatóságáról a létfentartáshoz szükséges jövedelem talaján, beleértve az alapjövedelem lehetséges bevezetését is"

Forrás: REPORT
with recommendations to the Commission on Civil Law Rules on Robotics


(A szöveg finomodott, a javaslatok megfogalmazásának éle tompult, de lényegileg nem változott a tervezethez képest, amely magyarul is elolvasható itt. Az idézetek az elfogadott, végleges jelentésből származnak.

A brüsszeli bürokrácia nem a gyorsaságáról híres, ám ezen a területen nem engedheti meg magának az Unió, hogy évek teljenek el, mire elkészül a szabályozás. Mit gondol, ha a megalkotás mellett dönt, képes lesz időben asztalra tenni a Bizottság?

Nem lesz egyszerű, de sürgősen szükségünk van egy, a már forgalomban lévő robotok (önvezető autók, drónok) felelősségét meghatározó szabályozásra, ahogy a következő 10-15 évben kifejlesztettekére is. A Bizottság és több ország is dolgozik már rajta. Idén mindenképpen el kell, hogy készüljön, s úgy vélem, el is fog készülni – legalábbis a felelősségre vonatkozó rész.

A felelősség a javaslatcsomag igen hangsúlyos eleme.

Ez összefügg azzal, hogy a Jogi Bizottságban ülök. S persze a további fejlesztések irányvonalát is meg kell határozni.

Javaslataik szerint akár jogi személyiséggel is felruháznák a robotokat. Miért van erre szükség?

Erre a felvetésre nagy figyelem összepontosul, de nem hiszem, hogy a közeljövőben szükség lenne rá. Ugyanakkor a következő generációs robotok a maiaknál jóval kifinomultabb képességekkel rendelkeznek majd. Az öntanuló robotok cselekedeteiért nem lehet majd kizárólag a tervezőiket felelősségre vonni. Addig is laboratóriumi, ipari környezetben figyeljük viselkedésüket, s reflektálunk arra, hogy a jogi személyiség megalkotása mellett/helyett van-e egyéb módja, hogy az általuk okozott károkért mást vonjunk felelősségre.

Mady Delvaux. Forrás: Európai Parlament


Nem mindig az ember felel a robotok tevékenységéért?

Meggyőződésem, hogy a robotok működéséért végső soron az emberek lesznek felelősek. Persze nem mindegy, hogy ki. A robotok működtetéséhez a gyártón túl szükség van az adatszolgáltatóra és a hálózat üzemeltetőre is – hiszen csak rendszerbe kapcsolva tudnak funkcionálni. A legfontosabb, hogy a fogyasztó biztonságban érezze magát, s tudja, hogy probléma esetén valaki mindenképpen fizet. Jómagam a gyártó felelősségét tartom a legfontosabbnak, hiszen amikor vásárolok valamit, ő garantálja, hogy a termék nem okoz kárt. Még nem döntöttünk, mindenekelőtt a kérdés fontosságára szeretnék felhívni a figyelmet.

S milyen elv vezérelte azon javaslatukat, mely szerint az önvezető autókra egy, a kötelező biztosításhoz hasonló biztosítás megalkotására szólítsák fel az Európai Bizottságot?

Logikus lenne, nem? A hagyományos autók esetében a vezető köti a biztosítást, a vezető nélküli autók esetében is fizetnie kellene valakinek.

Pontosan kinek?

Erről még nem sikerült megegyeznünk. Vannak, akik szerint a vezetőnek kellene fizetnie. Ugyanakkor nem ő vezeti az autót, a betáplált algoritmusok alapján az autó hozza a döntéseket. Ebből adódóan úgy vélem, a gyártónak kellene a biztosítást megkötnie. Ennek költségeit azonban – nyilvánvalóan – beépítenék az autó árába, tehát közvetve az autó tulajdonosa állná a díjakat. Ráadásul a gyártók sokkal előnyösebb szerződéseket tudnának kialkudni a biztosítótársaságoktól.

Támogatná járulékok kivetését vagy extra "robotadó" kivetését?

Jómagam támogatom, legalább egy vita indítását arról, hogy milyen módon finanszírozzuk a szociális rendszerünk fenntartását. Ugyanis abban az esetben ha (a robotok miatt) kevesebb lesz a munka, találunk kell más módot arra, hogy szociális rendszerünket, a társadalombiztosítást finanszírozzuk. Úgy gondoljuk, hogy ez mindenképpen vitára érdemes kérdés, azonban abban már nem vagyok biztos, hogy ez a kérdést jóváhagyja-e a plenáris, meg kell várnunk a döntésüket.

Egy, a robotika fejlesztését koordináló charta megalkotását is javasolta.

Mihamarabb szükség van a programozók és a gyártók munkáját segítő etikai és jogi keretekre. A robotok az emberek javát kell, hogy szolgálják mindenekfelett: tekintettel kell lenniük az emberi méltóságra, a privát szférára, a szabadságjogokra. Fontos, hogy az emberek ne függjenek a robotoktól.

Hogy lesznek képesek a fenti és egyéb szempontokat betartatni úgy, hogy a fejlesztő mérnökre vonatkozó etikai kódex elfogadása a javaslat szerint önkéntes?

Csupán eleinte: először a közös elvekről kellene megállapodni. Szeretném elérni, hogy ezen elveket a szabványosítás során már alkalmazzák. Hogy biztosak legyünk abban, hogy például van lehetőség titkosításra – a biztonság a legfontosabb. Hogy ki lehessen kapcsolni az otthoni ápolást végző robotokat azért, hogy a gondozottak személyes szabadsága ne sérüljön.

Tehát hosszabb távon a fejlesztőknek az etikai-jogi megfontolások szerint kell tervezniük?

A szabványosítás után egy egységes európai piacon nem lehetséges, hogy a robotok ne feleljenek meg az előírásoknak.

Mennyire észszerű kizárólag az európai piacra fókuszálni, s itteni szabványokat alkotni? Ázsiában, az Egyesült Államokban nagy léptekkel haladnak a fejlesztésekkel, s a parlament is szorgalmazza, hogy nemzetközi szervezetekkel, például az ENSZ-szel is együttműködjünk.

Természetesen nemzetközi szabványok is kellenek. Azonban Európa kiemelkedik a robotikában, ezért fontos, hogy előbb a saját szabványaikat fektessük le. Ezután beszélhetünk nemzetközi együttműködésről, miután a kellő szintű jogi, adatvédelmi, személyi jogi védelemmel rendelkezünk. Ahhoz, hogy a folyamat gyorsabban végbemenjen, kell az együttműködés

A javaslatok kidolgozásakor merítettek más kontinensek, például az USA gyakorlatából?

Bár évről évre bővül, a globális robotikaközösség meglehetősen kicsi. Számos konferencián, szakmai fórumon egyeztetnek: az Egyesült Államok, Kína, Japán.

Tehát az EU nem fog ezen a területen (is) lemaradni a nemzetközi versenyben?

Az egyetlen aggályom ezen a téren a finanszírozás. Nagyon sok kimondottan érdekes, egyedi fejlesztés történik Európában – a kontinens vezető szerepet tölt be az ipari robotika és a szolgáltatórobotok fejlesztése terén –, azonban rengeteg kis méretű céget, startupot felvásárolnak az amerikaiak vagy a japánok.

A munkacsoportban láttak-e vmi kifejezetten energetikaspecifikus ügyet? Mit gondol, például az autonóm robotok alkalmazásának veszélyeiről a hálózatokban?

A robotok működéséhez mindenekelőtt rengeteg energiára van szükség – a kutatóknak ezért arra kell fókuszálniuk, hogy hogyan biztosítsák ezt az energia mennyiséget, s arra, hogy mindezt fenntartható módon tegyék. Ami a kapcsolt vezetékek, rendszerek biztonságát illeti, komoly kihívással kell szembenéznünk.

Az önvezető autók tevékenységének szabályozása mellett leginkább a drónokét sürgeti. Miért?

A drónok már jó ideje piaci forgalomban vannak. S ugyan tavalyelőtt készült egy tanulmány róluk, s a szabványosításukra szólítottak fel, úgy véljük, kevés, ha kizárólag a kereskedelemben engedélyezett drónok működését szabályozzák. A magánszemélyek által elérhető, akár 30 kilogrammos gépek is komoly kárt tudnak okozni, ezért a jognak ezekkel is foglalkoznia kell, s a légtérrel is. Mi történik akkor, ha egy ilyen egy repülőgéppel ütközik? Sürgősen szükség van szabályozásra. Sajnos, mint mindig, most is lassan haladunk – 28 országot közös nevezőre hozni nem egyszerű.

Mégis mikorra tenné a szabályozás életbe lépését?

Az elvégzett munka és a tempó alapján úgy vélem, hogy mindez még az idén megvalósul.

Mady Delvaux

Európai Parlamenti képviselő, Szocialisták és Demokraták Progresszív Szövetsége az Európai Parlamentben képviselőcsoport (Luxembourg)

A metzi egyetemen és a Sorbonne-n végzett mérnöki, nyelvi és irodalomi tanulmányokat. Latin-francia nyelvtanárként dolgozott 1989-ig, (közszolgálat államigazgatás), emellett a szocialista párt női tagozatának elnöke, az LSAP országos elnökségi tagja volt. 1999 és 2004 között luxemburgi parlamenti képviselő, 1994 és 1999 között szociális biztonsági, közlekedési és kommunikációügyi miniszter, 2004 és 2013 között oktatási miniszter volt. 

 

Végh Zsófia