Dr. Martony Ágnes előadása az AI FORUM Hungary 2018 eseményén

 

Tavalyi elemzésünk alapját az adta, hogy egyes arcképfelismerő programok forgalmazói, megalkotói arra vállalkoztak, hogy az alkalmazott algoritmus alapján megmondják, ki vagy kik lehetnek veszélyesek, agresszívek, esetleg terroristák. Ismertetésre került az, hogy ezek a programok leginkább két helyen és területen vannak alkalmazva: egyrészt a bűnüldözésben másrészt a biztonsági szektorban (security), – kiemelkedően sok esetben egyrészt az USÁ-ban, másrészt Kínában.

A tavalyi AI Forum Hungary eseménye óta eltelt egy év első felében a brit és amerikai sajtóban egyre fokozódó gyakorisággal lehetett olvasni arról, hogy az Mesterséges Intelligencia hogyan szövi át a mindennapi kínai életet és az mindennapi kínai életét.

Részletesen olvashattunk arról, hogy mivel Kínában viszonylag későn alakult az ki, hogy az embereknek bankszámlájuk legyen, ugyanakkor az online fizetési módok és kereskedelem hihetetlen mértékben és gyorsaságban nő és nőtt ezért a nyugati világban szokásos és alapvető pénzügyi megbízhatóságot nem tudják a nyugati módszerek és standardok szerint ellenőrizni, ezért nem „pénzügyi credit system” van, hanem egy úgynevezett „social credit system”. Ez a pénzügyi megbízhatóságot, az erkölcsi megbízhatóságon keresztül, az erkölcsi megbízhatóság alapján próbálja megállapítani. Nem a pénz felől van megbízhatóságunk feltérképezve, hogy pontosan és időben fizetjük a jelzáloghitelt, a banki törlesztő részleteket, a közüzemi számlákat, a parkolási büntetést – hanem az általános emberi magatartásunk és viselkedésünk alapján vonódik le egy következtetés arra nézve, hogy pénzügyi területen is éppen olyan megfelelően jól fogunk teljesíteni, ezért megnyílhat előttünk egy hitel vagy egy nagyobb pénzügyi tranzakció.

Mit jelent ez a „social credit system”? Azt jelenti, hogy az egyes kínai állampolgár valamilyen rendszernek a tagja, ebben a rendszerben rögzítik a cselekvéseit, adatait: kik a családtagjai, barátai, ismerősei, azok is részt vesznek-e ilyen credit rendszerben, ott milyen az osztályzatuk.

Az illető kínai mit, mikor és hogyan csinál – az erről való információ szerzés nem erőszakosan történik vele szemben, hanem a digitalizáció és Mesterséges Intelligencia mindennapi eszközei által, legnagyobb mértékben önkéntesen. Az illető okostelefonján keresztül, arra applikációkat letöltve telefonál, fizet, böngész oldalakat, rendel árukat és szolgáltatásokat – egyszóval éli az életét. Mindehhez hozzáférése van annak a „credit rendszernek”, amely alapján ő azt akarja, hogy referenciája legyen az áruk és szolgáltatások igénybevételéhez. Minél több adat van róla, annál jobban fel lehet őt és életét térképezni, annál biztosabban lehet róla megállapítani, hogy „megbízható” személy. Lehet hogy az egyén úgy általábannem szeretné, hogy ennyire „átlátszó legyen”, de tulajdonképpen nem ellenzi, mert szeretné, ha mindennapi élete minél egyszerűbb és könnyebb lenne, ha sok mindent megtehetne.

Mindez a sok adat nem csak a privát szférában gyűlik róla, hanem az közösségi/köz szférában is: ahányszor átmegy a gyalogos átkelőn, ahányszor vonatra, repülőre, metróra száll, ahányszor egy biztonsági kamera rögzíti a mozgását, minden egyes alkalommal nyomot (adatot) hagy maga után. Ezek az adatok, mondjuk az arcképfelismerő rendszer segítségével összefuttathatóak és a személyi okmányokon keresztül egy pontba szervezhetőek.

2018 első felében tehát az angolszász sajtó sok olyan példát hozott fel, amikor a „rendszer üzemeltetője”, egyszerűen fogalmazva a „cenzor” úgy döntött, hogy az adott személyt egy adott helyzetben korlátozza: nem csak felfüggeszti, hanem teljes mértékben törli az adott személy hozzáférését a saját közösségi oldalához, valamennyi adatával, információjával együtt (képek, ismerősei telefonszámai, címei), mert a posztolt információ nem „megfelelő”, „sérti a közerkölcsöt, mert nem megfelelő életmódot propagál”. Nem kap social creditet, vagy csak alacsonyat, mert naponta 10 órát játszik a Xbox-on vagy Ps4-en, game-el, így nem tekinthető egészséges személyiségnek.

Az, aki jegy nélkül utazik a vonaton vagy egyéb, nem megfelelő magatartást tanúsít, kizárható az utazásból. Ismerjük ezeket a feltételeket, akár a budapesti buszjáratokon is olvashatóak ilyen rendelkezések, de ha ezt az adatok összekapcsolásával egy egész ország területére általánosan alkalmazzuk, elképzelhetővé válik a hatása.

Mindez tovább fokozható, ha több különböző rendszer adatait soroljuk össze, tagoljuk be, válogatjuk le az egyénre – a különböző szempontok szerint gyűjtött információ egy csomópontba kötve tökéletes kontrollt jelenthet az egyén élete felett, főleg akkor, ha figyelemmel vagyunk arra, hogy mindennapi életünket is egyre okosabb városokban éljük, egyre jobban körülvéve a Dolgok Internetes Rendszerétől (Internet of Things).

A nyugati híradások elrettentésként ismertették azt, hogy Kínában ugyan a jelenlegi vezetés a „jogi alapú adatfelhasználás”-t tűzte ki célul, ugyanakkor ez nem jelenti a „jogállamiságot” a „rule of law”-t, hiszen Kínában a jogszabályokat a párt apparátusa hozza így az, hogy kiről és milyen adat rögzíthető, gyűjthető, azt hogyan és miként használják lehet adott esetben megfelelő a hatályos jognak, ugyanakkor a nyugati mércével vett jogszerűségnek nem biztos hogy megfelel.

Egyöntetű volt a megállapítás, hogy igen, mindez a lehetőség, ha államikézben összpontosul és főleg, ha nem a megfelelő állami kézben összpontosul, akkor annak rossz vége lehet, az egyénre és szabadságjogaira nézve.

És akkor egyre másra kezdtek a felszínre kerülni azok a híradások, amelyek nem Kínából, hanem a nyugati világból jöttek, ahol adataink, digitális lenyomataink elsősorban nem állami hanem magán kézben vannak.

A 2016-os amerikai elnökválasztás kapcsán került előtérbe a hírek manipulációjáról szóló kérdés, a „fake news” kérdése, ezek hatása és befolyása a politikára, az egyes választásokra. Az átlag online térben is élő, digitalizáltan is tevékenykedő állampolgár sajnálattal vette ezt tudomásul, azt gondolta, hogy álhírek, hazugságok mindig is voltak és lesznek is.

Majd 2018 márciusában derült arra fény, hogy a Facebookon élt életéről felhalmozott információkat kifejezett hozzájárulása nélkül továbbították 3.személynek felhasználás, tanulmányozás, analízis érdekében. Ez volt a Cambridge Analytica esete, ahol először vált nyilvánvalóvá és rögzült a legtöbb ember fejében, hogy online tevékenységünk nem csak hogy nyomot hagy – és adott esetben régi dehonesztáló fotóink nem törölhetőek – hanem ezt a nyomot, adatot valakik összegyűjtik és használják, felhasználják – akár kereskedelmi céllal is.

2018 májusában közölték azt a hírt, hogy a brit bevándorlásügyi hatóságnál használt algoritmus helytelenül jelölt meg tömegesen személyeket, akiket a bevándorlási hatóság kiutasított az országból.

2018 május 25-én lépett életbe az Európai Unió területén a GDPR szabályozás, amely komoly előkészületeket igényelt elvileg, ugyanakkor csak az utolsó hetekben kapott valós és jelentős nyilvánosságot.

2018 májusában minden valamirevaló európai tévé, rádió, online és print média a GDPR szabályozással foglalkozott így az átlag állampolgár, az egyszerű Facebook használó is lassan megértette, hogy egy kisebb fajta tévedésben él. Az átlagos felhasználó azt gondolta, hogy a közösségi oldal használatakor egy ingyenes, kvázi közszolgáltatást vesz igénybe, amely azért bizalmasan van kezelve. A zárt csoportjában megjelenő tartalmat csak a zárt csoport tagjai olvashatják. Tevékenysége a sajátja, törli amit akar, személyre szólóan szabhatja meg a beállításokat. A GDPR szabályok hosszantartó és többoldalú elemzése és a közösségi oldalakon folyamatosan változó gyakorlat miatt az egyszerű átlag felhasználóban tudatosult, hogy a használat díjmentes, de ennek ára van.

Adataival, életével fizet.

Konkretizálódott mindenkiben, hogy minden kattintás, leírt betű, megosztott fénykép nyomot hagy. Ez a nyom, az adat az üzemeltető általi megszerzése, birtoklása – határozatlan idő és minden egyéb keret, szabályozás nélküli birtoklása és használata az ára a közösségi oldal használatának. Adott esetben adatainak 3. fél részére, ellenérték fejében átadása, elemzése – majd ezen adatok alapján a hirdetések elhelyezésének lehetővé tétele, szintén ellenérték fejében.

A Cambridge Analytica részére pénzért átadott adatok után 2018 szeptemberi a hír, mely szerint egy illegális behatolás során a Facebookon 50 millió felhasználó adataihoz férhettek hozzá. Ettől a hírtől teljesen nyilvánvalóvá vált a valóság: ingyenesen és önkéntesen megszerzett adataink egyrészt másoknak profitot termelnek – hozzájárulásunk nélkül, másrészt ugyanezek az az adatok pedig védtelenek is, akár tisztességtelen célból és módszerrel megszerezhetőek és használhatóak, felhasználhatóak. Mindez az adatokat begyűjtő magáncégtől függ, mely nem áll állami vagy köz szabályozás alatt.

Ezen híradások után kezdett jelentősége lenni azoknak az Amerikai Egyesült Államokban zajló, nevezhetnénk „marginális” vitáknak, amelyeket egyes jogvédő szervezetek kezdeményeztek nevesül az arcképfelismerő rendszerek használatáról. Lassan kerültek egymás mellé az események, melyek a magyar közönség szemszögéből nézve lehet hogy érdektelenek:

A teljesség igénye nélkül említhetjük meg, hogy

a Facebook 2017 decemberében bevezette az automata arcképfelismerést oldalain,

2018 januárjában a Microsoft együttműködést kötött az ICE-al az USA bevándorlási hatóságával,

2018 februárjában egy másik nagy cég a Palantir jelentette be az arcképfelismerés használatát New Orleans -i rendőrséggel,

2018 áprilisában a Google alkalmazottak írtak peticiót a MAVEN project ellen,

2018 júniusban a Facebook és az Amazon alkalmazottak külön-külön protestáltak az arcképfelismerő programok rendőrségi felhasználása ellen, Microsoft alkalmazottak pedig az ICE-al való együttműködés megszüntetését követelték.

Kiderült, hogy az ICE-nál algoritmus állapítja meg ki kaphat belépést, utasítható el/ki az országból.

A hab a tortán az az az esemény volt, amikor az Amazon arcképfelismerő programja az amerikai törvényhozás 28 tagjának kilétét állapította meg tévesen.

Az információk alapján szép lassan nyilvánvalóvá vált, hogy az egyes ember élete felett kialakított/kialakult kontroll nem attól függ, hogy egy autoriter, egy antidemokratikus politikai vezetés kezében összpontosul-e – hanem hogy maga a technológia engedi ezt meg, sőt kényszeríti ki, hozza létre a totális felbontást és kontrollt – és mindez, ha magán kézben van éppen úgy korlátozza jogainkat, törli el a magán, privát szférához való jogunkat.

A nyugati világban az, hogy az információ az adat egy magán cég kezében van azt is jelenti, hogy egy adott cég belső szabályzata, vagy egyszerűen a cég vezetése dönti el milyen adatot és hogyan gyűjtenek, miként elemeznek, adott esetben mit cenzúráznak ki egy internetes oldalról – mivel ez a cég belső „üzleti” szférájához tartozik senki sem kényszerítheti ki ezek kiadását, nincs felette állami kontroll. Erről mindig az az angol történelemben lezajlott esemény jut eszembe, amikor a király koronázására a feleségét nem engedték be, mert az egy „private event” volt, ahova csak meghívóval lehetett bemenni – és a király feleségének (aki ugye queen consort lett a koronázás után), nem adtak meghívót, mert rosszban voltak egymással.

Tulajdonképpen így van ez az adatgyűjtéssel is. Ez egy ’private event’ – nem szólhat bele senki, azt csinálok az adattal, ami a cégem, a profitom szempontjából jó nekem. Vagy ha Kínára nézünk, akkor ott azt csinálok vele, ami a hatalmam megtartása érdekében szükséges vagy fontos.

Lassan tehát kialakult azt az egyetértés, hogy szabályozás szükséges. A kérdés a hogyan.

Az egyes Tech cégek nagysága miatt mindenki rögtön az anti-trust törvények alkalmazására gondol.

Kezdetben az Apple és a Microsoft ez ellen azzal védekezett, hogy egy új iparág jött létre, egy olyan, amit bárki bármikor egy garázsból is a feje tetejére állíthat, nem lehet monopóliumról beszélni. Több anti-trust eljárás indult a Microsoft ellen az 1990-es években, amely védekezett ezekben az eljárásokban közben a Google meghatározó pozicióba került az internet felett, a döntéshozók azt látták, hogy a piaci szabályozás működik, nem kellenek új jogszabályok. Közben a Google monopóliumot szerzett az internetes keresés a „search” felett, a Facebook a közösségi oldalak területén, az Amazon pedig az internetes kereskedésben.

Újból felmerült az anti-trust szabályok alkalmazása, most a Tech cégek védekezése azon alapul, hogy „éri-e hátrány” a fogyasztót (do customers suffer)?

Itt ér össze a jogi és a morális kérdés. Hogyan határozzuk meg a hátrányt, a szenvedést? Az ár felől nem lehet megközelíteni a kérdést, mivel a szolgáltatások ingyenesen vehetők igénybe. De ér-e hátrány azzal minket, ha az elégtelen biztonsági megoldások miatt adatainkat ellopják? Ha életünk minden mozzanata feltérképezhető, kiszámítható lesz? Időnk és figyelmünk állandó megosztása, elfoglalása vajon hátránynak fogható fel?

Miközben az állampolgárok ezeken a kérdéseken gondolkoztak egyre több hír jelent meg a Facebook kifogásolható etikai és morális magatartásáról, amely lassan az egész iparág jó hírnevét kezdte/kezdi kikezdeni. A verseny valóban éles így közvetlenül a versenytársak kezdtek felszólalni a szabályozás érdekében, nehogy a morális kérdések alapján kialakuló felháborodás az egész iparágat tönkre tegye.

Mivel Kaliforniában 2018 júniusában bevezették a The California Consumer Privacy Act-ot valóssá vált a veszély, hogy szövetségi szabályozás híján az egyes tagállami szinten esetlegesen bevezetendő szabályozások kezelhetetlenné teszik a rendszert, így a Microsoft vezetése 2018 júliusában, majd 2018. októberében már mind az Apple vezetése, mind a PR válságba került Facebook vezetése sürgette az európai GDPR szabályozáshoz hasonló amerikai szövetségi szabályozás, mint a lehető legkisebb rossz bevezetését.

Itt tartunk most tehát és várjuk, merre mozdul el az amerikai szabályozás: egy európai stílusú GDPR felé, ami a legkisebb rossz, vagy kialakítanak egy teljesen más, ma még előre nem látott rendszert, amely adott esetben éppúgy globálissá válik, mint maga az internet és annal használata.

Köszönöm megtisztelő figyelmüket!

print