Roboty czekają na sędziów

Sztuczna Inteligencja to wielka szansa dla naszego cywilizacyjnego i ekonomicznego rozwoju. Zdaję sobie jednak sprawę z wyzwań, jakie on może przynosić. Szczególnie na styku AI i prawa.

Podziel się

facebook twitter google+ linkedin email
Robots awaiting judges Norbert Biedrzycki

Tak często bywa, że rzeczywistość wymyka się intelektualistom, politykom i ekonomistom, gdy zaczyna gwałtownie przyśpieszać, zostawiając nas wszystkich w tyle. Mam wrażenie, że taką refleksję przeżywają dzisiaj prawnicy, którzy przeglądają kodeksy. Muszą oni zapewne widzieć, że wiele sytuacji, które wynikają z wprowadzenia do naszego życia maszyn, robotów, komputerów, czy algorytmów nie jest w ogóle przewidziana przez prawodawstwo.

Nie są to już (i tym bardziej nie będą) odosobnione przypadki, w których sędzia czy adwokat nie znajdzie oparcia w dotychczas zapisanych paragrafach. Sztuczna Inteligencja jest w stanie wywrócić do góry nogami najsilniejsze systemy prawne. A stanie się tak, jeśli świat prawniczy nie uświadomi sobie, że im szybciej zaczniemy pisać od nowa kodeksy, tym lepiej dla nas wszystkich.

Kwestie te są w kontekście Sztucznej Inteligencji palące, trudne i często wręcz niezdefiniowane. Wskażę na kilka obszarów, które są szczególnie wrażliwe z punktu widzenia prawodawstwa. Prawodawstwa, które musi w końcu zmierzyć się faktem, że będzie coraz częściej orzekać o sztucznych mózgach.

 

Kolega z pracy jest robotem

Jedna z bardziej popularnych opinii dotyczących wpływu Sztucznej Inteligencji na nasze życie dotyczy kwestii pracy. Doniesienia o tym, że roboty zastąpią nas w fabrykach i biurach budzą emocje. „Zwolnią mnie niedługo, bo robot będzie ich kosztował 10 razy mniej ode mnie, nie będzie krzyczał o podwyżkę i nie potrzebna mu emerytura” – takich głosów może przybywać w czasach zapowiadanej rewolucji przemysłowej 4.0. Argument, że likwidowane stanowiska będą zastępowanymi nowymi miejscami pracy, jest póki co, słabo słyszalny.

W mocno zautomatyzowanej Korei Południowej na 10 000 zatrudnionych w przemyśle przetwórczym, przypada już 437 robotów. W Japonii jest ich 323, w Niemczech 232. Właśnie w Niemczech praca robota w przemyśle motoryzacyjnym kosztuje pracodawcę 5 – 8 Euro, podczas gdy pracownik na tym samym stanowisku zarabia 35-40 Euro.

Robotyzacja dotyczy wielu innych dziedzin, takich jak: medycyna, marketing, media, usługi informatyczne, a nawet prawo. W międzynarodowej agencji prasowej Associated Press ok. 20 procent tekstów o charakterze depesz i raportów pisanych jest przez aplikacje. Jakością nie ustępują już tekstom pisanym przez dziennikarzy.

O tym, że automatyzacja wpłynie znacznie na politykę zatrudnienia, wiedzą też pracownicy domów mediowych, w których dane liczbowe mają kluczowe znaczenie (z tego typu danymi maszyny radzą sobie doskonale). Ba, robotów w pracy może obawiać się też branża prawnicza.

Jak podaje brytyjski tygodnik The Guardian, inteligentny algorytm został wykorzystany do pracy w Europejskim Trybunale Praw Człowieka. Program znalazł w analizowanych raportach szereg danych, które następnie uporządkował w określone wzorce. Następnie, na ich podstawie potrafił przewidzieć wynik dotyczący konkretnych przypadków ludzkich, z dokładnością do 79%. Jak podaje tygodnik, dziesiątki tysięcy miejsc pracy w angielskim sektorze prawnym zostanie zautomatyzowane w ciągu następnych 20 lat.

Patrząc chłodnym okiem na problem robotyzacji i automatyzacji, wydaje się, że działania legislacyjne dotyczące rynków pracy muszą być podejmowane wyjątkowo szybko, a prawo pracy czeka sporo ważnych i trudnych rozstrzygnięć. Prawnicy zajmujący się tą dziedziną twierdzą, że współczesne kodeksy są już w zasadzie przestarzałe i nie nadążają za rzeczywistością.

Mamy tu dzisiaj więcej pytań, niż odpowiedzi. Czy prawo pracy ma regulować odsetek miejsc pracy, które w danej branży lub przedsiębiorstwie mają znjować maszyny? Czy pracodawca będzie miał prawo redukować personel ludzki bez ograniczeń, na rzecz maszyn? Czy normy efektywności, cele do realizacji będą takie same dla maszyny i człowieka? Czy maszyna będzie mogła pełnić obowiązki kierownicze? Czy mam prawo odmówić wykonania polecenia służbowego, jeśli wiem, że ono wygenerowane jest przez maszynę? Kto będzie ponosił odpowiedzialność za potencjalne szkody wyrządzone przez maszynę – programista, szef działu, właściciel firmy? Czy rządy będą miały obowiązek decydowania o tym, które branże i w jaki sposób, będą chronione przed nadmierną robotyzacją?

Myślę, że prawnicy zajmujący się już dzisiaj przemysłem 4.0, czyli przemysłem z postępującą społeczną integracją ludzi i maszyn, mogą pewnie liczyć na nadliczbowe godziny w swoich kancelariach.

Littler Mendelson P.C., jedna z największych kancelarii na świecie specjalizujących się w prawie pracy, ma wydzielony w swoim obrębie zespół zajmujący się robotyką i sztuczną inteligencją. Krótko mówiąc, procesy legislacyjne na tym obszarze będą się dynamicznie rozwijać, a przewaga rynków opartych na taniej sile roboczej będzie topnieć wraz z rozwojem procesu robotyzacji i automatyzacji.

 

Kiedy maszyna staje się autorem

Kwestie prawne dotyczące prawa autorskiego będą się komplikować wraz z postępującą obecnością algorytmów na rynku usług medialnych, jak i w całym Internecie.

Twórcy – pisarze, muzycy, dziennikarze muszą się przygotować na czasy, w których obecność kreatywnych maszyn – z ich zdolnością do tworzenia tekstów, utworów muzycznych, scenariuszy, a nawet obrazów czy zdjęć, będzie faktem. Pytania dotyczące statusu dzieła i twórcy są w tym kontekście coraz bardziej skomplikowane, a prawo autorskie wielu krajów nie jest przygotowane na zmieniającą się sytuację.

Niedawno świat obiegła informacja o decyzji Facebooka o usunięciu algorytmów, które zaczęły posługiwać się własnym, doskonalonym – niezależnie od programistów – językiem. Ten mechanizm samodoskonalenia się programu, wykorzystujący techniki deep learning, które umożliwiają programom komputerowym proces samodzielnego uczenia się, może nieść za sobą wiele konsekwencji natury prawnej.

Jeśli bot powołany do tego, by obsługiwać klientów zadających pytania, będzie potrafił tworzyć samodzielnie treści – kto będzie za nie odpowiadał? Czy jeśli jakikolwiek treści generowane przez maszyny wprowadzą mnie w błąd, doprowadzą do trwałych uszczerbków na zdrowiu, czy przyniosą szkody dla mojego biznesu, to kogo mogę pozwać w procesie sądowym? Jak będziemy traktować plagiaty dzieł ludzi, które stworzą inteligentne urządzenia? Czy nabywając dzieło, przykładowo: obraz – będę musiał konfrontować się z rozmytym pojęciem oryginalności, wątpliwościami dotyczącymi tego, kto jest jego autorem?

Prawo autorskie wielu krajów definiuje kwestię autorstwa w różny sposób, a pojęcie autora – twórcy przekazu i jego roli w procesie tworzenia, choć ciągle utożsamiane z człowiekiem – przestaje wystarczać. Niedawno wskazano na problematyczność zapisów w prawie autorskim Wielkiej Brytanii, twierdząc, że pojęcie treści „generowanych komputerowo” może pozwalać na interpretację, według której dzieło nie ma autora – człowieka. Logiczne byłoby więc przyznanie praw maszynie. W chwili pisania tego tekstu Komisja Europejska pracuje nad dyrektywą, w której ma być rozwiązana kwestia osobowości prawnej.

Również prawodawstwo amerykańskie nie określa sytuacji, w której prawa autorskie miałyby dotyczyć dzieł generowanych przez maszynę, natomiast prawnicy wskazują, że ta kwestia wymaga legislacyjnego dopracowania. W systemie prawnym Stanów Zjednoczonych wyszczególniono nawet przykłady utworów, które nie kwalifikują się do ochrony prawem autorskim, bo powstały w twórczym procesie o charakterze „losowym”, bez wkładu człowieka.

Dzisiaj, przeważająca część międzynarodowych rozwiązań legislacyjnych zakłada, że prawo autorskie chroni owoce pracy intelektualnej, które opierają się na twórczych zdolnościach umysłu człowieka. Google niedawno zaprezentował serię obrazów stworzonych przez sieci neuronowe. Można już posłuchać muzyki stworzonej przez Sztuczną Inteligencję. Znana wytwórnia muzyczna długo nie była w stanie powiedzieć kto ma do takiej muzyki prawa autorskie. Projektant algorytmów czy sieci, właściciel serwera, na którym były przetwarzane dane, czy muzy który użyczył sampli.

Ale wyobraźmy sobie sytuację, w której maszyna staje się „samodzielnym” autorem serii obrazów, które zaczynają funkcjonować w powszechnym obiegu. Komplikuje się ona dodatkowo w przypadku, gdy dzieła zaczynają budzić zainteresowanie ze strony nabywców lub stają się z czasem przedmiotem manipulacji. Czy rozwiązaniem problemu będzie zapis, że współautorem dzieła będzie właściciel komputera, który pracę stworzył? W Japonii, tak jak w wielu innych krajach, do dzisiaj przyjmuje się za obowiązujące rozwiązanie, w którym kwestia praw autorskich w ogóle nie obejmuje dziedziny Sztucznej Inteligencji. Ale podobno władze pracują nad zmianami i mogą one ujrzeć światło dzienne jeszcze w tym roku.

 

Kto prowadzi auto?

Autonomiczna mechanika, a przede wszystkim autonomiczne pojazdy na drogach to również przejaw rozwijającej się Sztucznej Inteligencji. Doniesienia o pracach Tesli i największych koncernów samochodowych śledzę z dużym zainteresowaniem. Bo rewolucja komunikacyjna na naszych drogach może stać się najbardziej namacalnym przykładem na to, że Sztuczna Inteligencja to konkret, a nie zbiór abstrakcji znanych wyłącznie programistom.

Tak jak w przypadku prawa pracy i prawa autorskiego, kwestie prawne stają się tu coraz bardziej złożone. Szczególnie ciekawe jest pojęcie odpowiedzialności prawnej związanej z poruszaniem się na drodze pojazdu autonomicznego. W tym przypadku, nie trzeba dużej wyobraźni, by przewidzieć problemy w określeniu odpowiedzialności prawnej za ewentualne wypadki.

Kto w sytuacji kolizji, zagrożenia czy nawet utraty życia, staje się przedmiotem sporu, możliwego pozwu, czy odszkodowania? Kto ma ponosić zasadniczą odpowiedzialność w sytuacji, w której giną osoby w wypadku z udziałem autonomicznych pojazdów? Czy kłopoty będzie miał producent algorytmu, w oparciu o który porusza się autonomiczne auto na drodze, firma produkująca takie auto, czy kierowca – właściciel? A jeśli ten ostatni spowoduje wypadek, czy może on liczyć na wystarczające rozwiązania związane z ubezpieczeniem, które zapewnią mu komfort użytkowania?

Na tym przykładzie widać wyraźnie, że możliwości technologiczne wyprzedzają nasze czasy. Tutaj właściwie wszystko jest możliwe – bo całe floty autonomicznych ciężarówek czekają już, by wyruszyć w drogę, a myśl o tym, by budować usługi taksówkarskie w oparciu o autonomiczne pojazdy, zaprząta głowę niejednemu biznesmenowi.

Okazuje się jednak, że podstawową barierą, która jeszcze długo będzie blokować zmiany na światowych drogach, będą kwestie niewystarczających uregulowań prawnych. Samochód autonomiczny to nie tylko komfort – i jak twierdzą liczne statystyki – większe bezpieczeństwo na drogach w porównaniu z sytuacją, gdzie za kierownicami zasiadają ludzie. To również sytuacja, w której trzeba poważnych zmian w ruchu drogowym i w sygnalizacji świetlnej. Optymalizacja ruchu w przyszłości, to być może także dążenie do integracji obrotów silnika, obrazów z kamer wideo i sygnałów gromadzonych przez sygnalizatory na skrzyżowaniach.

Wyobraźmy sobie sytuację, w której algorytm funkcjonujący w oparciu o technologię deep learning, dokonujący statystycznej analizy ruchu na danym skrzyżowaniu, decyduje, że dany odcinek drogi ma być przejezdny o kilka sekund wcześniej, niż zwykle. I po tej decyzji następuje wypadek. Kto za niego ponosi odpowiedzialność?

Autonomiczne pojazdy na drogach to również poważne kwestie związane z dylematami władz lokalnych. Bo przecież autonomiczny pojazd, poruszający się na drodze bardziej bezpiecznie może stawać się też bardziej efektywny. A to może prowadzić do sytuacji, w której kwestią problematyczną będą dochody z wynajmowania miejskich parkingów, które mogą pustoszeć.

Kwestie dyskusyjne związane z automatyzacją ruchu na drogach nie dotyczą wyłącznie samochodów czy ciężarówek. Maszynami naszego wieku stają się przecież drony, a w przyszłości autonomiczne statki czy sterowane zza pulpitów komputerów samoloty. Jeśli do tego dodać fakt, że w fabrykach pojawiać się będzie coraz więcej autonomicznych transporterów służących do przewozu towarów, to sytuacja staje się jeszcze bardziej złożona i interesująca.

 

Robot jako istota polityczna

Poważnym problemem w czasach wyborów politycznych stają się zachowania programów i botów, które są w stanie kształtować opinię publiczną. Zdolność do wywoływania protestów, umiejętność ich przewidywania, tworzenie nieprawdziwych informacji na temat konkurujących ze sobą kandydatów politycznych, sterowanie sondażami, internetowy hejt – to wszystko również są zjawiska, związane z regulacjami prawnymi.

Uważam, że Sztuczna Inteligencja w rękach polityków może być instrumentem dość niebezpiecznym i jako obywatele mamy prawo oczekiwać, że pewne kwestie zostaną skodyfikowane jak najszybciej.

Jedna z istotniejszych spraw, jaka będzie dotyczyć każdego obywatela, będzie zachowania prywatności. Narzędzia analityczne wykorzystywane przez banki i firmy ubezpieczeniowe są coraz sprawniejsze, ale ich funkcjonowanie może coraz częściej stawać się przedmiotem analiz prawniczych.

Jakie dane można będzie można wykorzystywać do analizy sytuacji klienta, który stara się o kredyt lub korzystne dla niego ubezpieczenie? Czy algorytmy będą mogły „bezkarnie” kojarzyć ze sobą takie informacje jak kod pocztowy, kolor skóry, miejsce zamieszkania, poglądy polityczne?

Czy sądy w sprawach cywilno-prawnych lub karnych będą w stanie skutecznie orzekać, gdy przedmiotem sporu będzie takie, a nie inne zachowanie się algorytmu? Tego teraz ciągle nie wiemy.

 

Maszyna jako byt odpowiedzialny

Nie mam wątpliwości, że jedną z bardziej aktualnych kwestii legislacyjnych stanie się odpowiedzialność za produkt i odpowiedzialność za jego użycie.

W sytuacjach, w których aktualna staje się kwestia intencjonalności działań, które ingerują w społeczny porządek, algorytmy muszą stawać się uczestnikami prawniczo-sądowego spektaklu. Bo przecież za każdym działaniem programu kryje się jakaś ludzka intencja. Ale o ile tu mogę sobie wyobrazić odpowiednie zapisy i rozwiązania prawne, satysfakcjonujące wszystkie strony, to ciągle trudno mi sobie wyobrazić skuteczne prawodawstwo w obliczu takich wyzwań, jakie powstaną przy okazji rozpowszechnienia technologii deep learning. Czyli takiej, która zakłada duże upodmiotowienie się maszyny.

Czy taka upodmiotowiona maszyna zdolna do podejmowania decyzji o doskonaleniu własnego działania może być traktowana przez społeczeństwa jako podmiot o odpowiedzialności prawnej?

Nie chcę i nie potrafię przesądzać kwestii, jak realne jest niebezpieczeństwo zaistnienia sytuacji, w której Sztuczna Inteligencja będzie zyskiwać podmiotowość, czy uniezależniać się od człowieka. Dyskusje o tym zagadnieniu prowadzą dzisiaj specjaliści i główni gracze związani z biznesem wykorzystującym nowoczesne technologie – do takich należy Elon Musk. Zastanawiam się, czy w sytuacji takiego potencjalnego niebezpieczeństwa, pewnym rozwiązaniem prawodawczym mogłoby stać się wprowadzenie powszechnych certyfikatów dla urządzeń i algorytmów, które zostają wprowadzone do obiegu. Czy jednak certyfikowanie Sztucznej Inteligencji jest logistycznie możliwe?

 

Człowiek kontra maszyna

Nie wystarczy już moim zdaniem świadomość, że rzeczywistość przyśpieszyła, a kodeksy prawne się starzeją w błyskawicznym tempie. Na politykach, ustawodawcach i prawnikach spoczywa dzisiaj duża odpowiedzialność za zmiany, które mogą, czy powinny być dokonywane. Jeśli przeciętny obywatel ma czuć się spokojnie i czerpać radość z kontaktu z wyrafinowaną technologią, powinien być zabezpieczony. Powinien mieć całkowitą pewność, że w procesie sądowym, w którym po jednej stronie stanie on, a po drugiej algorytm, to człowiek i jego prawa będą prawami nadrzędnymi.

 

Powiązane artykuły:

– Maszyno, kiedy staniesz się dla mnie bliska?

– Maszyna cię nie przytuli, ale … wysłucha i coś doradzi

– Czy maszyny odróżniają dobro od zła?

– Tylko Bóg potrafi policzyć równie szybko, czyli świat komputerów kwantowych

Machine Learning. Komputery nie są już niemowlętami

Mózg, urządzenie które wypada z obiegu

W jaki sposób maszyny rozumują

 

 

Skomentuj

10 comments

  1. DCzaj

    Robot jako istota polityczna – super temat. Co z obywatelstwem robota? Mamy juz case w Arabii Saudyjskiej – raczej działanie PRowe. Mozna tego robota wynająć i prezentacją, show. Ale tak na poważnie to jest super temat sam w sobie. Może Pan rozwinie?

    • Norbert Biedrzycki  

      Bardzo dziękuje. Nie znam sie na polityce. Mam natomiast przemyślenia co do roli nowoczesnego Państwa z definiowaniu zasad współistnienia maszyn z ludźmi i na tym będę się starał skupić

  2. PiotrDomski

    Ciekawy artykuł. Mocno teza. Prawie science-fiction. Już jest pierwszy robot który zastąpił w USA prawnika – czytałem o tym wczoraj

  3. CabbH

    Nie zgadzam się z tezą że maszyna będzie odpowiedzialnym bytem. Nie, bo to przecież maszyna, bez duszy i świadomości o swoim istnieniu. Nie będzie odpowiedzialna za swoje czyny. Co najwyżej się zepsuje i narozrabia

  4. Krzysztof Bikowski

    Może wreszcie ktoś albo w tym wypadku – roboty czyli coś zakończyło by udzielne panowanie kasty prawników. Z chęcią bym oddał się w ich niezależną jurysdykcję. Bez emocji i układów. Bardzo dobrze. Czekam na taką przyszłość