Jak daleko nam do etycznych maszyn?

Czy otoczeni przez maszyny będziemy czuć się bezpieczni? Ostrożne szacunki mówią, że w 2025 roku udział samochodów autonomicznych w całkowitym rynku samochodowym wzrośnie do 13% i osiągnie wartość 42 miliardów USD.

BrandsIT etyczna maszyna Norbert Biedrzycki blog

Mój artykuł w BrandsIT z dnia 28 czerwca 2018 roku.

 

Programiści zajmujący się tworzeniem algorytmów wykorzystywanych w autonomicznych samochodach powinni przygotować się na to, że ich praca może niedługo stać się przedmiotem gorącej debaty etycznej. Rosnąca popularność autonomicznych pojazdów zaprząta już głowy prawników i ustawodawców. A to dlatego, że komplikują się kwestie dobra i zła, związane z bezpieczeństwem na drodze.

Samochody autonomiczne cieszą się coraz lepszą prasą, a zainteresowanie nimi rośnie. Branża z uwagą przygląda się osiągnięciom Tesli i koncernu Google. Ten ostatni regularnie udostępnia raporty, z których wynika, że jego autonomiczne auta przebywają coraz większą liczbę kilometrów bez usterki i bez stworzenia sytuacji niebezpiecznych dla ruchu. Wyczuwalny jest zwiększający się optymizm całej branży motoryzacyjnej, jeśli chodzi o przyszłość tego typu aut. Ich masową produkcję uruchamiają lub uruchomią wkrótce: Mercedes, Ford, Citroen, Volvo.

Prawie każdy liczący się producent potrafi więc dzisiaj zbudować autonomiczny pojazd, przetestować go i przygotować do ruchu. Ale to tylko początek. Jeszcze jakiś czas popyt na auta i przychody koncernów z tytułu ich sprzedaży będą ograniczone ze względu na skomplikowane kwestie prawne i… etyczne.

 

Czas na przykład. Na drodze widzimy samochód prowadzony przez mężczyznę. Obok niego siedzi żona, z tyłu dwójka dzieci. Nagle przed pojazd wybiega dziecko, goniące za piłką. Odległość między dzieckiem i samochodem jest minimalna. Co robi kierowca odruchowo? Albo gwałtownie hamuje, albo gwałtownie skręca… i ląduje na drzewie, ścianie, w rowie, a w najmniej optymistycznym scenariuszu wjeżdża w innych pieszych. A co się dzieje, gdy w takiej samej sytuacji znajduje się pojazd autonomiczny? Wyobraźmy sobie, że jego kierowca zadowolony z tego, że nie musi się niczym przejmować, uciął sobie minutową drzemkę. Samochód musi więc sam wybierać, co robić, kiedy na jezdnię wyskakuje dziecko. Co robi auto? Nie wiemy. Zależy od tego, jak zostało zaprogramowane.

W skrócie, można teoretycznie wybrać trzy drogi w – nazwijmy to – etycznym programowaniu algorytmów, które mogą decydować w dużym stopniu o zachowaniu samochodu.

Pierwsza droga zakłada, że w sytuacji wypadku i zagrożenia życia, liczy się solidarnie dobro wszystkich uczestników wypadku (czyli kierowca, pasażerowie i dziecko na drodze).

W drugim podejściu najważniejsze jest życie pieszych i uczestników ruchu.

W trzecim ujęciu priorytetem jest ochrona życia kierowcy i pasażerów.

Wszystko więc zależy, jaki algorytm będzie w tym przypadku decydujący i który z nich wybierze dana firma.

 

Zapraszam do lektury pełnego artykułu – link

 

Powiązane artykuły:

– Szukasz większych zysków? To zacznij się ze mną dzielić

– Czy gwarantowany dochód podstawowy będzie koniecznością?

– Czy maszyny odróżniają dobro od zła?

– Trwałe połączenie technologii z człowieczeństwem

– Bańka internetowa 2.0

 

Skomentuj

10 comments

  1. CabbH

    To nie SI tylko automaty. Teraz wszystko nazywa się „inteligentnym”, a w rzeczywiści jest po prostu automatem z większa ilością instrukcji warunkowych. Wiec równie dobrze można bać się elektroniki.

  2. Jacek Czyz

    Jeśli ktoś urządza dla lalki pokój, codziennie ubiera ją i traktuje jak coś więcej, niż tylko erotyczny gadżet, to nie sposób pominąć kwestii emocjonalnego zaangażowania.

  3. Jacek B2

    Genialna sprawa – czytając Pański artykuł, przez cały czas przez głowę przechodziła mi analogia Pani Major z Ghost In The Shell. Jeżeli połączyć robota, z kawałkiem dobrze napisanego IA, to można spodziewać się ciekawej przyszłości 😉

  4. MJarosz99

    Zabawa polega na tym ze to nie są algorytmy. Są modele, które mogą być tworzone przez programistę/data scientist lub AI może samo się uczyć (not supervised machine learning). To o czym Ty mówisz jest gdzieś pomiędzy teraz, a napędem kosmicznym, który osiąga prędkość światła (prawie). Wiem że pisze jak /r/imsupersmart ale tak to wyglada. Jak Cię interesuje AI to zainteresuj się np Pythonem i NLTK.

    Mnie bardziej interesuje wszechświat i to co jest za jego granicą. Dlaczego był wielki wybuch i jeśli ta hipoteza jest prawdziwa to gdzie on wystąpił. Co to jest nicość, jak wyglada nieskończoność i co jest poza nią. Dzięki AI można uruchomić symulację świata (której tez możemy żyć) i jeśli tak jest to dalej pytanie o nicość i nieskończoność zostają bez odpowiedzi.

    Zagrożenie ze strony AI wg mnie jest inne. Dzięki niej możesz bardzo szybko przetworzyć duże ilości danych i wyciągać wnioski, aby wymuszać pewne działania. Tak jakbyś miał super umysł, to jest większe zagrożenie. Problemem oczywiście jest dostępność danych.

  5. Alibaba

    Mam nadzieję że nigdy nie bedziemy musieli sie nad tym problemem zastanawiać i maszyny pozostaną maszynami. Etyka to domena istot żywych

    -1
  6. Robert Kaczkowski

    Jest to problem ale do zaprogramowania – nie wiem czy za pomocą instrukcji if…to bedziemy w stanie to zaprogramować. Sieci neuronowe?