Amerykańska organizacja non-profit American Civil Liberties Union (ACLU), której celem jest ochrona praw obywatelskich gwarantowanych przez konstytucję, nagłaśnia medialnie współpracę giganta IT – firmy Amazon – z amerykańskim rządem. Współpraca ta ma polegać na oferowaniu służbom federalnym i policji opracowanego przez Amazon, zaawansowanego systemu rozpoznawania obiektów o nazwie Rekognition.

Jakiś czas temu pisałem artykuł o systemowej, narzuconej przez rząd, cyfrowej klasyfikacji obywateli w Chinach, tymczasem (stawiane za wzór nowoczesnej demokracji) Stany Zjednoczone zaczynają wykorzystywać sztuczną inteligencję, która – zdaniem przedstawicieli ACLU – poważnie narusza prawa wolnościowe obywateli w tym kraju. Mowa o opracowanym i oferowanym przez koncern Amazon systemie Rekognition.

Czym właściwie jest Rekognition? Gdy obejrzymy powyższy film lub spojrzymy na oficjalny opis tego rozwiązania/usługi, opublikowany przez serwis Amazon, dowiadujemy się, że jest to system umożliwiający analizę obrazu i identyfikację twarzy, ludzi, wykrywanie scen, konkretnych działań, rozpoznawanie tekstu wraz z możliwością wykrywania niepożądanych działań, czy treści. Amazon Rekognition szczególnie dobrze ma sobie radzić z bardzo dokładną analizą, wykrywaniem, porównywaniem i katalogowaniem twarzy. Można go wykorzystać do liczenia osób i użyć mocy systemu do zapewnienia bezpieczeństwa publicznego.  Dodajmy: w czasie rzeczywistym.

System ten jest oczywiście maszynowo wyuczoną sztuczną inteligencją, stanowiącą usługę gotową do wykorzystania przez inne podmioty. Użytkownik/zamawiający usługę Rekognition nie musi być biegłym analitykiem danych i znać niuanse uczenia maszynowego. Zamiast tego Amazon udostępnia łatwy w obsłudze interfejs API pozwalający zintegrować system Rekognition z istniejącymi systemami. Z jakimiż to systemami Rekognition jest zatem integrowany?

W chwili obecnej wiadomo, że system Amazona został już „zatrudniony” przez departamenty policji Orlando na Florydzie oraz hrabstwa Washington w stanie Oregon. Przy czym stopień integracji Rekognition z istniejącą infrastrukturą jest dość różny. Szeryf hrabstwa Washington korzysta po prostu z udostępnianej przez Amazon usługi analizy wcześniej zarejestrowanych obrazów, płacąc za to – według dziennikarzy Washington Post – od 6 do 12 dolarów (ok. 40 zł) miesięcznie.

W znacznie szerszym kontekście Rekognition został użyty przez policję miasta Orlando. W tym przypadku system odpowiada za analizę rejestrowanych na bieżąco obrazów w systemie miejskiego monitoringu. Co to oznacza? System automatycznie jest w stanie rejestrować i powiadamiać o niepożądanych działaniach, dostarczając policji jednocześnie informacji o tym, kto za dane działanie odpowiada. Oczywiście chodzi o łapanie przestępców, ale w tym przypadku mamy do czynienia de facto z monitoringiem wszystkich, absolutnie wszystkich obywateli, którzy są w zasięgu kamer monitoringu miejskiego. Nic dziwnego, że współpraca Amazona z rządem USA wzbudziła w amerykańskich mediach głośne pytania o granice naruszania prywatności obywateli. Nie tylko w ACLU, ale również w mediach głównego nurtu.

Główny problem polega na tym, że Rekognition jest tylko narzędziem. Bardzo użytecznym narzędziem, jednak za jego używanie odpowiadają ludzie, którzy tym samym zyskują możliwość śledzenia praktycznie każdego, kto znajdzie się w zasięgu oddziaływania zintegrowanego z Rekognition systemu monitoringu. Zrozumiałe, że chcemy by policja łapała przestępców, ale czy chcemy by policjant mógł w każdej chwili sprawdzić gdzie jesteś, co robisz? Oczywiście niektórzy mogą argumentować, że przecież są uczciwymi obywatelami i nie mają nic do ukrycia. Problem leży gdzie indziej i wyraża go łacińska maksyma: Quis custodiet ipsos custodesczyli „kto ma pilnować tych, co pilnują?”.

Nawiązanie na początku tekstu do systemu oceny obywateli w Chinach nie było przypadkowe. Gdy zobaczycie w jaki sposób działa Rekognition, dojdziecie do tego samego wniosku, że przypisanie jakiemukolwiek obserwowanemu obywatelowi ocen za „praworządność” czy jakichkolwiek innych współczynników, to kwestia aktualizacji kodu. Zresztą system można rozwinąć w najróżniejszych kierunkach. W jakim ostatecznie kształcie i czy będzie on funkcjonował w całych Stanach Zjednoczonych? Czas pokaże.

 

 

 

 

 

Źródło: chip, Washington Post