W skrócie
- Flock Safety tworzy system OS Investigate identyfikujący pojazdy po stylu jazdy, co eliminuje konieczność każdorazowego sprawdzania numerów rejestracyjnych przez służby.
- Możliwość wyszukiwania pojazdów w danej lokalizacji bez wskazania konkretnego przestępstwa budzi obawy ekspertów o ochronę prywatności oraz ryzyko nadużyć ze strony służb.
- Obawy o prywatność skłoniły niektóre miasta do rezygnacji z kamer Flock Safety, a w skrajnych przypadkach dochodziło nawet do niszczenia urządzeń przez lokalnych mieszkańców.
- Więcej podobnych informacji znajdziesz na stronie głównej serwisu, otwiera się w nowym oknie
Flock Safety od lat kojarzona jest przede wszystkim z kamerami automatycznie odczytującymi tablice rejestracyjne. Krytycy firmy zwracali jednak uwagę, że możliwości systemu wykraczają daleko poza sam odczyt numerów. Najnowszy projekt sugeruje, że zakres analizy może być jeszcze szerszy.
Według materiału Wired rozwijane oprogramowanie funkcjonowało wcześniej pod nazwą Nightshift, a obecnie występuje jako OS Investigate. Firma potwierdziła, że produkt znajduje się w fazie testów prowadzonych z wybranymi partnerami z organów ścigania, zaznaczając jednocześnie, że obecne funkcje mogą różnić się od finalnej wersji.
AI analizuje zachowanie kierowców zamiast numerów rejestracyjnych
Z informacji opublikowanych przez Wired wynika, że system korzysta z sieci kamer działających w około 6 tys. społeczności. Oprogramowanie ma analizować przemieszczanie się pojazdów i tworzyć historię ich przejazdów. Najbardziej kontrowersyjny element polega na sposobie wyszukiwania, bo funkcjonariusz nie musi dysponować numerem rejestracyjnym, nazwiskiem właściciela ani nawet konkretnym podejrzeniem popełnienia przestępstwa. Według opisu wystarczy wskazać lokalizację, przedział czasowy oraz określony sposób poruszania się pojazdu. Resztę pracy wykonuje algorytm.
System ma umożliwiać odnalezienie osób, które mogły znajdować się w pobliżu miejsca zdarzenia. Następnie wyniki mogą być zestawiane z aktami policyjnymi, zgłoszeniami alarmowymi oraz komercyjnymi bazami danych w celu ustalenia tożsamości potencjalnych świadków.
Chatbot pozwala budować zapytania bez wskazania przestępstwa
Jednym z elementów systemu jest chatbot oparty na sztucznej inteligencji. Funkcjonariusz wpisuje polecenie opisujące interesujące go zachowanie lub lokalizację, a narzędzie przygotowuje wyniki na podstawie zgromadzonych danych. Jak opisuje Wired, w systemie znajdują się również gotowe szablony zapytań. Jeden z nich umożliwia wyszukiwanie pojazdów najczęściej pojawiających się w określonej okolicy w ciągu ostatnich 14 dni i w wybranych godzinach.
Według dziennikarzy przygotowanie takiego zapytania nie wymaga wcześniejszego wskazania konkretnego przestępstwa ani numeru sprawy. To właśnie ten element stał się jednym z głównych powodów krytyki nowego rozwiązania.
Eksperci ostrzegają przed ryzykiem nadużyć
Były funkcjonariusz policji Noel Pichardo, który zapoznał się z materiałami dotyczącymi systemu, ocenił, że rozwiązanie oznacza możliwość faktycznego śledzenia ludzi. Jego zdaniem skala możliwości wykracza poza to, z czym do tej pory kojarzono systemy automatycznego rozpoznawania tablic rejestracyjnych.
Anonimowy policjant cytowany przez Wired przyznał, że funkcja wyszukiwania świadków budzi u niego pewien dyskomfort. Jednocześnie stwierdził, że organy ścigania powinny korzystać z każdego dostępnego narzędzia wspomagającego prowadzenie postępowań.
Ostrożniejsze stanowisko przedstawił niezależny badacz bezpieczeństwa występujący pod pseudonimem Buchodi. Zwrócił uwagę, że system może być przydatny dla śledczych, ale jednocześnie istnieje ryzyko, iż algorytm będzie wskazywał osoby wykonujące całkowicie legalne i niewinne czynności.
Obawy dotyczą przede wszystkim prywatności
Krytycznie o projekcie wypowiada się również Chad Marlow, prawnik organizacji American Civil Liberties Union (ACLU). Jego zdaniem możliwość formułowania bardzo szerokich poleceń dla sztucznej inteligencji może prowadzić do sytuacji, w której funkcjonariusze będą poszukiwać potencjalnych przestępstw bez wcześniejszych podstaw.
To nie pierwszy raz, gdy działalność Flock Safety wywołuje kontrowersje. W przeszłości pojawiały się doniesienia o wykorzystywaniu kamer do śledzenia konkretnych osób oraz byłych partnerów przez niektórych funkcjonariuszy. W odpowiedzi firma wprowadziła dodatkowe zabezpieczenia, między innymi możliwość blokowania użytkowników naruszających zasady oraz obowiązek przypisywania wyszukiwań do konkretnych numerów spraw. Nie wiadomo jednak, jakie mechanizmy kontroli zostaną zastosowane w przypadku rozwijanego obecnie systemu wykorzystującego sztuczną inteligencję.
Część miast zrezygnowała z kamer Flock
Rosnące obawy dotyczące prywatności już wcześniej wpływały na współpracę samorządów z Flock Safety. Według Engadget i Wired część agencji zdecydowała się zakończyć korzystanie z systemu, a w niektórych miejscowościach kamery były niszczone lub kradzione. Jednym z przykładów jest miasto w stanie Minnesota, gdzie wszystkie urządzenia Flock zniknęły w ciągu jednej nocy. Lokalna policja poinformowała później, że nie planuje ponownego montażu kamer.
Na razie OS Investigate pozostaje produktem testowym. Skala jego przyszłych możliwości oraz ostateczne ograniczenia mają zostać określone dopiero po zakończeniu programu pilotażowego. Już dziś widać jednak, że rozwój narzędzi opartych na sztucznej inteligencji otwiera nowy rozdział w dyskusji o granicach policyjnego nadzoru.
