Brytyjska policja w regionie Avon i Somerset miała nadzieję, że sztuczna inteligencja umożliwi szybsze rozpoznawanie zagrożeń i lepszą ochronę osób narażonych na przemoc. Opublikowane przez WIRED wyniki dochodzenia pokazują jednak, że założenia te przekształciły się w system oparty na masowym gromadzeniu danych i kontrowersyjnych modelach predykcyjnych.
Warto przypomnieć, że Wielka Brytania od pewnego czasu eksperymentuje z wykorzystaniem technologii AI w administracji publicznej. Rzeczywistość pokazuje jednak, że takie inicjatywy bywają problematyczne. Ujawniono chociażby poważne wątpliwości dotyczące systemu oceny wieku osób ubiegających się o azyl.
Działania policji Avon i Somerset ilustrują trudności związane z analityką predykcyjną. Początkowo narzędzia AI miały pomóc służbom szybciej identyfikować zagrożenia i chronić potrzebujących. Projekt, uruchomiony w 2016 roku we współpracy z Radą Miasta Bristol, szybko się jednak zakrojeniami społecznymi wymknął spod kontroli. System gromadził szeroką gamę danych, od raportów policyjnych po informacje o sytuacji mieszkaniowej, co budziło obawy o prywatność obywateli.
Na podstawie zgromadzonych danych stworzono 23 modele uczenia maszynowego. Miały one oceniać ryzyko przestępczości czy zaginięć, przypisując oceny ryzyka dorosłym i dzieciom. Z czasem jednak niezależne audyty wykazały, że wiele z tych modeli nie spełniało standardów wiarygodności. Pracownicy Rady Miasta Bristol oraz niezależne podmioty, takie jak Social Finance czy Eticas, wskazywały na niską precyzję wskazań i brak transparentności.
Jedną z głównych wad systemu było to, że mieszkańcy nie byli informowani o wykorzystywaniu ich danych w kontekście predykcyjnym. Dopiero później pojawiła się możliwość rezygnacji z udziału w bazie. W międzyczasie odpowiedzialność za działanie systemu pozostawała niesprecyzowana, a policja nie odpowiadała na pytania dotyczące szczegółów działania narzędzi.
Kwestia nadzoru etycznego nad projektem również budzi wątpliwości. Chociaż deklarowano istnienie grupy etycznej, to brak dowodów na regularne kontrolowanie modeli po 2017 roku. Mimo potencjalnych możliwości AI w ochronie narażonych osób, brak przejrzystości i zgodności z założeniami etycznymi może prowadzić do niepokojących zaniedbań.
Ostatecznie doświadczenia z Avon i Somerset podkreślają znaczenie transparentnego, świadomego i etycznego podejścia do wdrażania technologii AI w instytucjach publicznych. Nieodpowiednie wykorzystanie danych i algorytmów może bowiem przynieść więcej szkody niż pożytku, zagrażając bezpieczeństwu i prawom obywateli.
Dodaj komentarz