Sztuczna inteligencja to dziś nie tylko innowacje w biznesie, ale także rewolucja w pracy organów ścigania. Nowoczesne systemy AI umożliwiają szybką identyfikację osób, wykrywanie przestępstw i realną poprawę bezpieczeństwa publicznego. Jednak wprowadzenie takich technologii rodzi poważne pytania o ochronę podstawowych praw obywatelskich – prywatności, wolności zgromadzeń czy ochrony przed dyskryminacją. AI Act, czyli nowe rozporządzenie unijne nr 2024/1689 z dnia 13 czerwca 2024 r., wyznacza bardzo precyzyjne granice w zakresie użycia systemów zdalnej identyfikacji biometrycznej w przestrzeni publicznej. W tym poradniku wytłumaczę Ci, jakie są główne zasady, wyjątki i praktyczne konsekwencje tej regulacji.
Zdalna identyfikacja biometryczna a ochrona praw obywatelskich
Na pierwszy rzut oka możliwość szybkiego rozpoznawania twarzy lub innych cech biometrycznych w przestrzeni publicznej może wydawać się bardzo atrakcyjna z punktu widzenia bezpieczeństwa. Niestety – takie rozwiązanie niesie też ogromne zagrożenia dla praw podstawowych.
Główne ryzyka:
- Poczucie stałego nadzoru: Powszechne monitorowanie przez systemy AI zniechęca do korzystania z wolności zgromadzeń czy innych praw obywatelskich.
- Możliwość dyskryminacji: Algorytmy mogą błędnie identyfikować osoby np. ze względu na wiek, płeć czy pochodzenie etniczne.
- Trudność kontroli: Systemy działające w czasie rzeczywistym ograniczają możliwość szybkiej reakcji na błędy i późniejszej korekty.
Dlatego właśnie AI Act wprowadza generalny zakaz wykorzystywania takich systemów przez organy ścigania – z nielicznymi, ściśle określonymi wyjątkami.
Zakaz stosowania systemów AI do identyfikacji biometrycznej w przestrzeni publicznej
Zgodnie z rozporządzeniem AI Act, zasadą jest zakaz stosowania systemów zdalnej identyfikacji biometrycznej w czasie rzeczywistym w przestrzeni publicznej do celów ścigania przestępstw. Zakaz ten dotyczy wszystkich krajów członkowskich Unii Europejskiej i ma bezpośredni skutek prawny.
Dlaczego taki zakaz?
- Zbyt szerokie stosowanie biometrii mogłoby prowadzić do masowej inwigilacji społeczeństwa.
- Ograniczenie praw obywatelskich nie może być środkiem do osiągnięcia bezpieczeństwa – proporcjonalność działań to kluczowa zasada ochrony praw człowieka.
Wyjątki od zakazu – kiedy systemy AI mogą być legalnie wykorzystane?
AI Act przewiduje jednak kilka wyjątków, które mogą mieć zastosowanie wyłącznie wtedy, gdy jest to absolutnie konieczne i uzasadnione ochroną istotnego interesu publicznego.
Przykład 1 – Poszukiwanie zaginionych osób
Wyobraź sobie, że w dużym mieście (np. Zielona Góra) dochodzi do uprowadzenia dziecka przez nieznanego sprawcę. Policja dysponuje nagraniem z monitoringu, ale nie wie, gdzie przestępca może się znajdować. W takiej sytuacji, jeśli istnieje wysokie prawdopodobieństwo odnalezienia dziecka dzięki zdalnej identyfikacji twarzy w czasie rzeczywistym, możliwe jest odstąpienie od zakazu – ale tylko na czas ściśle określony i w bardzo ograniczonym obszarze.
Przykład 2 – Zapobieganie atakowi terrorystycznemu
Organy ścigania otrzymują informacje o planowanym zamachu terrorystycznym w Warszawie podczas dużego wydarzenia sportowego. W takich okolicznościach, jeżeli istnieje konkretne, realne i bezpośrednie zagrożenie życia wielu osób, systemy AI mogą zostać użyte, by szybko zidentyfikować potencjalnych sprawców w tłumie – ale wyłącznie na czas i w miejscu zagrożenia.
Przestępstwa uprawniające do stosowania wyjątków – lista z AI Act
Nie każde przestępstwo daje prawo do odstępstwa od zakazu! AI Act dokładnie wylicza katalog poważnych przestępstw, które uzasadniają możliwość wykorzystania zdalnej biometrii. Są to m.in.:
- terroryzm,
- handel ludźmi,
- wykorzystywanie seksualne dzieci,
- nielegalny handel bronią,
- zabójstwo, rozbój z bronią,
- uprowadzenie,
- przestępstwa środowiskowe.
Próg kary: Przestępstwa muszą być zagrożone karą pozbawienia wolności, której górna granica wynosi minimum cztery lata.
Warunki i ograniczenia stosowania biometrii w ramach wyjątków
Nawet jeśli organy ścigania spełnią wszystkie kryteria, muszą jeszcze:
- Wskazać konkretną osobę – system może być użyty tylko do potwierdzenia tożsamości konkretnej osoby, a nie do masowego skanowania wszystkich obywateli.
- Ograniczyć zakres działania – czas, miejsce i liczba osób objętych monitoringiem muszą być jak najmniejsze.
- Dokonać analizy ryzyka – należy zawsze ocenić, czy zastosowanie AI nie naruszy w nadmierny sposób praw osób postronnych.
Proces decyzyjny 🧑⚖️
Każda decyzja o odstąpieniu od zakazu powinna być odpowiednio udokumentowana i poprzedzona analizą:
- Powagi sytuacji (np. czy zagrożenie jest rzeczywiste i pilne),
- Prawdopodobieństwa wyrządzenia szkody przy braku zastosowania AI,
- Skali potencjalnej ingerencji w prawa i wolności obywateli.
Czy AI Act pozwala na masowe gromadzenie danych biometrycznych?
Absolutnie nie! AI Act jednoznacznie zakazuje masowego gromadzenia i przetwarzania danych biometrycznych obywateli w celach ścigania przestępstw. Wszystkie działania muszą być precyzyjnie ukierunkowane i ograniczone wyłącznie do sytuacji uzasadnionych ważnym interesem publicznym.
Podsumowanie – najważniejsze wnioski i wskazówki
- Generalny zakaz: Użycie systemów AI do zdalnej identyfikacji biometrycznej w przestrzeni publicznej przez organy ścigania jest co do zasady zabronione.
- Wyjątki: Możliwe tylko w ściśle określonych sytuacjach – np. zagrożenie życia, poszukiwanie ofiar poważnych przestępstw, zapobieganie zamachom terrorystycznym.
- Ochrona praw obywatelskich: Każde wykorzystanie AI musi być proporcjonalne, ograniczone w czasie i przestrzeni oraz zawsze służyć potwierdzeniu tożsamości konkretnej osoby.
- Bezpośrednie stosowanie: AI Act wiąże w całości i jest bezpośrednio stosowany we wszystkich krajach UE – państwa nie mogą dowolnie łagodzić zakazów.
Podstawa prawna
- art. 5 ust. 1 lit. d–f, art. 5 ust. 2, art. 6, załącznik II – Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji) – tzw. AI Act
Tematy porad zawartych w poradniku
- zakaz biometrii w przestrzeni publicznej,
- wyjątki od zakazu AI Act,
- ochrona danych biometrycznych,
- sztuczna inteligencja w policji,
- zdalna identyfikacja biometryczna 2025.
Przydatne adresy urzędowe:
- https://eur-lex.europa.eu/eli/reg/2024/1689/oj
- https://uodo.gov.pl/pl/138/2540 (UODO – Urząd Ochrony Danych Osobowych)
- https://www.gov.pl/web/digitalizacja/sztuczna-inteligencja (Ministerstwo Cyfryzacji)