Parlament Europejski za zakazem śledzenia ludzi przez AI

Europosłowie zagłosowali w środę (14.06) za pierwszymi unijnymi przepisami regulującymi sztuczną inteligencję, zaostrzając przy tym regulacje zaproponowane przez Komisję Europejską jeszcze w kwietniu 2021 r. Eurodeputowani opowiedzieli się za klasyfikacją systemów sztucznej inteligencji ze względu na ryzyko, jakie stwarzają. I tak, systemy o niedopuszczalnym poziomie ryzyka, jak inwigilacja biometryczna, umożliwiająca np. śledzenie obywateli w przestrzeni publicznej, miałyby być zakazane w UE. Systemy wysokiego ryzyka, w tym np. algorytmy wykorzystywane do rekrutacji na studia lub oceniające wnioski kredytowe, mogłyby być stosowane po ocenie ryzyka jakie stwarzają i przy założeniu, że ostateczną kontrolę nad nimi sprawuje człowiek. Lista AI wysokiego ryzyka została także rozszerzona, europosłowie włączyli do niej technologie ryzykowne dla zdrowia i środowiska, reklamę polityczną i systemy rekomendacji treści wykorzystywane przez media społecznościowe. Trzecia kategoria to AI nie niosąca ryzyka, która może być powszechnie stosowana, pod warunkiem zachowania przejrzystości.

PE podzielony co do inwigilacji

Największe kontrowersje jeszcze przed głosowaniem spowodował promowany przez PE zakaz inwigilacji biometrycznej. Z kompromisu osiągniętego przez parlamentarną komisję rynku wewnętrznego (IMCO) i wolności obywatelskich (LIBE) i zakazującego stosowania w przestrzeniach publicznych systemów rozpoznawania twarzy w celu śledzenia obywateli (poza wyjątkowymi sytuacjami nakazanymi przez sąd), wyłamała się grupa EPL, do której należy Platforma Obywatelska i PSL. Centroprawica zaproponowała trzy wyjątki, kiedy zakaz mógłby zostać uchylony przez rządy państw członkowskich bez uprzedniej zgody sądu. To: zapobieganie zamachom terrorystycznym, poszukiwanie zaginionych osób, zwłaszcza dzieci oraz walka z przestępstwami zagrożonymi karą do trzech lat pozbawienia wolności. – Powinniśmy wykorzystywać potencjał AIdo tak fundamentalnych kwestii, jak zapobieganie atakom terrorystycznym czy poszukiwanie zaginionych dzieci. Oczywiście przy poszanowaniu wolności obywateli – przekonywał podczas debaty poprzedzającej głosowanie europoseł Krzysztof Hetman (PSL). Propozycja spotkała się z krytyką, zwłaszcza ze strony lewicy. – Nie chcemy, żeby biometria była wykorzystywana w UE tak, jak wykorzystywana jest w Rosji, że obywatel może zostać aresztowany na ulicy, bo złapały go kamery – odpowiedział Sergiey Lagodinsky z niemieckich Zielonych. – Organizacje publiczne muszą korzystać z AI w sposób przejrzysty i przestrzegać naszych praw. Chcemy, żeby technologia się rozwijała, ale była dla nas bezpieczna – przekonywał rumuński europoseł Dragos Tudorache (Renew), jeden ze sprawozdawców tematu w PE. Przeciwko biometrii byli też konserwatyści. – Zwykle sprzeciwiam się przepisom europejskim, dzisiaj nie. Wyjątki, owszem, bywają potrzebne, ale pamiętajmy, że mogą one otworzyć inne drzwi – mówił holenderski europoseł Rob Rooken z EKR.

Inwigilacja przez AI jednak zakazana

Propozycje centroprawicy skrytykowały także organizacje obywatelskie. Polski Panoptykon wypunktował niebezpieczeństwa związane z inwigilacją biometryczną. – Systemy te nadają się do rozpoznawania i śledzenia konkretnych osób w przestrzeni publicznej: na ulicach, dworcach, lotniskach, w centrach handlowych. Aby dobrze działały, potrzebują danych o ludziach. Dane o osobach podejrzewanych o przestępstwa to za mało – żeby taki system dobrze sobie radził z rozpoznawaniem wzorców w ludzkim zachowaniu, musi mieć tych danych dużo, dużo więcej. Najlepiej o wszystkich – napisała w swoim stanowisku organizacja. Krytycy podkreślają też, że systemy rozpoznawania twarzy bywają zawodne; badania pokazują, że AI najlepiej rozpoznaje białych mężczyzn w średnim wieku, a gorzej już sobie radzi z kobietami, osobami o innym kolorze skóry i dziećmi. Pomyłki mogą zaś prowadzić np. do niesłusznego zatrzymania lub oskarżenia o przestępstwo. Biometria może zostać także niesłusznie wykorzystana przez władze do inwigilacji innych grup społecznych – alarmują organizacje obywatelskie. Ostatecznie jednak poprawki EPL zostały odrzucone przez parlamentarną większość. Poza biometrią, PE chce również zakazania stosowania sztucznej inteligencji m.in. przez służby w celu profilowania obywateli, w tym przewidywania zachowań przestępczych, systemów rozpoznawania emocji oraz tzw. scoringu społecznego, czyli klasyfikowania ludzi na podstawie ich zachowań społecznych, statusu społeczno-ekonomicznego (np. osoby mieszkające w gorszych dzielnicach byłyby oceniane gorzej niż te z lepszych sąsiedztw) czy cech, jak poglądy polityczne.

Uregulować ChatGPT

Parlament Europejski włączył do przepisów regulacje dotyczące tzw. generatywnej AI, czyli systemów sztucznej inteligencji samodzielnie tworzących treści, mowa tu m.in. o głośnej ostatnio technologii ChatGPT. Zgodnie z nowymi przepisami treści wygenerowane w całości przez sztuczną inteligencję i bez udziału człowieka, musiałyby być wyraźnie oznaczane. – Zapisy dotyczące tej technologii nie znalazły się w pierwotnej propozycji KE, ponieważ AI rozwija się szybciej niż trwa proces legislacyjny w UE – mówi DW jeden z unijnych dyplomatów. Wygląda jednak na to, że KE zdaje sobie sprawę z zagrożeń – na początku miesiąca wiceprzewodnicząca KE Vera Jourova zapowiedziała, że firmy technologiczne będą musiały identyfikować i oznaczać tego typu treści. Platformy miałyby zobowiązać się do tego w ramach kodeksu postępowania, czyli dobrowolnego porozumienia zawartego w 2018 r. między firmami technologicznymi w celu usuwania dezinformacji. Dodatkowe regulacje odnośnie usuwania nielegalnych treści i dezinformacji z sieci zawierają co prawda unijne przepisy o usługach cyfrowych (DSA), które nie obejmują jednak kompleksowo wykorzystywania w sieci sztucznej inteligencji. Te wprowadzić ma właśnie Akt o AI.

W UE przyspieszenie

Unijne przepisy o AI będą pierwszymi na świecie. – Będziemy pierwszym obszarem prawnym na świecie z jasnymi regułami dotyczącymi ryzyka, jakie wiąże się z niektórymi zastosowaniami AI – zapewnia komisarz UE ds. rynku wewnętrznego Thierry Breton. Instytucje unijne już zapowiadają, że chcą przyspieszyć prace legislacyjne. – Hiszpania, która przejmuje prezydencję w Radzie 1 lipca chce zakończyć prace nad regulacjami do końca 2023 r. – zdradza DW jeden z urzędników KE. Nie wyklucza tego także włoski socjaldemokrata Brando Benifei, drugi sprawozdawca tematu w PE, który zdradził, że także czas wdrożenia przepisów można skrócić o sześć miesięcy. Negocjacje między instytucjami nad ostatecznym kształtem tekstu rozpoczną się już w środę wieczorem.

Chcesz skomentoać ten artykuł? Zrób to na Facebooku! >>