Sztuczna inteligencja w ryzach UE. Dla kogo nowe obowiązki?

Unia Europejska przyspiesza działania legislacyjne dotyczące uregulowania sztucznej inteligencji. Opublikowano już (21 kwietnia br.) projekt aktu w sprawie sztucznej inteligencji, który określa m.in. nowe obowiązki dla podmiotów korzystających z systemów sztucznej inteligencji.

Publikacja: 20.07.2021 13:47

Sztuczna inteligencja w ryzach UE. Dla kogo nowe obowiązki?

Foto: UE chce uregulować kwestie związane ze sztuczną inteligencją. Źródło: Adobe Stock

Sztuczna inteligencja (SI) zaczyna być wykorzystywana przez przedsiębiorców w coraz szerszym zakresie np. w celu personalizacji reklam lub kontaktu z klientami za pośrednictwem chatbotów. Rozwój sztucznej inteligencji jest pożądaną częścią unijnej strategii cyfrowej. Unia Europejska zakłada, że do 2030 roku 75 proc. przedsiębiorstw powinno korzystać z usług w chmurze, dużych zbiorów danych i sztucznej inteligencji[1]. Jednocześnie, zdecydowano się na uregulowanie kwestii systemów sztucznej inteligencji w celu zapobiegania wynikających z nich zagrożeń związanych z dyskryminacją i potencjalną nieprzewidywalnością.

Poziomy ryzyka systemów SI

Projekt przewiduje cztery poziomy ryzyka, które może wywoływać SI:

  1. niedopuszczalne ryzyko, które obejmuje np. systemy oceny obywateli (tzw. social scoring), a także te wykorzystujące manipulację i określone słabości osób;
  2. wysokie ryzyko, np. zdalna identyfikacja biometryczna „w czasie rzeczywistym”, SI przeznaczona do rekrutacji pracowników lub do oceny zdolności kredytowej osób fizycznych;
  3. ograniczone ryzyko np. chatboty, systemy umożliwiające rozpoznawanie emocji ludzkich oraz wykorzystujące technologię deepfake;
  4. minimalne ryzyko np. sztuczna inteligencja wykorzystywana w grach, filtrach spamu.

Stosowanie systemów SI powodujących niedopuszczalne ryzyko jest zakazane. Projekt nie przewiduje natomiast ograniczeń co do tych obarczonych minimalnym ryzykiem.

Jakie obowiązki czekają podmioty wykorzystujące systemy SI?

W przypadku SI powodującej ograniczone ryzyko nakłada się obowiązek informowania osób o wchodzeniu w interakcję z takimi systemami. Chodzi np. o możliwość weryfikacji czy chatbot obsługiwany jest przez sztuczną inteligencję, czy przez człowieka.

Projekt w głównej mierze skupia się jednak na wymogach i obowiązkach dla kategorii SI powodującej wysokie ryzyko. Ciężar dopełnienia obowiązków związanych z tego rodzaju sztuczną inteligencją spoczywa w szczególności na ich dostawcach, którzy będą mieli m.in. obowiązek rejestracji systemu SI w unijnej bazie danych, sporządzania jego dokumentacji technicznej, a także umieszczania w systemach SI oznakowania CE. Wprowadza się również konieczność utrzymywania rejestrów zdarzeń, które pozwolą na eliminację problemu tzw. „czarnej skrzynki”, czyli niewytłumaczalności działań podejmowanych przez sztuczną inteligencję.

CZYTAJ TEŻ: Sztuczna inteligencja wpisana w przyszłość ZEA

Ponadto dostawcy systemów SI, według projektu rozporządzenia, będą zobowiązani do zapewniania ich zgodności m.in. z wymogami z zakresu zarządzania danymi, cyberbezpieczeństwa, przejrzystości oraz zapewniania nadzoru ze strony człowieka.

Znacznie bardziej ograniczone obowiązki nałożono na podmioty wykorzystujące systemy sztucznej inteligencji w działalności zawodowej (tj. użytkowników), a także importerów i dystrybutorów.

CZYTAJ TEŻ: Sztuczna inteligencja pomaga włoskiej gospodarce i fiskusowi

Użytkownicy będą mieli obowiązek użytkowania SI zgodnie z jej przeznaczeniem ustalonym przez dostawcę. W określonych przypadkach będą również odpowiedzialni za odpowiedni dobór tzw. danych wejściowych, na podstawie których sztuczna inteligencja opiera swoje działanie. Tym samym mogą oni ponosić odpowiedzialność za dyskryminacyjny charakter danych wejściowych. Oprócz tego są oni zobowiązani do monitorowania działania systemów i zgłaszania dostawcom ewentualnych nieprawidłowości.

Naruszenia powyższych obowiązków obarczono wysokimi karami finansowymi.

Sztuczna inteligencja – na ostateczną treść rozporządzenia trzeba jeszcze poczekać

Już teraz poddaje się pod dyskusję dokonane w projekcie rozdzielenie obowiązków pomiędzy poszczególne podmioty biorące udział w tworzeniu i wykorzystywaniu SI. Powstaje obawa, że tak duża odpowiedzialność nałożona na dostawców rozwiązań opartych o sztuczną inteligencję przyczyni się do zahamowania rozwoju tej gałęzi gospodarki w Unii Europejskiej.

CZYTAJ TEŻ: Sztuczna inteligencja i automatyzacja w BNP Paribas

Warto zaznaczyć, że projekt jest dopiero na etapie konsultacji i z pewnością jego kształt ulegnie jeszcze zmianom. Już teraz można jednak stwierdzić, że dostawcy narzędzi z zakresu sztucznej inteligencji powinni śledzić dalsze losy tego projektu, gdyż przewiduje on dla nich wiele całkowicie nowych obowiązków.

Autorem jest Anna Nowak z Lubasz i Wspólnicy – Kancelaria Radców Prawnych sp.k. Kancelaria jest zrzeszona w sieci Kancelarie RP działającej pod patronatem dziennika „Rzeczpospolita”.

[1] Pozyskano z: https://ec.europa.eu/commission/presscorner/detail/pl/IP_21_983. Dostęp: 21.06.2021 r.

Sztuczna inteligencja (SI) zaczyna być wykorzystywana przez przedsiębiorców w coraz szerszym zakresie np. w celu personalizacji reklam lub kontaktu z klientami za pośrednictwem chatbotów. Rozwój sztucznej inteligencji jest pożądaną częścią unijnej strategii cyfrowej. Unia Europejska zakłada, że do 2030 roku 75 proc. przedsiębiorstw powinno korzystać z usług w chmurze, dużych zbiorów danych i sztucznej inteligencji[1]. Jednocześnie, zdecydowano się na uregulowanie kwestii systemów sztucznej inteligencji w celu zapobiegania wynikających z nich zagrożeń związanych z dyskryminacją i potencjalną nieprzewidywalnością.

Pozostało 87% artykułu
2 / 3
artykułów
Czytaj dalej. Kup teraz
Prawo i Podatki
Segregacja odpadów: będą nowe obowiązki dla firm
Prawo i Podatki
Ważny wyrok NSA w sprawie atomowej broni fiskusa
Prawo i Podatki
Kto płaci karę za jazdę autostradą leasingowym autem bez opłaty? Jest wyrok NSA
Prawo i Podatki
NSA wydał wyrok ws. zwrotu akcyzy przy korekcie faktury
Prawo i Podatki
Nowe przepisy mają zachęcić przedsiębiorców do zawierania ugód