Sztuczna inteligencja w ryzach UE. Dla kogo nowe obowiązki?

Sztuczna inteligencja - UE chce regulacji.
UE chce uregulować kwestie związane ze sztuczną inteligencją. Źródło: Adobe Stock

Unia Europejska przyspiesza działania legislacyjne dotyczące uregulowania sztucznej inteligencji. Opublikowano już (21 kwietnia br.) projekt aktu w sprawie sztucznej inteligencji, który określa m.in. nowe obowiązki dla podmiotów korzystających z systemów sztucznej inteligencji.

Sztuczna inteligencja (SI) zaczyna być wykorzystywana przez przedsiębiorców w coraz szerszym zakresie np. w celu personalizacji reklam lub kontaktu z klientami za pośrednictwem chatbotów. Rozwój sztucznej inteligencji jest pożądaną częścią unijnej strategii cyfrowej. Unia Europejska zakłada, że do 2030 roku 75 proc. przedsiębiorstw powinno korzystać z usług w chmurze, dużych zbiorów danych i sztucznej inteligencji[1]. Jednocześnie, zdecydowano się na uregulowanie kwestii systemów sztucznej inteligencji w celu zapobiegania wynikających z nich zagrożeń związanych z dyskryminacją i potencjalną nieprzewidywalnością.

Poziomy ryzyka systemów SI

Projekt przewiduje cztery poziomy ryzyka, które może wywoływać SI:

  1. niedopuszczalne ryzyko, które obejmuje np. systemy oceny obywateli (tzw. social scoring), a także te wykorzystujące manipulację i określone słabości osób;
  2. wysokie ryzyko, np. zdalna identyfikacja biometryczna „w czasie rzeczywistym”, SI przeznaczona do rekrutacji pracowników lub do oceny zdolności kredytowej osób fizycznych;
  3. ograniczone ryzyko np. chatboty, systemy umożliwiające rozpoznawanie emocji ludzkich oraz wykorzystujące technologię deepfake;
  4. minimalne ryzyko np. sztuczna inteligencja wykorzystywana w grach, filtrach spamu.

Stosowanie systemów SI powodujących niedopuszczalne ryzyko jest zakazane. Projekt nie przewiduje natomiast ograniczeń co do tych obarczonych minimalnym ryzykiem.

Jakie obowiązki czekają podmioty wykorzystujące systemy SI?

W przypadku SI powodującej ograniczone ryzyko nakłada się obowiązek informowania osób o wchodzeniu w interakcję z takimi systemami. Chodzi np. o możliwość weryfikacji czy chatbot obsługiwany jest przez sztuczną inteligencję, czy przez człowieka.

Projekt w głównej mierze skupia się jednak na wymogach i obowiązkach dla kategorii SI powodującej wysokie ryzyko. Ciężar dopełnienia obowiązków związanych z tego rodzaju sztuczną inteligencją spoczywa w szczególności na ich dostawcach, którzy będą mieli m.in. obowiązek rejestracji systemu SI w unijnej bazie danych, sporządzania jego dokumentacji technicznej, a także umieszczania w systemach SI oznakowania CE. Wprowadza się również konieczność utrzymywania rejestrów zdarzeń, które pozwolą na eliminację problemu tzw. „czarnej skrzynki”, czyli niewytłumaczalności działań podejmowanych przez sztuczną inteligencję.

CZYTAJ TEŻ: Sztuczna inteligencja wpisana w przyszłość ZEA

Ponadto dostawcy systemów SI, według projektu rozporządzenia, będą zobowiązani do zapewniania ich zgodności m.in. z wymogami z zakresu zarządzania danymi, cyberbezpieczeństwa, przejrzystości oraz zapewniania nadzoru ze strony człowieka.

Znacznie bardziej ograniczone obowiązki nałożono na podmioty wykorzystujące systemy sztucznej inteligencji w działalności zawodowej (tj. użytkowników), a także importerów i dystrybutorów.

CZYTAJ TEŻ: Sztuczna inteligencja pomaga włoskiej gospodarce i fiskusowi

Użytkownicy będą mieli obowiązek użytkowania SI zgodnie z jej przeznaczeniem ustalonym przez dostawcę. W określonych przypadkach będą również odpowiedzialni za odpowiedni dobór tzw. danych wejściowych, na podstawie których sztuczna inteligencja opiera swoje działanie. Tym samym mogą oni ponosić odpowiedzialność za dyskryminacyjny charakter danych wejściowych. Oprócz tego są oni zobowiązani do monitorowania działania systemów i zgłaszania dostawcom ewentualnych nieprawidłowości.

Naruszenia powyższych obowiązków obarczono wysokimi karami finansowymi.

Sztuczna inteligencja – na ostateczną treść rozporządzenia trzeba jeszcze poczekać

Już teraz poddaje się pod dyskusję dokonane w projekcie rozdzielenie obowiązków pomiędzy poszczególne podmioty biorące udział w tworzeniu i wykorzystywaniu SI. Powstaje obawa, że tak duża odpowiedzialność nałożona na dostawców rozwiązań opartych o sztuczną inteligencję przyczyni się do zahamowania rozwoju tej gałęzi gospodarki w Unii Europejskiej.

CZYTAJ TEŻ: Sztuczna inteligencja i automatyzacja w BNP Paribas

Warto zaznaczyć, że projekt jest dopiero na etapie konsultacji i z pewnością jego kształt ulegnie jeszcze zmianom. Już teraz można jednak stwierdzić, że dostawcy narzędzi z zakresu sztucznej inteligencji powinni śledzić dalsze losy tego projektu, gdyż przewiduje on dla nich wiele całkowicie nowych obowiązków.

Autorem jest Anna Nowak z Lubasz i Wspólnicy – Kancelaria Radców Prawnych sp.k. Kancelaria jest zrzeszona w sieci Kancelarie RP działającej pod patronatem dziennika „Rzeczpospolita”.

[1] Pozyskano z: https://ec.europa.eu/commission/presscorner/detail/pl/IP_21_983. Dostęp: 21.06.2021 r.

Tagi:

Mogą Ci się również spodobać

Opłata opakowaniowa to kolejna danina, którą rząd zamierza ściągnąć od firm

Opłata opakowaniowa dla firm już na horyzoncie

Polskie firmy czeka wzrost kosztów działalności, których wielkości nikt nie jest w stanie oszacować. ...

Diety zagraniczne, a koszty uzyskania przychodów

Pracodawca do kosztów uzyskania przychodu może w całości zaliczyć wydatki z tytułu diet, których ...

Ochrona podwykonawców jest podczas pandemii jeszcze trudniejsza.

Ochrona podwykonawcy przy kwarantannie jego pracowników

Pandemia odbiła swe piętno na wielu inwestycjach, które ze względu na dużą skalę, często ...

Ze wsparcia botów SentiOne korzystają m.in. Alior Bank, Bank BNP Paribas i Kruk S.A.

SentiONe to polski startup z 19 mln zł dotacji na chatboty

SentiOne, polska firma rozwijająca zaawansowane systemy tzw. automatyzacji obsługi klienta, otrzyma z Narodowego Centrum ...

Mniej sprawozdawczości dla MŚP

Rzecznik MŚP proponuje zmiany w przepisach dotyczących ochrony środowiska z korzyścią dla przedsiębiorców z ...

Indeks mikroprzedsiębiorstw InfoCredit wciąż jest na minusie.

Zastój w biznesie. Potwierdzają to dane z CEIDG

Początek roku potwierdził widoczny już od jesieni 2020 r. zastój aktywności biznesowej Polaków. Nie ...