Ryzyka związane z systemami AI
Oprócz korzyści jak często wymieniane przyśpieszenie wykonywania zadań, korzystanie z systemów AI może wiązać się z szeregiem ryzyk. Ryzyka te mogą wystąpić zarówno dla udostępniających system, jak też ich użytkowników. Najczęściej opisuje się przypadki takie jak „bias” czy „halucynacje”, ale to nie jedyne zagrożenia.
Korzystanie przez przedsiębiorców z systemów sztucznej inteligencji może wiązać się z różnymi ryzykami, w tym np.:
1) ujawnienia poufnych danych,
2) wycieku danych osobowych klientów,
3) naruszenia praw autorskich;
4) naruszenia przepisów AI Act,
5) podejmowania decyzji w oparciu o błędne dane uzyskane z systemu AI.
AI Compliance Specialist
AI Compliance Specialist może być osobą, która w firmie:
1) dokonuje kompleksowego audytu stosowanych w firmie systemów AI;
2) wskazuje zarządzającym firmom na stwierdzone nieprawidłowości oraz luki;
3) formułuje zalecenia dla zarządu w sprawie wykorzystania systemów AI;
4) opracuje strategie, polityki oraz procedury stosowania systemów AI w firmie;
5) tworzy i prowadzi rejestr wykorzystywanych systemów AI;
6) dokonuje klasyfikacji systemów AI na potrzeby AI Act;
7) doradza w procesie wdrażania nowych produktów z wykorzystaniem AI;
8) monitoruje wykorzystanie systemów AI w firmie prowadząc okresowe audyty;
9) informuje zarząd firmy o zmianach prawa w zakresie wykorzystywania systemów AI.
AI Act
Systemy sztucznej inteligencji to tematyka, która dopiero zaczyna być regulowana przepisami prawa.
Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689 z dnia 13 czerwca 2024 r. w sprawie ustanowienia zharmonizowanych przepisów dotyczących sztucznej inteligencji oraz zmiany rozporządzeń (WE) nr 300/2008, (UE) nr 167/2013, (UE) nr 168/2013, (UE) 2018/858, (UE) 2018/1139 i (UE) 2019/2144 oraz dyrektyw 2014/90/UE, (UE) 2016/797 i (UE) 2020/1828 (akt w sprawie sztucznej inteligencji), zwany skrótowo AI Act to akt prawny, który ustanawia, jak to określa Komisja Europejska pierwsze w historii ramy prawne dotyczące sztucznej inteligencji, które uwzględniają zagrożenia związane ze sztuczną inteligencją i stawiają Europę w roli globalnego lidera.
AI Act stanowi obszerną regulację, której wdrożenie i stosowanie przez przedsiębiorców wymaga znajomości specyficznych zagadnień o charakterze technicznym związanych z systemami sztucznej inteligencji.
AI Act m.in. wprowadza klasyfikację systemów sztucznej inteligencji na:
1) zakazane systemy AI
2) systemy AI wysokiego ryzyka
3) systemy AI ograniczonego ryzyka
4) systemy AI minimalnego ryzyka
Zakazane praktyki w zakresie sztucznej inteligencji
W artykule 5 AI Act określone zostały zakazane praktyki w zakresie AI. W pierwszej kolejności następująca praktyka: wprowadzanie do obrotu, oddawania do użytku lub wykorzystywania systemu AI, który stosuje techniki podprogowe będące poza świadomością danej osoby lub celowe techniki manipulacyjne lub wprowadzające w błąd, czego celem lub skutkiem jest dokonanie znaczącej zmiany zachowania danej osoby lub grupy osób poprzez znaczące ograniczenie ich zdolności do podejmowania świadomych decyzji, powodując tym samym podjęcie przez nie decyzji, której inaczej by nie podjęły, w sposób, który wyrządza lub może wyrządzić u niej, u innej osoby lub u grupy osób poważną szkodę.
Osoba pełniąca w firmie funkcję AI Compliance Specialist niewątpliwie musi dogłębnie znać przepisy AI Act i treść wytycznych wydanych na jego podstawie oraz potrafić je zastosować w realiach danej firmy.
Dodaj komentarz