Shadow AI

Shadow AI

Shadow AI to określenie nowego zjawiska podobnego do znanego od lat zjawiska Shadow IT, czyli sytuacji, w której personel organizacji wykorzystuje do celów służbowych określone oprogramowanie, sprzęt IT, zasoby chmurowe bez zgody samej organizacji.

W przypadku Shadow AI pracownicy korzystają z systemów sztucznej inteligencji w celach służbowych bez wiedzy i zgody pracodawcy.

Przypadki Shadow AI

Shadow AI może przybrać postać np.:

1) instalacji przez pracowników na służbowym sprzęcie oprogramowania AI;

2) korzystania przez pracowników z prywatnych kont pracowników w systemach AI.

Ryzyka

Zjawisko Shadow AI niesie za sobą szereg ryzyk, np.:

1) ryzyko cyberataku z wykorzystaniem aplikacji systemu sztucznej inteligencji zainstalowanego przez pracownika na sprzęcie pracodawcy;

2) ryzyko ujawnienia danych chronionych poprzez umieszczenie ich przez pracownika w treści „promptu” w systemie sztucznej inteligencji;

3) naruszenie przepisów o ochronie danych (np RODO)

4) naruszenie przepisów zakazujących stosowania niektórych systemów AI

5) pominięcie istotnych etapów podejmowania decyzji (pracownik korzystający z pomocy systemu AI dąży do uzyskania finalnego „produktu” pomijając etap analiz i testowania rozwiązań)

6) pominięcie lepszych rozwiązań – rozwiązanie podsunięte przez system AI może nie być najlepszym w danym przypadku

7) podjęcie decyzji na podstawie „halucynacji” systemu AI lub obciążonej zjawiskiem „bias”

Zapobieganie

Ryzyka związane z Shadow AI można ograniczać stosując np. następujące środki:

1) edukacja personelu pod kątem ryzyk korzystania z systemów AI, w tym niezatwierdzonych systemów AI;

2) audyty IT;

3) wprowadzenie procedur bezpieczeństwa nakierowanych na ryzyka Shadow IT.