Cele:
Niniejszy artykuł analizuje zagrożenia bezpieczeństwa dla systemów sztucznej inteligencji (AI), koncentrując się na klasyfikacji ataków technicznych wymierzonych w poufność, integralność oraz dostępność modeli uczenia maszynowego (ML).

Metody:
Badanie opiera się na systematycznym przeglądzie literatury naukowej oraz analizie uznanych taksonomii (w tym opracowanych przez NIST, ENISA i MITRE ATLAS), co pozwala na integrację typów ataków w odniesieniu do poszczególnych etapów cyklu życia systemów uczenia maszynowego (ML) oraz poziomów wiedzy atakującego.

Wyniki:
Praca identyfikuje główne wektory zagrożeń, takie jak przykłady antagonistyczne, zatruwanie danych, wstawianie tylnych furtek, kradzież modelu, wnioskowanie o członkostwie, przeciążanie modelu i szybka manipulacja. Wyniki pokazują, że ataki typu „biała skrzynka” umożliwiają wysoce precyzyjne i ukryte manipulowanie zachowaniem modelu, podczas gdy ataki typu „czarna skrzynka” dominują w środowiskach produkcyjnych, wykorzystując przenoszalność i analizę opartą na predykcjach.

Wnioski:
Proponowana taksonomia dowodzi, że zabezpieczanie systemów uczenia maszynowego wymaga wielowarstwowego podejścia obronnego, obejmującego ochronę danych treningowych, wzmocnienie odporności modelu oraz zabezpieczanie interfejsów API za pomocą technik takich jak prywatność różnicowa, trening adwersaryjny i ograniczanie szybkości. Odkrycia podkreślają potrzebę ścisłej współpracy między inżynierami uczenia maszynowego a praktykami cyberbezpieczeństwa w celu zapewnienia odporności i niezawodności systemów AI.