Według raportu firmy McKinsey 78% organizacji używa AI w co najmniej jednej funkcji biznesowej – najczęściej w obszarze IT, marketingu i obsługi klienta. Rozwój sztucznej inteligencji budzi jednak coraz więcej pytań, które nie sprowadzają się jedynie do jej technicznych możliwości. Nie pozostaje ona bowiem bez wpływu na cyberbezpieczeństwo.

Z jednej strony sztuczna inteligencja przekształciła sposób myślenia o ochronie danych – umożliwiła wykrywanie nieprawidłowości o wiele szybciej i dokładniej. Analizuje wzorce w czasie rzeczywistym, przewiduje potencjalne zagrożenia i reaguje na nie sprawniej niż jakiekolwiek klasyczne rozwiązanie. AI analizuje również ogromne zbiory i przepływy danych i dzięki temu jest w stanie wyłapać anomalie, czego nie potrafi zrobić człowiek ani zespół w tak krótkim czasie.

Z drugiej strony – ten sam potencjał może działać na niekorzyść organizacji. AI przestała być bowiem wyłącznie narzędziem obrony – dziś znajduje się również w arsenale atakujących. Cyberprzestępcy wykorzystują AI do:

• tworzenia coraz bardziej zaawansowanych ataków,


• zwiększenia wiarygodności i socjotechniki, spear phishingu czy oszustw finansowych,


• generowania fikcyjnych profili w mediach społecznościowych, by np. nakłaniać ofiary do przekazania pieniędzy,


• tworzenia fałszywych wiadomości, które brzmią bardzo wiarygodnie,


• klonowania głosu bliskich osób z rodziny lub znajomych, np. w celu wyłudzenia pieniędzy,


• automatyzowania złośliwych działań,


• tworzenia realistycznych deepfake’ów.

Czy sztuczna inteligencja jest więc niebezpieczna? Z pewnością stanowi zagrożenie dla firm, choć jednocześnie jest też ich dużą szansą na zapewnienie skutecznej ochrony przed cyberprzestępcami.

Według badania przeprowadzonego przez SoSafe aż 87% organizacji doświadczyło jakiegoś rodzaju cyberataku z wykorzystaniem sztucznej inteligencji. Jakie zagrożenia wynikają z rozwoju tej technologii?

Zaawansowane ataki phishingowe

Jednym z zagrożeń związanych ze sztuczną inteligencją jest możliwość tworzenia bardziej przekonujących i spersonalizowanych wiadomości phishingowych, które trudniej odróżnić od prawdziwych komunikatów. Cyberprzestępcy wykorzystują AI również do analizowania danych ofiar oraz zwiększania skali swojej działalności. Według raportu KnowBe4 aż 82,6% przeanalizowanych e-maili phishingowych miało punkty styczne z technologią AI.

Deepfake i manipulacja treścią

Generatywne modele AI mogą tworzyć realistyczne materiały audiowizualne. Takie techniki są wykorzystywane np. do podszywania się pod osoby publiczne, klientów lub pracowników firmy.

Podczas badań wykonanych przez autorów artykułu „AI-Powered Spearphishing Cyber Attacks: Fact or Fiction?” 66% osób nie było w stanie odróżnić dźwięku wygenerowanego przez AI od prawdziwego, a 43% nie rozpoznało fałszywego filmu.

Ataki typu prompt injection

Cyberprzestępcy mogą manipulować danymi wejściowymi dużych modeli językowych, aby uzyskać nieautoryzowany dostęp do ich zasobów lub zmusić system do wykonania niezamierzonych działań. Takie ataki są trudne do wykrycia i mogą prowadzić do poważnych naruszeń bezpieczeństwa.

Automatyzacja i skalowanie działań cyberprzestępców

Modele takie jak FraudGPT czy WormGPT są tworzone specjalnie do celów przestępczych, umożliwiając automatyzację ataków oraz zwiększenie ich skuteczności i skali. Ponadto, dedykowane narzędzia wykorzystujące AI obniżają próg wejścia do świata cyberprzestępczości.

AI jest jednym z filarów transformacji cyfrowej. Jej wdrożenie w firmach niesie ze sobą ogromny potencjał, ale wymaga jednak odpowiedniego przygotowania, nadzoru i zrozumienia specyfiki tej technologii. Źle wdrożona sztuczna inteligencja to zagrożenie stratami finansowymi, utrata zaufania czy wyciek danych.

Jednym z następstw niewłaściwego wdrożenia AI w firmie jest osłabienie detekcji zagrożeń. Błędnie uczone lub niedostatecznie skalibrowane modele mogą ignorować anomalie, które powinny zostać oznaczone jako podejrzane. Z czasem taki system przestaje pełnić funkcję prewencyjną, a firmie pozostaje tylko zgłoszenie ataku po fakcie. Przypomina to system SIEM (Security Information and Event Management), który zaraz po wdrożeniu funkcjonował prawidłowo. Z czasem został jednak zaniedbany i nikt go nie rozwijał, czego konsekwencją były masowe alerty dotyczące false positives.

Nieodpowiednie wdrożenie sztucznej inteligencji w firmie może też dać złudne poczucie bezpieczeństwa. Organizacje niekiedy przeszacowują możliwości AI, zaniedbując tradycyjne mechanizmy ochronne. Może to prowadzić do spadku dyscypliny w zakresie przestrzegania polityk bezpieczeństwa, a ostatecznie do kompromitacji systemu. W całym systemie wciąż potrzebny jest człowiek, który będzie czuwał nad procesami oraz zachowa zdrowy rozsądek w wykorzystaniu AI.

W wyniku nieprawidłowego wdrożenia AI model działający w trybie ciągłego uczenia może nieumyślnie zapamiętywać wrażliwe dane, np. treść wiadomości e-mail, poufne dokumenty lub dane osobowe. Tylko wprowadzenie odpowiednich mechanizmów anonimizacji może uchronić przed odtworzeniem lub ujawnieniem informacji w nieoczekiwanych sytuacjach. Stwarza to realne ryzyko naruszenia przepisów o ochronie danych osobowych.

W badaniu firmy Takepoint Research aż 80% specjalistów ds. cyberbezpieczeństwa uznało, że korzyści płynące z AI w zakresie cyberbezpieczeństwa przewyższają ryzyka. 64% wskazało jej szczególną skuteczność w wykrywaniu zagrożeń, 52% w monitorowaniu sieci, a 48% w zarządzaniu podatnościami. Pokazuje to, jak szeroką gamą zagadnień zajmuje się obecnie AI – nie bez powodu jest jednym z wiodących trendów technologicznych.

Korzyści dla firm płynące z wdrożenia AI to m.in.:

• Szybsze wykrywanie zagrożeń – systemy AI analizują ruch sieciowy i zachowania użytkowników w czasie rzeczywistym, identyfikując anomalie, zanim zostaną zauważone przez człowieka.


• Mniej fałszywych alarmów – uczenie maszynowe pozwala precyzyjnie odróżnić realne incydenty od nieistotnych sygnałów.


• Możliwość analizy ogromnej ilości danych w krótkim czasie –działania byłyby niemożliwe do wykonania przez człowieka lub cały zespół w stosunkowo krótkim czasie.


• Automatyzacja reakcji na incydenty – AI potrafi natychmiast zablokować dostęp, izolować zainfekowane urządzenia lub przekierować ruch sieciowy bez udziału człowieka.


• Zwiększenie odporności organizacji – dzięki analizie wzorców zagrożeń możliwe jest wdrażanie działań zapobiegawczych.


• Optymalizacja wykorzystania zasobów – automatyczne zarządzanie incydentami pozwala ograniczyć czas pracy zespołów ds. cyberbezpieczeństwa i zwiększa ich efektywność.


• Wspomaganie zarządzania ryzykiem – algorytmy przewidują potencjalne scenariusze zagrożeń i wspierają podejmowanie decyzji strategicznych.

Jak każda technologia, sztuczna inteligencja ma wady i zalety. Klasyczne rozwiązania z zakresu cyberbezpieczeństwa powinny więc kompensować te pierwsze i wspierać drugie. Przykładem może być Security Operations Center Netii, które wykorzystuje zaawansowane narzędzia klasy SIEM/SOAR do monitorowania sieci i reagowania na incydenty, przy jednoczesnym nadzorze ze strony doświadczonych specjalistów.

Twoja firma może skorzystać również z dedykowanego rozwiązania Netia Managed EDR, które wykorzystuje sztuczną inteligencję do monitoringu oraz wykrywania incydentów bezpieczeństwa. Nasz zespół może również pomóc w dopasowaniu narzędzi oraz doradzić, jak poprawnie wdrożyć rozwiązania security oparte na AI.