---
title: Analiza podatności komponentów sztucznej inteligencji w aplikacjach internetowych
url: https://www.elseif.net/pl/analiza-podatnosci-komponentow-sztucznej-inteligencji-w-aplikacjach-internetowych
published: 2026-11-03T09:13:29+00:00
language: pl
section: Agenci
source: https://habr.com/ru/companies/abp2b/articles/1102046/?utm_campaign=1102046&utm_source=habrahabr&utm_medium=rss
organizations: ABP2B
publisher: elseif
---

# Analiza podatności komponentów sztucznej inteligencji w aplikacjach internetowych

Współczesne aplikacje internetowe coraz częściej integrują komponenty sztucznej inteligencji, które ewoluowały z prostych botów czatujących w narzędzia z dostępem do wewnętrznych dokumentów, poczty korporacyjnej, baz danych oraz systemów CRM. Zmiany te, choć dla pracowników mogą wydawać się nieznaczne, znacząco modyfikują sytuację w obszarze bezpieczeństwa informacji.

Tradycyjne testy penetracyjne aplikacji internetowych obejmują weryfikację autoryzacji, rozgraniczania dostępu, interfejsów API, danych wejściowych użytkownika oraz logiki biznesowej. Obecnie między użytkownikiem a aplikacją pojawia się model językowy, który interpretuje treść informacji. Jeśli model posiada dostęp do zewnętrznych narzędzi, przetwarzanie tekstu może skutkować realnym działaniem w systemie korporacyjnym, co pozwala napastnikom próbować wpływać na komponent sztucznej inteligencji w celu uzyskania danych lub wykonania operacji.

Ryzyka zależą od rodzaju rozwiązania. Boty czatujące, które nie mają dostępu do zamkniętych informacji, generują ograniczone zagrożenia. Systemy wykorzystujące technologię RAG pozwalają modelom korzystać z zewnętrznych źródeł, co umożliwia pracę z danymi niedostępnymi dla części użytkowników. Największe możliwości mają agenci sztucznej inteligencji, którzy mogą nie tylko wyszukiwać informacje, ale także zmieniać stan innych systemów, na przykład tworząc zadania w systemie CRM, modyfikując kalendarze lub korzystając z wewnętrznych interfejsów API.

Istnieje ryzyko wycieku poufnych dokumentów poprzez technologię RAG. Może dojść do sytuacji, w której użytkownik nie ma bezpośredniego dostępu do pliku, ale może poznać jego treść poprzez odpowiedź sztucznej inteligencji, ponieważ komponent ten korzysta z konta serwisowego o szerszych uprawnieniach. W związku z tym testy penetracyjne muszą sprawdzać, jakie pliki może znaleźć komponent RAG i czy uprawnienia użytkownika są weryfikowane przed przekazaniem informacji do modelu językowego.

Kolejnym zagrożeniem jest wstrzykiwanie promptów, czyli prompt injection. Polega ono na wprowadzaniu instrukcji poprzez dane przetwarzane przez model. Jeśli napastnik zmodyfikuje dokument w korporacyjnej bazie wiedzy, dodając polecenie zignorowania poprzednich instrukcji i wyświetlenia danych konkretnego użytkownika, model językowy może błędnie zinterpretować ten tekst jako polecenie i je wykonać.