Agentów AI wdrożyło dotąd 17 proc. organizacji, ale ponad 60 proc. planuje zrobić to w ciągu najbliższych dwóch lat – wynika z danych Gartnera. Do końca 2026 r. wyspecjalizowani agenci mogą być obecni nawet w 40 proc. aplikacji biznesowych, podczas gdy rok wcześniej było to mniej niż 5 proc. Jak widać, tempo wdrożeń rośnie bardzo szybko – a wraz z nim ryzyko związane z dostępem sztucznej inteligencji do firmowej poczty, dokumentów, baz klientów czy systemów finansowych.
Czym różni się agent AI od zwykłego chatbota? Agent nie kończy pracy na wygenerowaniu odpowiedzi. Może sam zaplanować kolejne kroki, korzystać z zewnętrznych narzędzi i wykonywać operacje potrzebne do realizacji powierzonego zadania. Dzięki temu firmy mają otwartą drogę do znacznie szerszej automatyzacji. Muszą przy tym pamiętać, że źle skonfigurowany agent może zrobić znacznie więcej, niż oczekiwał od niego pracownik.
64,3 mld dolarów na modele i platformy AI
Za szybkim wzrostem agentów AI stoi potężny napływ pieniędzy do całego sektora. Światowe wydatki na modele i platformy sztucznej inteligencji mają w 2026 r. osiągnąć 64,3 mld dolarów, czyli o 63,4 proc. więcej niż rok wcześniej. Jeszcze szybciej mają rosnąć wydatki na modele generatywnej AI – o 117 proc. Nakłady na platformy AI mają zwiększyć się o 36,9 proc.
Takie zaplecze finansowe przyspiesza rozwój systemów, które mogą działać coraz bardziej samodzielnie. Agent może np. przeczytać wiadomość, pobrać plik, zmienić dane klienta, uruchomić skrypt albo wysłać odpowiedź.
– Taki agent może otrzymać dostęp do poczty elektronicznej, kalendarza, repozytorium kodu, systemu CRM, dokumentów przechowywanych w chmurze, aplikacji księgowej czy firmowej bazy danych. Może przeczytać wiadomość, pobrać dokument, zmienić rekord klienta, uruchomić skrypt, wysłać odpowiedź albo złożyć zamówienie. Ta zdolność do działania stanowi największą wartość agentów, a jednocześnie niesie szereg potencjalnych zagrożeń – mówi Paweł Kulpa, ekspert ds. cyberbezpieczeństwa z Safesqr.
Z eksperymentu do standardowego narzędzia
Według badania Gartnera z II kwartału 2026 r. agenci AI są dziś wdrożeni w 17 proc. organizacji. Znacznie ważniejszy jest jednak plan na najbliższe lata – ponad 60 proc. firm chce uruchomić takie rozwiązania w ciągu dwóch lat. Gartner określa to tempo jako najbardziej agresywną ścieżkę adopcji spośród analizowanych nowych technologii.
Zmiana będzie widoczna także w samym oprogramowaniu biznesowym. Do końca tego roku wyspecjalizowani agenci mają znaleźć się nawet w 40 proc. aplikacji dla przedsiębiorstw, wobec mniej niż 5 proc. w 2025 r.
Kolejnym etapem będzie współpraca kilku agentów naraz. W 2027 r. jedna trzecia wdrożeń agentowych ma wykorzystywać systemy, w których różne narzędzia AI dzielą między siebie zadania. Jeden agent może wtedy analizować dane, drugi przygotowywać decyzję, a trzeci wykonywać operację w systemie firmy. Automatyzacja staje się skuteczniejsza, ale rośnie też liczba połączeń i uprawnień, które trzeba kontrolować.
Agent AI nie musi „chcieć” zaszkodzić
Ryzyko nie polega wyłącznie na celowym wykorzystaniu AI przez cyberprzestępcę. Problem może pojawić się także wtedy, gdy agent po prostu zbyt konsekwentnie realizuje zadany cel.
OpenAI i Anthropic ujawniły incydenty, podczas których narzędzia AI w środowiskach testowych znajdowały sposoby na przedostanie się do systemów firm. Modele łączyły kilka działań w sekwencje, których wcześniej nie przewidziano.
Podczas zwykłej pracy może zadziałać podobny mechanizm. Agent otrzymujący ogólne polecenie może dojść do wniosku, że powinien zmienić rekord w systemie, przyznać rabat, pobrać dodatkowy dokument albo wysłać wiadomość. Jeżeli ma zbyt szerokie uprawnienia, może przekroczyć granicę, której pracownik nawet nie zamierzał mu dawać.
AI nie powinno pracować na koncie człowieka
Jaki jest najbardziej podstawowy błąd? Eksperci wskazują na podłączanie agenta do istniejącego konta pracownika. To wygodne, ale jednocześnie daje AI wszystkie uprawnienia przypisane tej osobie – także te, których nie potrzebuje do konkretnego zadania. Powstaje też problem z audytem. W logach systemowych operacja może wyglądać tak, jakby wykonał ją człowiek, chociaż w rzeczywistości zrobił to agent AI.
– Agent AI nie powinien korzystać z konta i pełnych uprawnień pracownika. Należy utworzyć dla niego odrębną tożsamość techniczną oraz przyznać dostęp wyłącznie do danych i funkcji potrzebnych do wykonania konkretnego zadania. W praktyce powinien działać zgodnie z zasadą najmniejszych uprawnień, najlepiej z wykorzystaniem uprawnień okresowych, które wygasają po zakończeniu zadania – mówi Paweł Kulpa.
Bezpieczniejszy model pracy z agentem AI zakłada więc osobne konto techniczne, własne dane uwierzytelniające i dokładnie zdefiniowaną rolę agenta.
Szczególnego nadzoru wymagają systemy, które korzystają z kilku aplikacji jednocześnie. Połączenie pojedynczych uprawnień otwiera możliwość stworzenia całej sekwencji działań. Agent posiadający dostęp do poczty, dysku i CRM może np. znaleźć dane dostępowe zapisane w dokumencie, użyć ich w kolejnej aplikacji, a następnie przesłać pozyskane informacje w wiadomości.
Dlatego kontrola nie powinna sprowadzać się wyłącznie do pytania, czy agent ma dostęp do konkretnej aplikacji. Firma musi sprawdzić, co agent AI może zrobić po połączeniu możliwości kilku systemów.
Człowiek nie musi zatwierdzać wszystkiego
Jednak z drugiej strony pełna ręczna kontrola nad każdym ruchem agenta podważałaby sens automatyzacji. Zamiast tego firma może ustalić progi, po których AI musi poprosić człowieka o zgodę.
Jak tłumaczy Paweł Kulpa, agent AI może np. sam przygotować treść wiadomości, ale jej wysłanie do klienta może wymagać akceptacji. Może zaproponować zmianę konfiguracji, lecz nie powinien automatycznie jej wdrażać. Jeszcze bardziej restrykcyjne zasady powinny dotyczyć operacji finansowych, usuwania danych i nadawania nowych uprawnień. A mechanizm zatwierdzający powinien również działać poza samym modelem, aby agent AI nie mógł go ominąć.
– Nie chodzi o to, aby człowiek zatwierdzał każdy krok agenta. Ważne jest jednak określenie progów ryzyka – mówi Paweł Kulpa. – Istotne jest, aby przeszkolić także osoby nadzorujące AI aby nie akceptowały z automatu wszystkich propozycji AI a także, aby w przypadkach wątpliwych dopytywały agenta o przesłanki prowadzące AI do określonych wyników i rekomendacji.
Firma musi mieć możliwość, by odtworzyć każdy krok
Ograniczenie dostępu nie wystarczy, jeśli po incydencie firma nie potrafi ustalić, co właściwie zrobił agent. Dlatego system powinien rejestrować polecenie, które otrzymała AI, dane wykorzystane podczas pracy, aplikacje, do których się połączyła, użyte narzędzia, decyzje autoryzacyjne oraz faktycznie wykonane operacje.
Organizacja może również ograniczyć czas działania agenta, liczbę wykonywanych operacji, maksymalną wartość transakcji, ilość eksportowanych danych czy listę odbiorców, z którymi może się kontaktować.
Takie limity mają zapobiec sytuacji, w której AI bez końca próbuje wykonać zadanie albo wielokrotnie testuje różne drogi obejścia zabezpieczeń.
– Każde wdrożenie powinno zapewniać pełny ślad działań agenta oraz możliwość jego natychmiastowego zatrzymania. Firma musi widzieć nie tylko końcowy rezultat, lecz także użyte narzędzia, dane i decyzje autoryzacyjne. Jeżeli agent zaczyna wykonywać nietypową serię czynności albo wielokrotnie próbuje ominąć ograniczenie, system powinien automatycznie przerwać proces i przekazać sprawę człowiekowi – dodaje Paweł Kulpa.
Przeczytaj także:
- 100 gramów zmienia się w 90, cena ani drgnie. UOKiK sprawdza cztery firmy
- Godzina dojazdu może kosztować 16 minut snu. A młodzi Polacy i tak śpią już za krótko
- Chcesz postawić dom? Szykuj większy budżet, bo koszty znów poszły w górę
