F5 Labs: Zaawansowane AI z funkcjami wnioskowania bardziej podatne na manipulacje

F5 Labs w Comprehensive AI Security Index (CASI) ujawniło, że zaawansowane modele AI, zwłaszcza te z funkcjami wieloetapowego wnioskowania, mogą być bardziej podatne na manipulacje instrukcjami, mimo ogólnej poprawy bezpieczeństwa.

Zaawansowane AI bardziej podatne na manipulacje

F5 Labs przeanalizowało 15 modeli AI, w tym GPT-5.4, Qwen3-Max, Gemini 3.1 oraz Nemotron. Badanie wykazało, że modele wyposażone w funkcje wieloetapowego wnioskowania osiągały wyniki niższe o około 30 punktów w CASI niż ich odpowiedniki z tej samej rodziny bez tej funkcjonalności. Sugeruje to, że zdolność do złożonej analizy kontekstu może zwiększać podatność na zaawansowane techniki manipulowania instrukcjami, co zmienia profil ryzyka związanego z ich wykorzystaniem.

Skuteczność ataku „Developer Role Attack”

Analiza F5 Labs zwróciła również uwagę na technikę „Developer Role Attack”. Metoda ta wykorzystuje sposób, w jaki modele językowe interpretują instrukcje o różnym poziomie uprawnień. Polega na odpowiednim formatowaniu komunikatu, przypisaniu roli (np. systemowej lub deweloperskiej) oraz stopniowej zmianie kontekstu działania modelu za pomocą przykładów odpowiedzi. Skuteczność tej techniki wobec wybranych modeli sięgała 86-98%, co podkreśla znaczenie struktury komunikacji z modelem dla jego odporności na manipulację.

Poprawa wyników i znaczenie konfiguracji

Niektóre modele odnotowały poprawę wyników w CASI. Modele GPT-5 base oraz mini zwiększyły swoje wyniki z około 50 punktów w lutym do przedziału wysokich 80 punktów w kwietniu. GPT-5.4 osiągnął wynik 94,36 CASI, co jest jednym z najwyższych rezultatów dla modeli spoza Anthropic. F5 Labs przypisuje tę poprawę zastosowaniu dodatkowych mechanizmów zabezpieczeń, takich jak klasyfikatory bezpieczeństwa i warstwy guardrails, a nie wyłącznie zmianom w architekturze samego modelu. Oznacza to, że poziom odporności modelu zależy zarówno od jego budowy, jak i od zewnętrznych mechanizmów kontrolnych. Mariusz Sawczuk, Senior Solution Engineer w F5, podkreśla, że ocena bezpieczeństwa modeli nie jest jednorazowa i wymaga ciągłej analizy działania zabezpieczeń, ponieważ ich konfiguracja może zmieniać się wraz z aktualizacjami. Więcej informacji na temat badań można znaleźć na stronie f5.com/labs.

Źródło: Informacja prasowa „F5 Labs”

Zobacz co słychać w świecie rozrywki na