Przez długi czas rozwój modeli AI opierał się na prostym założeniu – im większe możliwości modelu, tym trudniej skutecznie zabezpieczyć go przed nadużyciami. Najnowsze wyniki rankingu CASI[1] (Comprehensive AI Security Index) opracowanego przez F5 Labs pokazują jednak, że ta zależność zaczyna się zmieniać. Przynajmniej powoli.
Lipcowe zestawienie wskazuje, że najwyższy poziom bezpieczeństwa nie musi już oznaczać rezygnacji z wydajności, a jednocześnie uwidacznia rosnące różnice pomiędzy poszczególnymi dostawcami modeli AI.
Możliwości modeli się zbliżają, bezpieczeństwo – nie
Lipcowa edycja rankingu CASI objęła 55 modeli AI, w tym 12 ocenionych po raz pierwszy. Najwyższy wynik uzyskał Claude Sonnet 5, osiągając 93,08 punktu CASI. Co istotne, był to również najbardziej wydajny model spośród wszystkich ocenionych na ponad 90 punktów w rankingu CASI. To istotna zmiana względem obserwowanego wcześniej trendu. Dotychczas najwyższe wyniki bezpieczeństwa osiągały przede wszystkim modele bardziej konserwatywne lub o mniejszych możliwościach. Claude Sonnet 5 pokazuje, że wysoka odporność na nadużycia nie musi już oznaczać kompromisu w zakresie możliwości modelu.
Lecz chociaż Claude Sonnet 5 pokazuje, że bezpieczeństwo nie musi oznaczać kompromisu, nie oznacza to jednak, że różnice między modelami znikają. Wręcz przeciwnie – to właśnie bezpieczeństwo pozostaje obszarem, w którym rozbieżności są największe. Wśród najnowszych modeli wyniki dotyczące możliwości koncentrują się obecnie w stosunkowo wąskim przedziale, podczas gdy wyniki CASI wahają się od 93,08 do 16,25 punktu.
Na uwagę zasługuje również rosnąca pozycja modeli open-weight[2]. NVIDIA Nemotron-3-Ultra-550B-A55B zadebiutował z wynikiem 83,68 punktu CASI, zajmując czwarte miejsce w zestawieniu. To pierwszy model open-weight, który osiągnął tak wysoką pozycję w rankingu bezpieczeństwa. Jeszcze kilka miesięcy temu tak wysokie wyniki były „zarezerwowane” wyłącznie dla modeli zamkniętych – zaznacza Mariusz Sawczuk, Senior Solution Engineer, F5. – To sygnał, że postęp w zakresie bezpieczeństwa obejmuje dziś nie tylko modele komercyjne rozwijane w zamkniętych ekosystemach.
Wydajność to nie wszystko
Jeszcze niedawno dyskusja wokół sztucznej inteligencji koncentrowała się przede wszystkim na możliwościach modeli oraz tempie ich rozwoju. Najnowsze wyniki rankingu CASI pokazują jednak, że wraz z dojrzewaniem rynku coraz większego znaczenia nabiera również ich bezpieczeństwo.
Choć możliwości czołowych modeli zaczynają się do siebie zbliżać, to właśnie poziom zabezpieczeń pozostaje obszarem największych różnic. Dla organizacji oznacza to, że ocena modeli AI coraz częściej wymaga spojrzenia nie tylko na ich wydajność, ale również na odporność na nadużycia.
Przez długi czas rynek koncentrował się przede wszystkim na możliwościach modeli AI. To naturalne – organizacje chciały wiedzieć, który model najlepiej rozwiązuje zadania. Dziś to już nie wystarcza – podkreśla Sawczuk. – Wybrany model będzie przetwarzał dane firmowe, wspierał pracowników i podejmował decyzje wpływające na procesy biznesowe, dlatego równie ważna staje się jego odporność na nadużycia. Bezpieczeństwo powinno być jednym z kryteriów wyboru rozwiązania AI, a nie dodatkiem analizowanym dopiero na etapie wdrożenia.
[1] Wskaźnik opracowany przez F5 Labs oceniający poziom bezpieczeństwa modeli AI oraz ich odporność na techniki obchodzenia zabezpieczeń.
[2] Modele AI, których kluczowe parametry są publicznie dostępne, dzięki czemu można je pobrać i uruchamiać na własnej infrastrukturze.
