Bezpieczeństwo po obu stronach: Anthropic skanuje kod, Decepticon atakuje
Ciekawie rysuje się też rola sztucznej inteligencji w bezpieczeństwie, i to z dwóch stron barykady. Anthropic uruchomił tak zwany OSS Scanner — darmową, dobrowolną usługę, w której jego najsilniejsze modele przeszukują krytyczne projekty otwartoźródłowe w poszukiwaniu luk i wysyłają opiekunom surowe, nierecenzowane raporty. Jak wynika z omówienia AlphaSignal, w ciągu sześciomiesięcznego wewnętrznego przedsięwzięcia modele Anthropic wygenerowały ponad dwadzieścia dziewięć tysięcy kandydatów na podatności, a z dziewięćdziesięciu siedmiu ręcznie przejrzanych poważnych znalezisk osiemdziesiąt osiem procent spełniło standard odpowiedzialnego ujawniania. Usługa działa w izolowanej maszynie bez dostępu do internetu po fazie budowania. Warto podkreślić to, co sam producent przyznaje: raporty powstają w całości z modelu, bez ludzkiej weryfikacji przed wysłaniem, więc to opiekunowie projektu muszą potwierdzić, czy wykryta luka jest realna i istotna.
Źródło: alphasignal
Równolegle po stronie ofensywnej wyróżnia się otwartoźródłowy projekt Decepticon — autonomiczny agent do testów penetracyjnych, który według autorów osiąga ponad dziewięćdziesiąt osiem procent skuteczności na publicznym benchmarku łamania aplikacji internetowych, rozbijając zadanie na szesnastu wyspecjalizowanych agentów od rozpoznania, przez eksploatację, po ruch boczny. Zestawienie obu faktów pokazuje, że ta sama technologia obniża koszt zarówno znajdowania, jak i wykorzystywania luk, a granica między narzędziem obronnym i ofensywnym jest tu wyłącznie kwestią uprawnień i intencji.