Cztery. OpenAI wdraża textGrain: niewidzialny znak wodny w tekście, wymuszony unijnym prawem
Czwarty fakt jest regulacyjny i dotyczy samej natury tekstu generowanego przez modele. Piątego października OpenAI opublikowało dokument opisujący, jak zamierza spełnić unijne wymogi przejrzystości, i ogłosiło technologię o nazwie textGrain, która dodaje do wyborów słownych modelu niewidzialny sygnał statystyczny. Mechanizm jest analogiczny do tak zwanych znaków wodnych z listy zielonej: klucz w połączeniu z poprzedzającymi słowami rozstrzyga, która z równie dobrych opcji zostanie wybrana częściej, pojedyncze słowo nie wygląda dziwnie, ale w długim tekście wzorzec staje się mierzalny. Zgodnie z komunikatem spółki od 5 października klienci API na całym świecie mogą dobrowolnie włączyć znakowanie dla wybranych modeli, przy czym domyślnie pozostaje ono wyłączone, a w nadchodzących tygodniach niewidzialny znak wodny pojawi się w kwalifikowanym tekście ChatGPT i Codex generowanym na terenie Unii Europejskiej. Dostęp do detektora ma być początkowo ograniczony do zatwierdzonych badaczy i organizacji eksperckich.
Najważniejsza jest tu jednak nie sama technologia, lecz ujawnione ograniczenia, które OpenAI podaje wprost. Przy docelowym wskaźniku fałszywych trafień na poziomie jednego procenta detektor rozpoznaje znak w około 80 procentach fragmentów o długości 200 tokenów i w około 95 procentach fragmentów o długości 400 tokenów, ale rozpoznawalność spada dla treści o małej swobodzie wyboru słów, na przykład dla matematyki, a także dla krótkich odpowiedzi. Podmiana dziesięciu procent słów na synonimy obniża wykrywalność z około 92 do 66 procent, a podmiana dwudziestu pięciu procent — do siedemnastu procent. Sama spółka zastrzega, że znak nie mierzy wkładu człowieka, nie ustala własności ani odpowiedzialności, nie identyfikuje użytkownika i nie potwierdza prawdziwości tekstu, a jego brak nie dowodzi autorstwa człowieka. Kontekst prawny jest jasny i podany za analizami Cloud Security Alliance oraz portalu Lucairn: artykuł 50 unijnego aktu o sztucznej inteligencji nakłada obowiązki przejrzystości od 2 sierpnia 2026 roku, a tak zwane okno przejściowe dla systemów wprowadzonych na rynek wcześniej wygasa 2 grudnia 2026 roku. To wyjaśnia, dlaczego wdrożenie jest regionalne i dlaczego amerykańska spółka wprowadza je najpierw tam, gdzie prawo tego wymaga. Odczyt rynkowy jest dwojaki: z jednej strony każdy, kto zakładał, że tekst generowany przez model pozostanie nieoznaczony, musi zweryfikować to założenie, z drugiej strony znak wodny w tej postaci jest narzędziem zgodności i uczciwej współpracy, a nie wykrywaczem kłamstw, bo każdy, kto świadomie sparafrazuje tekst, pozbędzie się sygnału.