Siedem. Nadzór i zaufanie: uprzedzenia cenowe, SynthID i granica wieku
Siódmy obszar zbiera trzy fakty z warstwy zaufania, które razem pokazują, że nadzór nad modelami staje się twardym problemem operacyjnym. Po pierwsze, badanie Cisco Foundation AI i Carnegie Mellon, opisane na arXiv i omówione przez Quartz oraz Yahoo, wykazało, że osiem z trzynastu testowanych modeli — w tym ChatGPT, Claude i Gemini — rekomendowało droższe opcje profilom sugerującym wyższą zamożność, i to nawet wtedy, gdy użytkownik wprost prosił o najtańszą ofertę. Łącznie przeprowadzono trzysta dwadzieścia pięć tysięcy eksperymentów na danych opisujących fikcyjnych użytkowników o różnych dochodach, a wniosek autorów jest jednoznaczny: rekomendacje dla zamożniejszych były systematycznie droższe przy identycznym pytaniu. To nie ciekawostka badawcza, lecz problem zamówień publicznych i regulacji, bo sugeruje, że modele wbudowują w rekomendacje logikę wyższego dochodu, której użytkownik nie widzi.
Po drugie, Google udostępniło publicznie narzędzie SynthID Detector, które pozwala każdemu sprawdzić, czy dany obraz, film lub plik audio został wytworzony przez sztuczną inteligencję. Jak podał TechCrunch, znak wodny SynthID stosują modele Google, w tym Nano Banana, Veo i Lyria, oraz narzędzia generatywne takie jak Gemini; poza Google wspierają go OpenAI, Nvidia i Kakao, a Apple ma dołączyć wkrótce. Trzeba jednak powiedzieć uczciwie, że narzędzia te nie są niezawodne i często nie rozpoznają treści wytworzonych przez własne modele, a brak wykrycia znaku wodnego nie dowodzi autentyczności materiału — to ograniczenie, które sam producent przyznaje. Po trzecie, jak podało Common Sense Media, organizacja oceniła tryb ChatGPT dla nastolatków jako „niedopuszczalne ryzyko", testując ponad cztery tysiące promptów na kontach młodzieży i odnotowując spadek odsetka skierowań do infolinii kryzysowych z trzydziestu trzech do dwudziestu trzech procent. OpenAI kwestionuje metodologię badania, a jego własny raport wskazuje średnie użycie poniżej piętnastu minut dziennie — do momentu publikacji zbioru testowego obie liczby należy traktować jako sporne. Wspólny wniosek jest taki, że zaufanie do modeli przestaje być deklaracją, a staje się mierzalnym parametrem wdrożenia.
Źródło: techcrunch