Bezpieczeństwo i zaufanie: modele rozumujące w dylemacie oraz dane głosowe domyślnie wyłączone
Szósty obszar jest naukowy i dotyczy tego, jak modele zachowują się w interakcjach o realnych konsekwencjach. Na arXiv pojawiła się praca, która bada współpracę modeli generatywnych w iterowanym dylemacie więźnia, czyli klasycznej grze, w której opłaca się współpracować tylko wtedy, gdy przeciwnik tego nie nadużyje. Autorzy porównują modele nierozumujące, jak Claude 3.5 i GPT-4o, z modelami rozumującymi nowszej generacji, wśród nich Claude 4.6, Gemini 3 i GPT-5.2, i dochodzą do wniosku, że te drugie opierają się przede wszystkim na strategii przeciwnika i jego reputacji, a nie na prostych sygnałach, że niemal eliminują tak zwany efekt Potiomkina obserwowany w starszych modelach, oraz że różnią się między sobą zachowaniem w końcowej rundzie gry — jedne wytrwale współpracują, inne systematycznie zdradzają w ostatnim ruchu. To ostatnie rozróżnienie autorzy nazywają wprost profilem podatności modelu na wykorzystanie, co ma bezpośrednie znaczenie dla deploymentu w negocjacjach i innych wielorundowych interakcjach. Trzeba zaznaczyć, że jest to jeden artykuł i jedna metodologia, oparte na zachowaniu modeli w grze, a nie na ich działaniu w realnym świecie, więc wniosek należy traktować jako przesłankę do dalszych badań, a nie jako dowód.
Drugi fakt tej samej warstwy dotyczy danych i zaufania konsumentów. Anthropic wprowadził osobny przełącznik zgody na wykorzystywanie danych głosowych do treningu modeli, domyślnie wyłączony, ukryty w Ustawieniach, w sekcji prywatności; jak podała spółka i odnotował serwis BleepingComputer, po ósmym października użytkownik będzie musiał świadomie dokonać wyboru. Jest to krok w przeciwnym kierunku niż wcześniejsza, szeroko komentowana zmiana polityki Anthropica dotycząca trenowania na rozmowach tekstowych, więc warto go czytać jako próbę odbudowy zaufania w warstwie, w której laboratorium straciło część reputacji, a nie jako ruch czysto techniczny.