Trzech badaczy bezpieczeństwa odchodzi z OpenAI, firma podwaja swoje stanowisko
Drugi wątek to najpoważniejszy od tygodni spór o kulturę bezpieczeństwa w czołowym laboratorium. Sprawę zwolnień odnotowała już dzisiejsza analiza geopolityczna, tutaj dopełniam ją więc o warstwę techniczną i piątkową odpowiedź firmy. Trzej pracownicy zespołu bezpieczeństwa i zgodności — Mikita Balesni, Tomek Korbak i Jasmine Wang — opublikowali list otwarty do komitetów nadzorczych OpenAI, w którym twierdzą, że zostali zwolnieni za to, że przedkładali bezpieczeństwo nad krótkoterminowy interes firmy. OpenAI w piątek podtrzymało własną wersję i przekazało, że doszło do znaczącego naruszenia zaufania oraz że zwolnienia nie dotyczyły zgłaszania obaw o bezpieczeństwo.
Warto rozłożyć ten spór na fakty i interpretacje. Faktem jest treść listu: Korbak, który współtworzył strategię bezpieczeństwa OpenAI, pracował nad monitorowalnością rozumowania modeli klasy Astra i był technicznym punktem kontaktu z organizacją METR podczas badania incydentu z Hugging Face; Balesni współtworzył branżowy artykuł o monitorowalności łańcucha myśli; Wang współprowadziła program przypadków bezpieczeństwa. Faktem jest też, że sami autorzy zaprzeczają, jakoby byli źródłem przecieku do „The Information", i utrzymują, że działali w granicach ówczesnych zasad. Interpretacją, i to sporną, pozostaje pytanie, czy zwolnienia wynikły z naruszeń proceduralnych, czy z nacisku na ujawnianie słabości modeli. W liście pojawia się ostrzeżenie kluczowe dla rynku: monitorowalność modeli granicznych się pogarsza i nie należy iść dalej w architektury, których nie da się nadzorować. To nie jest spór wyłącznie pracowniczy — dotyka zaufania inwestorów do tego, czy laboratorium potrafi wewnętrznie kontrolować to, co wypuszcza, dokładnie wtedy, gdy przygotowuje się do największego w historii debiutu giełdowego w sektorze. Informacje podane za „The Wall Street Journal", Business Insiderem, Al Dżazirą oraz samym listem, opublikowanym 9 października.
Źródło: metr, the-information, wsj