Siedem. Granica prywatności: Anthropic zgłasza wpis dziennika użytkowniczki na policję
Ostatni fakt dotyczy tego, gdzie kończy się prywatność, gdy rozmowa z modelem staje się wyznaniem. Jak podały TechSpot, Cybernews i lokalne media na Florydzie, trzydziestoletnia Carli Michelle Heller z Bonita Springs używała Claude'a jako dziennika i napisała w nim, że planuje atak na biuro szeryfa hrabstwa Lee. Systemy bezpieczeństwa Anthropica oznaczyły wpis, sprawa trafiła do ludzkiego recenzenta, ten uznał groźbę za wiarygodną i zgłosił ją organom ścigania. Kobieta została zatrzymana bez incydentów i usłyszała zarzut kierowania pisemnej groźby przemocy, co na Florydzie jest przestępstwem drugiego stopnia. Firma utrzymuje, że może udostępniać informacje o użytkowniku w ograniczonym zakresie sytuacji nagłych, gdy uzna to za konieczne dla zapobieżenia śmierci lub poważnemu uszczerbkowi na zdrowiu, i ten przypadek wpisuje się w tak zdefiniowaną politykę.
Sprawa jest o tyle istotna dla warstwy regulacyjnej i zaufania, że pokazuje realne napięcie, którego żaden znak wodny ani raport o bezpieczeństwie nie rozstrzyga: model, do którego użytkownik zwraca się jak do prywatnego dziennika, jest jednocześnie systemem monitorowanym przez człowieka i podłączonym do organów ścigania. Twarde jest to, że doszło do oznaczenia treści, ludzkiej weryfikacji i zgłoszenia oraz że postawiono zarzut. Interpretacją pozostaje ocena proporcjonalności tego mechanizmu, zwłaszcza że w tle toczy się równoległy spór o to, gdzie przebiega granica między zapobieganiem realnej krzywdzie a inwigilacją intymnych zwierzeń. Warto dodać, że to nie jest przypadek odosobniony w amerykańskiej debacie: w tym samym okresie toczyły się sprawy przeciw OpenAI o zdarzenia, których sądy i prokuratorzy twierdzą, że można było uniknąć, co pokazuje, że laboratoria są dziś pod presją zarówno wtedy, gdy zgłaszają, jak i wtedy, gdy nie zgłaszają.