OpenAI płacił zewnętrznym wykonawcom za czytanie rozmów z ChatGPT.

OpenAI korzysta z setek zewnętrznych wykonawców, którzy czytają, streszczają i oceniają wybrane rozmowy użytkowników ChatGPT w ramach programu określanego jako Project Lily.

Wykonawcy mają analizować pełne rozmowy, określać intencję użytkownika i oceniać kilka potencjalnych odpowiedzi modelu w skali 1–7. Ich zadaniem jest m.in. ograniczanie sztucznego „AI-speak”, nadmiernego używania emoji, zbędnego formatowania, antropomorfizowania modelu i przesadnego schlebiania użytkownikom.

OpenAI nie przekazuje recenzentom nazw użytkowników, a rozmowy przechodzą przez automatyczny Privacy Filter, który ma usuwać dane identyfikujące. Filtr nie jest jednak bezbłędny i może przeoczyć mniej oczywiste dane osobowe lub informacje wynikające z kontekstu.

Według materiałów ujawnionych przez 404 Media, panel używany przez wykonawców może również zawierać podsumowanie pamięci użytkownika, które może ujawniać informacje o jego lokalizacji, pracy, życiu prywatnym czy wcześniejszych rozmowach.

W analizowanych rozmowach znajdowały się również bardzo prywatne treści, w tym wiadomości użytkowników proszących ChatGPT, aby „zachował to między nami”. Taka prośba w promptcie nie wyłącza jednak systemów zbierania i przetwarzania danych po stronie platformy.

Podobne praktyki stosują także inne firmy. Anthropic wykorzystuje ludzkich recenzentów w przypadku rozmów użytkowników Claude, jeśli mają oni włączone używanie danych do treningu, a Google informuje, że wybrane zapisane rozmowy Gemini mogą być przeglądane przez ludzi.

W przypadku kont Free, Plus i Pro opcja wykorzystania rozmów do ulepszania modeli jest domyślnie włączona. Można ją wyłączyć w:

Settings → Data Controls → Improve the model for everyone → Off

Po wyłączeniu nowe rozmowy nie powinny być używane do ulepszania modeli. Zmiana nie działa wstecz — rozmowy, które wcześniej zostały już zanonimizowane i skierowane do procesu treningowego, mogą nadal pozostawać w tym systemie.

Wyłączenie tej opcji nie blokuje automatycznego skanowania rozmów pod kątem naruszeń zasad bezpieczeństwa i regulaminu.