RODO i agent AI: zanim wkleisz dane klienta

Najprostszy test wdrożenia AI brzmi: „a co, jeśli ten tekst trafi nie tam?”. Jeśli odpowiedź brzmi „nic się nie stanie”, może faktycznie dane są mało wrażliwe. Jeśli zaczyna się od „no w sumie…”, proces wymaga jeszcze pracy.

RODO nie jest zakazem korzystania z AI. Jest wymogiem odpowiedzialnego zaprojektowania przetwarzania. W praktyce oznacza to pytania o cel, podstawę prawną, zakres danych, odbiorców, czas przechowywania, bezpieczeństwo i prawa osób. Model jest tylko jednym elementem tego obrazu.

#Prompt to może być zbiór danych w miniaturze

Imię, fragment adresu, nazwa firmy, numer sprawy i opis sytuacji zdrowotnej potrafią jednoznacznie wskazać człowieka nawet bez numeru PESEL. To samo dotyczy historii rozmowy i załączników. „Tylko imię” przestaje być anonimowe, gdy obok znajduje się nietypowe zdarzenie i nazwa lokalnego dostawcy.

Dlatego minimalizacja powinna działać przed wysłaniem żądania. Usuń pola niepotrzebne dla celu. Zastąp identyfikatory wewnętrznymi znacznikami, jeśli kontekst nie jest konieczny. Nie wysyłaj całego dokumentu, gdy wystarczy jedna tabela lub wybrany fragment.

#Dziewięć pytań przed wdrożeniem

1. Jaki jest konkretny cel przetwarzania i jego podstawa prawna?
2. Czy w danych występują kategorie szczególne lub informacje o dzieciach?
3. Kto jest administratorem, a kto podmiotem przetwarzającym?
4. Gdzie trafiają dane, logi, kopie i dane używane do poprawy usługi?
5. Jak długo są przechowywane i jak wygląda realne usunięcie?
6. Czy dochodzi do przekazania poza EOG i na jakiej podstawie?
7. Kto ma dostęp do historii oraz uprawnień agenta?
8. Czy wynik wpływa na decyzję dotyczącą człowieka?
9. Czy potrzebna jest ocena skutków dla ochrony danych (DPIA)?

Odpowiedzi powinny być zapisane prostym językiem. „Dane są w chmurze” nie mówi, gdzie znajduje się przetwarzanie, kto jest odbiorcą ani jak działa retencja. „Dostawca jest bezpieczny” z kolei nie zastępuje umowy, konfiguracji i kontroli.

#DPIA nie jest strasznym skrótem

Ocena skutków dla ochrony danych pomaga ustalić, jakie ryzyko dla praw i wolności osób tworzy planowane przetwarzanie oraz jak je ograniczyć. UODO wskazuje, że administratorzy planujący użycie narzędzi AI powinni rozważyć taką ocenę przed rozpoczęciem przetwarzania. Gdy przetwarzanie z dużym prawdopodobieństwem powoduje wysokie ryzyko, DPIA jest wymagane.

W praktyce dobra ocena opisuje przepływ: skąd dane przychodzą, co dokładnie trafia do modelu, jaki jest wynik, kto go widzi, co dzieje się z błędem i jak osoba może realizować swoje prawa. Nie chodzi o kolejny PDF do szuflady, lecz o decyzje widoczne w architekturze.

#Odpowiedź modelu też bywa problemem

Nawet jeśli wejście jest zminimalizowane, model może wygenerować nieprawdziwą informację o osobie albo ujawnić dane z kontekstu, którego nie powinien przenieść do innej sprawy. Dlatego potrzebne są rozdzielenie środowisk, kontrola dostępu, reguły cytowania źródeł i sposób zgłaszania incydentów.

W przypadku decyzji dotyczących rekrutacji, kredytu czy oceny pracownika trzeba dodatkowo przeanalizować przepisy o zautomatyzowanym podejmowaniu decyzji i obowiązki wynikające z innych regulacji. „Model tak wskazał” nie jest uzasadnieniem, które zdejmuje odpowiedzialność z organizacji.

„Prywatność nie zaczyna się przy polityce cookies. Przy agencie zaczyna się przy liście pól i uprawnień.”

#Bezpieczny początek jest zwykle nudny

Zacznij od zastosowania bez danych osobowych albo na danych syntetycznych. Sprawdź jakość, interfejs i wyjątki. Potem dodaj minimalny zakres prawdziwych informacji z jasno określonym celem i właścicielem. Dopiero później zwiększaj skalę, jeśli nadal potrafisz odpowiedzieć na dziewięć powyższych pytań.

To podejście nie blokuje innowacji. Oszczędza sytuację, w której najpierw powstaje uzależnienie od narzędzia, a dopiero potem okazuje się, że najprostsza wersja procesu była możliwa bez wysyłania połowy danych.