ChatGPT u firmi i GDPR: što smijete, a što ne

ChatGPT i slični AI alati već se koriste u većini tvrtki, često bez ikakvih pravila. Najveći rizik nije sam alat, nego to što zaposlenici u njega upisuju podatke klijenata, ugovore ili interne brojke. Uz nekoliko jednostavnih pravila AI se može koristiti sigurno i u skladu s GDPR-om. Ovaj članak je praktičan vodič, a ne pravni savjet: za konkretne situacije posavjetujte se s pravnikom ili službenikom za zaštitu podataka.

Gdje je problem

Kad zaposlenik u besplatnu, osobnu verziju AI alata zalijepi mail klijenta s imenom, adresom i problemom, ti osobni podaci odlaze vanjskom pružatelju usluge. Tvrtka za to često nema pravnu osnovu, nema ugovor o obradi podataka s pružateljem i ne zna gdje se podaci čuvaju ni koriste li se za treniranje modela.

Pet pravila za tim

1. Koristite poslovne račune, ne osobne. Poslovne i API verzije velikih AI alata obično imaju ugovor o obradi podataka i opciju da se vaši podaci ne koriste za treniranje. Uvjete provjerite kod pružatelja.
2. Ne upisujte osobne podatke kad ne morate. Za pomoć pri pisanju odgovora AI-ju ne treba ime, OIB ni adresa klijenta. Zamijenite ih s „[klijent]”.
3. Nikad ne upisujte posebne kategorije podataka, poput zdravstvenih podataka, bez jasne pravne osnove i zaštite.
4. Čovjek provjerava sve što ide van. AI može pogriješiti ili izmisliti činjenicu. Odgovor klijentu, ponudu ili ugovor uvijek pregleda zaposlenik.
5. Zapišite pravila. Kratki interni dokument na jednoj stranici: koji su alati dopušteni, što se smije upisivati i tko je odgovoran.

Što donosi EU AI Act

EU Akt o umjetnoj inteligenciji uvodi obveze ovisno o riziku sustava. Za većinu malih tvrtki najvažnija je transparentnost: kad klijent razgovara s AI chatbotom ili agentom, mora znati da razgovara s AI-jem. Primjene s visokim rizikom, npr. u zapošljavanju ili procjeni kreditne sposobnosti, imaju znatno strože obveze.

Kada je bolji vlastiti AI sustav

Ako AI treba raditi s podacima klijenata svaki dan, npr. za korisničku podršku ili obradu dokumenata, sigurnije je imati rješenje koje sami kontrolirate. Podaci ostaju u vašem sustavu na poslužiteljima u EU, točno se zna koji podaci idu AI servisu, a svaki upit se bilježi. Tako i lakše dokazujete usklađenost ako vas to netko pita.

Kako krenuti

Popišite gdje tim danas koristi AI i s kojim podacima. To je dobra polazna točka i za pravila i za odluku gdje se isplati ozbiljnije rješenje. Na besplatnoj dijagnostici poslovanja to prolazimo zajedno, a više o rješenjima pročitajte na stranici uvođenje AI rješenja u poslovanje.