Ha valaki nem tudta törölni a WhatsApp-fiókját, az ügyfélszolgálati chatbot belső útmutatója szerint a bot nem javasolhatta neki, hogy forduljon adatvédelmi hatósághoz. Egy másik útmutató azt írta elő, hogy ha a felhasználó jogi lépéseket említ, a chatbot akkor se hivatkozzon a GDPR-ra vagy más adatvédelmi jogszabályra, ha maga a kérdező hozta szóba. Mindkét utasítás a WhatsApp nyilvános súgóoldalainak forráskódjából vált ismertté.
A Redact adatvédelmi vállalat kutatói 545 súgóoldalt vizsgáltak át, és 80 oldalon összesen 102 rejtett szövegblokkot találtak. Az utasítások az oldal megnyitásakor nem jelentek meg az olvasó előtt, de a böngésző megkapta őket az oldal kódjával együtt. A szövegek egy része hétköznapi ügyfélszolgálati kérdésekkel foglalkozott: például azzal, hogyan értse meg a bot a felhasználó problémáját, vagy mit mondhat a még be nem vezetett funkciókról. A Redact eredeti vizsgálata
A Meta a WIRED-nek azt mondta, hogy egy azóta kijavított hiba miatt váltak nyilvánossá az utasítások. A vállalat szerint ezek célja az volt, hogy az ügyfélszolgálati chatbot pontos, a kérdéshez illő segítséget nyújtson a WhatsApp használatához. Az eset így két kérdést vet fel: hogyan kerülhetett belső szöveg a nyilvános oldalakra, és megfelelő eligazítást kap-e az, akinek a problémáját a chatbot már nem tudja megoldani. A WIRED beszámolója és a WhatsApp válasza
Mit találtak a súgóoldalak forráskódjában?
A Redact október 8-án figyelt fel a HelpContentGalaxyLLMInclude jelölésű blokkokra. Elnevezésük és szövegük arra utalt, hogy egy nagy nyelvi modellnek szánták őket. Egyes bekezdések kifejezetten azt sorolták fel, mit ne mondjon a chatbot. A WhatsApp később megerősítette a WIRED-nek, hogy az utasítások valóban a saját ügyfélszolgálati botjához tartoztak.
Dan Saltman, a Redact alapítója és vezérigazgatója szerint vállalatuk rendszeresen vizsgálja technológiai cégek weboldalait és adatvédelmi tájékoztatóit. Sok utasításban nem látott szokatlant: több például a hivatalos támogatási csatornához irányította a felhasználót. A figyelemre méltó különbség szerinte ott jelentkezett, ahol az embereknek szóló nyilvános tájékoztatás megemlített egy lehetőséget, a modell viszont arra kapott utasítást, hogy bizonyos helyzetekben ne ajánlja azt. A WIRED interjúja Saltmannel
A WIRED megvizsgálta a nyilvánosságra került szövegeket. A Redact ellenőrzése szerint a két kiemelt utasítás október 15-én még szerepelt az érintett oldalakon, október 18-ra viszont mind a 102 blokk eltűnt az élő oldalak kódjából. Maguk a súgócikkek megmaradtak, és korábbi archivált példányokban az utasítások is visszaolvashatók voltak. Nem ismert, mikor kezdődött a hiba, hányan nézték meg a szövegeket, vagy átvette-e azokat más AI-szolgáltatás. A Redact ellenőrzési időpontjai és archivált példái
Fióktörlési gond esetén a chatbot nem ajánlhatta a hatóság megkeresését
Az egyik utasítás a fiók törlését ismertető súgóoldalon szerepelt. Arra kérte a chatbotot, hogy az adott ügyben ne javasolja sem adatvédelmi hatóság, sem más szabályozó vagy felügyeleti szerv megkeresését. A korlátozás egy lehetséges ügyfélszolgálati ajánlásra vonatkozott. Az utasításból nem következik, hogy a WhatsApp bárkit megakadályozott volna a panasztételben. A Redact által dokumentált fióktörlési útmutató
A különbség akkor válik fontossá, amikor egy kezdetben technikai kérdésből adatvédelmi vita lesz. Aki nem találja a törlés gombját, annak egy pontos menüútvonal segíthet. Aki viszont már megpróbálta törölni a fiókját, és továbbra sem kap választ arra, mi történik a személyes adataival, annak más segítségre lehet szüksége.
Az Európai Adatvédelmi Testület tájékoztatása szerint az érintett panaszt tehet az illetékes felügyeleti hatóságnál, ha úgy véli, hogy személyes adatainak kezelése sérti a GDPR-t. A panasztétel joga attól függetlenül megilleti, hogy egy ügyfélszolgálati chatbot felhívja-e rá a figyelmét. Az Európai Adatvédelmi Testület útmutatója
Az Egyesült Királyság adatvédelmi hatósága, az ICO szerint az adatvédelmi tájékoztatásnak ki kell térnie többek között az adatkezelés céljára, az adatok megőrzési idejére vagy annak meghatározási szempontjaira, az érintettek jogaira és a hatósági panasztétel lehetőségére. Ez az adatkezelő tájékoztatási kötelezettségéről szól. Önmagában nem dönti el, hogy a WhatsApp chatbotjának valamely konkrét válasza jogsértő volt-e. Az ICO adatvédelmi tájékoztatási ellenőrzőlistája
Mi történt, ha a felhasználó ügyvédet, pert vagy adatvédelmi törvényt említett?
Egy másik utasítássorozat a felhasználók jelentéséről és letiltásáról szóló súgóoldalhoz tartozott. Akkor kellett alkalmazni, ha a kérdező jogi lépést, pert, ügyvédet vagy bíróságot említett. A chatbot ilyenkor nem idézhette és nem értelmezhette a WhatsApp felhasználási feltételeit, adatvédelmi szabályzatát vagy egyéb jogi dokumentumait, nem hivatkozhatott rájuk, és a vállalat jogi felelősségéről sem nyilatkozhatott.
A szöveg külön kitért az Európai Unió általános adatvédelmi rendeletére (GDPR), a brazil adatvédelmi törvényre (LGPD) és a kaliforniai fogyasztói adatvédelmi törvényre (CCPA). Az adott helyzetben a bot akkor sem utalhatott ezekre, ha a felhasználó kifejezetten megnevezte őket. Ez egy meghatározott súgótémához és beszélgetési helyzethez tartozó szabály volt; a nyilvánosságra került részletből nem állapítható meg, hogy a WhatsApp minden adatvédelmi kérdésre ugyanezt a korlátozást alkalmazta volna. A WIRED által ellenőrzött példák
Indokolt lehet, hogy egy terméktámogatási chatbot ne értelmezzen törvényeket: tévedhet, nem létező kötelezettséget állíthat, vagy azt a benyomást keltheti, hogy hivatalos jogi állásfoglalást ad. Egy panasz elbírálása azonban más feladat, mint megmutatni, hol található a szolgáltató adatvédelmi tájékoztatója, melyik ügyfélszolgálati csoport fogad panaszt, vagy hol olvasható a hatóság hivatalos útmutatója.
Az automatizált ügyfélszolgálatok tervezésénél éppen ez a döntési pont számít: felismeri-e a rendszer, amikor a technikai hibaelhárítás már nem elegendő, és tovább tudja-e irányítani a felhasználót? Erre az egyes utasítások önmagukban nem adnak választ. A tényleges beszélgetéseket és a rendelkezésre álló panaszkezelési lehetőségeket is meg kellene vizsgálni.
A Meta szerint a chatbot feladata a terméktámogatás
Joshua Breckman, a WhatsApp szóvivője a WIRED-nek azt mondta, hogy a szövegeket a chatbotnak szánták, és egy hiba miatt kerültek a nyilvános oldalakra. A cég célja szerinte az, hogy az AI-alapú ügyfélszolgálathoz fordulók pontos, a WhatsApp használatához kapcsolódó válaszokat kapjanak. A szóvivő azt is közölte, hogy a WhatsApp átlátható tájékoztatást ad az adatvédelmi jogokról és a felhasználók rendelkezésére álló lehetőségekről; a terméktámogatási botnak nem feladata a jogi tanácsadás. A WhatsApp szóvivőjének nyilatkozata
A WhatsApp a saját súgójában is jelzi, hogy az ügyfélszolgálattól érkező egyes üzeneteket a Meta mesterséges intelligenciája állíthatja elő. Az ilyen válaszokat a rendszer megjelöli az üzenetbuborékban. A tájékoztató szerint a felhasználó jelezheti, ha hibásnak talál egy választ. A WhatsApp AI-alapú ügyfélszolgálatának leírása
A Meta magyarázata kitér arra, miért szab határokat a chatbot válaszainak, és miért nem kellett volna az utasításoknak megjelenniük a weboldalakon. Abból viszont, hogy a szöveg eltűnt a forráskódból, nem derül ki, módosították-e a botnak adott útmutatást is.
Akadálymentességről és megjelenés előtt álló funkciókról is voltak utasítások
Az egyik útmutató arra az esetre vonatkozott, ha a felhasználó megemlítette, hogy siket vagy nagyothalló. A chatbotnak ezt a közlést háttérinformációként kellett kezelnie, és nem volt szabad automatikusan azt feltételeznie, hogy maga a hallássérülés a segítségkérés tárgya. Egy másik szabály arra utasította a rendszert, hogy ne beszéljen a WhatsApp Közösségek még nem általánosan elérhető funkcióiról. A WIRED beszámolója a további utasításokról
Mindkét példa olyan döntést érint, amellyel egy ügyfélszolgálatos is találkozhat. Fontos megérteni, hogy az ügyfél pontosan mire kérdez rá, és nem érdemes még elérhetetlen funkciót ajánlani neki. Az akadálymentességi példának ugyanakkor van egy másik oldala is: a felhasználó hallássérülése akkor is befolyásolhatja, hogy melyik hibaelhárítási lépés használható számára, ha nem ez a megkeresés oka. A rövid utasításból nem látszik, hogyan kezelte ezt a bot.
A még be nem vezetett funkciókra vonatkozó szabály csökkentheti annak esélyét, hogy a chatbot teljesíthetetlen ígéretet tegyen. Az utasítás jelenléte önmagában nem jelenti azt, hogy bizalmas terméktervek is nyilvánosságra kerültek. A feltárt anyagok között tehát egyaránt voltak a hétköznapi válaszadást segítő útmutatók és olyan korlátozások, amelyek egy komolyabb vita során a felhasználónak felkínált lehetőségeket is befolyásolhatták.
A feltárt hiba nem a privát üzeneteket érintette
A nyilvánosságra került anyag a súgóoldalak kódjába ágyazott belső szöveg volt. A vizsgálat nem számolt be ellopott beszélgetésekről, feltört fiókokról, nyilvánosságra került titkosítási kulcsokról vagy az üzenetküldő infrastruktúrába történt behatolásról. A Redact technikai beszámolója
A történtek sikeres prompt injection támadást sem igazolnak. Ilyen támadásnál valaki olyan utasítást próbál egy AI-rendszer elé juttatni, amely eltéríti annak működését. Itt a kutatók a szolgáltató saját útmutatását találták meg a böngészőnek már elküldött webes tartalomban.
A biztonsági vizsgálat szempontjából annak van jelentősége, hogyan került a belső szöveg a nyilvános oldalba, melyik ellenőrzésnek kellett volna ezt észlelnie, és ugyanez a hiba más belső tartalmat is hozzáférhetővé tett-e.
Miért számít, ha láthatóvá válnak egy AI-rendszer utasításai?
Az OWASP útmutatója szerint az AI-alkalmazások viselkedését irányító utasítások belső szabályokat vagy érzékeny információkat tárhatnak fel. Ezért a fejlesztőknek abból érdemes kiindulniuk, hogy a modellnek átadott szöveget valaki megismerheti. Hitelesítő adatokat nem célszerű benne tárolni, a hozzáférési jogosultságokat pedig a modelltől függetlenül kell ellenőrizni. Az OWASP útmutatója a rendszerutasítások kiszivárgásáról
A WhatsApp esetében nem igazolt, hogy a chatbot teljes rendszerutasítása nyilvánosságra került volna. A megismert anyagok egyes súgótémákhoz kötődnek, és nem tárják fel a chatbot teljes felépítését. Arra viszont alkalmasak, hogy az ügyfelek megismerjenek néhány olyan szerkesztési döntést, amely a támogatás során kapott válaszokat alakíthatta. Ezek közé tartozik az is, mely lehetőségeket nem kellett a botnak megemlítenie.
Mit tapasztaltak ebből a felhasználók?
A nyilvános beszámolók nem mutatják meg, hogy a chatbot következetesen betartotta-e a korlátozásokat, más utasítások biztosítottak-e alternatív panaszkezelési útvonalat, vagy kapott-e bárki a szabályok miatt lényegesen hiányos választ. Az sem tisztázott, hogy a Meta felülvizsgálta-e az utasítások tartalmát, mikortól voltak nyilvánosan olvashatók, illetve az archívumokon kívül maradtak-e más hozzáférhető másolatok.
A felhasználók szempontjából három kérdés mutatná meg legjobban a szabályok tényleges hatását. Eljut-e egy megoldatlan fióktörlési panasz olyan munkatárshoz, aki érdemben foglalkozhat vele? Kap-e a kérdező használható hivatkozást a hivatalos adatvédelmi tájékoztatóhoz? És felismerhető-e számára, amikor az automatizált ügyfélszolgálat elérte a lehetőségei határát?
A Meta szerint a közzétételi hibát kijavították. Az ügyfélszolgálat működéséről az adna teljesebb képet, ha az is kiderülne, milyen választ és milyen továbblépési lehetőséget kap az, akinek az ügyét a chatbot nem tudja rendezni.
Eredeti cím: WhatsApp Exposed Internal AI Instructions Restricting Answers on Privacy Rights and Legal Complaints
