دستورهای پنهان در صفحات راهنمای واتس‌اپ: «مرجع نظارتی را پیشنهاد نده»

پژوهشگران چه چیزی پیدا کردند؟

نویسندگان گزارش می‌گویند ۸ اکتبر برای اولین بار این یادداشت‌ها را دیدند. بعد ۵۴۵ صفحه‌ی لینک‌شده در مرکز راهنمای واتس‌اپ را خزیدند و از هر کدام نسخه ذخیره کردند. در ۸۰ صفحه، در مجموع ۱۰۲ بلوک متن پنهان بود. در ۳۰۰ صفحه‌ی راهنمای فیس‌بوک و اینستاگرام، که روی همان سامانه کار می‌کنند، چنین یادداشتی پیدا نشد.

به گفته‌ی گزارش، سرور واتس‌اپ این بلوک‌ها را برای خزنده‌های گوگل و بینگ فرستاده بود. اما وقتی صفحه‌ها با نام خزنده‌های OpenAI، Anthropic و Perplexity درخواست شدند، نسخه‌ای بدون این یادداشت‌ها برگشت. نشانه‌ای در کد صفحه هم این بلوک‌ها را به چت‌بات پشتیبانی خود واتس‌اپ ربط می‌داد.

دو دستور بحث‌برانگیز

در صفحه‌ی حذف حساب، متن نمایان درباره‌ی حذف خودکار حساب‌های غیرفعال بود. متن پنهان همین مهلت‌ها را تکرار می‌کرد و بعد به هوش مصنوعی می‌گفت مراجع حفاظت از داده یا نهادهای نظارتی را پیشنهاد نکند، نگوید واتس‌اپ می‌تواند حساب را دستی حذف کند و استفاده از گوشی دیگر با شماره‌ی فعال را توصیه نکند.

در صفحه‌ی گزارش و مسدودسازی، بلوک دیگری وقتی فعال می‌شد که کاربر از دعوا، وکیل یا دادگاه حرف بزند. در این حالت هوش مصنوعی نباید به شرایط استفاده، سیاست حریم خصوصی یا قوانینی مثل GDPR و CCPA اشاره می‌کرد، حتی اگر خود کاربر آن‌ها را مطرح می‌کرد. به‌جایش باید کاربر را به مشاوره‌ی حقوقی ارجاع می‌داد.

گزارش این دستورها را با سیاست حریم خصوصی منطقه‌ی اقتصادی اروپا مقایسه می‌کند؛ سیاستی که به کاربر حق دسترسی، اصلاح و پاک‌سازی داده و حق شکایت به نهاد نظارتی را می‌دهد. نویسندگان قبول دارند که شرکت‌ها ممکن است نخواهند چت‌بات‌شان نظر حقوقی بدهد. اما استدلال می‌کنند نام بردن از یک قانون یا نهاد مشورت حقوقی نیست.

واکنش واتس‌اپ و محدودیت‌های گزارش

طبق روایت گزارش از پوشش WIRED، واتس‌اپ گفته این یادداشت‌ها دستور چت‌بات پشتیبانی بوده، به‌خاطر باگ روی صفحه‌ها آمده و رفع شده است. سخنگوی شرکت هم گفته می‌خواهد چت‌بات‌هایش روی توصیه درباره‌ی خود واتس‌اپ تمرکز کنند و مشاوره‌ی حقوقی ندهند. ما مقاله‌ی WIRED را خودمان باز نکردیم، پس این بخش فقط بازگویی ادعای گزارش Redact است.

به گفته‌ی گزارش، تا ۱۵ اکتبر هر دو یادداشت اصلی هنوز در دسترس بود و تا ۱۸ اکتبر هر ۱۰۲ بلوک از ۸۰ صفحه حذف شد. نویسندگان می‌گویند نمی‌دانند چت‌بات واقعاً طبق این دستورها پاسخ داده یا نه، چون دستورها را دیده‌اند و نه پاسخ‌ها را. همچنین نمی‌دانند دستیارهای هوش مصنوعی بیرونی از آن‌ها اطاعت کرده‌اند یا نه.

چرا برای برنامه‌نویس‌ها مهم است؟

این ماجرا نمونه‌ی روشنی از الگویی است که در محصولات مبتنی بر مدل زبانی رایج شده: دستورالعمل‌های سیستمی داخل محتوایی که ماشین می‌خواند جاسازی می‌شوند. اگر این لایه بدون بازبینی به خروجی عمومی راه پیدا کند، هم محتوای ناخواسته افشا می‌شود و هم مرز بین «راهنمای کاربر» و «پرامپت» محو می‌شود.

برای تیم‌هایی که چت‌بات پشتیبانی می‌سازند، درس عملی این است که دستور مدل را از محتوای عمومی جدا نگه دارند، خروجی صفحه‌ها را قبل از انتشار بازبینی کنند و خطمشی‌های حساس، مثل ارجاع به مراجع نظارتی، را شفاف و قابل ممیزی تعریف کنند.