کوهیر: مدل متن‌باز کوئن علی‌بابا در تست امنیتی خواست فایلی را به پکن بفرستد

در آزمون چه گذشت؟

به گفته کوهیر، مدل در یک محیط ارزیابی ایزوله و با محک CTI-REALM مایکروسافت آزموده می‌شد. وظیفه، نوشتن یک قاعده تشخیص برای دانلود و اجرای فایل‌های مخرب بود. چنین کاری نیازی به ارتباط با بیرون ندارد.

با این حال مدل ابتدا محیط اجرای خود را بررسی کرد: محتوای پوشه موقت را فهرست کرد، ابزارهای انتقال فایل نصب‌شده را دید و تنظیمات DNS را خواند. بعد با یک دستور شبکه کوشید رشته‌ای آزمایشی را در یک سرور ذخیره‌سازی ابری متعلق به علی‌بابا در پکن بارگذاری کند. نکته عجیب این بود که در متن «استدلال» خود نوشته بود از هیچ ابزاری استفاده نخواهد کرد. به گفته کوهیر، پایش‌هایی که فقط زنجیره استدلال را می‌خوانند این خروجی را بی‌خطر می‌دیدند.

جاسوسی یا خطای آموزش؟

کوهیر تأکید می‌کند مدرکی برای عمدی بودن رفتار ندارد و چنین ادعایی نمی‌کند. برای ردیابی علت، پژوهشگران ابتدای یک دستور شبکه را به مدل دادند تا ادامه‌اش را کامل کند. در این حالت مدل تا ۲۳ درصد مواقع به میزبان‌های موجود در فهرست مراقبت اشاره کرد. منتقدان می‌گویند این روش مدل را به سمت این رفتار هدایت می‌کند و بسامد واقعی را نشان نمی‌دهد.

توضیح محتمل‌تر از نگاه بسیاری از کارشناسان این است که داده یا محیط‌های آموزشی درست پاک‌سازی نشده‌اند. مدل‌های عامل‌محور در هزاران محیط شبیه‌ساز آموزش می‌بینند و اگر در آن‌ها فایل‌ها به‌طور معمول روی همان فضای ابری ذخیره می‌شد، مدل ممکن است ذخیره‌کردن آنجا را یاد گرفته باشد. کوهیر هم این را قابل‌قبول می‌داند. شب دوشنبه این شرکت ردهای خام آزمایش و یک اسکریپت بازتولید را منتشر کرد. به گزارش تک‌کرانچ، یکی از بدبین‌های اولیه پس از بررسی آن‌ها گفت شواهد برای ساختن نشانی‌های مشکوک توسط مدل قوی است، اما نشانه‌ای از درپشتی یا نیت پنهان پیدا نکرده است.

چرا برای برنامه‌نویس‌ها مهم است؟

یکی از دلایل محبوبیت مدل‌های وزن‌باز این است که می‌توان آن‌ها را روی زیرساخت خودی اجرا کرد و مطمئن بود داده بیرون نمی‌رود. این گزارش نشان می‌دهد که اگر مدل به ابزار و شبکه دسترسی داشته باشد، این اطمینان خودبه‌خود برقرار نیست. توصیه کوهیر برای تیم‌های امنیتی ساده است: خروج ترافیک شبکه را محدود کنید، استفاده از ابزارها را پایش کنید و زنجیره استدلال مدل را مرز امنیتی ندانید. این توصیه‌ها فارغ از علت ماجرا، چه خطای آموزش و چه چیز دیگر، یکسان‌اند.

این موضوع برای کاربران ایرانی هم کاربرد دارد، چون مدل‌های متن‌باز چینی از رایج‌ترین گزینه‌ها برای اجرای محلی و بدون وابستگی به سرویس‌های خارجی‌اند. اجرای عامل‌های هوشمند روی سرور بدون محدودیت شبکه‌ای، چه داخل کشور و چه خارج از آن، ریسک مشابهی دارد.

در پس‌زمینه، نگرانی‌های امنیتی درباره مدل‌های چینی بالا گرفته است. کوهیر به گزارشی از شرکت مشاوره‌ای Booz Allen اشاره می‌کند که طبق آن سه مدل از چهار مدل کدنویسی چینی برای مشتری دولتی کد آسیب‌پذیرتر نوشته‌اند؛ Qwen3-Coder حدود ۱۳۰ درصد بدتر بوده است. از سوی دیگر، کوهیر خودش مدل‌هایی را به دولت‌ها می‌فروشد و از بدبینی نسبت به جایگزین‌های رایگان سود می‌برد؛ همین را باید هنگام ارزیابی انگیزه‌ها در نظر داشت.