خطر واقعی کرم‌های هوش مصنوعی؛ مانور تبلیغاتی آنتروپیک یا تهدید بات‌نت‌های SLM؟

گزارش جدید تیم تحقیقاتی «فرانتیر رد تیم» در شرکت آنتروپیک (Anthropic) موج تازه و شدیدی از نگرانی‌های امنیتی را در محافل فناوری به راه انداخته است. بر اساس پژوهش‌های این آزمایشگاه، مدل‌های زبانی کوچک به نقطه‌ای نزدیک شده‌اند که می‌توانند بدون دخالت انسان، خود را روی تجهیزات ناامن شبکه تکثیر کنند و شبکه‌های روباتیک یا بات‌نت‌های (Botnets) ایجنتیک، مستقل و غیرقابل مهار بسازند. هرچند غول‌های ابری عادت دارند برای پررنگ کردن توانایی محصولات خود و جلب توجه سرمایه‌گذاران سناریوهای پایان جهان را مطرح کنند، اما بررسی‌های عمیق‌تر نشان می‌دهد ابعاد واقعی این مسئله کمی متفاوت از هیاهوی رسانه‌ای است.

کریس کانال (Chris Canal)، مدیرعامل مجموعه EquiStamp که در حوزه ارزیابی مدل‌های هوش مصنوعی با دولت‌ها و سازمان‌های امنیتی همکاری می‌کند، معتقد است این پیش‌بینی احتمالاً چند ماه زودتر از حد انتظار محقق می‌شود. شتاب خیره‌کننده توسعه مدل‌ها حاصل دسترسی پژوهشگران شرکت‌هایی مثل آنتروپیک به ابزارهای ایجنتیک خودشان برای پیشبرد تحقیقات یادگیری ماشین است. این چرخه بازخورد مثبت، سرعت جهش فناوری را دوچندان کرده است.

شوک تیم امنیت آنتروپیک؛ تکثیر خودکار مدل‌ها روی سخت‌افزارهای ضعیف

تصور کنید یک مدل زبانی فشرده‌شده با وزن‌های ۴ بیتی، توانایی پویش پورت‌های شبکه، شناسایی آسیب‌پذیری‌های نرم‌افزاری و اجرای کد را به صورت کاملاً خودکار به دست آورد. طبق ادعای آنتروپیک، مدل‌های کوچک می‌توانند از یک دستگاه به دستگاه دیگر جهش کنند، فرایند استنتاج (Inference) را روی سخت‌افزار مقصد راه‌اندازی کنند و پایگاهی تازه برای توسعه خود بسازند.

با این حال، کارشناسان مستقل امنیت شبکه نگاه بسیار دقیق‌تری به این پدیده دارند. پروفسور مایکل بیلی (Michael Bailey) از دانشکده امنیت سایبری و حریم خصوصی در دانشگاه جورجیا تک، که از اوایل دهه ۲۰۰۰ روی کرم‌های اینترنتی تحقیق می‌کند، زاویه دید متفاوتی ارائه می‌دهد. او پتانسیل تکثیر مدل‌ها را انکار نمی‌کند، اما شکل واقعی و پیامدهای آن را بسیار متغیرتر از آنچه آنتروپیک ادعا می‌کند می‌داند.

از بات‌نت Mirai تا کرم‌های ایجنتیک؛ اتوماسیون نفوذ روی سخت‌افزار‌های ضعیف

برای درک عمق این خطرات باید به سال ۲۰۱۶ و ظهور بات‌نت معروف میرای (Mirai Botnet) بازگشت. حمله بی‌سابقه Mirai به عرضه‌کننده DNS بزرگ دنیای وب یعنی Dyn، باعث قطعی گسترده سرویس‌های غول‌پیکری چون Amazon، GitHub، PayPal، Reddit و شبکه PlayStation Network شد و میلیون‌ها دلار خسارت مالی برجای گذاشت. میرای نشان داد می‌توان از ضعیف‌ترین دستگاه‌های اینترنت اشیاء (IoT) مثل روترهای خانگی و دوربین‌های تحت شبکه به عنوان ابزار حمله استفاده کرد.

تفاوت اصلی کرم‌های مبتنی بر هوش مصنوعی با حملات کلاسیک نظیر Mirai یا Kimwolf در انعطاف‌پذیری است. در گذشته اگر هکرها قصد داشتند بدافزار را روی یک معماری پردازشی جدید (مثلا تغییر از ARM به MIPS) اجرا کنند، باید کد را دست‌کم مجدداً کامپایل می‌کردند. ایجنت‌های هوش مصنوعی قادرند معماری ناشناخته مقصد را تحلیل کرده و روش استقرار کد را بدون دخالت مهندس انسان پیدا کنند. در واقع AI نوعی «اتوماسیون تاکتیکی» ایجاد می‌کند که موازنه اقتصادی میان مهاجمان و مدافعان شبکه را به نفع هکرها برهم می‌زند.

توهم تکثیر مطلق یا مکانیزم Dropper؟ واکاوی فنی بنچمارک‌های آزمایشگاهی

بررسی جزییات شبیه‌سازی‌های آنتروپیک نشان می‌دهد ادعای «خودتکثیری کامل» تا حدی غلوآمیز است. در آزمایش‌های انجام‌شده، مدل در یک شبکه کامپیوتر مجازی دستکاری‌شده قرار گرفته بود که نفوذ به آن فوق‌العاده ساده و پیش‌پاافتاده طراحی شده بود. علاوه بر این، ابزار مورد استفاده واقعاً یک «کرم خودتکثیرگر» کامل نیست؛ بلکه عملکردی شبیه به قطره‌چکان یا قطعه‌کد قطره‌ای (Dropper) دارد.

کرم‌ها یا ویروس‌های اینترنتی سنتی کپی دقیق کد خود را روی دستگاه جدید منتقل کرده و اجرا می‌کنند. اما یک بات‌نت مبتنی بر AI به جای کپی کردن صددرصدی مدل چندمیلیاردی خود روی حافظه محدود یک روتر، یک ابزار هماهنگ‌کننده کوچک را نصب می‌کند تا دستورات را از بخش‌های دیگر شبکه دریافت کند. علاوه بر این، ویروس‌های واقعی اصطلاحاً «پلی‌مورفیک» (Polymorphic) هستند و رفتار و امضای دیجیتال خود را تغییر می‌دهند. برای اینکه یک ایجنت هوش مصنوعی پلی‌مورفیک شود، باید بتواند مدل خود را به صورت محلی بازآموزی (Retrain) کند؛ کاری که آنتروپیک حتی در شبیه‌سازی‌هایش موفق به انجام آن نشده است.

انگیزه آنتروپیک از انتشار چنین هشدارهایی را نباید بی‌ارتباط با برنامه‌ریزی این شرکت برای عرضه عمومی سهام (IPO) دانست. ادعای ساخت مدل‌هایی چنان قدرتمند که توانایی نابودی اینترنت را دارند، همواره ابزاری جذاب برای مارکتینگ و جذب سرمایه بوده است. از طرفی، این شرکت‌ها نگران بی‌پروا کار کردن رقبای خود هستند و تلاش می‌کنند با داغ کردن فضای رسانه‌ای، نهادهای قانون‌گذار را به نفع الگوی انحصاری خود جهت‌دهی کنند.

مدل‌های متن‌باز و حافظه VRAM؛ چرا دور زدن محدودیت‌ها روی سیستم محلی حتمی است؟

نکته کلیدی که ما توسعه‌دهندگان سیستم‌های متن‌باز همواره بر آن تاکید داریم، ماهیت غیرقابل مهار مدل‌های وزنی آزاد (Open-Weights) است. امروزه یک مدل کوچک Qwen یا DeepSeek یا Llama به لطف روش‌های کوانتایزیشن (Quantization) دقیق نظیر Q4_K_M، به راحتی روی یک کارت گرافیک خانگی با ۸ تا ۱۲ گیگابایت حافظه VRAM یا حتی حافظه RAM پردازنده‌های معمولی بارگذاری می‌شود. اجرای محلی بدون اتصال به اینترنت با ابزارهایی مثل Ollama کاملاً میسر است.

پژوهش‌های مشترک EquiStamp و مؤسسه FAR.AI صراحتاً ثابت کرده که افزودن لایه‌های ایمنی (Safeguards) به مدل‌های متن‌باز برای جلوگیری از تبدیل شدن آن‌ها به کرم‌های اینترنتی عملاً بی‌فایده است. تقریباً هر روشی که برای حذف محدودیت‌های ایمنی (Jailbreak) و آن‌الاین کردن مدل‌ها در موتورهای جستجو وجود دارد، روی سیستم‌های محلی کار می‌کند. وقتی وزنی را روی سیستم خود دانلود می‌کنید، صاحب مطلق آن هستید و هیچ فیلتر ابری نمی‌تواند جلوی تغییر رفتار کد را بگیرد. این یعنی تکیه بر «اخلاق‌مداری مدل» برای حفظ امنیت شبکه، یک ساده‌لوحی محض فنی است.

بازگشت به اصول اولیه دیوارهای آتش؛ نجات شبکه در دست امنیت کلاسیک است

جالب اینجاست که راهکارهای پیشنهادی خود آنتروپیک برای مهار این خطرات فوق‌العاده سنتی و قدیمی هستند: محدود کردن دسترسی اینترنتی مشترکان آلوده توسط ارائه‌دهندگان اینترنت (ISP) و ممنوعیت استفاده از رمزهای عبور پیش‌فرض روی تجهیزات IoT بر اساس قوانینی مانند قانون PSTI بریتانیا.

مقابله با کرم‌های هوش مصنوعی هیچ تفاوت بنیادینی با معماری امنیت سیستم‌ها در دو دهه گذشته ندارد. اگر سخت‌افزارها، روترها و سرویس‌های تحت شبکه با دیوارهای آتش مناسب، بستن پورت‌های غیرضروری، بروزرسانی‌های دوره‌ای و تغییر کلمات عبور پیش‌فرض ایمن‌سازی شوند، حتی هوشمندترین ایجنت‌های نرم‌افزاری خودران نیز پشت درهای بسته خواهند ماند. امنیت واقعی در لایه‌های زیرساخت و شبکه شکل می‌گیرد، نه در دیالوگ با مدل‌های هوش مصنوعی.