شکار دانشجویان شبح؛ وقتی هوش مصنوعی به سلاح کلاهبرداران تبدیل می‌شود

وقتی هوش مصنوعی به جای دانشجو درس می‌خواند

دنیای هوش مصنوعی (AI) همیشه آن‌طور که ما در کنفرانس‌های پرزرق‌وبرق می‌بینیم، در مسیر خیر و پیشرفت بشریت نیست. این روزها شاهد یک جبهه جدید از سوءاستفاده‌های سایبری هستیم؛ جایی که کلاهبرداران با استفاده از قدرت مدل‌های زبانی و سیستم‌های خودکار، هویت صدها هزار آمریکایی را سرقت کرده و به عنوان «دانشجوی شبح» (Ghost Student) وارد سیستم‌های دانشگاهی شده‌اند. این فقط یک فیشینگ ساده نیست؛ ما با یک معماری پیچیده از کلاهبرداری مواجهیم که در آن هوش مصنوعی نه تنها فرم‌های درخواست کمک‌هزینه تحصیلی (FAFSA) را پر می‌کند، بلکه در کلاس‌های مجازی هم حضور پیدا می‌کند تا سیستم‌های نظارتی دانشگاه را دور بزند.

این کلاهبرداران با خرید اطلاعات هویتی (PII) فارغ‌التحصیلان دبیرستانی که هرگز پا به دانشگاه نگذاشته‌اند، یک هویت دیجیتال جعلی می‌سازند. وقتی سیستم‌های دانشگاهی تصور می‌کنند با یک دانشجو طرف هستند، بودجه‌های حمایتی به حساب‌های بانکی آن‌ها واریز می‌شود. اما نکته ترسناک ماجرا اینجاست که این «شبح‌ها» حتی برای بقا در سیستم، از هوش مصنوعی برای انجام تکالیف و تعامل در پلتفرم‌های آموزشی استفاده می‌کنند. این همان نقطه‌ای است که فناوری، بدون هیچ نظارتی، به ابزار جرم سازمان‌یافته تبدیل می‌شود.

دیوارهای شیشه‌ای امنیت در برابر حملات هوشمند

وزارت دادگستری آمریکا (DOJ) اخیراً از شناسایی ۸۳۰ هزار حساب مشکوک خبر داده که اگر همگی آن‌ها را «شبح» فرض کنیم، زیانی بالغ بر ۱۳۰ میلیون دلار به منابع عمومی وارد شده است. مهندسی این جرم به قدری دقیق است که قربانیان اصلی (کسانی که هویتشان سرقت شده) تا سال‌ها بعد و زمانی که دولت برای بازپرداخت وام‌های کلان به سراغشان می‌آید، از این ماجرا بی‌خبر می‌مانند. این یعنی ویرانی کامل سابقه اعتباری (Credit Score) یک شهروند که روحش هم از این ماجرا خبر ندارد.

نکته فنی که باید به آن دقت کرد، نحوه شناسایی این شبکه است. مسئولان فدرال اعلام کرده‌اند که با تحلیل الگوهای رفتاری (Behavioral Analytics) و شناسایی تراکنش‌های مشکوک در کیف پول‌های رمزارز، توانسته‌اند رد پای این کلاهبرداران را در کنیا و سایر نقاط جهان پیدا کنند. این تقابل میان ایجنت‌های هوشمند کلاهبردار و الگوریتم‌های تشخیص تقلب، یک جنگ تمام‌عیار در فضای ابری است. اما سوال اینجاست: آیا زیرساخت‌های فعلی دانشگاهی توان مقابله با ایجنت‌هایی که هر روز هوشمندتر می‌شوند را دارند؟

چرا سیستم‌های تشخیص تقلب در برابر ایجنت‌های خودران شکست خوردند؟

در جریان کنفرانس مطبوعاتی اخیر، بحث‌های داغی پیرامون ضعف‌های امنیتی سیستم‌های دولتی مطرح شد. مسئولان دولت فعلی آمریکا ادعا می‌کنند که در دولت پیشین، بسیاری از لایه‌های حفاظتی و سیستم‌های احراز هویت خودکار خاموش شده بودند که این خلأ، فرش قرمزی برای کلاهبرداران پهن کرد. اکنون تلاش‌ها بر بازگرداندن سیستم‌های احراز هویت آنلاین متمرکز شده است؛ اما این راهکار هم بدون هزینه نیست.

ما با یک تناقض بزرگ روبرو هستیم: هرچه سدهای امنیتی را محکم‌تر کنیم، احتمال اینکه دانشجویان واقعی و نیازمند به دلیل نقص فنی یا «مثبت کاذب» (False Positive) سیستم‌های تشخیص تقلب از دریافت کمک‌هزینه محروم شوند، بیشتر می‌شود. ما با سیستم‌هایی طرف هستیم که باید بین هوش مصنوعیِ مخرب و یک دانشجو که فقط در پر کردن فرم‌های پیچیده FAFSA گیج شده، تفاوت قائل شوند. اینجاست که معماران سیستم‌های ایجنتیک باید دقت کنند که الگوریتم‌های ضد تقلب نباید به مانعی برای دسترسی به آموزش تبدیل شوند.

آینده؛ شکار در فضای ابری

این پرونده فقط نوک کوه یخ است. ما در دورانی هستیم که هوش مصنوعی می‌تواند ردپای دیجیتال یک انسان را به طور کامل جعل کند. از تولید تصاویر کارت ملی جعلی با مدل‌های انتشار (Diffusion Models) گرفته تا پاسخگویی به ایمیل‌های اساتید توسط مدل‌های زبانی (LLMs)، همگی در حال تبدیل شدن به یک صنعت زیرزمینی هستند. وزارت دادگستری اعلام کرده که این تازه شروعِ یک عملیات گسترده برای پاکسازی این «دانشجویان شبح» است.

به عنوان کسی که در حوزه هوش مصنوعی فعالیت می‌کنم، معتقدم که راه حل نهایی نه در محدود کردن فناوری، بلکه در استفاده از سیستم‌های احراز هویت غیرمتمرکز و مبتنی بر بلاک‌چین برای تأیید هویت دانشجویان است. ما نیاز به پایپ‌لاین‌هایی داریم که بتوانند امضای دیجیتال واقعیِ فرد را از شبیه‌سازی‌های هوش مصنوعی تشخیص دهند. تا زمانی که سیستم‌های دولتی از ابزارهای قدیمی برای مبارزه با ایجنت‌های جدید استفاده می‌کنند، همیشه یک قدم عقب‌تر خواهند بود. این نبرد، نبردِ الگوریتم‌هاست؛ و در دنیای امروز، کسی که زیرساخت بهتری دارد، پیروز میدان است.