وقتی الگوریتم‌های متا، دموکراسی را با بات اشتباه می‌گیرند

کوریِ الگوریتمیک در حساس‌ترین زمان ممکن

تصور کنید در اوج یک کمپین مدنی گسترده برای مشارکت در انتخابات، ناگهان دسترسی شما به نبض تپندهٔ ارتباطات‌تان یعنی اینستاگرام قطع شود. این دقیقاً همان سناریویی است که ائتلاف دموکراسی‌خواه «No Kings» در هفته‌های اخیر تجربه کرد. وقتی متا (Meta) حساب اینستاگرام این گروه را به دلیل «رفتار ربات‌گونه» مسدود کرد، ما با یک پارادوکس فنی روبه‌رو شدیم: ابزارهای هوش مصنوعی که قرار بود به سازمان‌دهی دموکراتیک کمک کنند، توسط سیستم‌های امنیتی همان پلتفرم به عنوان تهدید شناسایی شدند.

اندی استون (Andy Stone)، سخنگوی متا، مدعی است که استفاده از ابزارهای هوش مصنوعی مبتنی بر Claude برای رصد هشتگ‌ها و مدیریت محتوا، باعث ایجاد ترافیک‌های انفجاری شده که الگوریتم‌های دفاعی متا را به اشتباه انداخته است. اما آیا واقعاً یک مدل زبانی بزرگ (LLM) می‌تواند به تنهایی باعث شود سیستم‌های غول‌آسای متا دچار توهم (Hallucination) در تشخیص هویت کاربر شوند؟ یا ما با یک «هالوسینیشن سیستمی» روبه‌رو هستیم که در آن، ماشین‌ یادگیریِ نظارت‌گر، تفاوت بین یک سازمان‌دهنده فعال و یک بات مخرب را درک نمی‌کند؟

وقتی ابزارهای بهره‌وری، تهدید امنیتی تلقی می‌شوند

ائتلاف No Kings برای مدیریت حجم عظیم محتوا، از ابزارهایی استفاده کرده که بر پایه Claude طراحی شده‌اند. این ابزارها قرار بود به تیم‌های مدیریتی کمک کنند تا در پلتفرم‌های مختلف، بحث‌های انتخاباتی را رصد کنند. مشکل از آنجا شروع شد که الگوریتم‌های متا، این «فعالیت‌های انفجاری» (Intense Bursts) را به عنوان رفتار غیرانسانی شناسایی کردند. این اتفاق، محدودیت‌های جدی در پنجره کانتکست و درکِ رفتارهای پیچیده کاربران توسط سیستم‌های نظارتی متا را برملا می‌کند.

نکته اینجاست: ما در عصری هستیم که سازمان‌های مردم‌نهاد، به جای استخدام ارتش‌های چند هزار نفره، به ایجنت‌های خودمختار و ابزارهای هوش مصنوعی تکیه می‌کنند تا بتوانند میلیون‌ها رأی‌دهنده را بسیج کنند. وقتی متا این ابزارها را بلاک می‌کند، در واقع در حال «کُند کردن» فرآیند دموکراتیک است. این یک خطای فنی ساده نیست؛ یک شکست در معماریِ نظارت بر محتواست که توانایی تشخیص «نیتِ کاربر» را از «ساختارِ ترافیک» ندارد.

تقابل سکوتِ متا و مطالبه‌گری مدنی

متا در پاسخ به اعتراضات این ائتلاف، پیشنهاد داده که یک «متخصص فنی» برای توضیحِ این اشتباه با آن‌ها جلسه بگذارد. اما No Kings این پیشنهاد را نپذیرفته و خواستار پاسخگویی در سطوح مدیریتی ارشد شده است. این واکنش، کاملاً هوشمندانه است؛ چرا که مسئله فقط یک حساب کاربری نیست، بلکه مسئله‌ی «اعتماد» به زیرساخت‌هایی است که بخش بزرگی از ارتباطات سیاسی آمریکا را مدیریت می‌کنند.

نگرانیِ اصلی اینجاست که سیستم‌های نظارتی متا، به دلیل ترس از فشارهای سیاسی یا تمایل به کاهش هزینه‌های نظارت انسانی، به سمت «بیش‌-اجرایی» (Over-enforcement) سوق پیدا کرده‌اند. این یعنی سیستم، عطای امنیت را به لقایِ سانسور بخشیده است. اگر سیستم نتواند بین یک کاربرِ متکی به هوش مصنوعی و یک بات اسپم‌کننده تفکیک قائل شود، پس در واقعیت، ما در حال سپردنِ مدیریتِ فضای عمومی به الگوریتم‌هایی هستیم که هیچ درکی از زمینه (Context) ندارند.

آیا هوش مصنوعی، قربانیِ بعدیِ فیلترینگ است؟

این رخداد، پرسش‌های بزرگی را در حوزه دیپ‌لرنینگ و امنیت پلتفرم‌ها ایجاد می‌کند. آیا شرکت‌های بزرگ تک، باید ابزارهای خود را برای استفاده از ایجنت‌های هوش مصنوعی «سازگار» کنند؟ یا باید شاهد یک بن‌بست دائمی باشیم که در آن، ابزارهای هوش مصنوعی برای افزایش بهره‌وری، توسط سیستم‌های امنیتی خودِ پلتفرم‌ها سرکوب می‌شوند؟

ائتلاف No Kings به درستی اشاره می‌کند که این مسئله فراتر از یک «گلیچ فنی» است. این درباره توانایی میلیون‌ها آمریکایی برای استفاده از این پلتفرم‌ها جهت سازمان‌دهی است. در حالی که رقابت بین غول‌های هوش مصنوعی برای ارائه پنجره کانتکست میلیونی و ایجنت‌های قدرتمندتر داغ است، زیرساخت‌های شبکه‌های اجتماعی همچنان در عصرِ «تشخیصِ بات‌های ساده» باقی مانده‌اند. اگر این شکافِ استدلالی بین ابزارهای تولید محتوا و سیستم‌های نظارتی پر نشود، ما شاهد تکرار این سناریوهای مضحک و خطرناک خواهیم بود؛ جایی که هوش مصنوعی برای دموکراسی، هم ابزار است و هم قربانی.