پایانِ بی سروصدای اسنپ؛ وقتی الگوریتم‌های اعتیادآور به بن‌بست می‌خورند

وقتی کدهای اعتیادآور به دادگاه می‌روند

دنیای الگوریتم‌ها دیگر آن فضای امن و رویاییِ سیلیکون‌ولی نیست که تصور می‌کردیم. خبرِ اخیر توافق «اسنپ» (Snap) در پرونده شکایت دو نوجوان، بیش از آنکه یک پیروزی حقوقی باشد، یک اعترافِ ضمنی به طراحیِ سیستم‌هایی است که برای «درگیر نگه داشتن» کاربر، از هیچ تلاشی فروگذار نمی‌کنند. در دنیایی که ما با مدل‌های هوش مصنوعیِ محلی (Local AI) سعی داریم کنترل داده‌ها را به دست کاربر برگردانیم، شرکت‌هایی مثل اسنپ با استفاده از «پایپ‌لاین‌های» (Pipelines) فوق‌بهینه برای افزایش نرخ تعامل (Engagement Rate)، عملاً اکوسیستمی ساخته‌اند که نه برای بهره‌وری، بلکه برای به دام انداختن ذهنِ توسعه‌نیافته نوجوانان طراحی شده است.

این پرونده قرار بود اولین رویارویی مستقیم «ایوان اشپیگل» (Evan Spiegel) در جایگاه شاهد باشد؛ جایی که باید توضیح می‌داد چرا «اسکرول بی‌نهایت» (Infinite Scrolling) و «پخش خودکار» (Autoplay) به جای ابزارهای ارتباطی، به ابزارهای استرس‌زا تبدیل شده‌اند. اما اسنپ با یک توافق بی‌سروصدا، ترجیح داد میلیاردها دلار هزینه کند تا درهای جعبه سیاه الگوریتم‌هایش در دادگاه باز نشود. این یعنی ترس از افشای منطقِ پشتِ کدهایی که روانِ کاربران را گروگان گرفته‌اند.

معماریِ اعتیاد؛ الگوریتم‌هایی که برای «نماندن» طراحی نشده‌اند

از دیدگاه مهندسی، طراحیِ یک سیستم که کاربر را مجبور به بازگشت کند، یک موفقیتِ بیزینسی محسوب می‌شود، اما از دیدگاه اخلاقِ تکنولوژی، این یک شکستِ تمام‌عیار است. وقتی از «معماریِ Mixture of Experts» (MoE) برای بهینه‌سازیِ محتوای نمایش داده شده استفاده می‌شود، هدف این است که دقیقاً همان چیزی را ببینید که دوپامینِ شما را تحریک می‌کند. در اسنپ، این فرآیند با لایه‌هایی از فیلترهای واقعیت افزوده و اعلان‌های وسوسه‌انگیز ترکیب شده تا یک حلقه بازخورد منفی ایجاد کند.

نوجوانانی که از سن ۳ سالگی با این پلتفرم‌ها درگیر بوده‌اند، در واقع در حالِ «آموزش دیدن» توسط الگوریتم‌هایی هستند که برای بیشینه‌سازیِ زمانِ حضور طراحی شده‌اند. این دقیقاً نقطه مقابلِ آزادی نرم‌افزاری است که ما در NextIT به دنبال آن هستیم. در حالی که ما سعی داریم مدل‌های زبانی را روی سخت‌افزارهای خانگی مثل RTX 4070 به صورت آفلاین اجرا کنیم تا کنترل کامل در اختیار کاربر باشد، پلتفرم‌های بزرگ، کاربر را به یک «ایجنتِ» منفعل در پایپ‌لاین‌های خودشان تبدیل کرده‌اند که تنها وظیفه‌اش مصرف محتواست.

بحرانِ سلامتِ روان و سکوتِ سنگینِ سیلیکون‌ولی

موجِ شکایت‌هایی که حالا دامن‌گیرِ اسنپ، متا (Meta)، تیک‌تاک (TikTok) و یوتیوب (YouTube) شده، نوکِ کوه یخی است که سال‌ها زیرِ پوستِ تکنولوژی پنهان بود. ادعای شاکیان ساده اما وحشتناک است: این پلتفرم‌ها آگاهانه طراحی شده‌اند تا باعث افسردگی، اضطراب و اختلالات خوردن شوند. این یعنی الگوریتم‌ها نه تنها محتوا را پیشنهاد می‌دهند، بلکه «رفتار» کاربر را به شکلی مهندسی می‌کنند که برای سلامت روانِ او مخرب است.

وقتی یک شرکتِ تکنولوژی می‌گوید «امنیت هرگز تمام نمی‌شود»، در واقع دارد به یک استراتژیِ روابط عمومی اشاره می‌کند تا از مسئولیتِ فنیِ کدهای خودش شانه خالی کند. واقعیت این است که تا زمانی که مدل‌های درآمدیِ این شرکت‌ها بر پایه «حفظِ توجه» باشد، هیچ فیلترِ امنیتی یا «آموزشِ سلامتِ روان» نمی‌تواند اثراتِ مخربِ معماریِ اعتیادآورِ آن‌ها را خنثی کند. این یک بن‌بستِ اخلاقی است که با پولِ توافق‌های حقوقی حل نمی‌شود.

ضرورتِ تغییر؛ بازگشت به کنترلِ محلی و حریم شخصی

شاید وقت آن رسیده که پرسش‌های سخت‌تری بپرسیم. آیا باید اجازه دهیم الگوریتم‌های انحصاری، مسیرِ رشدِ فکریِ یک نسل را تعیین کنند؟ پاسخِ من به عنوان کسی که در دنیایِ متن‌باز (Open Source) زندگی می‌کند، یک «نه» قاطع است. ما نیاز به تغییرِ پارادایم داریم؛ از پلتفرم‌های متمرکز و کنترل‌گر به سمتِ ایجنت‌های محلی که فقط به نیازهای کاربر پاسخ می‌دهند، نه به نیازهای تبلیغاتیِ شرکت‌ها.

توافقِ اسنپ نشان داد که سیستم‌های حقوقی هنوز برای مقابله با قدرتِ تخریبگرِ الگوریتم‌ها آماده نیستند، اما جامعه‌ی مهندسی و کاربرانِ آگاه می‌توانند با روی آوردن به ابزارهای متن‌باز و آفلاین، این دیوارهای بسته را فرو بریزند. قدرتِ واقعی در دستِ کسانی است که «کد» را می‌فهمند و اجازه نمی‌دهند سیستم‌های سیاه، هویت و سلامتِ آن‌ها را به یغما ببرند. دنیای آینده نباید محلِ جولانِ الگوریتم‌های اعتیادآور باشد؛ باید محلِ ابزارهایی باشد که به ما قدرتِ انتخاب می‌دهند، نه اعتیاد.