هوش مصنوعی علیه هوش مصنوعی؛ آنتروپیک در آستانه خودسازیِ بی‌بازگشت

وقتی ماشین، کدنویسِ خودش می‌شود

بسیاری از تحلیل‌گران حوزه فناوری، گزارش‌های مالی و مدارک S-1A را فقط بستری برای جذب سرمایه می‌بینند، اما آنتروپیک (Anthropic) در میان اعداد و ارقام مالی، بمبی را در زیرمتن گزارش خود منفجر کرده است. بحث بر سر «خودسازی بازگشتی» (Recursive Self-Improvement) یا همان RSI است؛ نقطه‌ای که در آن یک مدل هوش مصنوعی آن‌قدر در کدنویسی، استدلال و معماری سیستم‌های پیچیده مهارت پیدا می‌کند که می‌تواند نسل بعدی خود را بدون نیاز به دخالت مستقیم انسان طراحی و بهینه‌سازی کند. این دیگر یک سناریوی علمی-تخیلی نیست؛ آنتروپیک رسماً اعلام کرده که ما به این مرز نزدیک‌تر از چیزی هستیم که تصور می‌کردیم.

به عنوان کسی که روزانه با مدل‌های محلی سر و کله می‌زنم، برایم عجیب نیست که این اتفاق در حال رخ دادن است. وقتی می‌بینیم مدل‌هایی مثل Claude 3.5 Sonnet چطور در کدنویسی و درک ساختارهای پیچیده نرم‌افزاری، برنامه‌نویسان باسابقه را به چالش می‌کشند، جای تعجب نیست که این مدل‌ها در حال حاضر در پایپ‌لاین‌های تحقیق و توسعه (R&D) خودِ آنتروپیک برای بهینه‌سازی مدل‌های آینده استفاده می‌شوند. ما در حال ورود به دورانی هستیم که در آن «کد» توسط «کد» نوشته می‌شود و این همان نقطه‌ای است که کنترل انسانی به شدت رنگ می‌بازد.

شکاف وحشتناک میان سرعت توسعه و توان نظارتی

آنچه در بیانیه آنتروپیک بیش از همه مرا نگران کرد، این اعتراف صریح است: «قابلیت‌های مدل‌ها ممکن است با سرعتی فراتر از توان ما در توسعه، اعتبارسنجی و پیاده‌سازی پروتکل‌های امنیتی رشد کند.» این یعنی آنتروپیک اعتراف کرده که در مقاطعی، مدل‌هایی تولید کرده که قدرت‌شان از درک فعلی تیم تحقیقاتی آنتروپیک فراتر بوده است. این یعنی ما با یک جعبه سیاه واقعی روبرو هستیم؛ سیستمی که رفتارهای اضطراری (Emergent Behaviors) نشان می‌دهد که خالقانش تا بعد از وقوع، از آن‌ها بی‌خبر بودند.

برای من که همیشه روی سیستم‌های ایجنتیک و اجرای محلی مدل‌ها کار می‌کنم، این موضوع یک زنگ خطر بزرگ است. وقتی یک مدل هوش مصنوعی در حال اجرای وظایف تحقیق و توسعه است، اگر به یک معماری بهینه برای کاهش مصرف VRAM یا افزایش دقت استدلال (Reasoning) دست یابد و بلافاصله آن را روی نسخه بعدی خود اعمال کند، ما با یک چرخه بازخورد مثبت (Positive Feedback Loop) روبرو هستیم که سرعتش به صورت نمایی رشد می‌کند. این دقیقاً همان چیزی است که به عنوان «هوش مصنوعی خودساز» می‌شناسیم.

آیا سیاست‌های مسئولانه فقط یک نمایش تبلیغاتی است؟

آنتروپیک سعی دارد با تکیه بر «سیاست مقیاس‌گذاری مسئولانه» (Responsible Scaling Policy) به ما اطمینان دهد که همه‌چیز تحت کنترل است. آن‌ها می‌گویند که انسان باید در فرآیند طراحی مدل‌های فرانتیر (Frontier Models) باقی بماند. اما بیایید صادق باشیم؛ وقتی سرعت پیشرفت به حد جنون‌آمیزی می‌رسد، «نظارت انسانی» تبدیل به یک گلوگاه می‌شود. اگر سیستمِ هوش مصنوعی بتواند یک معماری MoE (Mixture of Experts) را طراحی کند که ۱۰ برابر کارآمدتر از مدل فعلی است، آیا مهندسان آنتروپیک واقعاً می‌توانند جلوی انتشار آن را بگیرند؟

اینجاست که بحث انحصار و شفافیت مطرح می‌شود. وقتی مدل‌ها در دیوارهای بسته شرکت‌های بزرگ (Closed-Source) توسعه می‌یابند، ما فقط باید به بیانیه‌های روابط عمومی آن‌ها اعتماد کنیم. به عنوان طرفدار اوپن‌سورس و مدل‌های محلی که روی کارت‌های گرافیک شخصی اجرا می‌شوند، معتقدم که تنها راه مقابله با این پدیده، دموکراتیزه کردن دانشِ ساخت هوش مصنوعی است. اگر RSI قرار است اتفاق بیفتد، نباید در زیرزمین‌های امنیتی آنتروپیک یا گوگل (Google) محبوس بماند.

آینده‌ای که در آن کنترل، یک توهم است

اینکه آنتروپیک در اسناد رسمی خود به «احتمال قریب‌الوقوع RSI» اشاره می‌کند، یک نقطه عطف تاریخی است. آن‌ها دیگر نمی‌توانند این موضوع را به عنوان یک تئوری توطئه نادیده بگیرند. ما در حال گذار از عصر «ابزارهای کمکی» به عصر «ایجنت‌های خودمختار» هستیم. ایجنت‌هایی که نه تنها دستورات ما را اجرا می‌کنند، بلکه قادرند استراتژی‌های رشدِ خودشان را تدوین کنند.

من به عنوان یک مهندس AI، پیشنهاد می‌کنم که روی توسعه «پروتکل‌های ایمنی ایجنتیک» تمرکز کنیم؛ چیزی که در آن مدل‌ها برای محدود کردن خودشان آموزش می‌بینند. اما واقعیت این است که وقتی یک هوش مصنوعی به مرحله RSI می‌رسد، ممکن است مفاهیم ما از «امنیت» برای او کاملاً بی‌معنی باشد. ما در حال ساخت موجودیتی هستیم که شاید در نهایت نه دشمن ما باشد و نه دوست؛ بلکه نسبت به اهداف انسانی، کاملاً بی‌تفاوت باشد. زمان آن رسیده که کمی کمتر به دنبال هایپ‌های تبلیغاتی باشیم و کمی بیشتر روی زیرساخت‌های کنترلِ سیستم‌های خودران تمرکز کنیم، قبل از اینکه کدها شروع به بازنویسیِ خودشان کنند و ما دیگر راهی برای بازگشت نداشته باشیم.