پاپ لئو و نبرد علیه ماشین‌های قاتل؛ وقتی تکنولوژی روح انسانی را هدف می‌گیرد

ماشین‌ها ابزارند، نه صاحبان سرنوشت

در دنیای پرهیاهوی تکنولوژی که شرکت‌های بزرگ سیلیکون ولی با ولع تمام به دنبال تزریق هوش مصنوعی (Artificial Intelligence) به تک‌تک ابزارهای روزمره ما هستند، شنیدن صدای عقلانیت از واتیکان شاید غافلگیرکننده باشد. پاپ لئو ۱۴ (Pope Leo XIV) اخیراً در بیانیه‌ای صریح، خواستار خلع سلاح سیستم‌های هوش مصنوعی شده است. برای من که سال‌ها در استودیوهای ضبط با «آنالوگ‌های اصیل» و پیچیدگی‌های غیرقابل پیش‌بینیِ سازهای واقعی سر و کار داشته‌ام، این پیام یک یادآوری حیاتی است: ابزارها، هرچقدر هم پیشرفته باشند، فاقد روح، وجدان و درک هنری هستند. وقتی پاپ می‌گوید «ماشین‌ها ابزارند، نه اشخاص»، دقیقاً دست روی همان نقطه‌ای می‌گذارد که مهندسان صدا و موسیقی‌دانان آلترناتیو همواره با آن درگیرند؛ تفاوت بین «حس» و «الگوریتم».

در موسیقی، ما با داینامیک رِنج (Dynamic Range) سر و کار داریم؛ همان چیزی که به یک اثر هنری «نفس» می‌دهد. وقتی در یک قطعه راک، نوازنده در لحظه‌ای خاص از شدتِ ضربه به سیم‌ها می‌کاهد، این یک تصمیم انسانی برای انتقالِ اندوه یا خشم است. هوش مصنوعی می‌تواند این صدا را تقلید کند، اما هیچ‌گاه «دلیل» آن را درک نمی‌کند. پاپ لئو دقیقاً همین نکته را در مورد حیات و ممات انسان مطرح می‌کند. سیستم‌های خودمختار مرگبار (Lethal Autonomous Weapons) که بدون نظارت انسانی تصمیم به حذف یک زندگی می‌گیرند، در واقع همان «موزیک‌های بی‌روحِ تولیدشده با هوش مصنوعی» هستند که در آن‌ها تفکیک سازها و هارمونی‌ها شاید بی‌نقص باشد، اما خبری از ریشه و اصالت نیست.

چرا نظارت انسانی نباید به الگوریتم واگذار شود؟

مسئله‌ای که در گزارش‌های اخیر سازمان ملل (UN) و بیانیه‌های واتیکان دیده می‌شود، فراتر از یک بحث مذهبی است؛ این یک چالش مهندسی و اخلاقی در مقیاس جهانی است. ما در دنیایی زندگی می‌کنیم که برخی به دنبال خودکارسازیِ همه چیز هستند. اما آیا واقعاً می‌خواهیم ماشینی که بر اساس داده‌های احتمالات (Probability) کار می‌کند، درباره «بودن یا نبودن» یک انسان تصمیم بگیرد؟ در دنیای میکس و مسترینگ، ما از ابزارهای اتوماسیون برای بهبود کیفیت کار استفاده می‌کنیم، اما نهایی‌ترین تصمیم – اینکه آیا این صدا «حس» لازم را دارد یا نه – همیشه با گوش انسان است. حذف این گوشِ نظارت‌گر، یعنی حذفِ هدف و معنا.

پاپ لئو به درستی تأکید می‌کند که تصمیماتِ مربوط به استفاده از زور باید تحت نظارت انسانیِ آگاه باقی بماند. این دقیقاً معادلِ همان «میکس ارگانیک» در برابر «پروداکشن مصنوعی» است. وقتی اجازه می‌دهیم الگوریتم‌ها جایگاهِ قضاوت انسانی را بگیرند، در واقع استیج صوتیِ تمدن‌مان را به یک فضایِ فشرده و خفه (Compressed) تبدیل کرده‌ایم که در آن از داینامیکِ اخلاق خبری نیست. این خطر وجود دارد که با اعطای نوعی «شخصیت حقوقی» به ماشین‌ها، مسئولیت جنایات احتمالی را در یک چرخه بی‌پایان از کدهای برنامه نویسی گم کنیم.

درس‌های تاریخ؛ از انقلاب صنعتی تا عصرِ کد

انتخاب نام «لئو» برای پاپ جدید، پیامی نمادین دارد. او خود را با پاپ لئو سیزدهم (Pope Leo XIII) مقایسه می‌کند که در دورانِ پرآشوب انقلاب صنعتی، کلیسا را هدایت کرد. آن روزها، ماشین‌های بخار و خطوط تولیدِ مدرن، ساختار جامعه را دگرگون کردند. امروز، این هوش مصنوعی است که جایگزینِ بازوهای مکانیکی شده است. نکته‌ای که در اینجا باید به آن توجه کرد، مقاومت در برابر «خفگی صدا» است؛ همان‌طور که در جنگ‌های بلندی صدا (Loudness War) در صنعت موسیقی، تلاش برای بلندتر شنیده شدنِ هرچه بیشتر باعث از بین رفتنِ کیفیتِ بافت‌های صوتی شد، حالا در دنیای تکنولوژی، سرعتِ بی‌رویه و بدونِ ترمزِ توسعه‌ی هوش مصنوعی، می‌تواند به نابودیِ «ظرافتِ انسانی» منجر شود.

پاپ لئو به درستی خواستار مکانیسم‌های پاسخگویی شفاف شده است. در استودیو، ما ناظر ضبط داریم تا مطمئن شویم هیچ چیزی خارج از استانداردِ هنری و فنی نیست. چرا در دنیای تکنولوژی نباید چنین ناظرانی داشته باشیم؟ اینکه شرکت‌های بزرگ بدون هیچ شفافیتی، مدل‌های زبانی و سیستم‌های خودمختار را در مقیاس‌های عظیم عرضه می‌کنند، دقیقاً شبیه به انتشارِ یک آلبوم موسیقی بدونِ «مسترینگ» نهایی است؛ ناقص، خطرناک و به شدتِ آسیب‌رسان به مخاطب.

به سوی استانداردهای مشترک و نظارت مستقل

نیاز به «استانداردهای مشترک» و «نظارت مستقل» که پاپ لئو مطرح می‌کند، دقیقا همان چیزی است که جامعه‌ی مهندسان و هنرمندانِ پیشرو سال‌هاست در سایر حوزه‌ها فریاد می‌زنند. ما به پروتکل‌هایی نیاز داریم که در آن‌ها، انسان در مرکزِ زنجیره تصمیم‌گیری باشد. اگر تکنولوژی نتواند برای آسیب‌هایش راهکارِ جبرانی ارائه دهد، آن تکنولوژی از ریشه شکست‌خورده است. این یعنی باید بتوانیم تصمیماتِ هوش مصنوعی را به چالش بکشیم، رد کنیم و در صورتِ لزوم، کلِ سیستم را از مدار خارج کنیم.

در نهایت، این تقابلِ «روح آنالوگ» با «سردی دیجیتال» است. ما نمی‌توانیم اجازه دهیم که در مسابقه برای رسیدن به پیشرفت‌های سریع‌تر، ریشه‌های راک و اصالتِ انسانیِ خود را فدا کنیم. ماشین‌ها برای این ساخته شده‌اند که ابزارِ دستِ ما باشند، نه اینکه ما را در ستاپ‌های پیچیده‌ی خود محصور کنند. خلع سلاح هوش مصنوعی، اولین قدم برای بازگرداندنِ کنترل به دستِ کسانی است که هنوز می‌دانند «تپش قلب» یک انسان، با هیچ فرکانسِ دیجیتالی قابل جایگزینی نیست.