توهم دره سیلیکون؛ چرا مدیران هوش مصنوعی از زندگی واقعی مردم بی‌خبرند؟

وقتی اظهارنظرهای اخیر مدیران ارشد دره سیلیکون (Silicon Valley) را کنار هم می‌گذاریم، احساس می‌کنیم یک کمدی تلخ علمی‌تخیلی را تماشا می‌کنیم که در آن شخصیت‌های اصلی حافظه عاطفی خود را فروخته‌اند. ماریسا مایر (Marissa Mayer)، مدیرعامل اسبق یاهو و بنیان‌گذار فعلی دزل ای‌آی (Dazzle AI)، به‌تازگی فاش کرده که برای نوشتن یک پاراگراف معرفی ساده درباره ویژگی‌های اخلاقی دختر خردسالش برای مدرسه، دست‌به‌دامن چت‌بات‌ها شده است. از آن‌سو، سم آلتمن (Sam Altman) ادعا می‌کند نمی‌تواند والدگری و تربیت فرزند را بدون چت‌جی‌پی‌تی (ChatGPT) تصور کند و حتی پیشنهاد داده والدین با هوش مصنوعی برای مسیر مدرسه پادکست‌های شخصی‌سازی‌شده بسازند. مارک زاکربرگ (Mark Zuckerberg) هم گام را فراتر گذاشته و عادی‌سازی برآورده کردن نیازهای عاطفی و رمانتیک توسط بات‌ها را نوید می‌دهد. این حجم از گسستگی و فاصله داشتن با واقعیت زیسته جامعه، پرسشی حیاتی را روی میز می‌گذارد: آیا کسانی که قرار است آینده بشریت را کدنویسی کنند، کوچک‌ترین درکی از معنای انسان بودن دارند؟

جنون بهینه‌سازی؛ قتل‌عام مکالمات انسانی به نام کارآمدی

در دکترین سیلیکون ولی، هر رفتاری که راندمان مکانیکی نداشته باشد، یک باگ مهندسی تلقی می‌شود. در پادکست اخیر اکوئیتی (Equity) در رسانه تک‌کرانچ، تحلیلگران انگشت روی نقطه حساسی گذاشتند: مهندسان و رهبران هوش مصنوعی به دنبال ساخت جهانی هستند که در آن پایه‌ای‌ترین برهم‌کنش‌های میان انسان‌ها، با برچسب ناکارآمدی و اتلاف وقت، فیلتر و حذف شوند. وقتی ویتنی ولف هرد (Whitney Wolfe Herd)، بنیان‌گذار بامبل (Bumble)، پیشنهاد می‌دهد ایجنت‌های خودمختار (Autonomous Agents) ما ابتدا به جای ما با هوش مصنوعی طرف مقابل دیت بگذارند و اگر تست‌های منطقی مثبت بود ما سر قرار حاضر شویم، یعنی مفهوم شهود، نگاه، لکنت‌های شیرین اول آشنایی و غافلگیری عاطفی را به یک تراکنش داده‌ای تنزل داده‌ایم.

این عطش سیری‌ناپذیر برای تبدیل کردن همه چیز به ماتریس محاسباتی، نشان‌دهنده یک بحران روحی عمیق در میان نخبه‌های فناوری است. ما پیش از این دیده‌ایم که چگونه سفارش آنلاین غذا توانست تماس تلفنی با رستوران محل را به امری غریب و نامطلوب تبدیل کند؛ اما سپردن تصمیمات سرنوشت‌ساز زندگی، شناخت فرزند یا رابطه با شریک زندگی به مدل‌های زبانی، دیگر سادگی گردش کار نیست؛ این یک مسخ فرهنگی خطرناک است. انسان بودن دقیقا در همین بی‌نظمی‌ها، مکالمه‌های طولانی بدون سود مالی، و وقت‌گذرانی‌های بدون سوددهی معنا پیدا می‌کند؛ چیزهایی که الگوریتم‌ها هیچ متغیری برای فهمیدن‌شان ندارند.

پنت‌هاوس‌نشین‌ها و توهم حل بحران‌های جهانی

اگر به دموهای محصولات جدید OpenAI، گوگل یا مایکروسافت نگاه کنید، سناریوهای مضحکی می‌بینید: «مدل زبانی به جای شما میز یک رستوران فوق‌لوکس در میلان را رزرو می‌کند» یا «هوش مصنوعی به شما می‌گوید چطور پرواز فرست‌کلاس خود را با تقویم همسرتان هماهنگ کنید». این نمونه‌ها به وضوح نشان می‌دهند که جامعه هدف اولیه این ابزارها کیست. این ابزارها برای حل دردسرهای روزمره یک درصد ثروتمند جامعه طراحی می‌شوند؛ کسانی که در برج‌های شیشه‌ای گیر افتاده‌اند و بزرگ‌ترین تراژدی زندگی‌شان تماس با یک منشی برای خالی کردن تایم بعدازظهر است.

واقعیت این است که اکثریت جمعیت جهان، و به‌ویژه دولوپرها و جوانان در بازارهای نوظهور یا خاورمیانه، برای رزرو پرواز یا استخدام پرستار بچه با هوش مصنوعی وقت نمی‌گذرانند. دغدغه نسل جدید، بازدهی سیستماتیک، کدنویسی کم‌هزینه بدون باگ‌های عجیب، ترجمه دقیق بدون هالوسینیشن (توهم مدل)، و اتوماسیون وظایف خسته‌کننده‌ای است که حقوق ماهانه‌شان را تضمین می‌کند. در حالی که کمپانی‌هایی مانند آنتروپیک (Anthropic) آماده عرضه اولیه سهام (IPO) می‌شوند و وال‌استریت با وسواس دیوانه‌واری بازگشت سرمایه نجومی این سرورهای گران‌قیمت انویدیا را زیر ذره‌بین گذاشته، مدیران تک هنوز متوجه نشده‌اند که با این شوآف‌های متظاهرانه و به دور از درد واقعی مردم، در حال کشتن اعتماد عمومی هستند.

بنچمارک‌های فانتزی در برابر واقعیت خشن کاربردها

توسعه‌دهندگان مدل‌های زبانی بزرگ عاشق فخر فروختن با جهش استدلالی روی کاغذ و بنچمارک‌های دانشگاهی مانند MMLU و تست‌های منطق چندمرحله‌ای هستند. اما در میدان عمل، فاصله وحشتناکی میان خروجی‌های جذاب ژورنالیستی و واقعیت کارهای سنگین وجود دارد. مدل‌هایی مانند GPT-4o یا حتی برادران بزرگ‌ترشان، هنوز هم در کارهای پیچیده حسابداری یا خطایابی پروژه‌های بزرگ صنعتی دچار هالوسینیشن و سردرگمی زنجیره فکر می‌شوند. حال در چنین فضایی، آلتمن انتظار دارد مردم سیستم هدایت روانی و تربیت عاطفی کودکان خود را به این شبکه‌های عصبی احتمالی واگذار کنند!

تصور کنید مدلی که هنوز نمی‌تواند حضور حرف «r» در کلمه Strawberry را بدون خطا بشمارد، قرار باشد احساسات دختر نوجوان شما را آنالیز کند و به او بگوید در مسیر مدرسه به چه پادکستی گوش دهد. این نگاه رباتیک به مقوله خانواده و جامعه، نه یک نوآوری بلکه یک نقص استراتژیک در درک بازار است. غول‌های تک روی این قمار کرده‌اند که مردم در نهایت شبیه به آن‌ها فکر خواهند کرد؛ درست شبیه مسیری که شرکت اوبر (Uber) در ابتدای کار در سان‌فرانسیسکو طی کرد و با قمار روی سبک زندگی لوکس در نهایت حمل‌ونقل شهری را بازتعریف نمود. اما این‌بار سوژه نه تاکسی، بلکه روان انسان است، و شواهد نشان می‌دهد جامعه به این سادگی‌ها تن به این خودبیگانگی خودخواسته نخواهد داد.

دیوار بتنی وال‌استریت؛ پایان عصر رویافروشی‌های پوچ

دوران چک‌های سفیدامضا به پایان رسیده است. غول‌های هوش مصنوعی تا دیروز با کلیدواژه‌هایی چون «هوش مصنوعی عمومی (AGI)» و ساخت «ذهن دیجیتال همه‌چیزدان»، صدها میلیارد دلار بودجه جذب می‌کردند. اما امروز که فصل صورت‌های مالی فرارسیده و زنگ حسابرسی به صدا درآمده، دیگر نمی‌توان با ایده مسخره‌ی «چت‌بات‌هایی که به جای انسان‌ها با هم دوست می‌شوند» سهام‌داران بزرگ را راضی نگه داشت. اگر این ابزارها نتوانند در گردش کار روزمره مهندسان، نویسندگان، پزشکان و داده‌کاوان یک تحول واقعی، ایمن و قابل اتکا ایجاد کنند، تمام این هیاهوها شبیه حباب دات‌کام فرومی‌پاشد.

برای ما که هر روز ساعت‌ها پشت خط فرمان لینوکس و کدهای پایتون با پرامپت‌ها سر و کله می‌زنیم و هزینه‌های دلاری پردازش را با گوشت و پوست لمس می‌کنیم، شنیدن این که فلان میلیاردر آمریکایی برای ابراز مهر مادری‌اش پرامپت می‌نویسد، بیش از آنکه انقلابی به نظر برسد، رقت‌انگیز است. فناوری نباید عذر موجهی برای تنبلی عاطفی و گریز از اضطراب‌های سازنده زندگی واقعی باشد. نجات رابطه انسانی از چنگال ماشین‌ها شاید نوستالژیک به نظر برسد، اما مرز حیاتی میان زنده بودن و صرفاً یک عامل پردازش داده بودن است.