شبح ترانوس در سیلیکون‌ولی؛ چرا هوش مصنوعی بهشتِ کلاهبرداران است؟

وقتی توهمِ پیشرفت، جایگزینِ منطق فنی می‌شود

این روزها که در راهروهای سیلیکون‌ولی قدم می‌زنم یا گزارش‌های فاندینگ‌های چند میلیارد دلاری را مرور می‌کنم، یک حسِ «دژاوو» یا همان آشناپنداریِ آزاردهنده به سراغم می‌آید. الیزابت هولمز (Elizabeth Holmes) و قصه‌ی پر از دروغِ ترانوس (Theranos)، حالا دیگر یک پرونده بسته شده در تاریخ دادگاه‌های آمریکا نیست؛ بلکه به یک «الگوی رفتاری» تبدیل شده که در عصرِ طلاییِ هوش مصنوعی دوباره در حال بازتولید است. تایلر شولتز (Tyler Shultz)، همان جوانی که شجاعانه پرده از دروغ‌های بزرگِ ترانوس برداشت، حالا با نگاهی تیزبینانه به ما هشدار می‌دهد: مدل‌های زبانی بزرگ (LLMs) و ایجنت‌های هوشمند، به همان اندازه که پتانسیل تحول دارند، بسترِ بی‌نظیری برای «فریب‌های سیستماتیک» فراهم کرده‌اند.

در دنیای امروز، مرز میان یک استارتاپِ پیشرو و یک «ChatGPT Wrapper» که تنها یک لایه ظاهری روی APIهای OpenAI یا Anthropic کشیده، به قدری باریک شده که حتی کهنه‌کارترین سرمایه‌گذاران هم در تشخیص آن به سکسکه می‌افتند. شولتز به درستی اشاره می‌کند که ما در دورانی هستیم که صرفِ داشتن یک نام پرطمطراق و یک دمو (Demo) خیره‌کننده، می‌تواند میلیون‌ها دلار سرمایه جذب کند، بدون آنکه کسی بپرسد: «واقعاً زیرِ این هود، چه منطقی در حال پردازش است؟»

معمای راستی‌آزمایی در عصرِ مدل‌های جعبه‌سیاه

بزرگ‌ترین کابوسِ یک دولوپر یا تحلیلگرِ فنی، «هالوسینیشن» (Hallucination) یا همان توهمِ مدل نیست؛ بلکه «هالوسینیشنِ کسب‌وکار» است. در گذشته، سرمایه‌گذاران برای بررسی یک دستگاه خون‌گیری، به آزمایشگاه می‌رفتند و خروجی‌های واقعی را چک می‌کردند. اما امروز، چطور می‌خواهید بفهمید که یک ایجنت خودمختار، واقعاً منطقِ استدلالی (Reasoning) پیچیده‌ای دارد یا فقط در حالِ چرخاندن احتمالات آماری در یک فضای برداری است؟

شولتز به نکته کلیدی اشاره دارد که برای ما در NextIT.ir بسیار ملموس است: انجامِ «Due Diligence» یا همان راستی‌آزماییِ فنی در پروژه‌های هوش مصنوعی، به شدت دشوار شده است. بسیاری از بنیان‌گذاران، مدل‌های متن‌باز (Open Source) را برمی‌دارند، کمی فاین‌تیون (Fine-tuning) می‌کنند و آن را به عنوان یک «موتور استدلالی اختصاصی» به خوردِ بازار می‌دهند. وقتی سرمایه‌گذار دانش فنیِ عمیق برای درکِ تفاوتِ «معماریِ ترنسفورمر» با «یک پرامپت مهندسی‌شده» را نداشته باشد، عملاً در حالِ خریدنِ باد در کیسه است.

وسوسه میان‌برهای میلیارد دلاری

الیزابت هولمز به ما یاد داد که اگر بتوانی «داستان» درستی تعریف کنی، علمِ واقعی در اولویت‌های بعدی قرار می‌گیرد. تایلر شولتز معتقد است مدلِ «قهوه بخور، چکِ ۱۰۰ هزار دلاری بگیر» که هولمز آن را به ۱۰۰ میلیون دلار ارتقا داد، حالا در اکوسیستمِ هوش مصنوعی در حالِ تکثیرِ دوباره است. وقتی نقدینگیِ زیادی در بازار وجود دارد و ترس از دست دادنِ موج (FOMO) بر عقلانیت غلبه می‌کند، فضا برای کلاهبردارانِ خوش‌سخن باز می‌شود.

این فقط یک بحثِ مالی نیست؛ این یک بحرانِ اعتماد است. اگر چند استارتاپِ بزرگ با ادعاهای دروغین در حوزه هوش مصنوعی شکست بخورند و مشخص شود که هیچ تکنولوژیِ اختصاصی (Proprietary Tech) نداشته‌اند، زمستانِ سختِ دیگری در انتظارِ هوش مصنوعی خواهد بود. سرمایه‌گذارانِ خسته، دیگر به هیچ مدلِ زبانی یا ایجنتی اعتماد نخواهند کرد و پروژه‌های واقعی که در حال حلِ مسائلِ عمیقِ دیپ‌لرنینگ هستند، در این میان قربانی خواهند شد.

درس‌هایی که نباید در هیاهوی بنچمارک‌ها فراموش کنیم

ما در تحریریه NextIT، همیشه بر تستِ پرامپت‌های واقعی و سنجشِ عملکردِ مدل‌ها در سناریوهایِ غیرمنتظره تأکید داریم. چرا؟ چون بنچمارک‌های استاندارد، به راحتی قابلِ دستکاری هستند. استارتاپ‌هایی که با «داده‌های آلوده» یا «تست‌های محدود» ادعای برتری بر مدل‌هایی مثل Claude 3.5 یا GPT-4o را دارند، همان‌هایی هستند که باید بیشترین سوءظن را به آن‌ها داشت.

شولتز در انتهایِ صحبت‌هایش، هشداری می‌دهد که باید سرلوحه هر تحلیلگری باشد: «سرمایه‌گذاران باید درک کنند وقتی پولی را در اختیار کسی می‌گذارند، قدرتِ عظیمی به او می‌دهند.» این قدرت، اگر پشتوانه‌یِ علمی نداشته باشد، به فاجعه‌ای ختم می‌شود که نه تنها سرمایه‌گذار، بلکه اعتمادِ عمومی به تکنولوژی را نابود می‌کند. دورانِ «جادوگری با کلمات» باید تمام شود و دورانِ «اثباتِ منطقِ استدلالی» آغاز گردد. تا زمانی که نتوانیم تفاوتِ بین یک «Wrapper» ساده و یک «مدلِ نوآورانه» را با تست‌های منطقِ چندمرحله‌ای (Multi-step Logic) تشخیص دهیم، همه ما در معرضِ یک «ترانوسِ دیجیتال» دیگر هستیم.