شورش سیاسی علیه کدهای جاسوسی؛ مدیسون اسکوئر گاردن تحت محاصره قانون

اسکن چهره در استادیوم؛ وقتی بینایی ماشین خادم سرکوب می‌شود

نبرد میان فناوری‌های پایش توده مردم و حق اولیه حریم خصوصی به نقطه اوج جدیدی در نیویورک رسیده است. زوهران مامدانی (Zohran Mamdani)، نماینده مجلس ایالتی نیویورک، در مصاحبه‌ای صریح با نشریه سیمی (Wired)، شمشیر را از رو برای جیمز دولان (James Dolan)، مالک مجموعه بزرگ مدیسون اسکوئر گاردن (Madison Square Garden) کشیده است. موضوع بحث، استفاده افسارگسیخته این مجموعه تفریحی از سیستم‌های بینایی ماشین (Computer Vision) و الگوریتم‌های هوش مصنوعی برای پایش بیومتریک تماشاگران و مراجعه‌کنندگان است. مامدانی به‌صراحت اعلام کرده توسعه و استقرار چنین ابزارهای نظارتی، ناشی از انحراف در اولویت‌های جامعه و نادیده گرفتن حقوق بنیادی شهروندان است.

به عنوان کسی که روزانه با مدل‌های بینایی ماشین و خط‌لوله‌های پردازش تصویر سر و کار دارم، این اتفاق اصلاً عجیب نیست، اما بسیار زنگ خطری جدی است. شبکه دوربین‌های مستقر در این مجموعه تفریحی، صرفاً تصاویر را ضبط نمی‌کنند؛ بلکه با استخراج بردار ویژگی‌های چهره (Facial Embeddings) و مقایسه آنی آن‌ها در دیتابیس‌های متمرکز، هویت افراد را بدون رضایت‌آگاهی پیشین نگاشت می‌کنند. اجرای چنین خط‌لوله‌های نظارتی پردازش ابری بدون داشتن شفافیت در معماری مدل، دقیقاً نمونه‌ای از همان «دیوارهای بسته فناوری» است که جامعه اوپن‌سورس سال‌هاست علیه آن مبارزه می‌کند.

پرونده‌های سیاه و برچسب‌زنی مخفیانه؛ سواستفاده از الگوریتم‌ها در پشت درهای بسته

ماجرا فقط به یک اسکن سادۀ چهره در ورودی سالن ختم نمی‌شود. افشاگری‌های رسانه‌ای نشان می‌دهد که مدیریت مدیسون اسکوئر گاردن دیتابیس اختصاصی و سرپوشیده‌ای از داده‌های بیومتریک ایجاد کرده است. در این دیتابیس متمرکز، برخی افراد و تماشاگران حتی با برچسب‌های اجتماعی خاص مانند LGBTQIA نشانه‌گذاری شده‌اند، بدون اینکه هیچ دلایل موجه یا الگوریتم شفافی برای این دسته‌بندی ارائه شده باشد. چنین رویه‌ای نشان می‌دهد چگونه ترکیب یک مدل ساده تشخیص چهره با دیتابیس‌های ناامن متمرکز می‌تواند به ابزاری برای تبعیض تبدیل شود.

رسوایی‌های این سیستم پایش پیش از این نیز علنی شده بود؛ در سال ۲۰۲۱، یک وکیل دادگستری هنگام ورود به سالن رادیو سیتی (Radio City) - یکی دیگر از مجموعه‌های تحت مالکیت دولان - توسط دوربین‌های تشخیص چهره شناسایی و توسط نیروهای حراست بیرون رانده شد. تنها جرم او این بود که در دفتر وکالتی کار می‌کرد که یک پرونده حقوقی علیه مجموعه دولان داشت؛ حتی با اینکه خود آن خانم وکیل هیچ دخالت مستقیمی در آن پرونده نداشت! این ابزار هوش مصنوعی تجاری عملاً به دستاویزی برای انتقام‌جویی شخصی مالکان تبدیل شده است.

پاتک قانونی در شورای شهر نیویورک؛ توقف اسکنرهای بیومتریک

در پاسخ به این رفتارها، شهانه حنیف (Shahana Hanif)، عضو شورای شهر نیویورک، دو لایحه قانونی کلیدی را تدوین کرده تا جمع‌آوری داده‌های بیومتریک شامل اسکن چهره، الگوی عنبیه و هندسه دست را در اماکن عمومی و فضاهای تجاری سراسر شهر کلاً ممنوع کند. نیویورک از سال ۲۰۲۱ کسب‌وکارها را فقط موظف به «افشا و اطلاع‌رسانی» درباره جمع‌آوری داده‌های بیومتریک کرده بود، اما مامدانی تاکید دارد که اطلاع‌رسانی به تنهایی کافی نیست و باید مرزهای حقوقی صریحی علیه این انحصارطلبی هوش مصنوعی وضع شود.

از دیدگاه مهندسی سیستم، زمانی که یک سیستم بینایی ماشین پردازش چهره را در لبه شبکه (Edge Device) و بدون ذخیره‌سازی انجام نمی‌دهد و داده‌ها را به سرورهای مرکزی برای لیست سیاه (Blacklist) می‌فرستد، خطر نقض فاحش حریم خصوصی ۱۰۰ برابر می‌شود. قوانین جدید قصد دارند این زنجیره پایش غیراخلاقی را کاملاً قطع کنند و شرکت‌ها را مجبور به عقب‌نشینی نمایند.

پردازش محلی در برابر پایش متمرکز؛ راهکار متن‌باز چیست؟

توسعه‌دهندگان واقعی هوش مصنوعی و جامعه اوپن‌سورس همواره تاکید کرده‌اند که فناوری پردازش تصویر به خودی خود شرور نیست؛ بلکه متمرکزسازی داده‌ها و اجرای کدهای بسته بر برگه امتحانی انحصارگران، خطر واقعی است. ما امروزه مدل‌های بینایی متن‌باز بسیار متناظر و بهینه‌ای داریم که می‌توانند روی یک کارت گرافیک خانگی معمولی مانند RTX 4070 یا حتی پردازنده‌های لبه اجرا شوند بدون اینکه نیازی به ارسال داده‌های زیستی شهروندان به سرورهای جاسوسی متمرکز باشد.

اگر قرار است هوش مصنوعی در فضاهای عمومی حضور داشته باشد، باید مبتنی بر شفافیت کامل، کدهای متن‌باز قابل ممیزی و اولویت دادن به پردازش محلی (Local Processing) باشد. نبرد نیویورک و مدیسون اسکوئر گاردن نشان داد که قانون‌گذاران و مهندسان باید دست به دست هم دهند تا مانع تبدیل شدن بینایی ماشین به ابزاری برای کنترل اجتماعی توسط ابرشرکت‌ها شوند.