هوش مصنوعی یا برادر بزرگ‌تر: کودتای خاموش علیه حاکمیت انسان‌ها

محمد رهبری در هم‌میهن نوشت: برادر بزرگ‌تر، یکی از مفاهیم نمادینی است که در پژوهش‌های مربوط به اقتدارگرایی و توتالیتاریسم (تمامیت‌خواهی)، مورد توجه بوده است. این مفهوم که از رمان پادآرمان‌شهری ۱۹۸۴ جورج اورول برگرفته شده، نمادی از قدرت مطلق، نظارت دائمی، و کنترل روانی بر جامعه است.

با توسعه روزافزون فناوری‌های جدید، از جمله اینترنت اشیاء و هوش مصنوعی، نگرانی بابت آن که همه افراد جامعه بطور‌کامل تحت نظارت هوش مصنوعی باشند و «برادر بزرگ‌تر» نمود عینی در جامعه پیدا کند بیش از پیش شده است. امری که می‌تواند منجر به ظهور ورژن جدیدی از توتالیتاریسم شود.  

این امر خصوصا زمانی نگران‌کننده‌تر می‌شود که از منظر فناورانه، چیزی در مقابل دولت‌ها وجود ندارد که مانع از نظارت انبوه از طریق استفاده از هوش مصنوعی و علم داده شود. استفاده از دوربین‌های هوشمند برای تحلیل چهره، سانسور خودکار محتوا، جمع‌آوری لحظه‌ای داده‌های کاربران و استفاده از آن برای شناخت و پیش‌بینی رفتار آن‌ها و ... از جمله مواردی است که می‌تواند توسط دولت‌ها برای بسط و ایجاد نظارت دائمی بر شهروندان استفاده شود. این نظارت انبوه که تقریبا امکان اعتراض به آن وجود ندارد، خطرناک است و در عمل این داده‌ها می‌تواند به رویکردهای اقتدارگرایانه توسط دولت‌ها دامن بزند.

البته این تصور که فقط دولت‌ها ممکن است از این ابزارها برای بسط اقتدارگرایی استفاده کنند، دیگر تصور درستی نیست. هوش مصنوعی می‌تواند باعث بروز نوعی «تمامیت‌خواهی شرکتی» نیز بشود؛ چرا که بسیاری از داده‌های کاربران در اختیار این شرکت‌هاست. ما بدون آن که خودمان اطلاع داشته باشیم، مرتب این داده‌ها را در اختیار شرکت‌های بزرگ، نظیر گوگل، اپل، متا یا مایکروسافت قرار می‌دهیم. از اطلاعات مربوط به سلامت جسمی و روانی گرفته تا احساسات شخصی در طول روز و مکان‌هایی که در آن رفت‌وآمد می‌کنیم.

موضوع فقط منحصر به داده‌های شبکه‌های اجتماعی نیست؛ بلکه این شرکت‌ها، از طریق ساعت‌های هوشمند، اینترنت اشیاء و فناوری‌های مربوط به خانه، تصاویر شخصی ذخیره شده بر روی کلاود و ... نیز ما را به‌صورت مداوم و لحظه‌ای رصد و نظارت می‌کنند. امری که تک‌تک انسان‌ها را قابل پیش‌بینی کرده و باعث شده تا نقاط ضعف هرکسی برای این شرکت‌های بزرگ، و چه‌بسا دولت‌ها، آشکار شود. بدین ترتیب امکان اثرگذاری بر انسان از طریق احساساتش و دستکاری ذهن او، دیگر چندان دشوار نیست.

به‌قول نویسنده کتاب «انسان خردمند»، «ما اکنون قابل هک شدن هستیم». به‌تعبیر دیگر، دولت‌ها و شرکت‌ها راحت‌تر از گذشته می‌توانند خواسته‌های خودشان را از طریق کاربران پلتفرم‌ها پیش ببرند. بدین ترتیب، به تعبیر «زوبوف» آنچه در حال وقوع است، تنها یک دگرگونی فناورانه نیست، بلکه نوعی کودتای خاموش علیه حاکمیت انسان‌ها بر آینده‌شان است.

بنابراین، فناوری در خطر تبدیل شدن به یکی از خاستگاه‌های توتالیتاریسم است. این فرایندی تدریجی و آرام است که غیاب آگاهی کاربران، در حال وقوع است و در عمل مدیران این شرکت‌های بزرگ و شاید برخی دولت‌ها، ما را از طریق داده‌هایی که خودمان داوطلبانه در اختیارشان قرار دادیم، کنترل و نظارت می‌کنند.

البته نباید همه چیز را غیر قابل کنترل دانست؛ اینجا موضوع «اراده» انسانی امری تعیین کننده است. این خود ما به‌عنوان کاربران این پلتفرم‌ها هستیم که می‌توانیم تصمیم بگیریم تمام لحظات زندگی‌مان را در این پلتفرم‌ها به‌اشتراک بگذاریم یا نگذاریم. ما می‌توانیم شخصی‌ترین احساساتمان را با چت‌بات‌ها در اختیار نگذاریم؛ می‌توانیم هر تصویری را درون پلتفرم‌ها به اشتراک نگذاریم؛ می‌توانیم برای استفاده از یک ابزار نه‌چندان ضروری، دسترسی به اطلاعات مهم راجع به خودمان و زندگی‌مان را به آن ابزار ندهیم.  

با این حال، به‌دلیل وابستگی روزافزون به ابزارهای فناورانه، در عمل مقاومت در برابر عدم «اتصال» یا عدم «اشتراک داده» دشوار است؛ خصوصا آن که ممکن است برای یک فرد عادی این پرسش پیش بیاید که «حالا اگر داده‌های من را داشته باشد چه اهمیتی دارد؟ چرا یک شرکت فناورانه باید برای کنترل من یا نظارت بر من تلاش کند؟». پرسشی که پاسخ به آن مهم است. با این حال، پیش از طرح این پرسش، آگاهی از مخاطرات فناوری اهمیت دارد. اساسا این که فرد چنین پرسشی از خود بکند، یک گام به پیش است.

تحولات اجتماعی و سیاسی ناشی از فناوری تدریجی است و همین می‌تواند منشأ غفلت ما از مخاطرات آن باشد. اقتدارگرایی و تمامیت‌خواهی بطور ناگهانی ظهور نمی‌کند؛ بلکه در یک فرایند تدریجی محقق می‌شود. این تصور که روزی شرکت‌های بزرگ فناوری ما را کنترل کنند، شاید دور به‌نظر برسد اما در یک فرایند تدریجی کاملا ممکن است.