وقتی تکنولوژی از ابزار، به نیرویی خارج از کنترل تبدیل میشود
مدتی پیش کتاب «عصر سرمایهداری نظارتی» The Age of Surveillance Capitalism نوشته شوشانا زوباف Shoshana Zuboff را خواندم. کتابی که در نگاه اول شاید فقط یک نقد بر شرکتهای بزرگ تکنولوژی به نظر برسد، اما هرچه جلوتر میرویم، متوجه میشویم که مسئله بسیار عمیقتر از این حرفهاست. زوباف در واقع از شکلگیری نوعی قدرت جدید سخن میگوید؛ قدرتی که نه در دست دولتهاست، نه در دست مردم، بلکه در اختیار ساختارهایی قرار گرفته که رفتار انسان را میفهمند، پیشبینی میکنند و به تدریج آن را شکل میدهند.
مدتی بعد، کتاب «موج پیشرو» The Coming Wave از مصطفی سلیمان و مایکل باسکر Mustafa Suleyman, Michael Bhaskar را خواندم. کتابی که از زاویهای متفاوت، اما با نگرانیای مشابه، به آینده نگاه میکند. سلیمان از جهانی حرف میزند که در آن هوش مصنوعی، بیوتکنولوژی و سیستمهای پیچیده، نه فقط زندگی ما را تغییر میدهند، بلکه ممکن است از کنترل ما خارج شوند.
هرچه بیشتر به این دو کتاب فکر کردم، شباهت عجیبی میان آنها دیدم.
هر دو در مورد یک چیز حرف میزنند:
لحظهای در تاریخ که انسان، ابزارهایی ساخته که دیگر کاملاً در اختیار او نیستند.
بخش اول: سرمایهداری نظارتی — تسلط بیصدا
زوباف نشان میدهد که چگونه شرکتهایی مثل گوگل و فیسبوک، به تدریج از ارائه خدمات، به استخراج داده روی آوردند.
در ابتدا همه چیز ساده به نظر میرسید:
یک موتور جستجو، یک شبکه اجتماعی، یک سرویس رایگان.
اما پشت این خدمات، یک منطق جدید شکل گرفت:
تبدیل تجربه انسانی به داده، و تبدیل داده به سود.
ما فکر میکردیم کاربران هستیم،
اما در واقع به «منبع استخراج» تبدیل شدیم.
این شرکتها فقط به دنبال این نبودند که بدانند ما چه میکنیم،
بلکه به دنبال این بودند که پیشبینی کنند چه خواهیم کرد و حتی مهمتر از آن، شرایطی ایجاد کنند که ما همان کاری را بکنیم که آنها میخواهند.
اینجا یک تغییر بنیادی رخ میدهد:
از «مشاهده رفتار» به «شکلدهی رفتار».
و این دقیقاً همان نقطهای است که زوباف آن را خطرناک میداند.
چون وقتی رفتار انسان قابل مهندسی شود، دیگر آزادی به معنای واقعی خود باقی نمیماند.
اکنون نگاهی بیندازیم به کتاب The Coming Wave نوشته Mustafa Suleyman و Michael Bhaskar و ببینیم مهمترین نکاتی که نویسندگان بر آن تأکید دارند چیست. سپس مقایسهای انجام دهیم میان این دو کتاب؛ آثاری که به باور من، هر یک از زاویهای متفاوت اما بسیار ارزشمند، به پدیدهای نگریستهاند که اثر آن از گذشته تا امروز بر شیوه زیست، اندیشه، تصمیمگیری و آگاهی انسان سایه افکنده است، و همچنین درباره خطراتی هشدار میدهند که در آینده میتواند زندگی انسانی، قدرت تعقل و مسیر تمدن را با چالشهای جدی روبهرو سازد.
موج پیشرو The Coming Wave— خروج تکنولوژی از مهار
در کتاب «موج پیشرو»، مصطفی سلیمان از آیندهای حرف میزند که در آن تکنولوژی با سرعتی بسیار بیشتر از توان کنترل ما پیش میرود.
او از دو حوزه کلیدی نام میبرد:
- هوش مصنوعی
- بیوتکنولوژی
در این جهان جدید، مسئله فقط این نیست که شرکتها یا دولتها قدرت دارند،
بلکه این است که خود تکنولوژی به سطحی از پیچیدگی میرسد که کنترل آن دشوار یا حتی غیرممکن میشود.
اگر در کتاب زوباف، انسان تحت نظارت است، در کتاب سلیمان، انسان در معرض سیستمی قرار دارد که ممکن است حتی خالقانش هم نتوانند آن را مهار کنند.
اینجا دیگر با یک «پروژه» روبرو نیستیم، بلکه با یک «موج» مواجهیم، موجی که اگر راه کنترل کردن و ایستادگی در مقابل آن را بلد نباشیم، ما را با خود خواهد برد.
از کنترل انسان بر تکنولوژی، به کنترل تکنولوژی بر انسان
شباهت اساسی این دو کتاب در همینجاست.
در «سرمایهداری نظارتی»، قدرت از طریق داده و الگوریتمها اعمال میشود.
در «موج پیشرو»، قدرت از طریق سیستمهای پیچیده و خودمختار تکنولوژیک.
اما نتیجه در هر دو یکی است:
کاهش توان انسان برای کنترل سرنوشت خود.
در هر دو روایت، ما با یک روند تدریجی روبرو هستیم:
- ابتدا تکنولوژی به عنوان ابزار وارد زندگی ما میشود
- سپس به ساختار تبدیل میشود
- و در نهایت به نیرویی تبدیل میشود که خود ما را شکل میدهد
یک نگرانی مشترک: دموکراسی در خطر
هر دو نویسنده، به شکلی متفاوت، به یک دغدغه مشترک میرسند:
آیا دموکراسی میتواند در برابر این موج دوام بیاورد؟
وقتی:
- رفتار انسان قابل پیشبینی و دستکاری شود
- اطلاعات در انحصار چند قدرت محدود باشد
- و تکنولوژی با سرعتی خارج از کنترل پیش برود
دیگر تصمیمگیری جمعی چه معنایی خواهد داشت؟
آیا مردم واقعاً انتخاب میکنند، یا انتخابهای آنها از قبل مهندسی شده است؟
در اینجا شاید لازم باشد که به تفاوت مهم این دو نگاه نیز توجه کنیم؛
با وجود شباهتها، یک تفاوت مهم وجود دارد: زوباف بیشتر بر «قدرت شرکتها» تمرکز دارد، و سلیمان بر «ماهیت تکنولوژی» تاکید می کند. این تفاوت را شاید بتوان به شکل زیر خلاصه کرد:
- در نگاه زوباف، مشکل را میتوان با قانونگذاری و محدود کردن شرکتها تا حدی کنترل کرد
- اما در نگاه سلیمان، حتی اگر نیتها هم خوب باشد، سرعت و ماهیت تکنولوژی ممکن است از کنترل خارج شود
آنچه این دو کتاب به ما میگویند، فقط یک تحلیل آکادمیک نیست، بلکه یک هشدار جدی به همه ماست در این دوره جدید تاریخی؛ ما در دورهای زندگی میکنیم که:
- دادههای ما، سرمایه شدهاند
- رفتار ما، قابل مهندسی شده
- و تکنولوژی، در حال عبور از مرزهای کنترل انسانی است
شاید بزرگترین پرسش زمانه ما این باشد:
آیا هنوز ما تکنولوژی را کنترل میکنیم،
یا اینکه تکنولوژی است که به تدریج دارد موجودیت ما را شکل میدهد؟
و اگر پاسخ دومی باشد،
آنوقت باید پرسید: چقدر زمان داریم تا این مسیر را تغییر دهیم؟ و آیا اساسا می توان این مسیر را تغییر داد؟
رضا فانی یزدی – ۲۴ آوریل ۲۰۲۶