جهان هرگز قرار نبود «ماشین روز قیامت» داشته باشد. ماشین روز قیامت قرار بود یک آزمایش فکری باشد که به این ترتیب پیش می‌رود: دستگاهی را تصور کنید که فقط به هدف نابودکردن تمام حیات روی زمین ساخته شده است. حال فرض کنید که این دستگاه در عمق زیرزمین دفن شده و از رایانه‌ای دستور می‌گیرد که به نوبهی خود به سنسورهایی در شهرها و ناحیه‌های ایالات متحده وصل است.
این سنسورها برای شناسایی نشانه‌هایی از آخرالزمان هسته‌ای طراحی شده است و برای جلوگیری از پایان جهان نه، بلکه برای تکمیل‌کردن آن عمل می‌کند. اگر سنسورها تشخیص دهد که سطح تشعشعات انفجار هسته‌ای مثلا در سه شهر امریکا را نشان می‌دهد، آن‌وقت ماشین روز قیامت را که برای انفجاردادن چندین کلاهک هسته‌ای در واکنش به چنین تشخیصی برنامه‌ریزی شده است، فعال می‌کند. وقتی فرآیند فعال‌شدن ماشین روز قیامت به این مرحله برسد دیگر بازگشتی در کار نیست. در این مرحله واکنش زنجیره‌ای که باعث انفجار اتمی می‌شود به حدی رسیده است که برای نابودکردن تمام حیات روی زمین کافی باشد.
تابش نوری مهیب، صدای انفجار گوش‌خراش و سپس غرشی ممتد.
ما برای سنجش مقیاس نابودی که ماشین روز قیامت به بار می‌آورد واژه‌ای داریم: «مرگ میلیونی».
نه کسی در جهان در حسرت مرگ میلیونی است و نه مرگ میلیونی تنها چیزی است که ماشین روز قیامت را ترس‌آور می‌سازد. وحشت اصلی در خودکاربودن این ماشین است، در این ایده که این ماشین برنامه‌ریزی می‌شود تا یک سری ورودی‌ها را از محیطی شناسایی و سپس بدون دخالت انسانی عمل کند. استراتژیست نظامی «هرمان کاهن» در سال ۱۹۶۰ در کتاب خود «در باب جنگ گرماهسته‌ای» با اشاره به ماشین روز قیامت نوشت که در آن «هیچ امکانی برای مداخله، کنترل و تصمیم نهایی انسانی وجود ندارد.» منظور از طرح مفهوم ماشین روز قیامت این بود که جنگ هسته‌ای «غیرقابل پیروزی» و بنابراین «غیرقابل تصور» نشان داده شود. کاهن نتیجه گرفته بود که خودکارکردن فرآیند نابودی تمام حیات روی زمین غیراخلاقی است. کاهن نوشت: «حتا اگر ما کامپیوتر را کنار بگذاریم و ماشین روز قیامت را به‌طور قابل اطمینان در کنترل تصمیم‌گیرندگان نوع بشر بسازیم، هنوزهم به اندازه کافی قابل کنترل نخواهد بود.» هیچ دستگاهی نباید به خودی خود اینقدر قدرت‌مند باشد، همان‌طور که هیچ انسانی نباید چنین دستگاهی را داشته باشد.
با این‌حال شوروی‌ها واقعا نسخه‌ای از ماشین روز قیامت را در طول جنگ سرد ساخته و آن را «دست مُرده» لقب داده بودند. هرچند بشر تاکنون به نوع معجزه‌آسایی یاد گرفته است که چگونه با بمب‌ها زندگی کند، اما اکنون باید بیاموزد که چگونه از عصر شبکه‌های اجتماعی جان سالم به در ببرد.
مردم از فیسبوک طوری شکایت می‌کنند که انگار این پلتفرم همین اواخر فاسد شده باشد. در میان ما این تصور وجود دارد که شبکه اجتماعی زمانی مفید بود، یا دست‌کم می‌توانست ــ اگر ما چند کار را انجام می‌دادیم ــ خوب باشد. کارهایی مثل کمی تعدیل و واقعیت‌سنجی در این گوشه، کمی مقررات در آن گوشه، شاید یک دادخواست ضدانحصاری در گوشه‌ی دورتر. اما این نگاه بسیار مشکل‌دار و سطحی است. شبکه‌های اجتماعی امروز و فیسبوک در رأس آن‌ها، برای تشویق مواردی که آن‌ها را اینقدر مضر ساخته، ایجاد شده‌اند.
این در معماری یا همان خون آن‌هاست.
من سال‌هاست فکر می‌کنم که چه کاری نیاز است انجام شود تا شبکه اجتماعی بهتر، کمتر افراطی، کمتر سمی و بیشتر واقعی شود. و تازگی‌ها فهمیدم که من درباره این مسأله خیلی سطحی فکر می‌کرده‌ام. مدت‌هاست که می‌خواهم مارک زاکربرگ اعتراف کند که فیسبوک یک شرکت رسانه‌ای است. می‌خواهم که او مسئولیت محیط اطلاعاتی را که ایجاد کرده است، به همان ترتیبی که سردبیر یک مجله مسئولیت محتوای مطالبش را می‌گیرد، بگیرد (باری این را نزد زاکربرگ مطرح کردم و او فقط خندید). در سال‌های اخیر با افزایش اشتباهات فیسبوک و ازبین‌رفتن شهرت این پلتفرم، مشخص شده است که سهل‌انگاری در این شرکت تنها بخشی از مشکل است. هیچ‌کس حتا مارک زاکربرگ نمی‌تواند محصولی را که ساخته کنترل کند. من متوجه شده‌ام که فیسبوک یک شرکت رسانه‌ای نیست. فیسبوک ماشین روز قیامت است.
شبکه اجتماعی دقیقا همان کاری را انجام می‌دهد که برایش ساخته شده است. فیسبوک برای جستن حقیقت و گزارش‌دادن آن، یا برای بهبود سلامت مدنی، یا پاسخ‌گوکردن افراد قدرت‌مند، یا نمایندگی از منافع کاربرانش ساخته نشده است؛ هرچند این پدیده‌ها گه‌گاهی خدمات جانبی آن به‌شمار می‌روند. مأموریت اولیه این شرکت «توانمندکردن مردم به اشتراک‌گذاری و بازکردن جهان و متصل‌ترکردن آن» بود. اما دیری نگذشت که فیسبوک مفهوم «اجتماع» را به خود گرفت و معنی اخلاق در آن از میان برداشته شد. ظهور تئوری توطئه «کیواِنان» برای مثال یکی از نتایج شبکه اجتماعی است، به این دلیل که فیسبوک (در کنار گوگل و یوتیوب) برای تقویت و انتشار اطلاعات نادرست با سرعت نور به مخاطبان خود سراسر جهان بسیار مناسب است. فیسبوک عامل پروپاگاندای دولتی، آزار و اذیت هدف‌مند، سربازگیری تروریستی، سؤاستفاده عاطفی و نسل‌کشی است؛ سلاحی در تاریخ جهان که نه در زیر زمین بلکه در پردیسی الهام‌گرفته از «دیزنی لند» در «منلو پارک» کالیفرنیا زندگی می‌کند.
غول‌های شبکه اجتماعی (فیسبوک و شرکت وابسته آن انستاگرام، گوگل و شرکت وابسته آن یوتیوب، و به میزان کمتری در این میان توییتر) با خنثابودن به لحاظ ارزشی یا بی‌طرفی ارزشی در رسیدن به آنچه من آن‌را «مقیاس میلیونی» می‌نامم موفق بوده‌اند. فیسبوک در نقطه‌ای از مسیرش به این نتیجه رسید که نه‌تنها به پایگاه کاربری بزرگ بلکه به یک پایگاه عظیم و از لحاظ اندازه بی‌پیشینه نیاز دارد. این تصمیم، فیسبوک را قادر به فرار از نیروی گرانش ساخت تا به فرازی برسد که در آن بتواند صرفا با موجودیتش به جامعه آسیب برساند.
محدودیت‌هایی که ما در مقایسه‌ی فیسبوک با ماشین روز قیامت داریم واضح است: فیسبوک نمی‌تواند مانند بمب هسته‌ای در یک لحظه شهری را به خاک و خاکستر تبدیل کند. و درحالی‌که ماشین روز قیامت به‌‌عنوان وسیله‌ی آخرالزمانی تصور می‌شد تا از پایان جهان جلوگیری کند، فیسبوک اما شروع شد زیرا یک شب شاگرد نیمه‌مست هاروارد حوصله‌اش سر رفته بود. اما آنچه در معرض خطر فیسبوک به مثابه ماشین روز قیامت است، بازهم مرگ و زندگی ما است. مقیاس میلیونی فیسبوک تقریبا به اندازه مرگ میلیونی آخرالزمان هسته‌ای تهدید وجودی است. هیچ دستگاه واحدی نباید بتواند سرنوشت ساکنان جهان را کنترل کند، کاری که ماشین روز قیامت و فیسبوک برای انجامش ساخته شده‌اند.
چرخه‌ی صدمه وارده ناشی از مدل تجاری «بزرگی به هر قیمتی» فیسبوک کاملا واضح است. مقیاس و میزان تعامل کاربران برای فیسبوک ارزشمند است، زیرا برای تبلیغ‌کنندگان ارزشمندند. این مشوق‌ها منجر به طراحی‌هایی همچون دکمه‌های واکنش در فیسبوک شد که کاربران را تشویق به تعامل آسان و مکرر می‌کنند. تعامل آسان و مکرر به نوبهی خود کاربران را به اشتراک‌گذاری ایده‌هایی که واکنش قوی برمی‌انگیزد، ترغیب می‌کند. هربار که روی دکمه واکنش در فیسبوک کلیک می‌کنید الگوریتمی آن‌را ضبط می‌کند و شناخت خود را از شما کامل‌تر می‌کند. درگیرکردن بیش از حد کاربران در فیسبوک که توسط انبوه داده‌های شخصی خود همین کاربران امکان‌پذیر شده است، محیط مناسبی را برای سؤاستفاده ایجاد می‌کند. سؤاستفاده توسط تبلیغ‌کنندگان، توسط کارزارهای سیاسی، توسط سازندگان اطلاعات نادرست و البته توسط خود فیسبوک که در نهایت آنچه را می‌بینید و آنچه را در این پلتفرم نمی‌بینید کنترل می‌کند. فیسبوک گروه حدودا ۱۵ هزار نفری از تعدیل‌کنندگان محتوا را استخدام کرده است؛ افرادی که برای تماشای چیزهای ناگفتنی از قتل و تجاوز گروهی گرفته تا سایر تصاویر خشن و صحنه‌های خشونت بار که روی بستر این سایت پخش می‌گردد، پول می‌گیرند. با این‌که فیسبوک تأکید کرده است که به لحاظ ارزشی یک ظرف خنثا برای محتوایی است که کاربرانش تصمیم می‌گیرند در آن منتشر کنند، اما تعدیل محتوا ابزاری بوده است که این شرکت بارها و بارها سعی کرده آن را به کار بندد. اما تعداد تعدیل‌کنندگان که به اندازه کافی زبان بلند باشند و به اندازه کافی فعال باشند تا جلو سیل نجاستی را که فیسبوک در جهان جاری می‌کند بگیرند کافی نیست زیرا الگوریتم صددرصدر از یک شخص سریع‌تر و قدرت‌مند‌تر عمل می‌کند. در مقیاس میلیونی، تعدیل این محیط اطلاعاتی شخصی الگوریتمی پیچیده، بسیار دشوار و در نتیجه فیسبوک بسیار خطرناک است.
خطرات فیسبوک فرضی نیستند و با مقیاس میلیونی که این پلتفرم را به مکانی دلچسب برای انجام آزمایش روی مردم تبدیل کرده است، تشدید می‌شوند. فیسبوک آزمایش‌های مربوط به سرایت اجتماعی را روی کاربران خود بدون این‌که آن‌ها را مطلع کند، انجام داده است. فیسبوک به‌‌عنوان نیروی استعمارگر دیجیتال عمل کرده است و تلاش دارد تا به تجربه‌ی بالفعل مردم سراسر جهان از انترنت تبدیل شود. فیسبوک درباره توانایی خود برای تأثیرگذاری و نفوذ بر نتایج انتخابات رجز‌خوانی کرده است. گروه‌های شبه‌نظامی غیرقانونی از فیسبوک برای سازمان‌دهی اعضای خود استفاده می‌کنند. مقامات دولتی از فیسبوک برای گمراه‌کردن شهروندان خود و مهندسی انتخابات استفاده می‌کنند. مقامات نظامی از سهل‌انگاری فیسبوک برای انجام نسل‌کشی استفاده کرده‌اند. باری فیسبوک به‌طور ناخواسته فیلم‌های جلف سربازگیری دولت اسلامی را که حاوی پیام‌های یهودستیزانه و صحنه‌های سوزاندن پرچم ایالات متحده بود، به‌صورت خودکار بازتولید کرد.
حتا پس از آن‌که سازمان‌های اطلاعاتی ایالات متحده فیسبوک را به‌‌عنوان میدان اصلی جنگ اطلاعاتی و دخالت‌های خارجی در انتخابات ۲۰۱۶ شناسایی کردند، این شرکت در جلوگیری از گسترش افراط‌گرایی، نفرت‌پراکنی، پروپاگاندا، اطلاعات نادرست و تئوری‌های توطئه بر روی پلتفرم خود ناکام بوده است. نئونازی‌ها حتا پس از آن‌که حساب‌ها و صفحات‌شان در فیسبوک به‌صورت رسمی مسدود شد، با گرفتن تبلیغات از فیسبوک همچنان در این پلتفرم فعال ماندند. و تا قبل از اکتبر امسال برای مثال، فیسبوک تصمیم نداشت گروه‌ها، صفحات و حساب‌های انستاگرامی اختصاص‌داده‌شده برای انتشار «کیواِنان» را ببندد یا پست‌های منکر هولوکاست را حذف کند. (قبل از آن زاکربرگ از تصمیم فیسبوک مبنی بر حذف نکردن اطلاعات غلط در مورد هولوکاست دفاع کرده بود و با اشاره به منکران هولوکاست گفته بود «فکر نمی‌کنم آن‌ها عمدا این را اشتباه گرفته باشند.») با وجود این فیسبوک به‌طور معمول ایمیل‌هایی را به کاربران می‌فرستد که عضوشدن در جدیدترین گروه‌های کیواِنان را پیشنهاد می‌کنند. نژادپرستان سفیدپوست و ترول‌های طرفدار کارزار انتخاباتی «امریکا را دوباره عالی کن» رییس‌جمهور ترمپ در ایالات متحده که حساب‌هاشان مسدود شده است ممکن است به پلتفرم‌های اجتماعی کوچک‌تر مانند «گاب» و «پارلر» هجوم ببرند؛ پلتفرم‌هایی که برخلاف فیسبوک از مقیاس میلیونی برخوردار نیستند و همچنین برعکس فیسبوک ادعا نمی‌کنند چیزی هستند که نیستند.
به گزارش نیویورک تایمز در روزهای پس از انتخابات ریاست‌جمهوری سال ۲۰۲۰ مارک زاکربرگ اجازه تغییری در الگوریتم فیسبوک را صادر کرد تا منابع خبری با دقت بالا مانند «رادیوی عمومی ملی» در فیدهای کاربران بیشتر به چشم آیند و صفحات بیش از حد حزبی مانند Breitbart News و Occupy Democrats کمتر دیده شوند. این نشان می‌دهد که فیسبوک اگر بخواهد می‌تواند اطلاعات نادرست را متوقف کند. این تغییر به ما یادآوری می‌کند که فیسبوک قدرت فشاردادن یک دکمه و تغییردادن آنچه را میلیاردها نفر به‌صورت آنلاین می‌بینند، دارد.
تصمیم به انجام این تغییر در الگوریتم از جانب فیسبوک خیلی غیرمعمول بود. به این تصمیم فیسبوک از این زاویه نگاه کنید: سنسورهای ماشین روز قیامت اتفاق مضری را در محیط تشخیص می‌دهند و تصمیم می‌گیرند که اجازه ندهند الگوریتم‌های ماشین به‌صورت خودکار فعال شود و ماشه را بکشد. در مورد تغییر فیسبوک این انسان است که برای کاهش آسیب وارد عمل می‌شود. تنها عیب ماجرا این است که جلوگیری از شیوع محتوایی که فیسبوک آن‌را «بد برای جهان» می‌نامد، تعامل مردم با این سایت را نیز کاهش می‌دهد. تایمز گزارش داد که فیسبوک در آزمایش خود با مداخله انسانی این تغییر را طوری تنظیم کرده است تا محتوای مضر به اندازه کافی در فید کاربران باقی بماند تا آن‌ها را برای دیدن محتوای بیشتر دوباره به این سایت برگرداند.
مأموریت اعلام‌شده فیسبوک ــ ایجاد جهانی بازتر، متصل‌تر ــ همیشه برای من در بهترین حالت الکی و ساختگی و در بدترین حالت امپریالیستی به‌نظر می‌رسد. آخر، این‌روزها امپراتوری‌های جهان در وب متولد می‌شوند. فیسبوک یک دولت ملت بدون مرز با جمعیتی به اندازه‌ی مجموع جمعیت هند و چین است که عمدتا توسط الگوریتم‌های مخفی اداره می‌شود. هیلاری کلینتون اوایل سال جاری به من گفت که هنگام صحبت‌کردن با زاکربرگ حس مذاکره با رییس خودکامه یک کشور خارجی به آدم دست می‌دهد. کلینتون گفت که فیسبوک «یک شرکت جهانی است که از نفوذ عظیم به طرق‌هایی که ما تازه شروع به درک‌شان کردیم برخوردار است.»
چند هفته پیش وقتی زاکربرگ از تصمیمش به مسدودنکردن حساب «استیو بنون» در فیسبوک ــ پس از آن‌که بنون خواهان سربریدن دو مقام ارشد ایالات متحده یعنی دکتر «آنتونی فائوچی» و رییس اف‌بی‌آی «کریستوفر وری» شد ــ دفاع کرد، یاد هشدار کلینتون افتادم. این ماجرا باعث شد درباره پرسشی که غیرقابل پاسخ است اما من آن‌را همیشه از مردم می‌پرسم فکر کنم؛ این‌که اگر فیسبوک وجود نمی‌داشت چقدر از خشونت‌های جهان واقعی هرگز اتفاق نمی‌افتاد؟ یکی از آدم‌هایی که من این سوال را ازش پرسیدم «جوشوا گلتزر»، مقام پیشین مبارزه با تروریسم کاخ سفید است که اکنون در دانشکده حقوق «دانشگاه جورج تاون» تدریس می‌کند. او به من گفت که در حلقات مبارزه با تروریسم آدم‌ها علاقه دارند از عمل‌کرد خوب ایالات متحده در جلوگیری از ورود تروریست‌ها پس از یازدهم سپتامبر به خاک این کشور صحبت کنند. او می‌گوید این برداشت اشتباه است. در حقیقت «تروریست‌ها هر روز، هر ساعت و هر دقیقه» از طریق فیسبوک وارد می‌شوند.
وب‌سایتی که شاید بیشتر به خاطر تشویق به خشونت جمعی شناخته می‌شود ۴chan است که به دنبال خود ۸chan را آورد و سپس به ۸kun تبدیل شد. این سایت‌ها به این دلیل که در آن چندین مظنون تیراندازی دسته‌جمعی مانیفیست‌هایی را قبل از راه‌انداختن کشتار به اشتراک گذاشته بودند، بدنام است. معدود افرادی که مایل به دفاع بی‌چون‌وچرا از این سایت‌ها هستند از موضع مطلق‌گرایی آزادی بیان این دفاع را انجام می‌دهند. این استدلال قابل تأمل است. اما به لحاظ معماری نکته‌ای در مورد این سایت وجود دارد که آن‌هم شایسته توجه است: در Kun8 هیچ الگوریتمی در کار نیست، این وب‌سایت فقط جامعه‌ای از کاربران است که آنچه را می‌خواهند در آن پست می‌کنند. مردم از ۸kun برای انتشار ایده‌های نفرت‌انگیز استفاده می‌کنند اما دست‌کم جامعه ۸kun وانمود نمی‌کند چیزی هست که نیست. بزرگ‌ترین پلتفرم اجتماعی اینترنی اما ادعا می‌کند که بی‌طرف و طرفدار آزادی بیان است، درحالی‌که در حقیقت بین فید دو کاربر فیسبوک هیچ شباهتی وجود ندارد که بی‌طرفی این پلتفرم را نشان دهد. محیط‌های دست‌کاری‌شده الگوریتمی داده‌ها را به کاربر تغذیه می‌کنند، تجربه‌ی کاربر را دست‌کاری می‌کنند و در نهایت هم هیچ یک به‌منظور خدمت به این کاربر طراحی نشده‌اند. رد شواهد خشونت در دنیای واقعی را می‌توان به راحتی تا فیسبوک و ۸kun دنبال کرد. اما ۸kun کاربران خود و یا محیط اطلاعاتی را که کاربرانش در آن پرسه می‌زنند، دست‌کاری نمی‌کند. هر دو سایت مضر هستند. اما فیسبوک برای بشریت فاجعه است.
گلتز در این باره می‌گوید: «ایده یک “برنامه رایگان برای همه” تا وقتی که ندیدید مجموعه پلتفرم‌هایی که مدعی تعدیل محتوای‌شان هستند چه با خود به همراه می‌آورند واقعا مهم به‌نظر نمی‌رسد… شاید روی صفحه خون نپاشد اما می‌تواند صدمات واقعی زیادی وارد کند.»
گلتزر می‌گوید: «در گذشته مقامات امریکایی دست‌کم می‌توانستند مثلا پروپاگاندای نازی‌ها را در طول جنگ جهانی دوم مطالعه کنند و آنچه را که نازی‌ها می‌خواستند مردم باور کنند، کاملا درک کنند. امروز کار از “حباب فیلتر” گذشته و به “کفن فیلتر” رسیده است. من حتا نمی‌دانم دیگران در تجربه شخصی چه چیزی را در فیسبوک می بینند.» «ماری مک‌کورد»، دیگر کارشناس این حوزه که رییس حقوقی «انستیتوت دادخواهی و محافظت قانونی» در دانشکده حقوق جورج تاون است به من گفت که او معتقد است شاید ۸kun از نظر ترویج خشونت بی‌ملاحظه‌تر باشد، اما فیسبوک به خاطر وسعتی که دارد «از جهاتی بدتر است.» او می‌گوید : «ورود به فیسبوک هیچ مانعی ندارد. در هر موقعیتی که خشونت افراطی رخ داده باشد و ما به فیسبوک رفته باشیم حتما پست‌های فسیبوکی مرتبط با آن‌را دیدیم. پست‌هایی که همزمان به میلیون‌ها کاربر می‌رسد. وسعت همان چیزی است که مردم را به دام می‌اندازد و افراط‌گرایی را عادی می‌سازد و آن‌را به جریان اصلی تبدیل می‌کند.» به عبارت دیگر این مقیاس میلیونی است که فیسبوک را اینقدر خطرناک ساخته است.
نگاهی به گذشته نشان می‌دهد که مسیر زاکربرگ به سمت سلطه بر جهان اجتناب‌ناپذیر بوده است. او صنف ۹ بود که نسخه رایانه‌ای بازی «خطر: بازی تسخیر جهان» را کدنویسی کرد. او علاقه‌ی دیرینه به امپراتوری روم دارد. وسواس او در مورد جریان اطلاعات و روان‌شناسی انسان قابل‌توجه است. ماجرای اولین رسوایی انترنتی وی، زمانی که او به سیستم هاروارد رخنه کرد و عکس دانشجویان را بدون اجازه‌شان برای ایجاد وب‌سایت FaceMash دزدید، هنوز تازگی دارد (بعدا زاکربرگ آسان‌بودن ورود به سیستم هاروارد را «بازی کودکانه» توصیف کرد). تضاد بین حرف او در مورد حریم خصوصی و نحوه کارکرد فیسبوک را نمی‌توان نادیده گرفت. او در مقاطع متعدد طی این سال‌ها کلیدواژه‌هایی همچون « آرزوی از بین بردن»، «حداقل‌گرایی»، «ساخت اشیا»، «شکستن اشیا»، «انقلاب‌ها»، «گشایش»، «رشد نمایی»، «پویایی‌های اجتماعی» و«سلطه» را به‌‌عنوان «علایق» خود در حساب فیسبوکش لیست کرده است.
مقیاس میلیونی فیسبوک زاکربرگ را نفوذ بی‌پیشنه بر جهان برخوردار کرده است. اگر او قدرت‌مندترین فرد روی کره زمین نباشد، بسیار نزدیک است. گلتزر گفت: «داشتن قدرتِ به گفتارآوردن، ساکت‌کردن و اجازه‌دادن در این حد دیوانه‌کنند است. این‌که مالک نهایی الگوریتم‌هایی باشی که دامنه دیده‌شدن هر چیزی را در انترنت تعیین می‌کنند، به کنار. چیزی که او بر آن نظارت می‌کند چنان تأثیری بر شناخت و باورهای مردم دارد که می‌تواند تعیین کند مردم چه کاری را با سلاح هسته‌ای یا دالر خود انجام دهند.»
هیئت نظارتی جدید شرکت فیسبوک که در پاسخ به انتقادها از این پلتفرم ایجاد شده و وظیفه تصمیم‌گیری در مورد مدیریت محتوا و آزادی بیان است، در ادامه گسترش قدرت فیسبوک است. گلتز می‌گوید: «ده تصمیمی اولی که این هیئت می‌گیرد نسبت به ۱۰ تصمیم بعدی دادگاه عالی ایالات متحده تأثیر به مراتب بیشتری بر آزادی بیان در ایالات متحده و جهان خواهد داشت. این قدرت است. قدرت واقعی.»
در سال ۲۰۰۵، سالی که من به فیسبوک پیوستم، این سایت همچنان خودش را به‌‌عنوان پلتفرم آنلاینی که در آن کاربر می‌تواند «هم مدرسه‌ای‌هایش را جستجو کرد. شناخت مردم از یک‌دیگر را مشاهده کند. هم‌کلاسی‌ها و هم‌گروهی‌هایش را پیدا کند» معرفی می‌کرد. تابستان همان سال زاکربرگ در «پالو آلتو» با یک فیل‌مساز جوان مصاحبه کرد. کلیپ این مصاحبه بعدا در یوتیوب قرار گرفت. در این مصاحبه می‌توان دید که برای زاکربرگ هنوز معلوم نیست فیسبوک قرار است چه چیزی باشد. این گفت‌وگو یادآور بی‌اطمینانی زاکربرگِ جوان هنگام راه‌اندازی فیسبوک است. (کلیپ وقتی شروع می‌شود که زاکربرگ می‌پرسد: «باید آبجوام را پایین بگذارم؟») او در آن‌زمان ۲۱ ساله بود. مالک فیسبوک در ۲۱ سالگی چیزی راجع به شرکت خود بیان کرد که تا امروز با اثرات خطرناکی که داشته صدق می‌کند: او گفت فیسبوک یک مکان واحد در انترنت نه بلکه «جوامع متعددی از افراد مختلف است.»
این «جوامع» امروز شامل گروه‌های کیواِنان و سایر گروه‌های افراطی می‌شود که در فیسبوک فعالند. در آن‌زمان فیسبوک بیشتر برای ابراز هویت نوجوانان در گروه‌هایی مانند «به یک مدرسه دولتی رفتم… عوضی» و در هاروارد (با اشاره به کتاب‌خانه نئوکلاسیک اصلی این دانشگاه) «گروه ما نیاز به سکس در کتاب‌خانه “ویندر” پیش از فراغت‌مان داریم» بود. از زاکربرگ در مصاحبه‌‌ی سال ۲۰۰۵اش درباره آینده‌ی فیسبوک پرسیده شد و پاسخ او اکنون که به گذشته نگاه می‌کنیم، حسی شبیه به یک فاجعه را دارد. او در پاسخ گفت: «منظور من این است که لزوما نیاز نیست چیز دیگری از این دست وجود داشته باشد. ببینید مردمان بسیاری بر تصرف جهان یا انجام بزرگ‌ترین کارها و داشتن بیشترین کاربرها متمرکزند. من فکر می‌کنم که مثلا بخشی از ایجاد تغییر و انجام کاری جالب تمرکز شدید است… منظورم این است که من واقعا می‌خواهم همه به کالج تمرکز کنند و سیستمی را برای کالج بسازم که مثلا برای دانشجویان بسیار مناسب باشد و اطلاعات زیادی داشته باشد که آدم‌ها هنگام تحصیل در دانشگاه به آن نیاز دارند.»
نکته جالب این است: همین رویکرد زاکربرگ در قبال فیسبوک به‌‌عنوان پلفترم محلی برای دانشجویان دانشگاه‌ها، بخشی از چیزی است که «فیسبوک در مقیاس میلیونی» را امکان‌پذیر کرده است. محدودیت‌های اولیه عضویت در فیسبوک (اوایل یک نفر باید دانشجوی هاروارد می‌بود تا عضو فیسبوک می‌شد. سپس دانشجوی هر دانشگاه آیوی لیگ دیگر، شرط عضویت در فیسبوک شد. بعدها داشتن آدرس ایمیلی که با (.edu) ختم می‌شد، شرط ورود به فیسبوک بود) حس انسجام و اجتماع را ایجاد کرد. فیسبوک باعث شد مردم وقتی دارند خود و زندگی‌شان را در این سایت اشتراک‌گذاری می‌کنند، احساس راحتی بیشتری داشته باشند. اشتراک‌گذاری بیشتر برای تجارت هم خوب بود. در سال ۲۰۰۴ زاکربرگ گفت که فیسبوک فقط برای تأمین هزینه‌های سرورهایش تبلیغات را روی پلتفرم خود اجرا می‌کند. اما دو سال نگذشته بود که فیسبوک کل صنعت تبلیغات را زیر و رو و از نو تعریف کرد. انترنت پیشا عصر شبکه‌های اجتماعی تبلیغات طبقه‌بندی‌شده را نابود کرد، اما فیسبوک و گوگل با دو ضربه یک و دو اخبار محلی و بیشتر صنعت مجله را نابود کردند. انتشاراتی که به‌طور جدی برای درآمد دیجیتال که جایگزین دالر چاپی شد، مبارزه می‌کردند توسط غول‌های شبکه اجتماعی سقوط داده شدند. هیچ سازمان خبری اکنون نمی‌تواند با مقیاس میلیونی شبکه اجتماعی رقابت کند. شبکه اجتماعی بیش از حد عظیم است.
«کریکس کاکس»، که بین مدیرعاملی فیسبوک و سایر سمت‌ها در این شرکت در رفت و آمد بوده، باری در مورد «شماره جادویی» برای شرکت‌های نوپا (Start-ups) صحبت کرد و این‌که چگونه پس از آن‌که شرکتی از مرز ۱۵۰ کارمند فراتر می‌رود، اوضاع آن‌طور که انتظار داری پیش نمی‌رود. او در کنفرانسی در سال ۲۰۱۶ گفت: «من با مدیران عامل شرکت‌های نوپای زیادی صحبت کرده‌ام که پس از عبور از مرز این عدد اوضاع برای‌شان عجیب‌وغریب شده.» ایده این عدد از مردم‌شناس «رابین دانبار» می آید، که معتقد بود عدد ۱۴۸ حداکثر تعداد روابط اجتماعی پایداری است که یک شخص می‌تواند در طول زندگی‌اش حفظ کند. اگر بخواهیم همین منطق را در مورد ثبات و پایداری یک پلتفرم اجتماعی به کار بریم، با چه عددی مواجه خواهیم شد؟
«اتان زاکرمن»، نویسنده و پژوهش‌گر انترنت که بیشتر عمر بزرگسالی‌اش را صرف اندیشیدن درباره ساختن یک وب بهتر کرده است، به من گفت: «فکر می‌کنم این عدد در پلتفرم اجتماعی ۲۰ تا ۲۰ هزار نفر است. پس از آن دشوار است که سطحی از ارتباط واقعی تان را حفظ کنید.»
به عبارت دیگر اگر عدد دانبار برای اداره یک شرکت یا حفظ یک زندگی اجتماعی منسجم ۱۵۰ نفر باشد، رقم جادویی یک پلتفرم اجتماعی کاربردی احتمالا ۲۰ هزار نفر است. اما فیسبوک اکنون ماهانه ۲.۷ میلیارد کاربر فعال دارد.
در سال ۲۰۰۷ هنگام رشد نمایی فیسبوک زاکربرگ در مصاحبه‌ای با لس‌آنجلس تایمز سخنی را به زبان آورد که در زمینه‌ی اکنون معنای بسیار تاریک‌تری به خود می‌گیرد. او گفت: «چیزهایی که قدرت‌مندترین هستند، چیزهایی نیستند که مردم آن‌را در جایی غیر از فیسبوک طور دیگری انجام می‌دادند. قدرت‌مندترین چیزها چیزهایی هستند که در غیر از فیسبوک هرگز اتفاق نمی‌افتند.»
در فهرست بسیاری از کارهایی که بشر به‌طور مداوم در انجام آن کم آمده است، مشاهده آینده تقریبا در صدر فهرست قرار دارد. این نقص در میان متفکران مرگ میلیونی مانند هرمان کاهن و همکاران وی در «سازمان رند» در دهه ۱۹۶۰ که اقتصاددانان، ریاضی‌دانان و افسران سابق ارتش بودند به یک مشغله فکری تبدیل شد. کاهن و همکارانش به ابداع آینده‌گرایی مدرن، که زاده‌ی وحشت وجودی بمب بود و با این درک که بیشتر نوآوری‌ها ماهیت افقی دارند (یعنی کپی آنچه درحال حاضر وجود دارد، اند نه چیزی کاملا جدید) تقویت شد، کمک کردند. اختراع واقعی فوق‌العاده نادر و به مراتب مخل است.
منطق‌دان و فیلسوف «اولاف هلمر هیرشبرگ» که با کاهن در رند مدت زمانی همکار بود و بعدا «موسسه‌ای برای آینده» را تأسیس کرد، کسی بود که از دست نازی‌ها به کالیفرنیا گریخته بود. تجربه‌ای که باعث شد او بخواهد به آینده به‌‌عنوان نوعی امر فوری خاص نگاه کند. او معتقد بود که تسریع تغییرات فناوری نیاز به یک رویکرد معرفتی جدید را در حوزه‌هایی مانند مهندسی، پزشکی، علوم جتماعی و غیره ایجاد کرده است. او نوشت: «دیگر تکامل الگوی جدیدی از شرایط زندگی، نسل‌ها زمان نمی‌برد. ولی ما چندین تغییر اساسی را در زندگی خود طی خواهیم کرد و فرزندان ما باید با “سازگاری مداوم” به‌‌عنوان شیوه‌ی زندگی سازگاری پیدا کنند.» او در سال ۱۹۶۵ کتابی به نام «فناوری اجتماعی: نوشت که هدفش ایجاد روشی علمی برای پیش‌بینی آینده بود.
در همان سال‌ها کاهن در آرزوی ساختن ماشین فرضی خود بود تا چارچوب فلسفی را برای تهدیدهای جدیدی که بشریت با آن روبرو بود فراهم کند. او آن را «ماشین روز قیامت» و همچنین «ماشین روز قیامت در شتاب» و همچنین «ماشین پیمان کشتار» نامید. «استنلی کوبریک» این مفهوم را برای فیلم «دکتر استرنجلاو» وام گرفته است. دکتر استرنجلاو، ستایشی سینمایی از تقدیرگرایی است که زندگی در مواجهه با نابودی هسته‌ای به همراه آورد.
تقدیرگرایی امروز در مورد شکنندگی انترنت حس مشابهی دارد. ما هنوز در مرحله ابتدایی انقلاب دیجیتال سه‌گانه انترنت، تلفن هوشمند و شبکه اجتماعی قرن هستیم و خودمان را در محیط اطلاعاتی خطرناک و ناپایدار یافته‌ایم. محیطی که در آن ما از مقاومت در برابر نیروهای سؤاستفاده‌گر که می‌دانیم بر ما اعمال می‌شود، اما اکثرا نامرئی باقی می‌ماند، ناتوان هستیم. ماشین روز قیامت درسی به ما می‌دهد، این‌که ما نباید شرایط فعلی را بپذیریم. هیچ دستگاه واحدی نباید قادر به کنترل این قدرت آدم باشد.
اگر عصر خرد تا حدی واکنشی به پیدایش چاپ‌خانه بود و آینده‌گرایی دهه ۱۹۶۰ واکنشی به بمب اتمی، ما برای زندگی در عصر شبکه اجتماعی به چارچوب فلسفی و اخلاقی جدیدی نیاز داریم، به یک عصر «روشنگری» جدید در عصر اطلاعات و داده؛ شروعی که ما را به واقعیت مشترک و تجربه‌گرایی بازگرداند.
«انرو بوسورث»، از مدیران دیرینه فیسبوک این شبکه را با شکر (Sugar) مقایسه کرده است. از این جهت که شکر «خوشمزه» است اما بیشترین لذت را وقتی دارد که حد میانه را در مصرف آن در نظر داشته باشیم. او در یادداشتی که سال گذشته در شبکه داخلی فیسبوک پست شد، در راستای داشتن فلسفه مسئولیت شخصی استدلال کرده است. او نوشته: «پدر بزرگ من چنین موضعی را نسبت به بیکن اتخاذ کرد و من او رابه خاطر آن تحسین می‌کنم. و رسانه‌های اجتماعی احتمالا بسیار کمتر کشنده‌تر از بیکن هستند.» اما دیدن فیسبوک صرفا به‌‌عنوان وسیله‌ای برای مصرف فردی، این واقعیت را که فیسبوک یک شبکه است، نادیده می‌گیرد. فیسبوک همچنین یک «بیزنس» و جایی است که مردم در آن با یک‌دیگر وقت می‌گذرانند. به عبارتی دیگر، اگر شما صاحب فروشگاهی بودید و شخصی وارد آن می‌شد و شروع به فریادزدن پروپاگاندای نازی یا جذب تروریست درحالی که کنار صندوق پول‌تان ایستاده، می‌کرد، آیا شما به‌‌عنوان صاحب مغازه دوست داشتید به مشتریان‌تان بگویید که نمی‌توانید مداخله کنید؟
هرکسی که به‌طور جدی به فکر کاهش‌دادن ضرر شبکه‌های اجتماعی برای بشریت است، باید به فکر ترک‌کردن فیسبوک و انستاگرام و توییتر و هر محیط اطلاعاتی تحریف شده الگوریتمی دیگری باشد که از مردم سوءاستفاده می‌کند. ولی ما باید دید وسیع‌تری درباره آنچه انجام آن برای رفع خرابی و شکنندگی شبکه اجتماعی لازم است، اتخاذ کنیم. این کار مستلزم به چالش‌کشیدن منطق پلتفرم‌های امروزی و در درجه اول مستلزم به چالش‌کشیدن مفهوم مقیاس میلیونی به‌‌عنوان راهی که انسان‌ها را جمع می‌کند، است. اگر مقیاس میلیونی همان چیزی باشد که به فیسبوک قدرت می‌دهد و این پلتفرم را خطرناک می‌سازد، اقدام جمعی در برابر وب امروز برای آوردن تغییر ضروری است. منطق موجود وب می‌گوید که پلتفرم‌های اجتماعی در ازای دریافت پاره‌ای از داده‌های کاربر رایگان هستند، این‌که شبکه‌های جریان اصلی لزوما جهانی و متمرکز هستند، این‌که ناظران قوانین را وضع می‌کنند. اما هیچ‌یک از این کارها لازم نیست. ما به افرادی نیاز داریم که با ساختن گزینه‌های بدیل این مفاهیم را از بین ببرند. و ما به افراد کافی نیاز داریم که از این گزینه‌های بدیل برای شکستن طلسم مبادرت‌ها و توجه گسترده‌ای مقیاس میلیونی را تقویت می‌کند و منجر به تقدیرگرایی در مورد وب امروزی می‌شود، مراقبت کنند.
من هنوز معتقدم که انترنت برای بشریت مفید است، اما این مفیدیت «به رغم» شبکه‌های اجتماعی است نه «به دلیل آن.» ما باید راهی را برای ترمیم جنبه‌های جامعه و فرهنگ مان که از شبکه‌های اجتماعی آسیب دیده است پیدا کنیم. این کار مستلزم استقلال فکری، بحث محترمانه و همان سرکشیِ است که قرن‌ها پیش به تثبیت ارزش‌های روشنگری کمک کرد.
ما شاید نتوانیم آینده را پیش‌بینی کنیم، اما می‌دانیم که آینده چگونه ساخته می‌شود: ازطریق اختراع‌های نادر و واقعی، با توجه به نیاز زمان و مردم. درحال‌حاضر افراد زیادی به الگوریتم‌ها و غول‌های فناوری اجازه می‌دهند از آن‌ها سوءاستفاده شود، که در نتیجه واقعیت از چنگ و درک ما خارج می‌شود. ماشین روز قیامت قرن این‌جاست و فعال.
اما لازم نیست این‌طوری باشد.
آدرین لافرانس سردبیر اجرایی نشریه آتلانتیک است. او قبلا نویسنده و دبیر ارشد آتلانتیک و سردبیر وب‌سایت این نشریه بود.