رسانه‌های اجتماعی در تصرف افراط‌گرایان داعش؟

داعش با منتشر کردن ویدیو و تصاویر تکان دهنده قتل جیمز فولی، روزنامه نگار آمریکایی، در شبکه‌های اجتماعی موضوعی را به مرکز توجه‌ها آورده که تا پیش از آن بسیاری درباره آن هشدار می‌دادند: اینکه شبکه‌های اجتماعی درگیر نبردی ادامه دار با افراط گرایان و گسترش پروپاگاندای آنلاین آنها شده‌اند.

برخی کارشناسان معتقدند که این شبکه‌ها در حال واگذار کردن این نبردند: پیام‌های افراط گرایان – که برخی از آن‌ها در ظاهر متعلق به آژانس های خبری اند – روز به روز بیشتر در این شبکه‌ها منتشر می‌شود.

برخی دیگر معتقدند که شبکه‌های اجتماعی برای محافظت از کاربران تمام تلاش خود را می‌کنند و ابزارهای موجود برای علامت گذاری و حذف چنین محتویاتی کارساز است.

در همین حال، عده‌ای این انتقاد را مطرح می‌کنند که شبکه‌های اجتماعی برای جلوگیری از نقض کپی رایت بیشتر تلاش می‌کنند تا برای حذف محتوای مضری از این دست.

در اینجا به نکات اصلی این موضوع می‌پردازیم.

موضوع چیست؟

پس از انتشار آنلاین ویدیوی قتل فولی، کاربران شبکه‌های اجتماعی، دیگران را تشویق کردند که این ویدیو را نگاه نکنند و به اشتراک نگذارند.

از این اپ برای انتشار پیام‌های افراط گرایان در توییتر استفاده شده است

ولی کارسازی رویکرد داعش شگفت انگیز است – تقلید از روش‌هایی که کمپانی های بزرگ برای بازاریابی میلیون‌ها دلار خرج آن می‌کنند.

در حالی که این ویدیوی تکان دهنده در شبکه‌های اجتماعی به گردش در آمده بود، برخی از کاربران توییتر استفاده از دو هشتگ را آغاز کردند - #ISISmediablackout (تحریم رسانه ای داعش) و #DontShare (به اشتراک نگذارید) – که هدف آن مدفون کردن پیام‌های حاوی این ویدیوی تکان دهنده و جایگزین کردن آن‌ها با تصاویری از فولی در حال کار کردن بود.

ولی واقعیت این است که افراط گرایان پیوسته در حال پیدا کردن راه‌های جدیدی اند برای دور زدن اقدام‌های شبکه‌های اجتماعی برای بستن حساب کاربری آن‌ها؛ یک بازی موش و گربه دائمی و بی پایان.

جِی اِم برگر یک تحلیلگر و کارشناس رصد فعالیت افراط گرایان در شبکه‌های اجتماعی است. به گفته او فعالیت‌های آنلاین دولت اسلامی – داعش سابق – با کارهای برترین کارشناسان بازاریابی در شبکه‌های اجتماعی در جهان قابل مقایسه است. تغییر نام سریع و تبدیل داعش به یک برند با نام "دولت اسلامی" به خوبی کارساز بودن روش تبلیغاتی آنلاین این گروه را نشان می‌دهد.

برخی از هواداران دولت اسلامی به شبکه‌های اجتماعی جایگزین، مانند دیاسپورا، روی آورده‌اند

در زمینه تبلیغات و گسترش پروپاگاندا، یکی از تاکتیک‌های مورد استفاده این گروه شایان توجه ویژه است: یک اپلیکیشن مخصوص که پس از نسب روی گوشی همراه، پیام‌های پروپاگاندای نوشته شده توسط دولت اسلامی را با فاصله های زمانی مشخص، به نحوی که در دام فیلتر اسپم توییتر نیافتد، توییت می‌کند.

در یک نمونه، به این روش ۴۰ هزار توییت تنها در یک روز منتشر شده است. با توجه به گستردگی این توییت ها و مهم‌تر از آن، تعداد بسیار بالای شناسه های کاربری استفاده شده برای انتشار این پیام‌ها، حذف این محتوا از سوی توییتر کار بسیار سختی بود.

چه می‌توان کرد؟

پیشرفت‌هایی در این زمینه صورت گرفته است. توییتر تلاش کرده تا ده‌ها حساب کاربری که گمان می‌رفت متعلق به اعضای مهم دولت اسلامی باشند را مسدود کند. به گفته جِی اِم برگر، کار دولت اسلامی برای پراکندن پیامش سخت تر شده است.

او می‌گوید: "دولت اسلامی در مواجهه با مسدود شدن حساب‌های کاربری اش به مشکل برخورده است. در واقعیت، توییتر یکی از آسان‌ترین عرصه ها برای فعالیت آن‌ها در شبکه‌های اجتماعی بوده است."

با این حال او می افزاید: "در حالی که ده‌ها حساب کاربری مسدود شده است، تعداد بسیار بیشتری از این حساب‌های کاربری همچنان فعال است و بسیاری از حساب‌های مسدود شده نیز فعالیت خود را از سر گرفته‌اند."

یکی دیگر از تاکتیک‌های مورد استفاده حامیان دولت اسلامی، از کار انداختن موقتی حساب‌های کاربری خود برای در امان ماندن از مسدود شدن است. با این حال تا جایی که بی بی سی متوجه شده است، این کار تأثیری بر توانایی توییتر در مسدود کردن حساب‌های مسأله دار ندارد.

علاوه بر آن، به گفته آقای برگر، امکان به اشتراک گذاری آسان لینک ها در توییتر باعث شده تا همزمان با مسدود شدن حساب کاربری برخی اعضای دولت اسلامی در این شبکه، برخی از آن‌ها به شبکه‌های اجتماعی کوچک‌تر روی آورند و محتوای خود را در این شبکه‌ها منتشر کنند تا پس از آن در توییتر نیز به اشتراک گذاشته شود.

به نظر می‌رسد که یکی از این شبکه‌ها، به نام دیاسپورا (diaspora)، به شبکه جدید مورد علاقه دولت اسلامی بدل شده است: ساختار غیرمتمرکز این شبکه امنیت بیشتری برای اعضای این گروه فراهم می‌کند.

فناوری حذف تصاویر کودک آزاری موجود است – چرا در مورد افراط گرایی چنین نیست؟

این پرسش که چرای محتوای افراط گرایانه نمی‌تواند به راحتی توسط وب سایت‌ها مسدود شود به کرات پرسیده می‌شود – ولی پاسخی پیچیده دارد.

مایکروسافت نرم‌افزار فوتو دی اِن اِی را برای تشخیص و حذف محتوای غیرقانونی تولید کرده است

در مورد تصاویر کودک آزاری، بسیاری از وب سایت‌ها از فناوری های پیچیده برای تشخیص اتوماتیک محتوا استفاده می‌کنند که این محتوا را در هنگام بارگذاری با یک بانک داده از موارد ممنوعه شناخته شده مقایسه می‌کند.

این یعنی چنین تصاویری، دست کم به لحاظ نظری، پیش از بارگذاری روی وب سایت مورد نظر حذف می‌شوند.

فوتو دی اِن اِی (PhotoDNA)، محصول مایکروسافت، از بهترین محصولات موجود در بازار برای این کار است. تا جایی که بی بی سی متوجه شده است، می‌توان از همین فناوری برای برخورد با گسترش پروپاگاندای گروه‌های افراط گرا نیز استفاده کرد، ولی تا کنون کسی در پی آن نبوده است.

گوگل نرم‌افزار کانتنت آی دی (ContentID) را برای ویدیوهای یوتیوب تولید کرده است؛ سیستمی که محتوای ناقض قانون کپی رایت را در هنگام بارگذاری تشخیص می‌دهد. این نرم‌افزار محتوای بارگذاری شده را با یک بانک داده از تصاویر و صداها مقایسه می‌کند – در بیشتر موارد کلیپ های موسیقی – و به مالکان کپی رایت امکان حذف یا گذاشتن تبلیغات روی این ویدیوها را می‌دهد.

از کانتنت آی دی می‌توان برای تشخیص محتوای مضر استفاده کرد – ولی گوگل در به کارگیری این سیستم به این منظور تعلل می‌کند.

گوگل دلایل مختلفی برای این تعلل خود دارد، ولی مهمترین آن‌ها این است که در حالی که دسته بندی تصاویر کودک آزاری راحت است – در این موضوع محدوده خاکستری وجود ندارد، تمامی موارد غیرقانونی اند – محتوای خشونت آمیز یا تکان دهنده مربوط به تروریسم را نمی‌توان به راحتی تعریف کرد.

در بسیاری از موارد، شبکه‌های اجتماعی تنها ابزار ارتباطی برای کسانی است که می خواهند درباره فجایع انسانی در مناطق دور از دسترس رسانه‌ها اطلاع رسانی کنند.

فیسبوک و گوگل هر دو در گذشته گفته‌اند که انتشار تصاویر تکان دهنده، در مواردی که در "بستر خبری" و نه برای تشویق و تمجید مطرح می‌شوند، مجاز است.

علاوه بر این، این استدلال نیز از سوی شبکه‌های اجتماعی مطرح می‌شود که آن‌ها نباید مسئول سانسور در محیط مجازی باشند.

با این حال آقای برگر می‌گوید: "تا جایی که به مسئولیت تصمیم گیری مربوط می‌شود، باید توجه کرد که توییتر و یوتیوب بنگاه های اقتصادی اند، نه سازمان های عمومی."

او می‌گوید: "همانطور که یک سینما یا رستوران می‌تواند مشتریانی که به دیگران آزار می رسانند یا دست به اعمال مجرمانه می‌زنند را بیرون کند، سرویس های آنلاین نیز هم حق و هم وظیفه این کار را دارند تا بتوانند محیطی امن برای کاربران خود مهیا کنند."

من چگونه می‌توانم از خود یا فرزندانم محافظت کنم، که چنین محتوایی را نبینیم؟

این کار دشوار است.

طبیعت شبکه‌های اجتماعی اقتضا می‌کند که به اشتراک گذاری محتوا آسان باشد و نقطه قوت توییتر و شبکه‌های دیگر این است که اطلاعات با سرعت بسیار زیادی پخش می‌شود.

این موضوع خود مسأله ساز است: یک نوجوان می‌تواند در حال گشت و گذار در فیسبوک به صورت تصادفی ویدیوی قتل جیمز فولی را ببیند، چون یکی از دوستانش آن را به اشتراک گذاشته است. از آن بدتر اینکه بسیاری از ویدیوهای منتشر در فیسبوک حالا به طور خودکار پخش می‌شوند، یعنی لازم نیست کاربران روی دکمه پخش ویدیو کلیک کنند.

به گفته گراهام کلولی، کارشناس امنیتی، اجتناب از دیدن چیزهای ناراحت‌کننده کار راحتی نیست.

بسیاری به صورت آنلاین یا حضوری به جیمز فولی ادای احترام کرده‌اند

او می‌گوید: "اگر فرزندانتان در اینترنت باشند، نمی‌توان کاملاً جلوی آن‌ها را گرفت تا بسیاری از اتفاقات تکان دهنده ای که در دنیا میافتد را نبینند."

"می توانید کامپیوتر خود را، به جای اتاق خواب شخصی، در یکی از اتاق‌های جمعی خانه بگذارید تا بتوانید بر فعالیت آنلاین آن‌ها نظارت کنید. ولی فراگیر شدن گوشی های هوشمند و تبلت ها نظارت بر آنچه فرزندانتان به آن نگاه می‌کنند را دشوار کرده است."

"می توانید گزینه "کنترل والدین" را در مرورگر خود فعال کنید تا وب سایت‌های در دسترس فرزندانتان محدود شود، ولی توجه داشته باشید که این راه حل بی‌نقص نیست: این امکان کاملاً وجود دارد که سایت‌های مجاز مانند یوتیوب یا توییتر و فیسبوک دارای محتوایی باشند که به نظر بسیاری – از پیر تا جوان – هولناک باشد."

آقای کلولی همچنین می‌گوید بهترین کار این است که والدین با صرف زمان به فرزندان خود درباره تصاویری که شاید دیده باشند توضیح دهند.

او می‌گوید: "با فرزندان خود درباره چیزهای ناخوشایند و آزاردهنده ای که شاید در اینترنت ببینند صحبت کنید و به آن‌ها کمک کنید که درک کنند چرا رفتن به دنبال چنین چیزهایی، یا به اشتراک گذاری آن‌ها با دوستانشان، کار جالبی نیست."