رفتن به محتوای اصلی

مبارزه با فراموشی یا تحریف واقعیت؟

مبارزه با فراموشی یا تحریف واقعیت؟
جان‌باختگان و بازنمایی با هوش مصنوعی

فرزاد صیفی‌کاران

«من تماشای آن ویدیو را ادامه ندادم، برای من بسیار آزاردهنده بود. دخترم وقتی جانش را از دست داد ۹ سال و نیم داشت. من او را همیشه همان‌گونه به یاد می‌آورم که زمانی بود، کودکی پرانرژی و معصوم. اما بازسازی چهره‌اش با هوش مصنوعی، برایم چیزی جز آزار نبود. این کار، تجاوز به حریم خانواده و کرامت انسانی او بود.»

این‌ها بخشی از صحبت‌های پدری داغدار، حامد اسماعیلیون است که تلاش می‌کند خاطرات دخترش را در ذهنش، نه در قالب تصاویر تحریف‌شده و بازسازی‌شده با هوش مصنوعی، بلکه همان‌گونه که بود، زنده نگه دارد.

در دو سال گذشته، هوش مصنوعی به سرعت جای خود را در دنیای تکنولوژی باز کرده و محبوبیتی فراگیر داشته است.

استفاده‌های مختلف از هوش مصنوعی از یک سو امکاناتی فوق‌العاده در اختیار مردم گذاشته و از سوی دیگر، مشکلات و چالش‌های فراوانی را هم به وجود آورده، از جمله نقض حریم خصوصی افراد و گروه‌های اجتماعی مختلف.

پس از اعتراضاتی که با کشته شدن مهسا (ژینا) امینی در ایران رخ داد، استفاده از هوش مصنوعی برای بازسازی تصاویر جان‌باخته‌ها یا تولید محتوا -عمدتا از زنان و دختران- افزایش پیدا کرد، تا جایی که برخی از این تصاویر به رسانه‌ها نیز راه پیدا کرد.
این تصاویر و محتواها، که اغلب در شبکه‌های اجتماعی منتشر می‌شوند، بعضاً چهره‌هایی آرایش‌شده، بی‌نقص و حتی گاهی به‌ طرز اغراق‌آمیز زیبا را به نمایش می‌گذارند. اما پشت این تصاویر، داستان‌هایی تلخ از خانواده‌هایی است که احساس می‌کنند بازنمایی‌های انجام شده با واقعیت زندگی عزیزان‌شان تناسبی ندارد و در مواردی حتی توهین‌آمیز هستند.

یکی از این تصاویر، ویدیویی از تعدادی از دختران جان‌باخته اعتراضات ۱۴۰۱، آبان ۹۸ و پرواز اوکراینی، از جمله ری‌را اسماعیلیون ۹ ساله بود. تصویر دخترانی که لباس عروس به تن داشتند و ظاهرشان به شیوه‌ای غلوآمیز بازسازی شده بود، به سرعت فضای شبکه‌های اجتماعی را پر کرد.

سوران منصورنیا، برادر برهان منصورنیا، از کشته‌شدگان اعتراضات آبان ۹۸، به بی‌بی‌سی فارسی می‌گوید که برخی از دوستان و آشنایان با استفاده از هوش مصنوعی تصاویری از برادر او را بازسازی کردند، از جمله ویدیویی که او و برادرش در حال در آغوش کشیدن یک‌دیگر بودند: «اگرچه می‌دانم نیت این افراد خوب بود، اما هیچ‌گاه این تصاویر را بازنشر نکردم و احساس می‌کردم با برهانی که من می‌شناختم هیچ نسبتی ندارد.»

با فراگیر شدن هوش مصنوعی، یکی از سوال‌های مهم در دنیای امروز حفظ حریم خصوصی افراد و حقوق‌شان حتی بعد از مرگ آنها است، زیرا در بسیاری از موارد داده‌هایی مانند پیام‌های متنی در پیام‌رسان‌ها، عکس، فایل‌های صوتی و ویدیوهای افراد فوت شده برای تولید محتوا از طریق هوش مصنوعی استفاده شده است.

بازتکرار رنج و محتوایی که از همه ‎‌جا سر در می‌آورد
در بازسازی محتوا از افراد فوت شده با استفاده از هوش مصنوعی، و به ویژه آنچه در مورد کشته‌شدگان و اعدام‌شدگان در ایران شاهد هستیم، در اغلب موارد چهره‌ای غیرواقعی از آنها بازنمایی می‌شود.

گاه، بازسازی تصاویر افراد از طریق هوش مصنوعی چنان اغراق‌آمیز است که به ببینده چنین القا می‌کند که این افراد با چهره واقعی خودشان قابل پذیرش نیستند. در مورد دختران و زنان این اغراق در به تصویر کشیدن چهره‌ای بی‌نقص چنان زیاد است که در مواردی آنها را با لباس‌هایی همانند بیکینی یا شخصیت‌های کارتونی همچون «سیندرلا» یا انیمه‌های کارتونی نمایش می‌دهند.

محتوای تولید شده با هوش مصنوعی اغلب با ماهیت واقعی فرد جان‌باخته، سبک زندگی، علایق، سلایق و طرز تفکر آنها همخوانی ندارد، و این سوال را به وجود می‌آورد که چگونه می‌توان افرادی که فوت کرده‌اند را با شاخصه‌های دیگری به تصویر کشید، نه با آن چیزی که در حقیقت بودند.

سوران منصورنیا معتقد است بخشی از اعتراضات در ایران علیه «یکسان‌سازی حکومت جمهوری اسلامی ایران از جامعه» بوده است. به باور او «به ویژه در مورد زنان، ایدئولوژی جمهوری اسلامی بر این اساس بوده که زنان را در چادرهای سیاه به دنیا معرفی کند تا تصویر مطلوبش از یک حکومت اسلامی را به جهانیان نشان دهد. در اعتراضات یک دهه اخیر، خصوصا "زن، زندگی، آزادی" خواست اصلی حداقل بخش عمده‌ای از زنان جامعه مخالفت با این یکسان‌سازی بوده. در اعتراضات زن، زندگی، آزادی برای مثال ما با تکثری از بدن‌ها مواجه هستیم. کسانی که می‌خواهند خودشان باشند و نمی‌خواهند که تن به این یکسان‌سازی ایدئولوژیک جمهوری اسلامی بدهند.»

سوران منصورنیا می‌گوید: «مخالفان حکومت ایران نیز بدون رعایت حریم خصوصی افراد فوت شده و خانواده‌های آنها، با بازسازی تصاویر غیرواقعی و نوع پوشش و ظاهر متفاوتی که آنها نسبت می‌دهند، به شکلی دیگر دست به یکسان‌سازی زنان می‌زنند.»

حامد اسماعیلیون، از خانواده‌های دادخواه پرواز اوکراینی هم با اشاره به اینکه خانواده‌ها با انتشار تصاویر افراد کشته‌شده تلاش می‌کنند تا یاد آنها در حافظه جمعی زنده بماند، بازسازی و دستکاری تصاویر و صدای جان‌باختگان از طریق هوش مصنوعی را «از دست رفتن حریم اخلاقی از دست رفتگان و خانواده‌های آنها» می‌داند.

آقای اسماعیلیون می‌گوید: «برخی با اهداف سیاسی و برخی حتی ممکن است با اهداف حقوق بشری این کار را انجام دهند، اما از نظر من از لحاظ اخلاقی مذموم است و از لحاظ قانونی هم باید تخلف به حساب بیاید.»

سوران منصورنیا می‌گوید اگرچه کسب اجازه از خانواده‌ها می‌تواند راه مناسب‌تری پیش از تولید هر نوع محتوایی درباره کشته‌شدگان و قربانیان باشد، اما بر اساس موازین حقوق بشری این تنها «خود فرد است» که بر بدنش «مالکیت» دارد: «یعنی هر انسان حق دارد در مورد نحوه زندگی و بدنش تصمیم بگیرد. و در مورد استفاده هوش مصنوعی برای بازسازی تصویر کشته‌شدگان ما با افرادی مواجه هستیم که دیگر در میان ما نیستند. کسانی که زیر خاک خوابیدند و ما نمی‌توانیم این اجازه را از آنها کسب کنیم تا این نوع بازسازی را از زندگی و بدن آنها داشته باشیم. به نظر من حتی خانواده‌ها هم نمی‌توانند اجازه دهند، یعنی در جایگاهی نیستند که برای این موارد، تصمیم بگیرند.»
حامد اسماعیلیون هم نظر مشابهی دارد. او به بی‌بی‌سی فارسی می‌گوید که شخصا در انتشار تصاویر همسر و فرزندش حساسیت زیادی به خرج می‌دهد: «من از همسرم و فرزندم هزاران عکس و ویدیو دارم، ولی تا حد ممکن سعی کردم در استفاده از تصاویر امساک کنم، در این سال‌ها تنها یکی دو ویدیو در فضای مجازی منتشر کردم. تلاش من این بود که تا حد ممکن از این ویدیوها و عکس‌ها استفاده نکنم، مگر هر از گاهی که روز تولد همسرم یا فرزندم فرا می‌رسد یا برای مراسم سالگرد، زیرا در حالی که با تمام وجود با فراموشی مبارزه می‌کنم، ولی هر بار از خودم سوال می‌کنم که اگر آنها بودند چه واکنشی نشان می‌دادند، آیا راضی بودند که این عکس منتشر شود؟ خیلی وقت‌ها این تردید به قدری قوی است که من این فیلم و عکس‌ها را منتشر نمی‌کنم.»

این دو خانواده دادخواه معتقدند تولید محتوا از طریق هوش مصنوعی برای جان‌باختگان و از دست‌رفتگان به مبارزه علیه فراموشی کمکی نخواهد کرد، چرا که به گفته آنها «اغلب حسی خوبی برای خانواده‌ها و بازماندگان ندارد.»

یک مادر دادخواه که نخواست نامش فاش شود در گفت‌وگو با بی‌بی‌سی از خاطره‌ای گفت که تعدادی از اعضای فامیل، عکس دخترش را که از کشته‌شدگان اعتراضات ۱۴۰۱ است، با هوش مصنوعی بازسازی کرده بودند: «ویدیویی را نشانم دادند که دخترم داشت می‌رقصید و آواز می‌خواند، این ویدیو اصلش یک عکس است، عکسی که همیشه برای من ثابت بود، حالم بسیار بد شد و از هوش رفتم. احساس کردم به خاطراتی که از دخترم در ذهن دارم، توهین شده و خاطراتم را دستکاری کردند. آن شیوه رقص و آواز خواندن بسیار توهین‌آمیز بود.»

هوش مصنوعی، مرز میان مسئولیت‌پذیری و اخلاق
در عصر دیجیتال، سرنوشت داده‌های شخصی و نحوه استفاده از آنها پس از مرگ همچنان یک معمای جذاب و حل نشده باقی مانده است. یکی از پرسش‌های مهم این روزها، خصوصا با توجه به گسترش هوش مصنوعی این است که آیا پس از مرگ حقوق دیجیتال وجود دارد که حریم خصوصی و کنترل بر داده‌های ما را تضمین کند؟

حریم خصوصی که در دنیای کنونی بخش زیادی از آن در فضای دیجیتال شکل گرفته است، شامل مواردی مانند تاریخچه جستجو، ایمیل‌ها، پست‌های شبکه‌های اجتماعی و فایل‌های ذخیره‌شده در فضای ابری (کلاد) است، یا هر نوع داده دیگری که امکان استفاده مختلف از آنها برای تولید محتوا وجود داشته باشد.

البته این سوالات و نگرانی‌ها در حالی توسط کارشناسان هوش مصنوعی و حقوق دیجیتال مطرح می‌شود که سیستم‌های حقوقی به‌ طور تاریخی حقوقی برای مردگان قائل نیستند، اما توجه به اهمیت احترام به خواسته‌های متوفیان و تأثیر آن بر بازماندگان در حال افزایش است.

سیامک شمس، متخصص علوم کامپیوتر درباره تولید محتوا درباره جان‌باختگان با هوش مصنوعی به بی‌بی‌سی فارسی می‌گوید که باید مسئولیت‌پذیر بود و این مسئولیت‌پذیری سه مشخصه دارد: «شاخصه اول شفافیت در داده‌هایی است که به هوش مصنوعی می‌دهیم، چرا که هوش مصنوعی می‌تواند هوشمند باشد، اما این داده‌ها و اطلاعاتی که به آنها می‌دهیم باعث هوشمند شدن آن خواهد شد، دوم باید نسبت به کرامت و شخصیت انسانی افراد حساسیت داشته باشیم و سوم آیا داده‌هایی که ما در هوش مصنوعی قرار می‌دهیم اجازه استفاده از آنها را داریم یا نه؟»

به گفته سیامک شمس اگرچه شرکت‌های سازنده هوش مصنوعی مقرراتی برای استفاده و حفظ حقوق افراد در نظر گرفته‌اند، اما فعلا این قوانین توانایی محافظت کافی از این حقوق را ندارند و در نهایت این وظیفه دولت‌هاست که درباره چگونگی استفاده از هوش مصنوعی قانون‌گذاری کنند تا از رساندن آسیب به افراد، بازماندگان و حریم خصوصی آنها، حتی بعد از مرگ هم، جلوگیری شود.

هوش مصنوعی در دنیای تکنولوژی بسیار جوان است و هنوز کشورها و دولت‌ها قوانین مشخصی برای چگونه نحوه استفاده از آن ندارند. اگرچه در اتحادیه اروپا قانون «هوش مصنوعی» وجود دارد و یا در برخی ایالت‌های آمریکا نیز قوانین محدودکننده‌ای وضع شده است، اما هنوز یک قانون ملی و بین‌المللی مشخص که جنبه‌های مختلف استفاده از هوش مصنوعی و تولید محتوا از طریق آن مورد نظارت قرار گیرد، وجود ندارد.
سیامک شمس به بی‌بی‌سی می‌گوید یکی از دلایلی که دولت‌ها هنوز در مورد هوش مصنوعی قوانین مشخصی را وضع نکرده‌اند علاوه بر جدید بودن فناوری، سرعت پیشرفت آن است که ممکن است قانونی که وضع می‌شود دو ماه بعد از آن کارایی نداشته باشد: «باید این را هم در نظر داشت که دولت‌ها حساسیت نشان می‌دهند که آیا محدود کردن هوش مصنوعی، همزمان برای اقتصاد و پیشرفت مضر خواهد بود؟»

شرکت‌‎های سازنده هوش مصنوعی نیز شروع به تهیه مقرراتی برای استفاده کاربران از این تکنولوژی کرده‌اند. برای مثال شرکت گوگل دو ماه پیش اعلام کرده از این پس داده‌هایی که توسط کاربران به جمینای (هوش مصنوعی گوگل) داده می‌شود توسط یک انسان بررسی می‌شود و چنانچه با قوانین گوگل و ارزش‌های انسانی مغایرت داشته باشد، کاربر از دسترسی به هوش مصنوعی منع خواهد شد.

دامنه استفاده از تصاویر و محتوای بازسازی شده جدا از تحریف واقعیت، تا جایی پیش رفته که گاه به رسانه‌ها هم سرایت کرده و برخی از تصاویر جان‌باختگان در رسانه‌ها به عنوان تصاویر واقعی منتشر شده است.

به گفته سیامک شمس یکی از خطرات استفاده بیش از حد محتواهای تولید شده با هوش مصنوعی، خصوصا درباره جان‌باختگان این است که بعد از چند سال تعداد این محتواها ممکن است چنان افزایش پیدا کند که دیگر «تشخیص ساختگی یا واقعی بودن آنها دشوار» شود.

به باور خانواده جان‌باختگان، تصاویر و داده‌های این افراد باید به شکلی محافظت شود که هم به حریم خصوصی و کرامت انسانی احترام بگذارد و هم یاد و خاطره آن‌ها را به‌درستی زنده نگه دارد. کارشناسان هم بر این عقیده‌اند که هوش مصنوعی می‌تواند ابزاری برای خدمت به حقیقت باشد، اما تنها در صورتی که «با مسئولیت‌پذیری و اخلاق» همراه باشد.

دیدگاه‌ و نظرات ابراز شده در این مطلب، نظر نویسنده بوده و لزوما سیاست یا موضع ایرانگلوبال را منعکس نمی‌کند.

ایران گلوبال
برگرفته از:
بی بی سی

تصویر

تصویر

تصویر

توجه داشته باشید کامنت‌هایی که مربوط به موضوع مطلب نباشند، منتشر نخواهند شد! 

افزودن دیدگاه جدید

متن ساده

  • تگ‌های HTML مجاز نیستند.
  • خطوط و پاراگراف‌ها بطور خودکار اعمال می‌شوند.
  • نشانی‌های وب و پست الکتونیکی به صورت خودکار به پیوند‌ها تبدیل می‌شوند.
CAPTCHA
کاراکترهای نمایش داده شده در تصویر را وارد کنید.
لطفا حروف را با خط فارسی و بدون فاصله وارد کنید