درآمدزایی اینستاگرام از یک بازار سیاه

باشگاه خبرنگاران جوان - تحقیقات جدید نشان می‌دهد اینستاگرام در هند تبلیغات پولی را تأیید و منتشر کرده که کاربران را به کانال‌های فروش محتوای سوءاستفاده جنسی از کودکان هدایت می‌کردند؛ افشاگری که بار دیگر عملکرد متا در مقابله با این نوع محتوا را زیر سؤال برده است.

سال‌هاست که متا به دلیل نحوه مدیریت محتوای مرتبط با سوءاستفاده جنسی از کودکان با انتقاد‌های گسترده روبه‌رو است. منتقدان می‌گویند این شرکت نه‌تنها در مهار این پدیده موفق نبوده، بلکه در مقاطع مختلف تلاش کرده ابعاد واقعی مشکل را کوچک‌تر از آنچه هست نشان دهد و حتی برخی سازوکار‌های مرتبط با ایمنی کودکان را تضعیف کرده است.

اکنون تحقیقات جدید بی‌بی‌سی‌ورلد نشان می‌دهد این بحران وارد مرحله‌ای تازه شده است. بر اساس این گزارش، اینستاگرام در هند تبلیغات پولی را منتشر کرده که مستقیماً برای فروش محتوای سوءاستفاده جنسی از کودکان تبلیغ می‌کردند. این تبلیغات پس از تأیید سامانه تبلیغاتی متا در اختیار کاربران قرار گرفته بودند؛ موضوعی که پرسش‌های جدی درباره کارآمدی سیستم‌های نظارتی این شرکت ایجاد کرده است. این افشاگری تنها چند ماه پس از آن منتشر می‌شود که متا اعلام کرده بود برای کاهش وابستگی به ناظران انسانی، بخش بیشتری از فرایند بررسی محتوا و تبلیغات را به سامانه‌های مبتنی بر هوش مصنوعی واگذار می‌کند. این شرکت معتقد بود استفاده گسترده‌تر از هوش مصنوعی می‌تواند سرعت و دقت نظارت را افزایش دهد، اما این گزارش نشان می‌دهد این سامانه‌ها نتوانسته‌اند از انتشار تبلیغات آشکارا مجرمانه جلوگیری کنند.

بررسی تعدادی از این تبلیغات نشان داد که در برخی از آنها عبارت‌هایی مانند «ویدئوی تجاوز» و «ویدئوی کودک» به‌صراحت دیده می‌شد. کاربران پس از کلیک روی این تبلیغات به کانال‌هایی در پیام‌رسان تلگرام هدایت می‌شدند که در آنها محتوای سوءاستفاده جنسی از کودکان با قیمت‌هایی از حدود یک دلار به فروش می‌رسید.

انتشار این گزارش واکنش سریع دولت هند را در پی داشت. وزارت الکترونیک و فناوری اطلاعات این کشور با ارسال اخطار رسمی به متا، از این شرکت خواست تمامی تبلیغات و محتوای مرتبط با فروش چنین فایل‌هایی را فوراً حذف کند. رسانه دولتی «دی‌دی نیوز» نیز گزارش داد که دولت هند از متا خواسته است تا ۱۱ ژوئیه توضیحی کامل درباره نحوه انتشار این تبلیغات و اقدامات اصلاحی خود ارائه کند. متا پس از دریافت پرسش‌های بی‌بی‌سی مدعی شد تعدادی از تبلیغات شناسایی‌شده را حذف کرده و حساب‌های کاربری مرتبط را نیز تعلیق کرده است. سخنگوی این شرکت با اذعان به محدودیت‌های سامانه‌های نظارتی گفت هیچ سیستم بررسی محتوایی بی‌نقص نیست و ممکن است برخی تخلفات از فرایند‌های نظارتی عبور کنند.

در همین حال، برایان بولند، معاون پیشین فیسبوک، گفت الگوریتم‌های اینستاگرام در طول سال‌ها بیش از هر چیز برای افزایش درآمد و سودآوری طراحی شده‌اند. او گفت به‌تدریج توازن میان درآمدزایی و تجربه کاربری به یکی از محور‌های اصلی تصمیم‌گیری در این شرکت تبدیل شد؛ روندی که به گفته او پیامد‌های منفی مهمی برای ایمنی کاربران، به‌ویژه کودکان، داشته است.

بولند پیش‌تر نیز در پرونده قضایی متا در ایالت نیومکزیکو علیه این شرکت شهادت داده بود. هیئت منصفه این پرونده در ماه مارس به این نتیجه رسید که متا کاربران را درباره میزان ایمنی پلتفرم‌های خود برای کودکان گمراه کرده و اجازه داده محتوای سوءاستفاده جنسی از کودکان در این شبکه‌ها گسترش یابد؛ موضوعی که به گفته دادستان کل نیومکزیکو، این پلتفرم‌ها را به بستری برای خریدوفروش و قاچاق جنسی کودکان تبدیل کرده است.

رائول تورز، دادستان کل نیومکزیکو، پس از صدور رأی دادگاه اعلام کرد مدیران متا از آسیب‌های محصولات خود برای کودکان آگاه بودند، هشدار‌های کارکنانشان را نادیده گرفتند و درباره آنچه می‌دانستند، افکار عمومی را گمراه کردند.

بر اساس آمار منتشرشده، هند با ثبت حدود یک میلیون و ۹۰۰ هزار گزارش مربوط به محتوای سوءاستفاده جنسی از کودکان در سامانه‌های گزارش‌دهی، پس از ایالات متحده در جایگاه دوم جهان قرار دارد. با این حال، سازمان‌های مدافع حقوق کودکان هشدار می‌دهند که بخش قابل توجهی از این جرائم همچنان شناسایی نمی‌شود و از دید نهاد‌های نظارتی پنهان می‌ماند؛ موضوعی که ضرورت تقویت سازوکار‌های نظارت بر پلتفرم‌های بزرگ اینترنتی را بیش از گذشته برجسته کرده است.

منبع: فارس