فناوری، شریک جرم جنایت‌های مجازی!

باشگاه خبرنگاران جوان - تا پیش از این، انگار تمام تقصیر‌ها گردن پدر و مادری بود که حواسشان نبود فرزندشان در کدام هزارتوی دیجیتال گم می‌شود. همیشه پای توصیه‌هایِ کلیشه‌ای مثل «بچه‌ها کمتر گوشی دست بگیرند، شب‌ها تلفن همراهشان را کنار بگذارند و حواسشان به غریبه‌های اینترنتی باشد» در میان بود. اما کمتر کسی یقه شرکت‌های فناوری را می‌گرفت تا به آنها بگوید وقتی الگوریتم شما طوری طراحی شده که از آسیب رسیدن به کودکان سود ببرد، دیگر نمی‌توانید خود را فقط یک واسطه بی‌طرف بخوانید!

مزاحمت عمومی

ظاهراً کارد به استخوان قاضی ایالت نیومکزیکو رسیده و بساط تعارفات حقوقی جمع شده است؛ چون متا حالا محکوم شده تا ۵۶۷ میلیون دلار دیگر پیاده شود. آن هم بابت پنهان‌کاری سیستماتیک درباره خطراتی که پلتفرم‌هایش برای کودکان ایجاد کرده‌اند. این مبلغ تازه، علاوه بر آن ۳۷۵ میلیون دلار پرونده شکایت قبلی است و درواقع متا باید حدود یک میلیارد دلار خرج سوتی‌های امنیتی‌اش کند. به نقل از بی‌بی‌سی اصل ماجرا از سال ۲۰۲۳ شروع شد، وقتی دادستان‌های نیومکزیکو شکایت کردند که اینستاگرام دارد عملاً نقش دلال محتوا‌های سمی را بازی می‌کند و الگوریتم‌های متا، نه‌تنها کودکان را در معرض محتوای جنسی و سمی قرار می‌دهند، بلکه با اشتیاق تمام، افراد خطرناکی مثل قاچاقچیان و سوءاستفاده‌گران آنها را به سمت کودکان هل می‌دهند! یعنی همان الگوریتمی که قرار بود سلیقه من و شما را حدس بزند، ظاهراً در برخی موارد، سلیقه آدم‌های مریض جامعه را با سلیقه کودکان بی‌گناه اشتباه گرفته و دست‌بوس هر دو طرف بوده است.

در پرونده جدید و ۵۶۷ میلیون دلاری هم، قاضی اعلام کرد کار از ایجاد خطر و مزاحمت برای کودکان گذشته و عملکرد «متا» درواقع یک «مزاحمت عمومی» محسوب می‌شود که خطرش تمام افراد جامعه را تهدید می‌کند. از این دیدگاه، متا مانند کارخانه‌ای است که محصولش محتوا و تبلیغات است، اما خروجی جانبی و دودی که از دودکش آن بیرون می‌زند، برای همه آسیب روانی ایجاد می‌کند. حالا هم این کارخانه موظف است بابت این دود سمی، غرامت سنگین بدهد. ۴۲۰ میلیون دلار از این پول قرار است صرف ترمیم اعصاب خردشده نوجوانان و آموزش معلمانی شود که باید با تبعات این فضای مجازی بجنگند.

تازه قاضی دستور داده متا چفت و بست الگوریتم‌هایش را برای زیر هجده ساله‌ها سفت کند. از ممنوعیت پیام غریبه‌ها برای بچه‌ها گرفته تا حذف تعداد لایک‌ها و محدودیت نوتیفیکیشن‌های شبانه. حتی سقف ۹۰ ساعت استفاده در ماه برای اینستاگرام و فیس‌بوک گذاشته‌اند؛ یعنی برای نوجوانی که می‌خواهد ۲۴ ساعته آنلاین بماند، یک جور جیره‌بندی اینترنتی اعلام شده است. متا البته طبق عادت همیشگی‌اش زیر بار نرفته که به نظر می‌رسد بی‌فایده است، چون همین الان هم هزاران شکایت مشابه در گوشه‌وکنار آمریکا مثل بمب ساعتی منتظرند تا منفجر شوند.

جهان در معرض خطر

اگر در آمریکا پرونده متا نشان می‌دهد غول‌های فناوری چطور می‌توانند چشمانمان را روی آسیب‌های کودکان ببندند، ماجرا در بریتانیا یک قدم جلوتر رفته و از مرز بی‌احتیاطی هم عبور کرده است؛ آن هم به لطف هوش مصنوعی که می‌تواند از یک عکس معمولی چیزی بسازد که حتی روح صاحبش هم بی‌خبر باشد. گاردین از موج جدید تصاویر «دیپ‌فیک» خبر می‌دهد که قربانیانش، کودکان هستند. تصویر‌هایی که چهره یا بدن آنها را به شکلی جعلی و بی‌پرده نشان می‌دهد.

طبق آمار و ارقام اینها اتفاقات پراکنده‌ای نیستند و سرویس Report Remove هم نشان می‌دهد تنها در ۶ ماه نخست سال ۲۰۲۶، تعداد گزارش‌های مربوط به این تصاویر، از کل گزارش‌های سال ۲۰۲۵ هم بیشتر بوده و این یعنی سرعت تولید این جنایت، از توان کنترل آن فراتر رفته است. اما ترسناک‌ترین بخش ماجرا این است که ساخت این تصاویر مسموم نه نیازی به هکر نابغه‌ای دارد و نه به متخصصان جلوه‌های ویژه. کافی است یک عکس ساده، از پروفایل مدرسه یا حساب شخصی خانواده، در اینترنت عمومی باشد تا هوش مصنوعی از آن تصویری بسازد که قربانی نه در آن حضور و رضایت دارد و نه حتی خبر داشته که چنین چیزی در حال ساخت و انتشار است.

«دن سکستون» از متخصصان بنیاد دیده‌بان اینترنت، خیلی جدی می‌گوید: همه جهان در معرض خطر هستند. چون حالا تصاویر واقعی کودکان، به ماده اولیه تولید این محتوا‌های شیطانی تبدیل شده‌اند و اگر هنوز فکر می‌کنید این مسئله به اندازه کافی آزاردهنده نیست، بد نیست بدانید برخی از مهاجمان، از همین تصاویر جعلی برای باج‌گیری استفاده می‌کنند؛ آنها کودک را تهدید می‌کنند که اگر پول ندهد، تصویرش را منتشر می‌کنند! درواقع هوش مصنوعی برای این افراد، تبدیل به یک کارگاه تولید مدرک جعلی شده با این تفاوت که قربانی باید تاوان چیزی را بدهد که اصلاً در واقعیت زندگی‌اش اتفاق نیفتاده است.

با اینکه قانون در بریتانیا این جور کار‌ها را جرم می‌داند، اما ظاهراً از پس زور بازوی هوش مصنوعی برنیامده و بنابراین متخصصان از شرکت‌های بزرگ می‌خواهند از همان مرحله طراحی، کمربند‌های ایمنی را سفت کنند، اما فعلاً، فشار اصلی بر دوش والدین و مدارس است تا هرطوری هست ردپای دیجیتال فرزندانشان را پاک کنند. اگرچه بنیاد دیده‌بان اینترنت هم با تبدیل تصاویر گزارش‌شده به یک اثر انگشت دیجیتال، سعی در شناسایی و حذف آنها از پلتفرم‌ها دارد؛ اما بعید است بتواند به تنهایی جلو این فاجعه را بگیرد. وقتی هوش مصنوعی می‌تواند تنها با نام و چهره تولید عکس و فیلم کند، یعنی شما برای ساخته شدن نسخه جعلی خودتان، نه اختیار و اراده دارید و نه حتی حق شکایت!

منبع: روزنامه قدس