۵ آسیب‌پذیری امنیتی که سیستم‌های هوش مصنوعی را تهدید می‌کنند

باشگاه خبرنگاران جوان؛ جواد فراهانی - دانشمندان دانشگاه لنکستر در بریتانیا هزاران مطالعه علمی را تجزیه و تحلیل کرده و پنج آسیب‌پذیری امنیتی عمده در حوزه هوش مصنوعی را شناسایی کرده‌اند.

این مطالعه به سفارش داونینگ استریت انجام شده است. یک تیم تحقیقاتی، شیوه‌های جهانی برای تضمین امنیت شبکه‌های عصبی مدرن را بررسی کرده و بیش از ۹۰۰۰ نشریه علمی مرتبط منتشر شده از سال ۲۰۲۰ را، همانطور که هایکا گزارش داده است، بررسی کردند.

۵ حوزه نیازمند پشتیبانی

گزارش نهایی پنج حوزه حیاتی را شناسایی کرد که نیاز به بودجه و توجه بیشتر دولت دارند. محققان تأکید کردند که یکی از اولویت‌های اصلی، تضمین یکپارچگی داده‌های مورد استفاده برای آموزش الگوریتم‌های هوش مصنوعی است.

این گزارش همچنین بر لزوم رسیدگی به خطرات ناشی از اعتماد بیش از حد کاربران به نتایج مخرب یا آنچه به عنوان توهمات شبکه عصبی شناخته می‌شود، تأکید کرد. همچنین بر اهمیت نظارت بر مدل‌های شخص ثالث موجود در بازار و درک هرگونه آسیب‌پذیری پنهانی که ممکن است در آنها وجود داشته باشد، تأکید کرد.

درخواست‌ها برای اقدامات سختگیرانه‌تر

دانشمندان خواستار تدوین فوری پروتکل‌های سختگیرانه برای از رده خارج کردن ایمن و دفع سازگار با محیط زیست سیستم‌های هوش مصنوعی در پایان چرخه عمر آنها شدند. در این گزارش همچنین اشاره شده است که Science Mail پیش از این گزارش داده بود که محققان در آموزش هوش مصنوعی برای ایجاد زبان‌های جدید موفق بوده‌اند.

منبع: الیوم السابع