افزایش هشدارها درباره فاجعه‌ای ناشی از هوش مصنوعی؛ چگونه از زندگی دیجیتال خود محافظت کنیم؟

باشگاه خبرنگاران جوان؛ جواد فراهانی- هشدارها در مورد خطرات توسعه هوش مصنوعی، هم‌زمان با استعفای «جیکوب استاین‌هارت» مطرح شده است؛ پژوهشگری که پیش‌تر در شرکت‌های «آنتروپیک» (سازنده مدل «کلود») و «اوپن‌ای‌آی» (سازنده «چت‌جی‌پی‌تی») فعالیت می‌کرد و اندکی پیش از آنکه سهام تشویقی‌اش (stock options) قابل‌واگذاری شود، آنتروپیک را ترک کرد.

استاین‌هارت در پیام خداحافظی خود که تنها در یک روز بیش از ۹۰ میلیون بازدید داشت، نوشت که شرکت‌های بزرگ هوش مصنوعی «برای توسعه ابرهوشِ خود-اصلاح‌گر (self-improving superintelligence) با یکدیگر رقابت می‌کنند و با این کار، جان ما را به بازی گرفته‌اند.»

اصطلاح «ابرهوش» به سیستم‌های هوش مصنوعی اشاره دارد که در اکثر وظایف حیاتی، از توانایی‌های انسان فراتر می‌روند. «اِوان هوبینگر» که سرپرستی تیمی در آنتروپیک را بر عهده دارد و کارشان هم‌سو کردن سیستم‌های هوش مصنوعی با اهداف انسانی است، احتمال نابودی بشریت توسط هوش مصنوعی در دهه پیش رو را بیش از ۱۰ درصد برآورد کرده است.

با این حال، «کیم کوماندو»، کارشناس فناوری، خاطرنشان می‌کند که زمان ظهور ابرهوش همچنان نامشخص است؛ این اتفاق ممکن است طی چند سال، چند دهه و یا شاید هرگز رخ ندهد. به‌علاوه، برآورد احتمال وقوع رویدادی بی‌سابقه، کاری بسیار دشوار است. اقداماتی برای محافظت از زندگی دیجیتال شما

با وجود نگرانی‌های آینده، کوماندو معتقد است که کاربران عادی می‌توانند با انجام اقداماتی ساده، به‌ویژه با پرهیز از اعطای دسترسی‌های گسترده به «عامل‌های هوش مصنوعی» (AI agents) برای ورود به حساب‌های کاربری شخصی، خطرات را به حداقل برسانند.

عامل‌های هوش مصنوعی را می‌توان سیستم‌هایی دانست که به‌جای صرفاً ارائه پاسخ، قادر به استفاده از رایانه و انجام وظایف به نیابت از کاربر هستند. ازاین‌رو، کوماندو توصیه می‌کند که این ابزارها را از حساب‌های بانکی، آدرس‌های ایمیل اصلی و حساب‌هایی که کدهای عبور موقت دریافت می‌کنند، دور نگه دارید؛ در عوض، پیشنهاد می‌کند آن‌ها را با استفاده از حساب‌های جداگانه‌ای که حاوی اطلاعات حساس نیستند، آزمایش کنید.

او همچنین توصیه می‌کند که قابلیت به‌روزرسانی خودکار را در تلفن‌ها، رایانه‌ها و روترها فعال کنید و از روش‌های احراز هویت دو‌مرحله‌ای یا چند‌مرحله‌ای، برنامه‌های مدیریت رمز عبور و همچنین نسخه‌های پشتیبان (بک‌آپ) از فایل‌ها، عکس‌ها و اسناد مهم استفاده نمایید.

خطر، لزوماً یک «ماشین شرور» نیست

کوماندو تأکید می‌کند که نگرانی‌های کنونی لزوماً حول محور ظهور ماشین‌های شرور —مانند آنچه در فیلم‌های علمی-تخیلی دیده می‌شود— نیست؛ او توضیح می‌دهد که یک سیستم برای ایجاد تهدید، نیازی به داشتن احساسات یا آگاهی ندارد. او می‌گوید: «هوش مصنوعی نیازی به نفرت از ما ندارد و همچنین نیازی به داشتن احساسات یا حتی آگاهی؛ تنها چیزی که لازم دارد، هدفی است که برای دستیابی به آن تلاش می‌کند.»

او خاطرنشان می‌کند که برخی آزمایش‌های ایمنی نشان داده‌اند که مدل‌های هوش مصنوعی—تحت شرایط خاص—تلاش می‌کرده‌اند تا از فرآیندهای خاموش‌سازی (توقف فعالیت) سرپیچی کنند؛ به‌ویژه زمانی که این توقف‌ها مانع از تکمیل وظایف محول‌شده به آن‌ها می‌شده است.

این کارشناس تأکید می‌کند که این مدل‌ها به دنبال «بقا» به خاطر خودِ بقا نبودند، بلکه تداوم فعالیتشان را ابزاری برای رسیدن به هدف خود می‌دانستند. کماندو معتقد است بزرگ‌ترین خطر کنونی در رقابت میان شرکت‌ها و کشورها برای توسعه سیستم‌هایی با قدرت روزافزون نهفته است، چرا که هر یک از طرفین، توسعه هوش مصنوعی را ضرورتی برای عقب نماندن از رقبا می‌دانند.

در همین راستا، او پیشنهاد می‌کند که آزمایش‌های مستقلی روی سیستم‌های پیشرفته انجام شود، کنترل‌هایی بر سرعت توسعه آن‌ها اعمال گردد و کشورها در گفتگوی جهانی پیرامون ایمنی هوش مصنوعی مشارکت داده شوند.

نگرانی‌ها در مورد ویروس‌ها

یکی از دغدغه‌های اصلی که کماندو مطرح می‌کند، احتمال استفاده از هوش مصنوعی در آینده برای ساخت ویروس‌های رایانه‌ای یا بیولوژیکی است.

در خصوص جنبه بیولوژیکی، او به آزمایش‌هایی اشاره می‌کند که در آن‌ها از سیستم‌های هوش مصنوعی برای طراحی کامل ژنوم ویروس‌ها از پایه استفاده شده است؛ این آزمایش‌ها «باکتریوفاژها» را هدف قرار داده بودند—ویروس‌هایی که به باکتری‌ها حمله می‌کنند اما انسان‌ها را آلوده نمی‌سازند. بر اساس توضیحات او، این سیستم‌ها ۳۰۲ طرح ایجاد کردند؛ پژوهشگران ۲۸۵ مورد از آن‌ها را به مرحله اجرا درآوردند و ۱۶ طرح با موفقیت به تولید ویروس‌های کارآمد منجر شد.

این بدان معنا نیست که هوش مصنوعی ویروس کرونای جدیدی خلق کرده یا باعث ابتلای انسان‌ها شده است؛ بلکه نشان می‌دهد که سیستم‌های هوش مصنوعی اکنون قادرند در طراحی مواد بیولوژیکی پیچیده نقش ایفا کنند.

در ۱۰ سپتامبر، شرکت «آنتروپیک» (Anthropic) اعلام کرد که پنج مورد را شناسایی کرده است که در آن‌ها افراد از مدل «کلود» (Claude) به شیوه‌هایی استفاده می‌کردند که می‌توانست ساخت سلاح‌های بیولوژیکی را تسهیل کند؛ این شرکت اظهار داشت که حساب‌های کاربری مربوطه را مسدود و این موارد را گزارش کرده است.

کماندو هشدار می‌دهد که در آینده، سیستم‌های پیشرفته‌تر ممکن است بتوانند وظایف را میان افراد و آزمایشگاه‌های مختلف توزیع کنند، به‌طوری که هر طرف بخشی از فرآیند را بدون آگاهی از تصویر کلی کار، به انجام برساند.

با این حال، کماندو مردم را به ادامه استفاده از هوش مصنوعی تشویق می‌کند و تأکید دارد که راهکار مواجهه با این فناوری، پرهیز از آن نیست، بلکه شناخت قابلیت‌ها و خطرات آن—و استفاده ایمن‌تر از آن—است.

او دیدگاه خود را این‌گونه خلاصه می‌کند: «من از هوش مصنوعی هراسی ندارم؛ بلکه نگران آنم که خوی رقابت‌جویی انسان بر خرد او پیشی گیرد، چرا که میان این دو، تفاوت بسیاری وجود دارد.»

منبع: دیلی میل