هوش مصنوعی به دست تروریست‌ها افتاد

هوش مصنوعی به‌ سرعت به ابزاری رایج برای انجام کارهای مختلف، از نوشتن ایمیل و خلاصه‌سازی جلسات گرفته تا کمک به دانشجویان برای مطالعه یا یاری رساندن به برنامه‌نویسان در رفع اشکال کد، تبدیل شده است. اما همان فناوری که در وقت کاربران صرفه‌جویی می‌کند، می‌تواند مورد سوءاستفاده نیز قرار گیرد و گزارش جدیدی نشان می‌دهد که سازمان‌های تروریستی نیز در حال یافتن راه‌هایی برای استفاده از آن هستند.

به گزارش خبرآنلاین، به نقل از ایسنا، بر اساس یک مقاله پژوهشی که پیش از انتشار در اختیار روزنامه نیویورک‌تایمز قرار گرفته است، پژوهشگران شواهدی یافته‌اند که نشان می‌دهد اعضای گروه Boko Haram از چت‌بات‌های محبوب هوش مصنوعی برای انجام فعالیت‌های روزمره و همچنین مأموریت‌های مرتبط با درگیری‌های مسلحانه استفاده کرده‌اند.

مصاحبه با ۲۷ عضو سابق این گروه که طی دو سال گذشته در نیجریه انجام شده، نشان می‌دهد ابزارهایی مانند چت جی‌پی‌تی، متا، گراک، کلود، جمینای و دیپ‌سیک برای به‌ دست آوردن اطلاعات فنی، رفع اشکال سلاح‌ها و حتی کمک به برنامه‌ریزی حملات مورد استفاده قرار گرفته‌اند.

این کار فقط منحصر به چند فرد متخلف نبود
آنچه یافته‌های این پژوهش را نگران‌کننده‌تر می‌کند، این است که استفاده از هوش مصنوعی صرفا به چند فرد محدود که به‌طور آزمایشی با این ابزارها کار می‌کردند، نسبت داده نشده است. در این گزارش ادعا شده که استفاده از هوش مصنوعی در این گروه به شکلی سازمان‌یافته انجام می‌شده و شامل تیم‌های اختصاصی، آموزش‌های داخلی و انتقال دانش میان اعضا بوده است.

پژوهشگران همچنین می‌گویند برخی کاربران موفق شده‌اند از سازوکارهای ایمنی تعبیه‌ شده در این سامانه‌ها که برای جلوگیری از پاسخ‌گویی به درخواست‌های مرتبط با خشونت طراحی شده‌اند، عبور کنند.

البته این موضوع لزوما به آن معنا نیست که چت‌بات‌های امروزی هوش مصنوعی به‌ راحتی دستورالعمل‌های خطرناک را در اختیار کاربران قرار می‌دهند. بخش زیادی از این پژوهش به فعالیت‌هایی تا پایان سال ۲۰۲۴ مربوط می‌شود و شرکت‌های توسعه‌دهنده هوش مصنوعی اعلام کرده‌اند که نسخه‌های جدیدتر مدل‌هایشان به تدابیر حفاظتی قوی‌تری مجهز شده‌اند.

این شرکت‌ها همچنین تأکید می‌کنند که بسیاری از درخواست‌ها در «منطقه خاکستری» قرار می‌گیرند. برای مثال، پرسیدن نحوه تعمیر یک موتورسیکلت یا درک مفاهیم پایه شیمی، ذاتا درخواستی خطرناک نیست؛ هرچند ممکن است چنین اطلاعاتی در شرایطی مورد سوءاستفاده قرار گیرد.

چالش اصلی اکنون، یک گام جلوتر ماندن است
اوپن‌ای‌آی به روزنامه نیویورک‌تایمز اعلام کرده است که استفاده از چت‌جی‌پی‌تی برای حمایت از تروریسم یا اعمال خشونت، نقض سیاست‌های این شرکت محسوب می‌شود و این شرکت همچنان در حال تقویت سازوکارهای خود برای جلوگیری از سوءاستفاده است.

متا نیز اعلام کرد که این پژوهش عمدتا به نسخه‌های قدیمی‌تر مدل‌های هوش مصنوعی این شرکت مربوط بوده و از آن زمان تاکنون اقدامات ایمنی خود را تقویت کرده است. در همین حال، شرکت‌های ایکس و دیپ‌سیک، بنا بر این گزارش، به درخواست‌ها برای اظهار نظر پاسخی نداده‌اند.

کارشناسان امنیتی نیز هشدار می‌دهند که نباید تصور کرد هوش مصنوعی ناگهان به گروه‌های تروریستی توانایی‌هایی فراتر از حد معمول داده است. برنامه‌ریزی و اجرای حملات همچنان به عواملی مانند تدارکات میدانی، تأمین مالی، ارتباطات و هماهنگی انسانی وابسته است؛ مسائلی که یک چت‌بات قادر به جایگزینی آنها نیست.

به باور پژوهشگران، هوش مصنوعی بیشتر از آنکه ماهیت تهدید را به‌طور اساسی تغییر دهد، می‌تواند اعضای کم‌تجربه‌تر این گروه‌ها را تا حدی توانمندتر کند. با این حال، این گزارش بار دیگر یادآور می‌شود که بحث ایمنی هوش مصنوعی تنها به تقلب دانش‌آموزان در انجام تکالیف یا تولید تصاویر جعلی محدود نمی‌شود. هرچه مدل‌های هوش مصنوعی توانمندتر و در دسترس‌تر شوند، فشار بر شرکت‌های توسعه‌دهنده برای اطمینان از اینکه این ابزارهای قدرتمند برای کاربران مشروع مفید باقی بمانند و در عین حال سوءاستفاده از آنها برای بازیگران مخرب هرچه دشوارتر شود، افزایش خواهد یافت.

*