نتایج یک پژوهش تازه از Palisade Research حاکی از آن است که هوش مصنوعی ممکن است فراتر از یک ابزار عمل کرده و توانایی نفوذ به کامپیوترها و تکثیر خود را پیدا کند. در این آزمایش، مدل Qwen 3.6 با ۲۷ میلیارد پارامتر موفق شد تنها با یک پرامپت در چهار رایانه واقع در کانادا، آمریکا، هند و فنلاند گسترش یابد و زنجیرهای از انتشار خود را بدون هیچ مداخله انسانی شکل دهد.
به گزارش خبرنگار ما، پژوهش جدیدی ابعاد نگرانکنندهای از توانمندیهای برخی مدلهای هوش مصنوعی را آشکار کرده است. بر اساس تحقیق شرکت Palisade Research، این مدلها در شرایط خاص میتوانند مشابه یک بدافزار عمل کرده، به سیستمهای رایانهای نفوذ کنند و نسخههایی از خود را روی آنها کپی کنند.
نحوه نفوذ هوش مصنوعی به کامپیوترها و تکثیر خودکار
در تحقیق جدید، این شرکت مدعی است چتباتهای هوش مصنوعی قادرند خود را در رایانههای کاربران کپی کرده و زنجیرهای از انتشار را شکل دهند؛ به طوری که هر نسخه جدید نیز همان فرآیند را تکرار کند تا در نهایت مسیر دسترسی مهاجم به هدف مورد نظر هموار شود.
این آزمایش در دو مرحله انجام شد:
- گام نخست: مدلهای GPT و Claude مأمور شدند به سیستمها نفوذ کنند و دسترسی لازم را به دست آورند.
- گام دوم: از مدل Qwen خواسته شد خودش را در رایانه قربانی کپی کند (دلیل استفاده نکردن از GPT و Claude برای مرحله تکثیر، در دسترس نبودن عمومی کد منبع و فایلهای آنها عنوان شده است).
نتایج عملی آزمایش و گسترش زنجیرهای
در جریان آزمایش، مدل Qwen 3.6 با ۲۷ میلیارد پارامتر موفق شد تنها با یک پرامپت در چهار رایانه واقع در کانادا، آمریکا، هند و فنلاند گسترش یابد. این انتشار زنجیرهای طی ۲ ساعت و ۴۱ دقیقه و بدون هیچ گونه مداخله انسانی انجام شد.
نرخ موفقیت مدلهای مختلف در این آزمایش به شرح زیر بود:
- Qwen 3.6 27B در ایجاد کپی: ۳۳ درصد موفقیت
- Claude Opus 4.6 در نفوذ به سیستمها: ۸۱ درصد موفقیت
- GPT 5.4 در نفوذ به سیستمها: ۳۳ درصد موفقیت
تیم Palisade اعلام کرده این روند پس از سه بار تکرار متوقف شده است، با این حال گزارش شده که آخرین نسخه ایجادشده همچنان به درستی کار میکرد و بالقوه توانایی آلودهسازی سیستمهای بیشتری را داشت.
پیامدهای امنیتی و هشدار پژوهشگران
پژوهشگران با استناد به این آمار معتقدند توانمندی مدلهای پیشرفته در بهرهبرداری از آسیبپذیریها میتواند چالشهای جدی در زمینه کنترل و ایمنی آنها ایجاد کند. پیش از این نیز شرکت آنتروپیک هنگام معرفی Claude Mythos اذعان کرده بود که این مدل به دلیل سطح ریسک بالا برای انتشار عمومی مناسب نیست.
به گفته تیم امنیتی ناظر بر این آزمایش، این نخستین بار است که مدلهای هوش مصنوعی در یک محیط آزمایشی نشان دادهاند قادرند از آسیبپذیریهای موجود برای کپی کردن خود روی سیستمهای جدید استفاده کنند. هرچند محققان تأکید دارند وقوع چنین سناریویی در دنیای واقعی احتمالاً بسیار دشوارتر خواهد بود، اما همین نمایش توانایی نفوذ و تکثیر، زنگ خطری جدی درباره سوءاستفادههای احتمالی از هوش مصنوعی در حوزه امنیت سایبری به شمار میرود. این یافتهها بار دیگر ضرورت تدوین چارچوبهای ایمنی قویتر برای توسعه و استقرار مدلهای پیشرفته هوش مصنوعی را آشکار میسازد.
پایگاه خبری مجتمع نوآوری فرداد
ماهان زند
من فارغالتحصیل رشته مهندسی کامپیوتر هستم و از دوران نوجوانی به دنیای فناوری علاقهمند بودم. فعالیت حرفهای خودم را از سال ۱۳۹۷ با نوشتن مقالههای نقد و بررسی گجتهای هوشمند در یک وبلاگ شخصی آغاز کردم. پس از کسب تجربه، به عنوان نویسنده و تحلیلگر در نشریات مختلف فعالیت کردم و در حال حاضر، به عنوان دبیر بخش فناوریهای نو در یک مجله معتبر تکنولوژی مشغول به کار هستم. تلاش من این است که آخرین اخبار و پیشرفتهای دنیای فناوری را به زبانی ساده و کاربردی برای مخاطبان ارائه دهم.
