توافق با مرکز استانداردهای هوش مصنوعی و نوآوری (CAISI) برای ارزیابی امنیتی مدلها پیش از عرضه عمومی
تهران – گوگل، مایکروسافت و xAI (شرکت ایلان ماسک) توافقنامههایی را امضا کردهاند تا دسترسی زودهنگام به مدلهای هوش مصنوعی خود را در اختیار دولت فدرال آمریکا قرار دهند. بر اساس این قرارداد، سیستمهای هوش مصنوعی پیش از انتشار عمومی، از نظر جنبههای مختلف امنیتی و فنی ارزیابی میشوند.
ارزیابی امنیتی مدلهای هوش مصنوعی پیش از انتشار؛ گام جدید دولت ترامپ
به گزارش دیجیاتو، یک روز پس از انتشار گزارش نیویورک تایمز مبنی بر اینکه دولت ترامپ در حال بررسی تشدید نظارت بر صنعت هوش مصنوعی است، سه غول فناوری توافق کردند مدلهای خود را در اختیار «مرکز استانداردهای هوش مصنوعی و نوآوری» (CAISI) قرار دهند. این مرکز زیر نظر دولت آمریکا فعالیت میکند و وظیفه ارزیابی مدلهای هوش مصنوعی از نظر قابلیتها و ریسکهای مرتبط با امنیت ملی را بر عهده دارد.
«کریس فال» (Chris Fall) ، مدیر CAISI، در این رابطه گفت: «علم اندازهگیری مستقل و دقیق برای درک هوش مصنوعی پیشرو و پیامدهای آن بر امنیت ملی ضروری است. این همکاریهای گسترده با صنعت به ما کمک میکند تا فعالیتهای خود را در جهت منافع عمومی در این لحظه حساس گسترش دهیم.»
حفاظهای امنیتی کاهشیافته؛ شرط CAISI برای ارزیابی عمیق مدلها
بر اساس گزارشها، این قرارداد از گوگل، مایکروسافت و xAI میخواهد که مدلهای هوش مصنوعی خود را با «حفاظهای امنیتی کاهشیافته یا حتی غیرفعال» در اختیار CAISI قرار دهند. این اقدام به سازمان اجازه میدهد تا مدلها را بدون محدودیتهای معمول، از نظر قابلیتهای بالقوه خطرناک و ریسکهای مرتبط با امنیت ملی بررسی کند.
ارزیابیهای CAISI شامل موارد زیر خواهد بود:
- توانایی مدل در تولید محتوای مخرب یا گمراهکننده
- پتانسیل سوءاستفاده از مدل در سامانههای تسلیحاتی خودمختار
- خطرات ناشی از قابلیتهای جاسوسی و نفوذ به زیرساختهای حیاتی
- میزان انطباق مدل با استانداردهای امنیت ملی
از تقابل با آنتروپیک تا همکاری اجباری؛ استراتژی جدید دولت آمریکا
بررسی دقیقتر نشان میدهد که ریشه این فشارها را میتوان در تقابل پنتاگون با شرکت آنتروپیک (Anthropic) مشاهده کرد. آنتروپیک به دلیل پافشاری بر محدودیتهای امنیتی که مانع استفاده از هوش مصنوعی در سلاحهای خودمختار و جاسوسیهای گسترده میشد، با غضب دولت مواجه گردید و حتی به عنوان یک «خطر برای زنجیره تأمین» معرفی شد.
پیش از این، ترامپ با امضای فرمان اجرایی علیه آنچه «Woke AI» (هوش مصنوعی بیدار) مینامد، رسماً استفاده از سیستمهایی با گرایشهای ایدئولوژیک خاص را در بدنه دولت ممنوع کرد. در واقع، دولت با ایجاد یک آزمون ایدئولوژیک، شرکتها را بر سر دوراهی «تقابل یا همکاری» قرار داده است.
اگرچه در ظاهر به نظر میرسد ترامپ از سیاستهای آزادی اقتصادی خود در حوزه تکنولوژی عقبنشینی کرده، اما کارشناسان معتقدند او از همان ابتدا قصد داشته است استانداردهای حکومتی خود را بر این صنعت تحمیل کند. در این فضای جدید، غولهای فناوری نظیر گوگل، مایکروسافت و xAI ترجیح دادهاند با واگذاری دسترسی زودهنگام به مدلهایشان، از فشارهای بیشتر و برچسبهای امنیتی دولت در امان بمانند و به نوعی با سیاستهای جاری همراه شوند.
این توافقنامه نشاندهنده تغییر جدی در رویکرد دولت آمریکا به صنعت هوش مصنوعی است؛ رویکردی که نظارت پیشاز انتشار و کنترل دولتی بر مدلهای پیشرفته را جایگزین خودتنظیمی صنعت میکند.
پایگاه خبری مجتمع نوآوری فرداد
ماهان زند
من فارغالتحصیل رشته مهندسی کامپیوتر هستم و از دوران نوجوانی به دنیای فناوری علاقهمند بودم. فعالیت حرفهای خودم را از سال ۱۳۹۷ با نوشتن مقالههای نقد و بررسی گجتهای هوشمند در یک وبلاگ شخصی آغاز کردم. پس از کسب تجربه، به عنوان نویسنده و تحلیلگر در نشریات مختلف فعالیت کردم و در حال حاضر، به عنوان دبیر بخش فناوریهای نو در یک مجله معتبر تکنولوژی مشغول به کار هستم. تلاش من این است که آخرین اخبار و پیشرفتهای دنیای فناوری را به زبانی ساده و کاربردی برای مخاطبان ارائه دهم.
