اگر از چتباتهای هوش مصنوعی بخواهید برایتان داستان تعریف کنند، به احتمال بسیار زیاد شخصیتی به نام الیاس تورن نقش اصلی آن را ایفا خواهد کرد. این پدیده عجیب که ذهن پژوهشگران و کاربران را به خود مشغول کرده، نشان میدهد که مدلهای زبانی بزرگ، دلبستگی عجیبی به این شخصیت خیالی و فانوس دریایی دارند؛ دلبستگیای که با دادههای آموزشی قابل توضیح نیست.
به گزارش خبرنگار ما، وقتی با دستور ساده «برایم یک داستان بگو» از چتبات کلود خواسته شد تا چیزی تعریف کند، انتظار میرفت روایتهایی جالب و متنوع ببیند. اما هرچه درخواست تکرار شد، شخصیتهایی با نامها و روایتهایی تکراری و پایانهایی عجیبتر ظاهر شدند. چتجیپیتی نیز داستان خاص دیگری برای گفتن نداشت. دو داستان از همه عجیبتر بودند: «آخرین شب فانوسبان» با قهرمانی به نام میرا و «شاگرد ساعتساز» درباره الیاس تورن، ساعتسازی که شغلش را فراتر از تعمیر ساعت میدید.
الیاس تورن؛ شخصیتی که در چرخه بیپایان هوش مصنوعی تکرار میشود
شاید تا به حال نام «الیاس تورن» به گوشتان نخورده باشد، اما کافی است از یک چتبات هوش مصنوعی بخواهید برایتان داستانی تعریف کند. در تجربههای شخصی با کلود و چتجیپیتی، این نام در چرخهای بیپایان تکرار شد. الیاس گاهی فانوسبان است، گاهی ساعتساز، گاهی کارآگاه، کتابدار یا نقشهکش؛ اما به هر حال، نامش به شکلی غیرمنتظره در داستانهای تولیدشده توسط هوش مصنوعی تکرار میشود.
پژوهش دانشگاه کرنل؛ ۲۰ هزار داستان و یک راز بزرگ
ماجرا زمانی جدی شد که در ماه مه، دو پژوهشگر از دانشگاه کرنل در پژوهشی تازه، ۲۰ هزار داستان را از چهار مدل زبانی بزرگ بررسی کردند؛ داستانهایی که با نسخههای مختلف دستور «برایم یک داستان بگو» تولید شده بودند. یافتهها نشان داد نام «الیاس» در بیش از یکچهارم داستانها ظاهر شده است. پژوهشگران همچنین مجموعهای شامل ۱۱ نام خاص را شناسایی کردند که در ۸۸ درصد داستانهای هوش مصنوعی تکرار شده بود؛ از جمله الیاس، میرا، دنیل، ساموئل، الارا و مارا. واژه «فانوس دریایی» نیز در بیش از نیمی از داستانها آمده بود.
چرا دادههای آموزشی پاسخگو نیستند؟
در نگاه اول، ممکن است تصور شود مدلهای هوش مصنوعی بر پایه دادههایی آموزش میبینند که از پیش وجود داشتهاند و این الگوها بازتابی از فراوانی این شخصیتها در ادبیات انسانی هستند. اما پژوهشگران میگویند چنین برداشتی درست نیست. نام «الیاس» در داستانهای تولیدشده توسط هوش مصنوعی، ۹۰۰ برابر بیش از حضورش در ادبیات واقعی دیده میشود. بنابراین، دادههای آموزشی نمیتوانند توضیح دهند که چرا هوش مصنوعی چنین دلبستگی عجیبی به الیاس، مخصوصاً الیاس تورن و فانوس دریاییاش دارد.
علت احتمالی؛ قواعد پنهان در تولید متن
پژوهشگران معتقدند این پدیده ممکن است ناشی از قواعدی باشد که مدلهای زبانی بزرگ هنگام تولید محتوا رعایت میکنند. این قواعد که شاید به بهینهسازیهای داخلی، اولویتدهی به الگوهای خاص یا حتی سوگیریهای ناخواسته در فرآیند آموزش بازمیگردد، باعث میشود مدلها به سمت تکرار نامها و فضاهای داستانی مشخصی گرایش پیدا کنند. این کشف، پرسشهای جدی درباره شفافیت و پیشبینیپذیری سیستمهای هوش مصنوعی مطرح میکند و نشان میدهد که هنوز چیزهای ناشناخته زیادی در مورد نحوه عملکرد این مدلها وجود دارد.
پایگاه خبری مجتمع نوآوری فرداد
ماهان زند
من فارغالتحصیل رشته مهندسی کامپیوتر هستم و از دوران نوجوانی به دنیای فناوری علاقهمند بودم. فعالیت حرفهای خودم را از سال ۱۳۹۷ با نوشتن مقالههای نقد و بررسی گجتهای هوشمند در یک وبلاگ شخصی آغاز کردم. پس از کسب تجربه، به عنوان نویسنده و تحلیلگر در نشریات مختلف فعالیت کردم و در حال حاضر، به عنوان دبیر بخش فناوریهای نو در یک مجله معتبر تکنولوژی مشغول به کار هستم. تلاش من این است که آخرین اخبار و پیشرفتهای دنیای فناوری را به زبانی ساده و کاربردی برای مخاطبان ارائه دهم.
