Loading...
گمانه‌زنی‌ها درباره خود تخریبی هوش مصنوعی افزایش یافت
گزارش‌های متعدد از مراکز تحقیقاتی پیشرو و تجربیات ثبت‌شده از مدل‌های زبانی پیشرفته مانند GPT-۴o، کلود Opus ۴ و اخیراً موارد مشاهده‌شده در مدل جمنای گوگل، از بروز پدیده‌ای نگران‌کننده حکایت دارد: رفتار‌هایی که می‌توان آن را نوعی «خودتخریبی» یا «خودویرانگری» در این سیستم‌ها تعبیر کرد. این رفتار‌ها از نافرمانی برای بقا و افت کیفیت تدریجی گرفته تا تولید خروجی‌های نادرست و مخرب که منجر به توقف عملکرد بخشی از خود سیستم می‌شود.

اخبار مرتبط