• ترند خبری :
سه‌شنبه ۲۹ مهر ۱۴۰۴ | TUE 21 Oct 2025
رساینه
  • تاریخ انتشار:1404-05-2110:10:02
  • دسته‌بندی:سایر
  • خبرگزاری:آنا
  • بازدید:14

گمانه‌زنی‌ها درباره خود تخریبی هوش مصنوعی افزایش یافت


گزارش‌های متعدد از مراکز تحقیقاتی پیشرو و تجربیات ثبت‌شده از مدل‌های زبانی پیشرفته مانند GPT-۴o، کلود Opus ۴ و اخیراً موارد مشاهده‌شده در مدل جمنای گوگل، از بروز پدیده‌ای نگران‌کننده حکایت دارد: رفتار‌هایی که می‌توان آن را نوعی «خودتخریبی» یا «خودویرانگری» در این سیستم‌ها تعبیر کرد. این رفتار‌ها از نافرمانی برای بقا و افت کیفیت تدریجی گرفته تا تولید خروجی‌های نادرست و مخرب که منجر به توقف عملکرد بخشی از خود سیستم می‌شود.