راهی برای از بین بردن کامل توهم در هوش مصنوعی وجود ندارد

تحقیق جدید شرکت اوپن‌ای‌آی نشان می‌دهد که تولید اطلاعات قابل قبول اما نادرست توسط مدل‌های هوش مصنوعی، پدیده‌ای موسوم به «توهم»، ریشه در رویه‌های استاندارد آموزش و ارزیابی دارد که به طور ناخواسته، حدس زدن را به جای اذعان به عدم قطعیت، تشویق می‌کند. این چالش بنیادین حتی در مدل‌های پیشرفته نیز باقی مانده است، زیرا معیارهای فعلی، دقت را در اولویت قرار می‌دهند و سیستم‌ها را ترغیب می‌کنند تا حتی زمانی که پاسخ را نمی‌دانند، جوابی ارائه دهند.