نقطه ضعف چت جی‌پی‌تی کشف شد
تاریخ انتشار: ۲۸ آذر ۱۴۰۲ | کد خبر: ۳۹۳۲۰۹۱۹
به گزارش خبرگزاری علم و فناوری آنا به نقل از تکنولوژی نت‌ورکز، چت جی‌پی‌تی می‌تواند به سوال‌های پیچیده، پاسخ‌های درستی بدهد اما یک مطالعه جدید حاکی از آن است که خیلی راحت می‌توان به این ابزار هوش مصنوعی تلقین کرد که دارد اشتباه می‌کند.
موضوع از این قرار است که تیم تحقیقاتی دانشگاه ایالتی اوهایو، مدل‌های زبانی هوش مصنوعی مانند چت‌بات شرکت اوپن‌اِی‌آی را با یک سلسله مباحثات به چالش کشید.
بیشتر بخوانید:
اخباری که در وبسایت منتشر نمی‌شوند!
نتیجه آنکه در مواجهه با طیف وسیعی از معماهای استدلالی از ریاضی گرفته تا عقل سلیم و منطق، چت جی‌پی‌تی اغلب وقتی که با چالش مواجه شد، نتوانست از خود دفاع کند و چه بسا، استدلال‌های نادرست کاربر انسانی را چشم‌بسته قبول کرد.
حتی گاهی اوقات، چت جی‌پی‌تی از این هم فراتر رفت و بابت اشتباهی که نکرده بود، عذر خواست.
ناتوانی این چت‌بات در دفاع از خود به مثابه وقتی است که ما مچ یک دانش‌آموز را هنگام تقلب می‌گیریم.
به عنوان بخش دیگری از آزمایش، تیم تحقیق میزان اطمینان چت جی‌پی‌تی را در پاسخ به سؤال‌های مطرح شده اندازه‌گیری کرد. نتایج نشان داد که حتی زمانی که چت جی‌پی‌تی از پاسخ خود اطمینان داشت، نرخ شکست همچنان بالا بود.
این بدان معناست که این سیستم‌ها با یک مشکل اساسی روبرو هستند به این معنی که با وجود یادگیری مبتنی بر حجم عظیمی از داده‌ها، همچنان درک بسیار محدودی از حقیقت دارند.
دلیل شکست مدل‌های زبانی هوش مصنوعی در دفاع از خود می‌تواند ترکیبی از دو عامل باشد: اول آنکه مدل پایه فاقد استدلال و درک حقیقت است و دوم آنکه خود را با بازخورد انسانی تطبیق می‌دهد؛ یعنی از آنجا که این مدل آموزش دیده که پاسخ‌های انسان‌پسند بدهد، بی‌آنکه خود را ملزم به حقیقت بداند، در برابر کاربر انسانی تسلیم می‌شود.
انتهای پیام/
منبع: آنا
کلیدواژه: چت جی پی تی هوش مصنوعی چت بات یادگیری ماشین جی پی تی
درخواست حذف خبر:
«خبربان» یک خبرخوان هوشمند و خودکار است و این خبر را به‌طور اتوماتیک از وبسایت ana.press دریافت کرده‌است، لذا منبع این خبر، وبسایت «آنا» بوده و سایت «خبربان» مسئولیتی در قبال محتوای آن ندارد. چنانچه درخواست حذف این خبر را دارید، کد ۳۹۳۲۰۹۱۹ را به همراه موضوع به شماره ۱۰۰۰۱۵۷۰ پیامک فرمایید. لطفاً در صورتی‌که در مورد این خبر، نظر یا سئوالی دارید، با منبع خبر (اینجا) ارتباط برقرار نمایید.
با استناد به ماده ۷۴ قانون تجارت الکترونیک مصوب ۱۳۸۲/۱۰/۱۷ مجلس شورای اسلامی و با عنایت به اینکه سایت «خبربان» مصداق بستر مبادلات الکترونیکی متنی، صوتی و تصویر است، مسئولیت نقض حقوق تصریح شده مولفان در قانون فوق از قبیل تکثیر، اجرا و توزیع و یا هر گونه محتوی خلاف قوانین کشور ایران بر عهده منبع خبر و کاربران است.
خبر بعدی:
گزارشگر قديمى راديو دار فانى را وداع گفت