به گزارش برگزیده، بررسیهای اخیر نشان دادهاند که چتباتهای هوش مصنوعی میتوانند مستعد توهمات شدید باشند و اخبار اشتباه را منتشر کنند.
به گزارش ایسنا به نقل از سایبرنیوز، چتبات هوش مصنوعی «داکداکگو»(DuckDuckGo) جدیدترین نمونه بارز این موضوع است که ادعا کرده «دونالد ترامپ» رئیس جمهور آمریکا در هفتم ژوئن بر اثر هاری از دنیا رفته است.
زنجیره وقایع پیرامون این مرگ توهمآلود ادامه داشتهاند و ظاهراً داکداکگو اعلام کرده که «جیدی ونس»(JD Vance) معاون رئیسجمهور هم به هاری مبتلا شده و کمی پیش از ترامپ درگذشته است.
توهم چتباتهای هوش مصنوعی موضوع جدیدی نیست و این مشکلات روزانه رخ میدهند و نیاز به بررسی محتوا و تأیید منبع توسط کاربر نهایی را افزایش میدهند.
اخیرا موارد توهم بسیار بزرگتری نیز رخ دادهاند. پژوهشگران شرکت تشخیص هوش مصنوعی «جیپیتیزیرو»(GPTZero) پدیدهای به نام «استنادهای ارتعاشی» را افشا کردند که در آن شرکتهای بزرگی مانند «ارنست و یانگ»(Ernst & Young)، مقالههای پژوهشی بزرگی با خطاهای آشکار هوش مصنوعی را منتشر میکردند. در این مورد، دو چتبات هوش مصنوعی «چتجیپیتی»(ChatGPT) و «کلود»(Claude) تا حد زیادی مقصر بودند.
در ماه مه، هوش مصنوعی «گراک»(Grok) در پاسخی بسیار استعاری، مرگ را با پروانهای که پیلهاش را ترک میکند، مقایسه کرد. این رمانتیکسازی، بخشی از یک پژوهش درباره روانپریشی هوش مصنوعی بود که اغراق و سوگیری احتمالی در چتباتها را بهویژه پس از گفتوگوهای طولانی آشکار کرد.
در یک مورد دیگر، گوگل مجبور شد میزان طنزی را که هوش مصنوعیاش تولید میکرد، محدود کند. این هوش مصنوعی در سال ۲۰۲۴ ادعای جعلی یک زمینشناس را منتشر کرد که رژیم غذایی یک سنگ در روز را توصیه میکرد.
310310
