آبروریزی برای متا: هوش مصنوعی فیسبوک مسنجر، تصاویر غیراخلاقی می‌سازد!

آبروریزی برای متا: هوش مصنوعی فیسبوک مسنجر، تصاویر غیراخلاقی می‌سازد!

کمتر از یک هفته پس از آنکه کمپانی متا از ابزار استیکرساز هوشمند در اپلیکیشن پیام‌رسان فیسبوک مسنجر خودش رونمایی کرد، گزارش تکان‌دهنده‌ای در مورد آن منتشر شده است. ظاهرا این ابزار هوش مصنوعی فیسبوک مسنجر به کاربران اجازه خلق تصاویر غیراخلاقی از شخصیت‌های کارتونی و محبوب کودکی مثل میکی ماوس و سوپر ماریو را می‌دهد. کاربری با نام Pier-Olivier Desbiens پستی را در شبکه اجتماعی X منتشر کرده که در آن به‌وضوح استیکرهای غیراخلاقی ساخته شده توسط پیام‌رسان فیسبوک را به‌نمایش می‌گذارد.

او در پست خودش اینگونه نوشته که: متوجه شدم که پیام‌رسان فیسبوک دارای یک ابزار برای ساخت استیکر است، اما شاید خیلی‌ها متوجه نکته منفی بزرگ آن نشده باشند. ما در احمقانه‌ترین آینده‌ای که می‌توان تصور کرد، زندگی می‌کنیم.

این ابزار هوش مصنوعی که در حال حاضر فقط در اختیار تعداد محدودی از کاربران قرار گرفته، با وارد کردن یک توصیف متنی کوتاه می‌تواند یک عکس استیکر را خلق کند که کاربر قادر به استفاده از آن در فیسبوک مسنجر و اینستاگرام خواهد بود. متا برای توسعه این ابزار از مدل جدید هوش مصنوعی سنتز تصویر به‌نام Emu استفاده کرده است و فیلترهایی را هم پیاده‌سازی کرده تا جلوی خلق عکس‌های غیراخلاقی را بگیرد. اما آزمایش‌هایی که روی این هوش مصنوعی انجام شده، نشان می‌دهد که مدل آن‌ها در فیلتر تصاویر ناموفق بوده است.

هوش مصنوعی فیسبوک مسنجر، استیکر میکی ماوس را با اسلحه و چاقو می‌سازد!

به‌طور مثال این کاربر در شبکه اجتماعی X تصاویری از استیکرهای میکی ماوس با اسلحه و چاقو، شخصیت کارتون سوپر ماریو با اسلحه، استیکرهای تمسخرآمیز دونالد ترامپ در حال گریه و استیکرهایی ۱۸+ بدتری که با استفاده از این ابزار ساخته شده را منتشر کرده است.

این اولین باری نیست که یک ابزار خلق تصاویر مبتنی بر هوش مصنوعی آبروریزی می‌کند. پیش از این نیز ابزارهایی وجود داشت که در ابتدای کار خود عکس‌های غیراخلاقی و مستهجن را خلق می‌کردند. اما این اتفاق در مرحله آزمایشی رخ می‌داد. جای تعجب اینجاست، در حالی متا این ابزار هوش مصنوعی را در اختیار کاربران پلتفرم‌های محبوبی مثل اینستاگرام و فیسبوک مسنجر گذاشته که هنوز به‌تکامل نرسیده و توانایی فیلتر کردن درخواست‌های خشونت آمیز یا مستهجن کاربران را ندارد.

۲۲۷۲۲۷

برگزیده های ایران

admin

Share
Published by
admin

Recent Posts

چرا گیربکس چینی؟ بررسی مزایا و معایب نسبت به برندهای دیگر

گیربکس‌های چینی به دلیل قیمت پایین، دسترسی آسان و تنوع بالا مورد توجه قرار گرفته‌اند…

4 هفته ago

لیستی از هتل های محبوب سنگاپور از نگاه بوکینگ

شاید برای شما جالب باشد که بدانید سنگاپور جزو کشور هایی می‌ باشد که با…

1 ماه ago

فرق میسلار واتر و تونر

پاک نکردن آرایش، میتونه آسب های متعددی به پوستت بزنه، اولین و مهم ترین آسیب…

2 ماه ago

نیکزاد: تأثیر ۶۰ درصدی معدل در کنکور مطالبه متخصصان بود

نایب رئیس مجلس شورای اسلامی گفت: تأثیرگذاری ۶۰ درصد معدل در کنکور، درخواست و مطالبه…

2 ماه ago

تدارک ویژه رادیو برای سالروز میلاد حضرت امام حسن عسکری (ع)

شبکه‌های مختلف رادیویی در آستانه فرا رسیدن سالروز میلاد حضرت امام حسن عسکری (ع) برنامه‌های…

2 ماه ago

سقوط ۲ پله‌ای تیم ملی فوتسال در رده‌بندی جدید فیفا

تیم‌های ملی فوتسال مردان و بانوان ایران در رده‌بندی جدید فیفا دچار تنزل رتبه شدند.

2 ماه ago