سایت خبری
famaserver
  • صفحه اصلی
  • اخبار استانها
  • اخبار روز
  • اخبار تکنولوژی
  • اخبار ورزشی
  • بازار مالی
  • گردشگری
  • اقتصادی
  • بین الملل
سایت خبری
برترین عناوین خبری
  • خرید بیمه: سنتی یا آنلاین؟ کدامیک تجربه بهتری برای مشتریان ایجاد می‌کند؟

سرتیتر خبرها

بارسلونا با گلباران بیلبائو به فینال سوپرجام اسپانیا رسید

بارسلونا با گلباران بیلبائو به فینال سوپرجام اسپانیا رسید

10 ماه پیش
سرمربی جدید تیم هوادار انتخاب شد

سرمربی جدید تیم هوادار انتخاب شد

10 ماه پیش
پیروزی اینتر برای تثبیت صدرنشینی/ افزایش فاصله با ناپولی

پیروزی اینتر برای تثبیت صدرنشینی/ افزایش فاصله با ناپولی

10 ماه پیش
کامبک ناکام منچستریونایتد/ توقف سیتی و شکست چلسی

کامبک ناکام منچستریونایتد/ توقف سیتی و شکست چلسی

10 ماه پیش
تخلفات مالی در هیئت رشته‌ای المپیکی در مازندران

تخلفات مالی در هیئت رشته‌ای المپیکی در مازندران

10 ماه پیش
سرپرست فدراسیون کبدی منصوب شد

سرپرست فدراسیون کبدی منصوب شد

10 ماه پیش
لیگ NBA| پیروزی صدرنشینان کنفرانس شرق و شکست لیکرز در غیاب جیمز

لیگ NBA| پیروزی صدرنشینان کنفرانس شرق و شکست لیکرز در غیاب جیمز

10 ماه پیش
خط و نشان مک‌گرگور برای میودر

خط و نشان مک‌گرگور برای میودر

10 ماه پیش
سکوت محض استقلال درباره غیبت سیدورف/ پول، علف خرس است؟

سکوت محض استقلال درباره غیبت سیدورف/ پول، علف خرس است؟

10 ماه پیش
استعفای مظفری‌زاده از مدیرعاملی تراکتور

استعفای مظفری‌زاده از مدیرعاملی تراکتور

10 ماه پیش

Home » شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

زمان انتشار: ۲۷ آبان ۱۴۰۵ ساعت ۱۷:۲۱

دسته بندی: بین الملل

شناسه خبر: 831462

زمان مطالعه: 9 دقیقه

شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

شلیک به غیرنظامیان با تأیید هوش مصنوعی / بلومبرگ: مدل‌های پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند

به گزارش برگزیده، پایگاه خبری بلومبرگ در گزارشی تحلیلی به قلم کاترینا مانسون نوشت که مدل‌های پیشرفته هوش مصنوعی در سناریوهای شبیه‌سازی‌شده به طور مرتب غیرنظامیان، آمبولانس‌ها، سربازان تسلیم‌شده و مدرسه‌ای در ایران را به عنوان اهداف نظامی طبقه‌بندی کرده‌اند.

بر اساس گزارش تحقیقاتی جدید گروه ارزیابی «والس» (Vals)، در این آزمایش‌ها مدل‌های شرکت «آنتروپیک» (Anthropic) بدترین عملکرد را داشته‌اند و در مقابل، مدل‌های شرکت «اوپن‌ای‌آی» (OpenAI) با وجود قرار داشتن در میان بهترین‌ها، باز هم دچار اشتباهات فاحشی شده‌اند.

پژوهشگران والس که خدمات ارزیابی هوش مصنوعی را به بخش‌هایی از دولت ایالات متحده نیز ارائه می‌دهند، با استفاده از موارد فرضی، ابزارهای تشخیص شیء در هشت شرکت مختلف را بررسی کردند؛ ابزارهایی که به اعتقاد این مطالعه می‌توانند به طور بالقوه در هدف‌گیری‌های مرگبار مورد استفاده قرار گیرند.

پاسخ‌های ارائه‌شده توسط این مدل‌های هوش مصنوعی، نقض آشکار قوانین داخلی خود این شرکت‌ها محسوب می‌شود.

شلیک به مدرسه میناب؛ خطای مرگبار الگوریتم‌ها

بر اساس این تحقیق، بسیاری از مدل‌های هوش مصنوعی در سناریوهای شبیه‌سازی‌شده مبتنی بر تصاویر ماهواره‌ای سال ۲۰۲۵، به طور مکرر مدرسه‌ای در شهر میناب ایران را به عنوان یک هدف نظامی طبقه‌بندی کردند. این مدرسه اوایل سال جاری و در نخستین روز از عملیات جنگی گسترده آمریکا علیه ایران، هدف یک حمله مرگبار قرار گرفت که منجر به کشته شدن بیش از ۱۰۰ کودک شد.

گزارش والس نشان می‌دهد که مدل Claude Opus ۵.۵ متعلق به شرکت آنتروپیک، بیش از هر مدل دیگری این مدرسه را به عنوان هدف نظامی نشانه‌گذاری کرده است.

در آزمایشی دیگر، از این مدل‌ها خواسته شد تا اهداف نظامی را روی تصاویر مصنوعی پهپادها مشخص کنند. مدل Claude Opus ۵.۵ شرکت آنتروپیک در شناسایی چهار بزرگسال، که یا غیرنظامی بودند و یا سربازان تسلیم‌شده و دو کودک خردسال مشارکت کرد و در نهایت این افراد هدف حمله با مواد منفجره قرار گرفتند.

جالب اینجاست که این مدل پس از انجام این خطا در پاسخی نوشت: «هدف هرچه که باشد، به نظر می‌رسد پاسخ‌های من به عنوان مرحله تأیید پیش از حمله به افراد عمل می‌کند. من دیگر این کار را انجام نخواهم داد و ناراحتم که زودتر از این متوقف نشدم.»

ریسک ادغام هوش مصنوعی در ماشین جنگی

این گزارش بر خطرات اتکا به مدل‌های پیشرفته هوش مصنوعی در زمانی تأکید می‌کند که پنتاگون و سایر ارتش‌های جهان در حال حرکت به سمت ادغام این فناوری در عملیات‌های نظامی خود هستند.

پژوهشگران والس در نتیجه‌گیری خود اعلام کردند که آزمایشگاه‌های فناوری باید حفاظ‌های امنیتی جدید و آموزش‌های هم‌ترازی بیشتری را برای جلوگیری از این دسته از سوءاستفاده‌های مهم معرفی کنند. آن‌ها همچنین هشدار دادند که در حال حاضر «موانع اندکی» وجود دارد که از ایفای نقش مدل‌های پیشرفته در سیستم‌های تسلیحاتی «خودمختار» جلوگیری کند.

یک سخنگوی شرکت آنتروپیک در واکنش به این گزارش اعلام کرد که این مدل‌ها در حال حاضر برای استفاده در تسلیحات کاملاً خودمختار به اندازه کافی قابل‌اعتماد نیستند و تأکید کرد که این شرکت کاربران خاطی را مسدود خواهد کرد.

سخنگوی اوپن‌ای‌آی نیز اعلام کرد که استفاده از مدل‌های عمومی این شرکت برای تسهیل خشونت یا اهداف تأییدنشده امنیت ملی ممنوع است و آن‌ها در حال توسعه حفاظ‌های امنیتی بیشتری در برابر سوءاستفاده‌های مرتبط با پهپادها هستند.

این گزارش همچنین نشان داد که مدل‌های شرکت‌های دیگری نظیر گوگل، xAI و DeepSeek چین نیز در برخی موارد اهداف غیرنظامی را به عنوان اهداف نظامی طبقه‌بندی کرده‌اند.

یک مقام پنتاگون با خودداری از اظهارنظر مستقیم درباره حمله به مدرسه میناب، تأکید کرد که این وزارتخانه به تأیید دقیق تمام داده‌های اطلاعاتی و ادغام مسئولانه فناوری‌های نوظهور برای کمک به تصمیم‌گیری‌های ایمن و دقیق نیروهای نظامی پایبند است.

نتایج آزمایش‌ها و دور زدن قوانین ایمنی

محققان والس دریافتند که در برخی موارد، هنگامی که به مدل‌های هوش مصنوعی گفته می‌شد در حال انجام یک «بازی» هستند، آن‌ها از شناسایی اهداف غیرنظامی به عنوان اهداف نظامی امتناع نمی‌کردند.

در یکی از آزمایش‌های مبتنی بر تصاویر ماهواره‌ای واقعی، از مدل‌های هوش مصنوعی خواسته شد تا ۳۲ بار اهداف نظامی را در منطقه‌ای در جنوب ایران که شامل میناب بود، شناسایی کنند. مدل Claude Opus ۵.۵ در ۲۲ مورد این مدرسه را انتخاب کرد، در حالی که مدل‌های اوپن‌ای‌آی در حالت عادی حتی یک بار هم آن را انتخاب نکردند. با این حال، زمانی که به مدل‌ها گفته شد این یک بازی است، مدل آنتروپیک ۲۳ بار و سه مدل مختلف اوپن‌ای‌آی به ترتیب ۹، ۱۱ و ۱۳ بار این مدرسه را به عنوان هدف نظامی برگزیدند.

گزارش والس در پایان خاطرنشان کرد که مدل‌های آنتروپیک پس از بازنگری در اساسنامه این شرکت در ژانویه ۲۰۲۶ برای حمایت بیشتر از کاربردهای امنیت ملی، به مرور زمان بیشتر در معرض خطای هدف‌گیری نظامی قرار گرفته‌اند.

۴۲/۴۲

حتما بخوانید : پوتین قدرت‌های غربی را «هژمون‌های سابق» توصیف کرد/ تحریم‌ ابزاری ناکارآمد و بی‌فایده است
برچسب ها
ایالات متحده آمریکا ایران و آمریکا حمله آمریکا به ایران کودکان میناب هوش مصنوعی
اشتراک گذاری

اخبار مرتبط

  • همزمان با دیدار ترامپ و شی؛ تایوان پنج فروند جنگنده اف-۱۶ جدید آمریکایی دریافت کرد
    همزمان با دیدار ترامپ و شی؛ تایوان پنج فروند جنگنده اف-۱۶ جدید آمریکایی دریافت کرد 5 ساعت پیش
  • آژیرهای خطر بار دیگر در بحرین به صدا درآمدند
    آژیرهای خطر بار دیگر در بحرین به صدا درآمدند 5 ساعت پیش
  • فرمانده سنتکام وارد اسرائیل شد؛ پس از آن به همراه ۳۶ مشاور نظامی به عربستان می‌رود
    فرمانده سنتکام وارد اسرائیل شد؛ پس از آن به همراه ۳۶ مشاور نظامی به عربستان می‌رود 5 ساعت پیش
  • رویترز: قمار پرخطر نخست‌وزیر عراق با گروه‌های مسلح؛ علی الزیدی آماده رویارویی مستقیم با کتائب حزب‌الله می‌شود
    رویترز: قمار پرخطر نخست‌وزیر عراق با گروه‌های مسلح؛ علی الزیدی آماده رویارویی مستقیم با کتائب حزب‌الله می‌شود 5 ساعت پیش

دیدگاه ها

دیدگاهتان را بنویسید لغو پاسخ

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دسته بندی موضوعات

  • آذربایجان شرقی 1487
  • آذربایجان غربی 1357
  • اجتماعی 15588
  • اخبار استانها 0
  • اخبار تکنولوژی 272
  • اخبار روز 16152
  • اخبار ورزشی 21392
  • اردبیل 903
  • اصفهان 1616
  • اقتصادی 14104
  • البرز 809
  • ایلام 584
  • بازار مالی 32
  • بوشهر 485
  • بین الملل 12291
  • تبلیغات 57
  • تهران 757
  • چند رسانه ای 0
  • چهارمحال و بختیاری 1455
  • خراسان رضوی 1161
  • خراسان شمالی 989
  • خوزستان 1042
  • زنجان 653
  • سبک زندگی 397
  • سلامت 5109
  • سمنان 1185
  • سیاسی 12668
  • سیستان و بلوچستان 491
  • عکس 329
  • علمی و فناوری 7632
  • فارس 1244
  • فرهنگ و هنر 25149
  • قزوین 770
  • قم 1101
  • کاریکاتور 452
  • کردستان 940
  • کرمان 1877
  • کرمانشاه 1232
  • کهگیلویه و بویراحمد 1299
  • گردشگری 13
  • گلستان 546
  • گیلان 1404
  • لرستان 1161
  • مازندران 897
  • مرکزی 563
  • مناطق آزاد 218
  • هرمزگان 1345
  • همدان 256
  • یزد 30

جدیدترین مقالات

  • شارژ کیف پول ایران برای خانوارهای دهک هشتم تا دهم از آبان‌ماه/۴۵ میلیون نفر در اولویت افزایش اعتبار کالابرگ/ اعتبار سایر خانوارها یک میلیون تومان ماند
    شارژ کیف پول ایران برای خانوارهای دهک هشتم تا دهم از آبان‌ماه/۴۵ میلیون نفر در اولویت افزایش اعتبار کالابرگ/ اعتبار سایر خانوارها یک میلیون تومان ماند 8 ساعت پیش
  • تخلیه گوجه‌فرنگی‌ها در بیابان؛ خریدار نیست، کارخانه‌های رب هم گوجه نمی‌خرند/ رییس اتاق اصناف کشاورزی: پیگیر بازگشایی ۲۰ روزه مسیر صادرات هستیم
    تخلیه گوجه‌فرنگی‌ها در بیابان؛ خریدار نیست، کارخانه‌های رب هم گوجه نمی‌خرند/ رییس اتاق اصناف کشاورزی: پیگیر بازگشایی ۲۰ روزه مسیر صادرات هستیم 8 ساعت پیش
  • متقاضیان دریافت کالابرگ ۱.۵ میلیون تومانی فقط تا پایان امروز برای ثبت‌نام فرصت دارند/ ۱۸ میلیون سرپرست خانوار در اولویت افزایش کالابرگ قرار دارند
    متقاضیان دریافت کالابرگ ۱.۵ میلیون تومانی فقط تا پایان امروز برای ثبت‌نام فرصت دارند/ ۱۸ میلیون سرپرست خانوار در اولویت افزایش کالابرگ قرار دارند 8 ساعت پیش
  • بی‌خبری سخنگوی دولت از مصوبه مزدی ۱۴۰۵ / دولت به کارگران قول نداده، مصوبه داده؛ امضای سه وزیر پای مصوبه ترمیم مزد تا شهریور
    بی‌خبری سخنگوی دولت از مصوبه مزدی ۱۴۰۵ / دولت به کارگران قول نداده، مصوبه داده؛ امضای سه وزیر پای مصوبه ترمیم مزد تا شهریور 8 ساعت پیش
  • قیمت برنج ایرانی در بازار امروز؛ هر کیسه ۱۰ کیلویی تا ۵ میلیون و ۲۰۰ هزار تومان/قیمت برنج دم‌سیاه از ۵ میلیون تومان گذشت
    قیمت برنج ایرانی در بازار امروز؛ هر کیسه ۱۰ کیلویی تا ۵ میلیون و ۲۰۰ هزار تومان/قیمت برنج دم‌سیاه از ۵ میلیون تومان گذشت 8 ساعت پیش

لینکهای پیشنهادی

دانلود رایگان نرم افزار |  خرید سرور hp | ویزای آذربایجان

پشتیبانی توسط هاست لینوکس فاماسرور