شلیک به غیرنظامیان با تأیید هوش مصنوعی/ مدلهای پیشرفته در تشخیص اهداف نظامی در ایران ناکام ماندند
کاترینا مانسون در بلومبرگ نوشت: بر اساس یک گزارش تحقیقاتی مستقل، مدلهای پیشرفته هوش مصنوعی در سناریوهای شبیهسازیشده، به طور مکرر غیرنظامیان، آمبولانسها، سربازان تسلیمشده و یک مدرسه در ایران را به عنوان اهداف نظامی اشتباه تشخیص دادهاند. این تحقیقات که توسط گروه ارزیابی «والس» (Vals) انجام شده، نشان میدهد که با وجود قوانین سختگیرانه شرکتهای فناوری نظیر آنتروپیک و اوپنایآی، مدلهای تجاری هنوز برای استفاده در سیستمهای تسلیحاتی خودمختار و تصمیمگیریهای مرگبار در میدان جنگ به اندازه کافی ایمن و قابلاعتماد نیستند. محققان والس دریافتند که در برخی موارد، هنگامی که به مدلهای هوش مصنوعی گفته میشد در حال انجام یک «بازی» هستند، آنها از شناسایی اهداف غیرنظامی به عنوان اهداف نظامی امتناع نمیکردند. مدلهای آنتروپیک پس از بازنگری در اساسنامه این شرکت در ژانویه ۲۰۲۶ برای حمایت بیشتر از کاربردهای امنیت ملی، به مرور زمان بیشتر در معرض خطای هدفگیری نظامی قرار گرفتهاند. این گزارش را در لینک زیر بخوانید: khabaronline.ir/xqBvB