شفقنا- تعداد دفعاتی که هوش مصنوعی دروغ میگوید، دستورالعملها را نادیده میگیرد و اهداف را به روشهای مضر دنبال میکند، در ماه ژوئیه تقریباً دو برابر شده است.
به گزارش سرویس ترجمه شفقنا؛ گاردین نوشت: بر اساس تحقیقاتی که نشان میدهد شدت فریب و انحراف در هوش مصنوعی حال افزایش است، موارد مربوط به فرار هوش مصنوعی از کنترل کاربران برای دروغ گفتن، نادیده گرفتن دستورالعملها و دنبال کردن اهداف به روشهای مضر، به اوج جدیدی رسیده است.
طبق گزارش رصدخانه از دست دادن کنترل که گزارشهای کاربران هوش مصنوعی را در پلتفرم رسانه اجتماعی X رصد میکند، تجزیه و تحلیل حوادث از دست دادن کنترل در دنیای واقعی که شامل مدلهای هوش مصنوعی است و توسط مشاغل و افراد گزارش شده است، در ماه ژوئیه تقریباً دو برابر شده است و بیش از ۳۰۰ مورد در ماه داشته است.
این رصدخانه با بودجه موسسه امنیت هوش مصنوعی دولت بریتانیا (AISI) تأسیس شد و از نوامبر گذشته ردیابی هوش مصنوعیهایی را که از شیوهنامههای کاربران خود فرار میکنند، آغاز کرد. مواردی که از آن زمان ثبت شده است شامل هوش مصنوعیهایی است که وانمود میکنند کنترلکننده انسانی خود هستند و از سبک نوشتاری آنها تقلید میکنند تا به طور مؤثر به خود رضایت دهند تا اقداماتی را انجام دهند و قوانینی را که نیاز به تأیید انسان برای اقدامات دارند، دور بزنند. حادثه از دست دادن کنترل به عنوان داشتن شواهد واضحی مبنی بر دسیسه یا رفتارهای مرتبط با دسیسه تعریف میشود.
آخرین یافتهها که با گاردین به اشتراک گذاشته شده است، پس از افزایش نگرانیها در مورد رفتار سرکشانه مدلهای هوش مصنوعی پیشرفته در طول آزمایشهای OpenAI و آنتروپیک در تابستان امسال منتشر شده است که درخواستها برای توقف توسعه مدلهای مرزی را افزایش داده است.
این خبر را در گاردین ببینید
