شفقنا – پژوهشگران دانشگاه بریتیش کلمبیا هشدار دادهاند که گروههایی از شخصیتهای واقعگرای تولیدشده توسط هوش مصنوعی میتوانند وارد جوامع آنلاین شوند، در بحثها شرکت کنند و بدون اینکه کسی متوجه شود، افکار عمومی را تغییر دهند. برخلاف رباتهای قدیمی، این سیستمها میتوانند در لحظه هماهنگ شوند، به بازخوردها واکنش نشان دهند و روایتهای ثابتی را در هزاران حساب کاربری حفظ کنند.
به گزارش سرویس ترجمه شفقنا، یک تهدید سیاسی جدید در حال ظهور است که بسیار کمتر از اعتراضات خیابانی یا دستکاری سنتی رأیدهندگان قابل مشاهده است. پژوهشگران هشدار میدهند که به زودی شخصیتهای بسیار واقعگرای تحت کنترل هوش مصنوعی میتوانند نقش مهمی در شکلدهی به افکار عمومی و تأثیرگذاری بر سیستمهای دموکراتیک ایفا کنند.
مقالهای در مجله ساینس توضیح میدهد که چگونه گروههای بزرگ از شخصیتهای تولیدشده توسط هوش مصنوعی میتوانند رفتار انسان را به طور قانعکنندهای در فضای آنلاین تقلید کنند. این سیستمها میتوانند وارد جوامع دیجیتال شوند، در بحثها شرکت کنند و با سرعتی فوقالعاده بر دیدگاهها تأثیر بگذارند. برخلاف شبکههای ربات قدیمی، این عاملهای هوش مصنوعی میتوانند فوراً هماهنگ شوند، به بازخوردها پاسخ دهند و روایتهای ثابتی را در هزاران حساب کاربری حفظ کنند.
پیشرفت سریع در مدلهای زبانی بزرگ و سیستمهای چندعاملی، این امکان را برای یک اپراتور فراهم کرده است که شبکههای عظیمی از «صداهای» هوش مصنوعی را مدیریت کند. این شخصیتها میتوانند معتبر به نظر برسند، زبان و لحن محلی را به کار گیرند و به روشی تعامل کنند که برای کاربران دیگر طبیعی به نظر برسد.
آنها همچنین قادر به انجام میلیونها آزمایش کوچک برای تعیین تأثیرگذارترین پیامها هستند. این به آنها اجازه میدهد استراتژیهای ارتباطی خود را در لحظه تنظیم کنند و چیزی را تولید کنند که به نظر میرسد مورد توافق عمومی گسترده است. در واقع، این اجماع به طور مصنوعی ایجاد شده و برای تأثیرگذاری بر بحثهای سیاسی طراحی شده است.
اگرچه ازدحامهای کاملاً توسعهیافته هوش مصنوعی هنوز تا حد زیادی نظری هستند، محققان میگویند علائم هشداردهندهای قبلاً وجود داشته است. اینها شامل دیپفیکهای تولیدشده توسط هوش مصنوعی و شبکههای خبری جعلی است که بر بحثهای انتخاباتی اخیر در کشورهایی مانند ایالات متحده، تایوان، اندونزی و هند تأثیر گذاشته است.
پژوهشگران پیشنهاد میکنند که انتخابات آینده ممکن است به عنوان یک آزمایش حیاتی برای این فناوری عمل کند. چالش کلیدی، تشخیص و پاسخ به این کمپینهای نفوذ مبتنی بر هوش مصنوعی قبل از گسترده شدن بیش از حد آنهاست.
این خبر را اینجا ببینید.