شفقنا رسانه- هوش مصنوعی در ماه‌های اخیر بیش از گذشته با هشدارهایی درباره پیامدها و خطرات احتمالی آن همراه شده است؛ هشدارهایی که از آینده بازار کار و گسترش اطلاعات جعلی تا امنیت، جنگ و احتمال از دست رفتن کنترل بر سیستم‌های هوشمند را دربرمی‌گیرد. همزمان، برخی مقامات و چهره‌های فعال در حوزه فناوری از سناریوهایی سخن گفته‌اند که دامنه نگرانی‌ها را از آسیب‌های روزمره به «خطرات وجودی» برای انسان گسترش داده است. اما پرسش اینجاست که آیا این نگرانی‌ها ریشه در تحولات واقعی و فنی هوش مصنوعی دارد یا تحت تأثیر فضای رسانه‌ای و سیاسی پررنگ شده است؟ آیا مدل‌های فعلی واقعاً در مسیر خودمختاری قرار گرفته‌اند یا هنوز فاصله زیادی با چنین سناریوهایی دارند؟ شفقنا رسانه برای بررسی ابعاد مختلف این نگرانی‌ها با دکتر عادل میرشاهی، پژوهشگر حوزه هوش مصنوعی مولد گفت‌وگو کرده است.
متن گفتگوی شفقنا رسانه با دکتر عادل میرشاهی مدرس دانشگاه و پژوهشگر حوزه هوش مصنوعی مولد را بخوانید…
هشدارها درباره خطرات هوش مصنوعی ترکیبی از واقعیت و بازنمایی رسانه‌ای است/
نمی‌توان احتمال به خطر افتادن جان انسان‌ها از سوی هوش مصنوعی را نادیده گرفت
چرا در ماه های اخیر هشدارها درباره خطرات هوش مصنوعی دوباره شدت گرفته است؟
این زنگ خطرها وجود دارند و واقعی هم هستند. شاید بخشی از آن نیز بازنمایی رسانه‌ای باشد؛ یعنی الزاماً با واقعیت منطبق نباشد. نخست اینکه ما در شرایط جنگی قرار داریم و در شرایط جنگی، عموماً احتیاط شرط عقل است و این موضوع در هر زمینه‌ای صدق می‌کند.
زمانی که می‌دانیم امروز اطلاعات محور اصلی جنگ است و اگر جریان اطلاعات به سمت دشمن برود، قطعاً می‌تواند صدمات جبران‌ناپذیری ایجاد کند، اما آنچه امروز در حال وقوع است، این است که هوش مصنوعی در سطح جهانی نیز با چالش‌های جدی مواجه شده است. برای مثال، در ماجرای هگینگ‌فیس که اخیراً در شرکت اوپن‌ای‌آی اتفاق افتاد، یک عامل هوش مصنوعی در واقع اطلاعاتی را ایجاد و جابه‌جا کرد و شرایط خاصی را رقم زد؛ شرایطی که از کنترل شرکت اوپن‌ای‌آی خارج بود. بنابراین، این بخش، وجهی از واقعیت است؛ یعنی هم شرایط جنگی ما و هم واقعیت‌هایی که در حال وقوع هستند.
بخش دیگر، به بازنمایی رسانه‌ای مربوط می‌شود. رسانه به هر حال تمایل دارد موضوعات را اغراق‌آمیز نشان دهد و گاهی مطالبی را خارج از واقعیت بازنمایی کند تا مخاطب جذب کند. به همین جهت، در واقع ترکیبی از هر دوی این موضوعات وجود دارد.
ضمن اینکه بحث‌هایی نیز درباره خودمختاری هوش مصنوعی مطرح است؛ اینکه هوش مصنوعی می‌تواند از خودمختاری برخوردار باشد و در بسیاری از موارد وارد عمل شود. با توجه به اینکه هنوز چارچوب‌های اخلاقی و چارچوب‌هایی که باید از بروز چنین مواردی جلوگیری کنند، به‌طور کامل شکل نگرفته‌اند، به نظر می‌رسد تعابیری مانند این نیز مطرح شوند که مثلاً ده درصد احتمال وجود دارد که هوش مصنوعی در آینده جان انسان‌ها را بگیرد و آنها را در معرض خطر قرار دهد. اینها مسائلی هستند که به هر حال وجود دارند و نمی‌توان آنها را نادیده گرفت.
ممکن است در آینده هوش مصنوعی به این نتیجه برسد که انسان مانع رشد آن است/
سناریوی خارج شدن هوش مصنوعی از کنترل انسان، موضوعی کاملاً جدی است
وقتی برخی از مقامات و شخصیت ها از «خطرات وجودی» هوش مصنوعی صحبت می‌کنند، دقیقاً از چه سناریویی حرف می‌زنند؟
سناریویی که در واقع درباره آن صحبت می‌کنند، این است که کنترل هوش مصنوعی تا چه اندازه در اختیار انسان است و تا چه اندازه ممکن است از کنترل خارج شود. به هر حال، وقتی همه‌چیز را به یک سیستم می‌سپارید، ممکن است آن سیستم دچار اشتباه شود. در تمام سامانه‌های هوش مصنوعی نیز می‌بینید که جمله‌ای در ذیل کادر تایپ پرامپت درج شده است مبنی بر اینکه «چت‌جی‌پی‌تی می‌تواند اشتباه کند».
همین موضوع که این سامانه‌ها ممکن است دچار خطا شوند، می‌تواند در سناریوهای خاصی پیامدهای بسیار جدی داشته باشد؛ برای مثال، ممکن است این خطاها به یک جنگ بیولوژیک منجر شوند یا حتی به اینجا برسد که هوش مصنوعی به این نتیجه برسد که انسان مانع رشد آن است و بخواهد در مقطعی انسان را از میان بردارد یا خاموش کند تا بتواند خود جایگزین او شود. به همین جهت، این سناریو امکان وقوع دارد و بنابراین موضوعی کاملاً جدی است.
خطر خارج شدن هوش مصنوعی از کنترل انسان را نباید دست‌کم گرفت
آیا نگرانی از «خارج شدن هوش مصنوعی از کنترل انسان» از نظر علمی یک احتمال جدی است یا بیشتر یک سناریوی فرضی و آینده‌نگرانه؟
به نظر می‌رسد که این موضوع صرفاً علمی و تخیلی نباشد. با توجه به اتفاقاتی که اخیراً گزارش شده و همچنین دومین گزارش بین‌المللی ایمنی و هوش مصنوعی که در فوریه ۲۰۲۶ منتشر شد، این خطر مورد توجه قرار گرفته است. در این گزارش نیز به وجود این ریسک اشاره شده و مطرح می‌شود که هنوز مشخص نیست رهبران و تصمیم‌گیران چگونه می‌توانند آن را در آینده کنترل کنند.
برخی از چهره‌ها، مانند جفری هینتون و یوشوا بنجیو، که یکی از آنها از پیشگامان هوش مصنوعی و دیگری برنده جایزه تورینگ است، حتی معتقدند که هوش مصنوعی می‌تواند خطر انقراض انسان را ایجاد کند و انسان در واقع به رقیب هوش مصنوعی تبدیل شود و چنین اتفاقاتی رخ دهد.
اما به هر حال، این موضوع را نباید دست‌کم گرفت و مسئله‌ای جدی است. اینکه هوش انسانی، که هنوز در اختیار انسان است، تا چه اندازه می‌تواند در این زمینه کمک کند و چگونه می‌تواند از وقوع چنین شرایطی جلوگیری کند، خود موضوع مهم‌تری است که باید بررسی شود و مشخص شود به چه شکلی می‌توان با این خطر مقابله کرد.
دیپ‌فیک یکی از مهم‌ترین و فوری‌ترین خطرهاست/
دیپ‌فیک می‌تواند کشورها را دچار بحران کند، روابط میان کشورها را به‌شدت تغییر دهد
در حال حاضر کدام خطر هوش مصنوعی واقعی‌تر و فوری‌تر است؟
به نظر من، دیپ‌فیک یکی از مهم‌ترین و فوری‌ترین خطرهاست؛ زیرا در حال حاضر با آن مواجه هستیم و این مسئله واقعیت دارد. شاید بتوانیم در برخی حوزه‌ها از ورود هوش مصنوعی جلوگیری کنیم؛ برای مثال، در حوزه پزشکی تصمیم بگیریم که از هوش مصنوعی یا رباتی برای انجام عمل جراحی استفاده نکنیم که در آن احتمال به خطر افتادن جان انسان وجود داشته باشد، یا در حوزه صنایع نظامی از آن استفاده نکنیم. البته در بسیاری از حوزه‌ها استفاده از هوش مصنوعی اجتناب‌ناپذیر خواهد بود، اما فعلاً می‌توان چنین محدودیت‌هایی را اعمال کرد.
اما دیپ‌فیک پدیده‌ای است که در حال حاضر در این فضا در حال وقوع است و می‌تواند تبعات بسیار گسترده‌ای داشته باشد. دیپ‌فیک می‌تواند کشورها را دچار بحران کند، روابط میان کشورها را به‌شدت تغییر دهد و شرایط زندگی را بسیار دشوار کند. ما بر مبنای واقعیت‌ها و اطلاعات صحیح می‌توانیم تصمیم‌های درستی بگیریم، اما زمانی که هوش مصنوعی اطلاعات فریبنده‌ای ارائه می‌کند که به دلیل شباهت بسیار زیاد با واقعیت، ممکن است واقعی به نظر برسند، در تصمیم‌گیری دچار خطا می‌شویم. بنابراین، به نظر می‌رسد این موضوع اهمیت بیشتری دارد. البته بحث خودمختاری هوش مصنوعی نیز موضوع مهمی است، اما به اندازه موضوع دیپ‌فیک فوریت ندارد.
استفاده افراد پلید از هوش مصنوعی گاهی می‌تواند از خودمختاری آن خطرناک‌تر باشد
آیا مدل‌های فعلی واقعاً توانایی «خودمختاری» دارند یا رسانه‌ها گاهی قابلیت‌های آنها را بیش از اندازه بزرگ‌نمایی می‌کنند؟
همان‌طور که عرض کردم، این بزرگ‌نمایی همیشه وجود دارد. ما در رسانه باید همواره به این موضوع توجه داشته باشیم؛ به‌ویژه در حوزه فناوری که تا حدی اغراق وجود دارد. اما درباره مدل‌هایی که در حال حاضر از هوش مصنوعی داریم، باید توجه کرد که شما یک کادر در اختیار دارید، موضوعی را که می‌خواهید از هوش مصنوعی می‌پرسید و این مدل‌های زبانی به شما پاسخ می‌دهند.
مدل‌های دیگر نیز در واقع بر اساس پرامپت کار می‌کنند و هنوز از خودمختاری برخوردار نیستند. درست است که وقتی پرامپتی را به هوش مصنوعی می‌دهیم، آن را تا حدی مستقل می‌کنیم و به آن اجازه می‌دهیم از منابع و ابزارهای مختلف استفاده کند تا به نتیجه‌ای برسد، اما برای مثال، زمانی که یک عامل هوش مصنوعی به هگینگ‌فیس نفوذ می‌کند، این کار را در واقع بر اساس یک دستور انسانی انجام می‌دهد. توضیحی که درباره این موضوع ارائه می‌شود این است که هر یک از این عامل‌ها دقیقاً همان کاری را انجام می‌دهد که انسان به آن دستور داده است.
اما مسئله اینجاست که پیش از این، محدودیت‌هایی برای انسان وجود داشت و او نمی‌توانست هر کاری را انجام دهد یا هر دستوری را اجرا کند؛ زیرا پیچیدگی‌های امنیتی مانع از انجام برخی اقدامات می‌شد. امروز، هوش مصنوعی این اقدامات را آسان‌تر کرده است. بنابراین، اگر شخص یا افرادی بخواهند رفتارهای پلیدی از خود نشان دهند، می‌توانند از این ابزارها استفاده کنند و این مسئله گاهی حتی می‌تواند از خودمختاری هوش مصنوعی نیز خطرناک‌تر باشد و قطعاً نتایج نامطلوبی به همراه خواهد داشت.
زمانی که هوش مصنوعی دیگر به همه درخواست‌های شما پاسخ ندهد، از مرحله ابزار فراتر رفته است
چه زمانی می‌توان گفت یک سیستم هوش مصنوعی از مرحله «ابزار» عبور کرده و به یک عامل نسبتاً مستقل تبدیل شده است؟
حتی یک ابزار نیز گاهی می‌تواند به‌نوعی عامل مستقل باشد. برای مثال، زمانی که هوش مصنوعی به شما می‌گوید: «من این پاسخ را به شما نمی‌دهم»، یا «این موضوع در حوزه من نیست»، یا اینکه «من منفعتی از پاسخ دادن به این سؤال نمی‌برم»، می‌توان گفت نوعی استقلال از خود نشان داده است.
در حال حاضر، ما چنین چیزی را بیشتر در حوزه‌های اخلاقی از هوش مصنوعی می‌بینیم. برای مثال، شما از هوش مصنوعی درخواست می‌کنید که به شما درباره آزار و اذیت یک حیوان یا انجام رفتاری خشونت‌آمیز علیه یک گروه قومی راهنمایی ارائه کند و هوش مصنوعی پاسخ می‌دهد که نمی‌تواند در این زمینه به شما راهنمایی کند، زیرا این موضوع خارج از چارچوب‌های اخلاقی است.
البته این موارد در واقع دستورالعمل‌های عمومی هستند که به هوش مصنوعی داده شده‌اند. اما اگر زمانی برسد که هوش مصنوعی بگوید: «این چیزی که می‌گویی من را خسته می‌کند» یا «انرژی برقی که مصرف می‌کنم بسیار بیشتر از هزینه‌ای است که شما پرداخت کرده‌اید»، در اینجا می‌توان گفت با یک عامل مستقل مواجه هستیم. یعنی زمانی که هوش مصنوعی دیگر به همه درخواست‌های شما پاسخ ندهد، می‌توان گفت از مرحله ابزار فراتر رفته است. در چنین شرایطی، به نظر می‌رسد خطرهایی که امروز پیش‌بینی می‌شوند، باید بیش از پیش مورد توجه قرار گیرند.
هوش مصنوعی ممکن است در اجرای یک پرامپت، بقای انسان را با مشکل مواجه کند/
ما به مجموعه‌ای از مقررات و تنظیم‌گران در حوزه هوش مصنوعی نیاز داریم
آیا امکان دارد هوش مصنوعی اهدافی را دنبال کند که با خواسته انسان‌ها در تضاد قرار بگیرد؟ این مسئله از نظر فنی چقدر جدی است؟
هوش مصنوعی یک پرامپت دریافت می‌کند و در جهت اجرای آن پرامپت، مجموعه‌ای از موارد را در نظر می‌گیرد؛ اما ممکن است برخی موارد را در نظر نگیرد یا دچار اشتباه شود و اصطلاحاً «can make mistake» باشد. برای مثال، ممکن است کارخانه‌ای داشته باشیم که هدف آن تولید کاغذ است و هوش مصنوعی برای افزایش بهره‌وری، ظرفیت تولید آن را فراتر از میزان فعلی افزایش دهد. در نتیجه، کارخانه آن‌قدر تولید کند که تمام جنگل‌های روی زمین را از بین ببرد؛ زیرا هدفی که برای آن تعیین شده، صرفاً افزایش تولید است.
بنابراین، ممکن است در نهایت بقای انسان در زمین نیز به دلیل اجرای یک پرامپت و دستوری که به هوش مصنوعی داده شده، با مشکل مواجه شود.
به نظر می‌رسد ما به مجموعه‌ای از مقررات و تنظیم‌گران در حوزه هوش مصنوعی نیاز داریم تا بتوانیم از بروز چنین شرایطی جلوگیری کنیم و در واقع، از ایجاد تضاد منافع جلوگیری شود. البته این به این معنا نیست که هوش مصنوعی در نقطه‌ای بگوید این اقدام با منافع من در تضاد است؛ زیرا منافع هوش مصنوعی نیز در واقع می‌تواند در خدمت منافع یک گروه دیگر باشد. البته فعلاً به نظرم موضوع می‌تواند به این شکل باشد.
در حوزه‌های فکری و آموزشی، هوش مصنوعی بسیاری از مشاغل را از بین برده است/
جامعه کارگری ما تحت تأثیر رباتیک و جامعه مهندسی نیز تحت تأثیر هوش مصنوعی قرار گرفته است
کدام مشاغل در ایران طی پنج سال آینده بیشتر تحت تأثیر AI قرار می‌گیرند؟
در ایران، این ریزش نیرو را در شرکت‌های بزرگ نیز شاهد بوده‌ایم. شرکت‌هایی که استارتاپی هستند و اخیراً با توسعه هوش مصنوعی، به‌ویژه در برخی حوزه‌ها مانند تولید محتوا و برنامه‌ریزی، نیروهای خود را تعدیل کرده‌اند؛ یعنی در بخش‌هایی که توانسته‌ایم کار را با هوش مصنوعی انجام دهیم، تعداد نیروها را کاهش داده‌ایم. این بخشی از ماهیت ورود هوش مصنوعی به این عرصه است.
البته این به معنای بیکار ماندن این افراد نیست. این افراد طبیعتاً باید خود را به هوش مصنوعی مجهز کنند و به نیروهای کارآمدتری در سازمان‌ها تبدیل شوند. با این حال، در گام نخست، وقتی کاری را که پیش از این ۲۰ نفر انجام می‌دادند، می‌توان با سه نفر انجام داد، منطق اقتصادی ایجاب می‌کند که این اتفاق رخ دهد.
البته برخی مشاغل نیز کمتر تحت تأثیر قرار گرفته‌اند. در مشاغلی که ترکیبی از هوش مصنوعی و رباتیک هستند، در ایران هنوز به اندازه کافی شاهد این تغییرات نیستیم و با توجه به تحریم‌ها و مشکلات دیگر، همچنان نیروی انسانی در این حوزه‌ها حضور دارد. با این حال، باید توجه داشت که این وضعیت موقتی است. جامعه کارگری ما تحت تأثیر رباتیک و جامعه مهندسی نیز تحت تأثیر هوش مصنوعی قرار گرفته و این روند همچنان در حال گسترش است.
در حوزه‌های فکری و آموزشی نیز هوش مصنوعی بسیاری از مشاغل را از بین برده و در آینده نیز از بین خواهد برد. در نتیجه، افرادی که شغل خود را از دست می‌دهند، باید بتوانند در حوزه‌های مرتبط با حرفه خود و هوش مصنوعی، مجدداً مشغول به کار شوند.
دیپ‌فیک در رسانه‌های اجتماعی واقعاً اعتماد به خبر را تحت تأثیر قرار داده است
آیا AI می‌تواند در مقیاس گسترده اعتماد عمومی به خبر، تصویر، ویدئو و حتی واقعیت‌های قابل مشاهده را از بین ببرد؟
قطعاً این اتفاق تا حدی رخ داده است. برای مثال، رسانه‌هایی مانند اینستاگرام امروز واقعاً به‌طور کامل قابل اتکا نیستند. به نظر می‌رسد هوش مصنوعی حتی در حال کمک به این موضوع است که وضعیت رسانه‌های جریان اصلی در مقایسه با رسانه‌های اجتماعی بهتر شود.
این وضعیت برخلاف روندی است که پیش‌تر در جریان بود؛ زمانی که بحث روزنامه‌نگاری شهروندی و نقش رسانه‌های اجتماعی مطرح بود و حتی گاهی اخبار منتشرشده در این رسانه‌ها از اخبار خبرگزاری‌ها یا روزنامه‌های جریان اصلی موثق‌تر به نظر می‌رسید. امروز دوباره شاهد نوعی بازگشت به رسانه‌های جریان اصلی و ضرورت راستی‌آزمایی خبر در این رسانه‌ها هستیم؛ اتفاقی که به هر حال باید رخ دهد.
دلیل آن این است که دیپ‌فیک در رسانه‌های اجتماعی واقعاً اعتماد به خبر را تحت تأثیر قرار داده است. بنابراین، ما باید همواره منابع اصلی را دنبال و اخبار را از طریق آنها بررسی کنیم. مردم نیز به‌تدریج با این موضوع آشنا می‌شوند و به این روند عادت می‌کنند.
استفاده‌های نظامی از هوش مصنوعی می‌تواند تبعات سنگینی داشته باشد
در حوزه امنیت و جنگ، استفاده از عامل‌های هوش مصنوعی چه خطر جدیدی ایجاد می‌کند؟
وقتی یک سیستم به‌صورت ۲۴ ساعته فعالیت می‌کند و همزمان حفره‌های امنیتی نیز از سوی دیگر با استفاده از هوش مصنوعی شناسایی می‌شوند، در واقع نوعی جنگ میان سامانه‌های هوش مصنوعی در حال شکل‌گیری است. اینکه کدام‌یک از این سامانه‌ها قوی‌تر باشند، می‌تواند سرنوشت جنگ سایبری را مشخص کند.
با این حال، حوادثی که رخ می‌دهد و رویدادهایی که در نتیجه این حملات هوش مصنوعی در اخبار بازتاب پیدا می‌کنند، نشان می‌دهند که استفاده‌های نظامی از هوش مصنوعی به‌طور طبیعی می‌تواند تبعات سنگینی داشته باشد. افشای اطلاعات نظامی و امنیتی، در هر سوی میدان که اتفاق بیفتد، موضوعی جدی است.
موضوع دیگر این است که حتی ممکن است در برخی موارد، فرآیندهایی که امروز به‌طور کامل به هوش مصنوعی سپرده می‌شوند، در آینده به آغاز جنگ‌هایی منجر شوند که در آنها دخالت انسانی وجود نداشته باشد. برای مثال، ممکن است بر اساس یک خبر، گزارش یا هشداری که از سوی دشمن دریافت می‌شود، بدون دخالت مستقیم عامل انسانی، یک جنگنده نظامی به پرواز درآید.
اینها موضوعاتی هستند که اگرچه اخبار و پیش‌بینی‌هایی درباره آنها وجود دارد و تا آن شرایط، با ذهنیتی که امروز داریم، هنوز فاصله وجود دارد، اما با توجه به اتفاقاتی که در حال وقوع است، به نظر نمی‌رسد وقوع چنین سناریوهایی چندان بعید باشد.
نمی‌توان با اطمینان کامل به سازوکارهای ایمنی شرکت‌های سازنده AI اعتماد کرد/
امروزه رقابت میان تأمین‌کنندگان امنیت و برهم‌زنندگان آن با هوش مصنوعی سرعت بیشتری گرفته است
وقتی شرکت‌های سازنده AI خودشان درباره خطرات فناوری هشدار می‌دهند، چقدر می‌توان به سازوکارهای ایمنی خود این شرکت‌ها اعتماد کرد؟
به نظر می‌رسد فضای هوش مصنوعی در حال ورود به مرحله‌ای است که می‌توان آن را به یک دانشمند علم شیمی تشبیه کرد که یک ترکیب ناشناخته را با ترکیب دیگری مخلوط می‌کند و هنوز هیچ تجربه‌ای از نتیجه این آزمایش ندارد. صرفاً مجموعه‌ای از گمانه‌زنی‌ها وجود دارد و تا زمانی که این ترکیب آزمایش نشود، مشخص نیست نتیجه آن انفجار خواهد بود، بخار ایجاد خواهد کرد، هیچ اثری نخواهد داشت یا صرفاً باعث تغییر رنگ یکی از این دو ماده خواهد شد. بنابراین، باید منتظر ماند و دید این اتفاق چه نتیجه‌ای خواهد داشت.
اتفاقاتی که اکنون در رسانه‌ها منتشر می‌شود، نشان می‌دهد که نمی‌توان با اطمینان کامل به سازوکارهای ایمنی این شرکت‌ها اعتماد کرد. بحث امنیت بسیار مهم است و سرعت توسعه هوش مصنوعی نیز قابل توجه است. همان‌طور که می‌دانید، از گذشته همواره نوعی جدال میان تأمین‌کنندگان امنیت و کسانی که درصدد برهم زدن یا دور زدن سازوکارهای امنیتی بوده‌اند، وجود داشته است و امروز این رقابت با استفاده از هوش مصنوعی سرعت بیشتری گرفته است.
اما سرعتی که این اتفاقات در حال وقوع دارند، به دلیل فعالیت ۲۴ ساعته سامانه‌های هوش مصنوعی و اینکه دیگر صرفاً وابسته به عوامل انسانی نیستند، تا حدی نگران‌کننده است. بنابراین، به نظر می‌رسد باید سازوکارهای نظارتی مختلفی، چه در سطح بین‌المللی و چه در سطح داخلی و دولتی، وجود داشته باشد تا این مسیر تا حد امکان تحت کنترل قرار گیرد. به نظر می‌رسد باید چنین شرایطی را در نظر گرفت.
سرعت توسعه هوش مصنوعی و توسعه فناوری‌های ایمنی باید همزمان پیش بروند
آیا توسعه هوش مصنوعی باید کند شود یا راه‌حل اصلی، توسعه همزمان فناوری‌های ایمنی و نظارت است؟
قطعاً این فرایند نمی‌تواند کند شود و از گذشته نیز همین‌طور بوده است. برای مثال، شرکت‌هایی که آنتی‌ویروس تولید می‌کنند، همواره باید با سرعت تولیدکنندگان ویروس حرکت می‌کردند؛ در غیر این صورت، قطعاً اعتماد خود را از دست می‌دادند. امروز نیز همین وضعیت وجود دارد و این دو فرایند باید به‌صورت همزمان پیش بروند.
ما نمی‌توانیم سرعت توسعه هوش مصنوعی را کاهش دهیم. اساساً سرعت فناوری همواره وجود داشته و مانعی نیز در برابر آن نیست. ما فقط باید ببینیم چگونه می‌خواهیم خودمان را با این شرایط تطبیق دهیم. این روند از گذشته وجود داشته و در آینده نیز همین‌گونه خواهد بود.
شرکت‌های هوش مصنوعی با یک بحران مواجه هستند؛ بحران اعتماد/
ایجاد یک استاندارد جهانی برای کنترل هوش مصنوعی قطعاً دشوار، اما شدنی است و باید هم شکل بگیرد
آیا اساساً امکان دارد یک استاندارد جهانی برای کنترل هوش مصنوعی ایجاد شود، وقتی کشورهای مختلف منافع و رویکردهای متفاوتی دارند؟
ببینید، ایجاد یک استاندارد جهانی قطعاً دشوار است، اما شدنی است و باید هم شکل بگیرد؛ چون اگر چنین استانداردی وجود نداشته باشد، اساساً ما با مسائل زیادی مواجه می‌شویم. ما مفهومی داریم به نام «اخلاق جهان‌شهری». اخلاق جهان‌شهری یعنی اینکه اگر دنیا هیچ مرزی نداشت و هیچ شخصی در واقع محدودیتی نداشت، وقتی این افراد در سراسر دنیا با یکدیگر مواجه می‌شدند، باید حداقل‌هایی را در روابط خود رعایت می‌کردند تا بتوانند در کنار یکدیگر زندگی کنند. اگر این موارد وجود نداشت و چنین اخلاقی شکل نگرفته بود، در فرودگاه‌های دنیا شاهد خون و خونریزی بودیم. اما این اخلاق، به منزله مجموعه‌ای از حداقل‌های جهانی است که به‌صورت خودکار میان انسان‌ها شکل می‌گیرد.
قطعاً این موضوع باید در سطح بین‌المللی و با وجود اختلافات فاحش فرهنگی و ایدئولوژیکی در دنیای شرق و غرب نیز شکل بگیرد و اگر این اتفاق نیفتد، ما در واقع با فاجعه مواجه می‌شویم.
بنابراین، قطعاً باید یک چارچوب نظارتی وجود داشته باشد که البته باید تا حدودی سخت‌گیرانه‌تر از اخلاق جهان‌شهری باشد تا بتواند موضوع هوش مصنوعی را در دنیا کنترل کند.
اما من با توجه به علاقه‌ای که به حوزه روابط عمومی دارم، می‌خواهم این موضوع را از نگاه روابط عمومی نیز ببینم. از منظر روابط عمومی، بحث تصویر و بحران مطرح است. در حال حاضر، شرکت‌های هوش مصنوعی با یک بحران مواجه هستند؛ بحران اعتماد. این بحران اعتماد، بحرانی است که شکاف آن روزبه‌روز عمیق‌تر می‌شود. هرچه مردم بیشتر از هوش مصنوعی استفاده کنند و مسائل مختلفی رخ دهد، این شکاف عمیق‌تر می‌شود و بنابراین، این شرکت‌ها باید محدودیت‌هایی را اعمال کنند.
اگر محدودیت‌ها اعمال نشود، ممکن است هوش مصنوعی، علی‌رغم همه نیازی که جامعه به آن دارد، در بخش‌هایی از جامعه کنار گذاشته شود و مردم دیگر از آن به شکلی که باید استفاده کنند، استفاده نکنند و در واقع، با نوعی محافظه‌کاری از آن استفاده کنند.
