شفقنا رسانه- هوش مصنوعی به‌سرعت در حال ورود به عرصه‌هایی است که تا همین چند سال پیش، تولید در آنها نیازمند سرمایه‌های سنگین، گروه‌های حرفه‌ای و زمان طولانی بود. صنعت فیلم و سریال نیز از این تحول مستثنی نیست. امروز می‌توان با کمک هوش مصنوعی شخصیت ساخت، تصویر تولید کرد، صدا خلق یا بازسازی کرد، موسیقی ساخت و حتی یک ایده اولیه را به روایت تصویری تبدیل کرد. یکی از نمودهای تازه این تحول، گسترش سریال‌ها و روایت‌های کوتاهی است که با کمک هوش مصنوعی تولید و عمدتاً در شبکه‌های اجتماعی منتشر می‌شوند؛ آثاری که برخی از آنها بازدیدهای میلیونی می‌گیرند و نشان می‌دهند این پدیده به یکی از روندهای قابل توجه فضای سرگرمی و رسانه های اجتماعی تبدیل شده است. در کنار فرصت‌هایی که این فناوری برای تولیدکنندگان مستقل و خلاق فراهم کرده، نگرانی‌های مهمی نیز وجود دارد. تولید سریع و کم‌هزینه محتوا، رقابت برای جلب توجه، قدرت الگوریتمها در توزیع محتوا، امکان شخصی‌سازی روایت و نبود استانداردهای روشن در بخشی از فضای شبکه‌های اجتماعی، پرسش‌های تازه‌ای را مطرح کرده است. آیا سریال‌های هوش مصنوعی می‌توانند ذائقه مخاطب را تغییر دهند؟ آیا رقابت برای گرفتن بازدید بیشتر، به تولید انبوه محتوای سطحی، مبتذل، خرافی و شبه‌علمی منجر می‌شود؟ مسئولیت پلتفرم‌ها در این میان چیست؟ مخاطب به چه سوادها و مهارت‌هایی نیاز دارد؟ و رسانه‌ها و سازمان‌های حرفه‌ای تولید فیلم و سریال چگونه باید خود را با مخاطبی تطبیق دهند که دیگر صرفاً یک تماشاگر منفعل نیست؟ دکتر مریم سلیمی، مدرس دانشگاه نسبت به سونامی فیلم و سریال های هوش مصنوعی و خطر تغییر ذائقه مخاطب هشدار می دهد و تاکید می کند: در چنین شرایطی، مسئله اصلی فقط تولید چنین محتوایی با هوش مصنوعی نیست، مسئله تلاش برای حفظ سلامت اکوسیستم تولید، توزیع و مصرف محتوا در عصر هوش مصنوعی است.
گفت‌وگوی شفقنا رسانه با مریم سلیمی، دکترای علوم ارتباطات، مدرس دانشگاه و مؤلف و مدرس در حوزه سوادهای نوین، از جمله سواد رسانه‌ای، سواد خبری، سواد بصری و سواد هوش مصنوعی را در ادامه می خوانید…
هزینه و زمان تولید روایت‌های تصویری تولیدشده با هوش مصنوعی به‌شدت کاهش پیدا کرده است
نباید روایت‌های تولیدشده با هوش مصنوعی را یک موج زودگذر دانست
این روزها سریال‌ها و روایت‌های کوتاه تولیدشده با هوش مصنوعی، به‌ویژه در رسانه های اجتماعی، بازدیدهای بالای میلیونی می‌گیرند. آیا باید این پدیده را جدی گرفت؟
بله، شاید امروز هنوز بسیاری از این آثار از نظر داستان، شخصیت‌پردازی و کیفیت هنری با تولیدات حرفه‌ای سینما و تلویزیون فاصله داشته باشند، اما نباید از این موضوع نتیجه بگیریم که با یک موج زودگذر روبه‌رو هستیم. اتفاق اصلی در جای دیگری رخ داده است؛ هزینه و زمان تولید روایت تصویری به‌شدت کاهش پیدا کرده است. تا چند سال پیش، ساخت فیلم یا سریال نیازمند سرمایه، بازیگر، گروه تولید، تجهیزات، لوکیشن و زمان قابل توجهی بود. امروز بخش‌هایی از این فرایند را می‌توان با کمک هوش مصنوعی انجام داد. این یعنی افراد یا گروه‌های کوچک نیز می‌توانند وارد حوزه‌ای شوند که پیش از این تا حد زیادی در اختیار استودیوها و سازمان‌های بزرگ بود. این تحول یک فرصت مهم است. ممکن است افرادی که ایده و استعداد دارند اما سرمایه و امکانات گسترده ندارند، بتوانند داستان خود را به تصویر بکشند. از این منظر، هوش مصنوعی می‌تواند تا حدی تولید محتوا را دموکراتیک‌تر کند.
اما روی دیگر ماجرا نیز اهمیت دارد. وقتی تولید محتوا آسان، سریع و ارزان می‌شود، حجم محتوا نیز می‌تواند به شکل انفجاری افزایش پیدا کند. در نتیجه ممکن است با موجی انفجاری از محتوا با کیفیت‌های بسیار متفاوت روبرو شویم؛ محتواهایی که بخشی از آنها از نظر هنری، روایی یا حرفه ای کیفیت مطلوبی ندارند.
در چنین شرایطی، پرسش اصلی فقط این نیست که چه کسی می‌تواند محتوا تولید کند؟ پرسش مهم‌تر این است: چه محتوایی با چه کیفیت، الگوریتم و سازوکاری بناست تولید، دیده و توزیع شود؟به‌نظر من، مسئله اصلی آینده فقط «دموکراتیک شدن تولید» نیست؛ بلکه «دموکراتیک شدن تولید در کنار مسئولیت‌پذیر شدن توزیع و مصرف محتوا» نیز هست.
بزرگ‌ترین خطر تولید روایت‌های تصویری تولیدشده با هوش مصنوعی، تغییر تدریجی ذائقه مخاطب است
به‌نظر شما مهم‌ترین خطر این روند چیست؟
به‌نظر من یکی از مهم‌ترین خطرها، تغییر تدریجی ذائقه مخاطب است. بخش قابل توجهی از محتوای کوتاه شبکه‌های اجتماعی برای ایجاد واکنش فوری طراحی می‌شود؛ شوک، ترس، راز، خشم، حسادت، هیجان، روابط جنجالی و پایان‌های معلق و… . این عناصر ذاتاً بد نیستند. داستان از ابتدا با احساس، هیجان و تعلیق سروکار داشته است. مسئله زمانی چالش آفرین می شود که همه اجزای روایت فقط به یک هدف؛ نگه داشتن مخاطب برای چند ثانیه یا چند دقیقه بیشتر تقلیل پیدا کنند. هوش مصنوعی این چرخه را سریع‌تر و گسترده‌تر می‌کند. یک تولیدکننده می‌تواند تعداد زیادی ایده و روایت را با هزینه پایین آزمایش کند، واکنش مخاطب را بسنجد و متوجه شود چه چیزی بیشتر دیده می‌شود.
فرض کنیم چندین روایت کوتاه تولید می‌شود. یکی بر ترس تکیه دارد، یکی بر روابط جنجالی، یکی بر خرافه و رازهای ماورایی و دیگری بر پایان‌های شوک‌آور. الگوریتم نشان می‌دهد کدام الگو بیشتر مخاطب را نگه داشته است. تولیدکننده نیز ممکن است به سمت تولید بیشتر از همان الگو حرکت کند. در نتیجه ممکن است با این چرخه روبه‌رو شویم: تولید سریع و ارزان، آزمایش گسترده، شناسایی محرک‌ترین الگوها، بازدید بیشتر، تکرار بیشتر، تغییر تدریجی ذائقه مخاطب.
اما خطر دیگری نیز در همین چرخه وجود دارد و آن یکسان‌سازی خلاقیت است. وقتی معیار اصلی موفقیت، داده‌های کوتاه‌مدت و نرخ نگه‌داشتن مخاطب باشد، ممکن است تولیدکنندگان به‌تدریج از تجربه کردن فاصله بگیرند و مدام به سمت فرمول‌هایی حرکت کنند که قبلاً موفق بوده‌اند. در این وضعیت، هوش مصنوعی می‌تواند هزاران نسخه از یک الگوی موفق تولید کند؛ همان نوع شخصیت، همان نوع شوک، همان تعلیق و همان پایان‌بندی. نمونه هایی از این الگو را می توان در برخی تولیدات هوش مصنوعی دید که با حفظ کاراکترهای نسبتاً ثابت، داستانها و موقعیتهای مشابه را بارها بازتولید می کنند.
این مسئله فقط یک خطر هنری نیست. در بلندمدت می‌تواند بر تنوع فرهنگی و تخیل جمعی نیز اثر بگذارد. ممکن است مخاطب به‌تدریج به روایت‌هایی عادت کند که در آنها هر چند ثانیه باید اتفاقی رخ دهد، هر قسمت باید با یک شوک تمام شود و هر لحظه محرکی تازه برای نگه داشتن او وجود داشته باشد. آن‌وقت فیلم یا سریالی که فرصت بیشتری برای شخصیت‌پردازی، گفت‌وگو، سکوت، تأمل و روایت تدریجی دارد، ممکن است برای بخشی از مخاطبان کند یا خسته‌کننده به نظر برسد. به‌نظر من باید میان اقتصاد توجه و سلامت توجه تفاوت قائل شویم. یک محتوا ممکن است از نظر الگوریتمی بسیار موفق باشد، اما این الزاماً به معنای موفقیت فرهنگی، انسانی یا هنری آن نیست.
پیامد خطر تلفظ نادرست واژه‌ها و ضعف در دیالوگ‌ها برای کودکان و دانش آموزان
در کنار خطراتی که از آن یاد کردم، یکی دیگر از مشکلاتی که در برخی سریال‌ها و محتواهای تولیدشده با هوش مصنوعی دیده می‌شود، تلفظ نادرست واژه‌ها و ضعف در دیالوگ‌هاست. گاهی هوش مصنوعی بعضی کلمات فارسی را اشتباه تلفظ می‌کند یا ساختار گفت‌وگوها و جمله‌ها غیرطبیعی است و همان محتوا نیز بدون هیچ‌گونه ویرایش و نظارت انسانی منتشر می‌شود. این مسئله، به‌ویژه اگر چنین محتواهایی برای کودکان و دانش‌آموزان، خصوصاً در دوره ابتدایی تولید یا در دسترس آنها قرار گیرد، دارای پیامدهایی است که فراتر از یک اشتباه فنی اثرگذار است.
سرعت تولید با هوش مصنوعی نباید به حذف مراحل حرفه‌ای منجر شود
به‌نظر من یکی دیگر از خطرهای بزرگ هوش مصنوعی در تولید محتوا این است که سرعت تولید، وسوسه حذف مراحل حرفه‌ای را ایجاد کند. یعنی تولیدکننده با خود بگوید هوش مصنوعی متن را نوشته، صدا را ساخته، تصویر را تولید کرده، پس محتوا آماده انتشار است. در حالی که اتفاقاً هرچه تولید با هوش مصنوعی سریع‌تر می‌شود، اهمیت بازبینی انسانی کمتر نمی‌شود؛ بلکه بیشتر می‌شود. چون مخاطب نهایی قرار نیست با فناوری تعامل کند. او با محصول نهایی مواجه می‌شود. اگر تلفظ اشتباه است، برای مخاطب تفاوتی ندارد که اشتباه را یک انسان ایجاد کرده یا ماشین. مسئولیت محصول منتشرشده با کسی است که تصمیم گرفته آن را منتشر کند.
کودک فقط داستان را دنبال نمی‌کند؛ او در حال شنیدن، تکرار کردن و یاد گرفتن است/
رسانه، به‌ویژه برای کودکان و نوجوانان، می‌تواند به یک محیط یادگیری غیررسمی تبدیل شود
به تکثیر سریع خطاهای زبانی اشاره کردید؛ این مسئله در عمل چگونه اتفاق می‌افتد؟ این خطر برای کودکان و نوجوانان تا چه اندازه جدی است؟
وقتی درباره فیلم، سریال و محتوای تصویری صحبت می‌کنیم، با یک ابزار صرفاً سرگرم‌کننده مواجه نیستیم. رسانه، به‌ویژه برای کودکان و نوجوانان، می‌تواند به یک محیط یادگیری غیررسمی تبدیل شود. کودک فقط داستان را دنبال نمی‌کند؛ او در حال شنیدن، تکرار کردن و یاد گرفتن است. واژه‌ها، تلفظ‌ها، لحن‌ها، ساختار جمله‌ها و حتی شیوه گفت‌وگو کردن شخصیت‌ها می‌توانند به بخشی از تجربه زبانی مخاطب تبدیل شوند. به همین دلیل، اگر هوش مصنوعی واژه‌ای را نادرست تلفظ کند یا جمله‌ای غیرطبیعی و نادرست بسازد و این محتوا بدون هیچ ویرایش انسانی منتشر شود، نباید آن را مسئله‌ای کم‌اهمیت دانست.
رسانه می‌تواند به معلم پنهان زبان برای کودکان تبدیل شود/
تکثیر سریع خطای زبانی، یکی از خطرهای تولید انبوه محتوای هوش مصنوعی است
به‌ویژه در سال‌های ابتدایی زندگی و آموزش، کودکان از محیط اطراف خود الگو می‌گیرند. آنها ممکن است واژه‌ای را بارها از زبان یک شخصیت محبوب بشنوند و همان تلفظ را به خاطر بسپارند. اگر یک شخصیت هوش مصنوعی جذاب، محبوب و پرتکرار یک واژه را نادرست تلفظ کند، احتمال دارد کودک همان الگو را تکرار کند. این مسئله درباره یک اشتباه منفرد شاید چندان نگران‌کننده نباشد، اما خطر اصلی زمانی شکل می‌گیرد که تولید انبوه محتوای بدون ویرایش، به تولید انبوه الگوهای زبانی نادرست منجر شود. به‌ویژه در فضای هوش مصنوعی، سرعت تولید بسیار بالاست. ممکن است یک اشتباه زبانی که در گذشته فقط در یک اثر محدود دیده می‌شد، امروز در مدت کوتاهی در ده‌ها یا صدها محتوای مشابه تکرار شود. بنابراین، ما با مسئله‌ای به نام تکثیر سریع خطای زبانی مواجه هستیم.
هوش مصنوعی جای ویراستار، گوینده و ناظر زبانی را نمی‌گیرد/
فرایند کنترل کیفیت را در تولید آثار به یاری هوش مصنوعی نباید حذف کرد
یکی از اشتباهات رایج این است که تصور کنیم اگر فناوری توانسته متن را تولید و آن را به صدا تبدیل کند، پس محصول نهایی آماده انتشار است. این تصور حرفه‌ای نیست. هوش مصنوعی ممکن است متن تولید کند، اما این به معنای آن نیست که متن از نظر دستور زبان، انتخاب واژه، طبیعی بودن گفت‌وگو، تناسب با سن مخاطب، لحن شخصیت، تلفظ درست، آهنگ و موسیقی کلام و انطباق با معیارهای زبان فارسی نیز بی‌نقص است. به همین دلیل، در تولید حرفه‌ای محتوا باید همچنان نقش‌هایی مانند؛ نویسنده، ویراستار، متخصص زبان و ادبیات فارسی، گوینده یا ناظر صوتی و ناظر محتوایی جدی گرفته شود. هوش مصنوعی می‌تواند ابزار کمکی باشد، اما نباید به این دلیل که تولید را سریع و ارزان کرده، فرایند کنترل کیفیت را حذف کنیم.
در تولید فیلم وسریال‌های ساخته شده با هوش مصنوعی برای کودکان، حساسیت باید بیشتر باشد
با کاهش سن مخاطب، مسئولیت تولیدکننده در کیفیت زبانی، محتوایی و اخلاقی بیشتر می‌شود
به‌نظر من این مسئله درباره محتوای کودک و نوجوان اهمیت بیشتری پیدا می‌کند. کودکی که هنوز در حال یادگیری زبان، واژه‌ها، تلفظ و ساختارهای گفتاری است، ممکن است توانایی تشخیص یک تلفظ درست از نادرست را نداشته باشد. بنابراین نمی‌توان انتظار داشت کودک نقش ویراستار یا کنترل‌کننده کیفیت محتوا را ایفا کند. مسئولیت باید بر عهده تولیدکننده، ناشر و پلتفرمی باشد که چنین محتواهایی را در اختیار کودک قرار می‌دهد.
در مورد محتوای کودک، باید یک اصل روشن داشته باشیم؛ هرچه مخاطب کم‌سن‌تر است، مسئولیت تولیدکننده برای کنترل کیفیت زبانی، محتوایی و اخلاقی بیشتر می‌شود. محتوایی که برای کودک تولید می‌شود یا احتمال دارد مخاطب کودک یا نوجوان داشته باشد، باید پیش از انتشار از نظر زبان، تلفظ، پیام، رده سنی و تناسب فرهنگی، سلامت زبان، طبیعی بودن دیالوگ ها، تناسب واژگان با گروه سنی، کیفیت صوتی بررسی و بازبینی انسانی شود.
زبان فقط مجموعه‌ای از واژه‌ها نیست. زبان حامل فرهنگ، تاریخ، حافظه و شیوه اندیشیدن یک جامعه نیز هست. وقتی درباره حفاظت از زبان فارسی در فضای هوش مصنوعی صحبت می‌کنیم، منظور این نیست که زبان را از تحول و نوآوری دور نگه داریم. زبان زنده است و تغییر می‌کند. اما میان تحول طبیعی زبان و رواج یافتن خطا به دلیل تولید انبوه محتوای بدون نظارت تفاوت وجود دارد.
اگر سرعت تولید محتوا باعث شود که تلفظ‌های نادرست، واژه‌گزینی‌های نامناسب، ساختارهای غیرطبیعی،گفت‌وگوهای مصنوعی و الگوهای زبانی ضعیف به‌طور گسترده وارد فضای رسانه‌ای شوند، ممکن است به‌تدریج کیفیت تجربه زبانی مخاطب را تحت تأثیر قرار دهند. در اینجا مسئله فقط «درست یا غلط گفتن یک کلمه» نیست. مسئله، سلامت محیط زبانی و فرهنگی مخاطب است.
یک استاندارد ضروری؛ کنترل کیفیت زبانی و صوتی در تولید ویدئوهای ساخته شده با هوش مصنوعی/
سریال تولید شده با هوش مصنوعی می‌تواند به زبان فارسی کمک کند یا به آن آسیب بزند
اگر بخواهیم از منظر حرفه‌ای به تولید فیلم و سریال با هوش مصنوعی نگاه کنیم، چه نوع نظارت و کنترل کیفی باید پیش از انتشار این آثار وجود داشته باشد؟
به‌نظر من در پروتکل‌های ساخت فیلم و سریال با هوش مصنوعی باید یک اصل مستقل با عنوانی مانند؛ کنترل کیفیت زبانی، ادبی و صوتی وجود داشته باشد. بر اساس این اصل، محتوای تولیدشده با هوش مصنوعی، به‌ویژه محتوای فارسی، باید پیش از انتشار از نظر صحت تلفظ واژه‌ها، سلامت دستور زبان، طبیعی بودن دیالوگ‌ها، انتخاب واژه متناسب با گروه سنی، تناسب لحن با شخصیت، کیفیت صدا، و رعایت معیارهای زبان فارسی بررسی شود. برای آثار کودک و نوجوان، این کنترل باید جدی‌تر و تخصصی‌تر باشد و در صورت لزوم از متخصصان زبان، ادبیات کودک، آموزش و گفتار نیز استفاده شود.
حقیقت این است که هوش مصنوعی ذاتاً نه دشمن زبان فارسی است و نه ناجی آن. همان فناوری می‌تواند به توسعه ابزارهای آموزش زبان، دسترس‌پذیری محتوا، تولید آثار فرهنگی و گسترش زبان فارسی کمک کند. اما اگر استفاده از آن غیرحرفه‌ای و بدون کنترل کیفیت باشد، می‌تواند به تولید و تکثیر انبوه خطاهای زبانی و گفتاری نیز منجر شود. تفاوت میان این دو مسیر را خود فناوری تعیین نمی‌کند. این کیفیت استفاده انسان از فناوری است که تعیین می‌کند هوش مصنوعی به ارتقای زبان و فرهنگ کمک کند یا به تضعیف کیفیت آنها. به‌نظر من، در آینده نزدیک، یکی از نشانه‌های حرفه‌ای بودن یک فیلم یا سریال هوش مصنوعی فقط کیفیت تصویر و جلوه‌های بصری آن نخواهد بود. باید ببینیم آیا زبان آن درست است؟ آیا دیالوگ‌های آن طبیعی و متناسب با مخاطب است؟آیا تلفظ‌ها کنترل شده‌اند؟ و مهم‌تر از همه آیا پیش از انتشار، انسانی مسئول، آگاه و متخصص، کیفیت آن را بررسی کرده است؟ زیرا ممکن است یک اثر از نظر تصویری بسیار پیشرفته باشد، اما اگر زبان و گفتار آن ضعیف و پرخطا باشد، نمی‌توان آن را اثری کاملاً حرفه‌ای و مسئولانه دانست.
پربازدید بودن، معادل ارزشمند بودن نیست
همیشه این مخاطب نیست که محتوا را انتخاب می‌کند؛ گاهی محتوا برای انتخاب شدن طراحی شده است
اما برخی معتقدند اگر مخاطب یک محتوا را انتخاب می‌کند، پس همان چیزی است که می‌خواهد. آیا نباید به انتخاب مخاطب احترام گذاشت؟
قطعاً باید به انتخاب مخاطب احترام گذاشت؛ اما نباید فراموش کنیم که مخاطب در خلأ انتخاب نمی‌کند. آنچه او می‌بیند، تحت تأثیر طراحی پلتفرم، الگوریتم پیشنهاددهنده، تاریخچه رفتار و شناختی است که سیستم از الگوی توجه او پیدا کرده است. بنابراین باید یک پرسش مهم مطرح شود: آیا مخاطب واقعاً این محتوا را انتخاب کرده یا محتوا با دقت برای انتخاب شدن طراحی شده است؟ این دو، همیشه یک چیز نیستند. وقتی می‌گوییم یک محتوا میلیون‌ها بازدید گرفته، فقط با قطعیت می‌توانیم بگوییم که توانسته توجه میلیون‌ها نفر را جلب کند. اما جلب توجه الزاماً با ارزش فرهنگی، کیفیت هنری یا تأثیر مثبت بر مخاطب یکسان نیست.
ممکن است یک محتوا از طریق ترس، خشم، تحریک یا کنجکاوی شدید مخاطب را نگه دارد. حتی ممکن است مخاطب از آن ناراضی باشد، اما همچنان به دیدن ادامه دهد. به همین دلیل، نباید «محبوبیت الگوریتمی» را با «ارزش فرهنگی» یکی بدانیم.
از طرفی باید نکته ای را یادآور شوم و آن اینکه تولیدکنندگان محتوا می توانند در نزول و ارتقای ذائقه مخاطب نقش داشته باشند. تولید آثار ارزشمند حتی به یاری هوش مصنوعی، می تواند در این مسیر اثرگذار باشد.
نمی‌توان آینده سریال‌های هوش مصنوعی را بدون توجه به نقش پلتفرم‌ها و الگوریتمها دید
مخاطب محتوایی را می‌بیند، واکنش نشان می‌دهد و از اینجا چرخه آغاز می شود
در این بحث معمولاً از تولیدکننده و مخاطب صحبت می‌شود. با این اوصاف نقش پلتفرم‌ها چیست؟
به‌نظر من نمی‌توان درباره سریال‌های هوش مصنوعی و آینده محتوا صحبت کرد، اما مسئولیت پلتفرم‌ها و الگوریتمها را نادیده گرفت. پلتفرم صرفاً یک ظرف خنثی برای قرار گرفتن محتوا نیست. الگوریتم در عمل بر میزان دیده شدن، پیشنهاد شدن و ورود محتوا به چرخه گسترده‌تر انتشار اثر می‌گذارد. البته این تصمیم‌گیری‌ها کاملاً مستقل از رفتار کاربران نیست، اما نکته اینجاست که میان رفتار مخاطب و الگوریتم، یک چرخه دوسویه وجود دارد.
مخاطب چیزی را می‌بیند، واکنش نشان می‌دهد و داده تولید می‌کند. الگوریتم از این داده برای پیشنهاد محتوای بیشتر استفاده می‌کند. مخاطب بیشتر از همان نوع محتوا می‌بیند و واکنش او نیز تقویت می‌شود. بنابراین ممکن است به چرخه محتوای هیجانی‌تر، واکنش بیشتر، توزیع بیشتر، تولید بیشتر از همان محتوا، عادت بیشتر مخاطب برسیم. در چنین شرایطی نمی‌توان همه مسئولیت را بر دوش مخاطب گذاشت و گفت «اگر دوست ندارد، نبیند». پلتفرم‌ها نیز باید در برابر نحوه طراحی سیستم‌های پیشنهاددهنده، حفاظت از کودکان، امکان کنترل محتوا و شفافیت درباره محتوای مصنوعی مسئولیت داشته باشند.
باید یکی از مطالبات مهم آینده از پلتفرم ها، شفافیت الگوریتمی باشد
یکی از مطالبات مهم آینده نیز می‌تواند شفافیت الگوریتمی باشد. مخاطب باید تا حد امکان بتواند بداند که چرا این محتوا به من پیشنهاد شده است؟ آیا به دلیل آنچه قبلاً دیده‌ام؟ به دلیل رفتار کاربران مشابه؟ به دلیل تبلیغ؟ یا به دلیل اینکه سیستم تشخیص داده احتمالاً زمان بیشتری را صرف تماشای آن خواهم کرد؟ شفافیت کامل درباره همه جزئیات فنی الگوریتمها شاید در عمل ممکن یا حتی مطلوب نباشد، اما حق مخاطب برای دریافت توضیحی قابل فهم درباره منطق کلی پیشنهاد محتوا، مسئله‌ای جدی و رو به افزایش است.
سلامت اکوسیستم سرگرمی زمانی شکل می‌گیرد که همه بازیگران مسئولانه عمل کنند/
هیچ حلقه‌ای به‌تنهایی نمی‌تواند سلامت اکوسیستم سرگرمی را تضمین کند/
نهادهای آموزشی، رسانه‌های عمومی و سیاست‌گذاران باید سوادهای نوین را جدی‌تر بگیرند
مسئله مهم در این میان، انتخاب آگاهانه است. مخاطب باید بتواند تشخیص دهد چه زمانی سرگرم می‌شود و چه زمانی صرفاً توجه او به شکل افراطی مدیریت می‌شود. وظیفه سیاست‌گذاران، نهادهای آموزشی و رسانه‌های عمومی نیز بسیار مهم است. اگر جامعه می‌خواهد برای آینده رسانه آماده شود، نمی‌تواند فقط منتظر بماند تا فناوری جلو برود و بعد به فکر آموزش یا تنظیم‌گری بیفتد.
به بیان ساده تر نهادهای آموزشی باید سوادهای نوین را جدی‌تر بگیرند. رسانه‌های عمومی باید درباره فناوری‌های جدید آموزش دهند. سیاست‌گذاران باید به جای واکنش‌های صرفاً محدودکننده یا صرفاً منفعلانه، به سمت تنظیم‌گری هوشمند و مبتنی بر حقوق انسان حرکت کنند. در واقع ما به یک نگاه زنجیره‌ای نیاز داریم. هیچ حلقه‌ای به‌تنهایی نمی‌تواند سلامت اکوسیستم سرگرمی را تضمین کند. این سلامت زمانی شکل می‌گیرد که همه بازیگران، فناوری را با رویکردی مسئولانه، اخلاق‌مدار و حرفه‌ای به کار بگیرند.
خطر هوش مصنوعی فقط تولید محتوای بد نیست؛ تولید انبوه محتوای ضعیف است
یکی از نگرانی‌ها، گسترش محتوای سطحی، مبتذل، خرافی و شبه‌علمی است. به نظر شما هوش مصنوعی این خطر را تشدید می‌کند؟
هوش مصنوعی ذاتاً خرافه‌ساز یا مبتذل نیست. همان‌طور که هیچ فناوری به‌تنهایی خوب یا بد نیست. اما ویژگی مهم هوش مصنوعی، مقیاس‌پذیری است. اگر یک روایت خرافی، جنجالی یا تحریک‌کننده بازدید بگیرد، تولیدکننده می‌تواند در مدت کوتاهی ده‌ها یا صدها نسخه از همان الگو را تولید کند. به‌نظر من نکته مهم اینجاست که خطر هوش مصنوعی فقط تولید محتوای بد نیست بلکه تولید انبوه محتوای ضعیف است. ممکن است پیش از این نیز محتوای سطحی یا خرافی وجود داشته باشد، اما تولید انبوه و سریع آن می‌تواند فضای فرهنگی را با حجم عظیمی از روایت‌های مشابه اشباع کند.
هرچند افراد حرفه‌ای، قادرند با بهره گیری از ظرفیت‌های هوش مصنوعی، آثار ارزشمند و فاخر تولید کنند ولی در یک نگاه عام و استفاده سطحی از هوش مصنوعی، نگرانی‌هایی تولید می کند که اکنون مبنای بحث ماست. در خصوص فیلم‌ها و سریال‌ها باید مرزی را بین خرافه و تخیل تعیین کنیم. یک فیلم یا سریال می‌تواند درباره افسانه‌ها، اسطوره‌ها، موجودات خیالی و جهان‌های فانتزی باشد. این بخش مهمی از هنر و ادبیات است. اما تفاوت وجود دارد میان «این یک داستان خیالی است» و «این ادعای غیرعلمی حقیقت دارد.» اولی می‌تواند تخیل و روایت باشد. دومی، اگر بدون شواهد و با هدف فریب مخاطب ارائه شود، می‌تواند به ترویج شبه‌علم و خرافه منجر شود. این مرز باید برای مخاطب، تولیدکننده و پلتفرم روشن باشد.
رده‌بندی سنی و برچسب‌گذاری محتوایی باید بخشی از مسئولیت تولیدکننده و پلتفرم باشد/
ظاهر کودکانه یک محتوا، به معنای مناسب بودن آن برای کودک نیست
به نظر می رسد که بسیاری از این محتواها رده‌بندی سنی مشخصی ندارند. این مسئله چقدر جدی است؟
به‌نظر من بسیار جدی است و یکی از خلأهای مهم امروز محسوب می‌شود. ممکن است یک ویدئو در ظاهر کارتونی، رنگارنگ و حتی کودکانه باشد، اما در ادامه شامل خشونت، وحشت، روابط نامناسب، مضامین بزرگسالانه یا محتوای خرافی باشد. کودک و حتی والدین ممکن است از روی ظاهر محتوا تصور کنند که با یک اثر مناسب کودک روبه‌رو هستند. در حالی که باید این اصل را که «ظاهر کودکانه یک محتوا، به معنای مناسب بودن آن برای کودک نیست» جدی بگیریم. رده‌بندی سنی باید بخشی از مسئولیت تولیدکننده و پلتفرم باشد.
برای نمونه، هر سریال یا روایت هوش مصنوعی می‌تواند دارای رده‌بندی‌هایی مانند: مناسب برای همه سنین، +۷، +۱۲، +۱۵، +۱۸باشد. اما فقط اعلام سن کافی نیست. مخاطب و خانواده باید بدانند علت این طبقه‌بندی چیست. بنابراین برچسب‌های محتوایی نیز ضروری هستند. از جمله: خشونت، ترس و وحشت، مضامین بزرگسالانه، زبان نامناسب، رفتارهای پرخطر، محتوای خرافی، ادعاهای شبه‌علمی، مضامین پیچیده روان‌شناختی و… .
به‌نظر من حفاظت از کودکان و نوجوانان باید دقیقاً با همین رده‌بندی سنی و برچسب‌گذاری پیوند بخورد. این برچسب‌ها نباید صرفاً به شکل یک نوشته کوچک و نمایشی باشند. باید به شکلی طراحی شوند که خود پلتفرم نیز بتواند آنها را در سیستم‌های پیشنهاددهنده و ابزارهای کنترل خانواده لحاظ کند. رده‌بندی سنی در واقع فقط محدودسازی نیست؛ بخشی از حق آگاهی و حق انتخاب آگاهانه مخاطب و همزمان بخشی از مسئولیت جمعی ما در حفاظت از کودکان است.
سوادها و مهارت های مورد نیاز برای مخاطب آینده
با این اوصاف نقش مخاطب در برابر اینگونه محتواها چیست؟ به عبارتی مخاطب آینده به چه سوادها و مهارت‌هایی نیاز دارد؟
برای مخاطب در شرایط امروز، داشتن سواد رسانه ای دیگر کافی نیست. مخاطب با محیطی روبه‌روست که در آن رسانه، تصویر، خبر، داده، الگوریتم و هوش مصنوعی به هم گره خورده‌اند. به همین دلیل، به مجموعه‌ای از سوادهای نوین از جمله سواد رسانه‌ای نیاز دارد. مخاطب باید بپرسد: این محتوا با چه هدفی ساخته شده است؟، صرفاً سرگرمی یا اهداف دیگری نیز دارد؟، چه کسی از دیده شدن آن سود می‌برد؟، چرا این روایت یا پایان‌بندی به این شکل طراحی شده است؟، این محتوا برای چه کسی ساخته شده است و مخاطب هدف آن کیست؟، انتظار چه واکنشی از مخاطب است؟، دنبال ترویج چه سبک زندگی است؟، چه ایدئولوژی، باور و نگاهی را القا می کند؟، چه کسی آن را تولید کرده و از چه تکنیک‌ها و تاکتیک‌هایی در آن بهره گرفته تا این سریال به این شکل تهیه و تولید شود؟ و… .
یا در بحث سواد خبری، باید بتواند میان خبر، روایت، داستان، شایعه، تبلیغ، ادعا، محتوای جعلی از واقعی و… تفاوت گذاشت. در حوزه سواد بصری، نیز درک این نکته اهمیت دارد که امروز «دیدن» الزاماً به معنای «واقعی بودن» نیست و تصویر و ویدئو دیگر همیشه سند واقعیت نیستند. نحوه تأکید بصری، اثرگذاری به یاری عناصر بصری، نحوه ادارک و فهم محتوا و قرائت یک اثر بصری در این حوزه مهم هستند. از دیگر سوادهای مورد نیاز در این حوزه، سواد هوش مصنوعی است.
فیلم و سریال فقط داستان تعریف نمی کنند؛ آنها در تولید و باز تولید معنا نیز نقش دارند
داشتن سواد الگوریتمی از دیگر بایدهای عصر حاضر است. مخاطب باید بتواند از خود بپرسد که چرا این محتوا به من نشان داده شده است؟ آیا انتخاب من بوده یا انتخاب الگوریتم؟ هر مکث، تماشا، کلیک و واکنش ما می‌تواند به سیستم اطلاعات بیشتری درباره علایق و نقاط حساس توجه ما بدهد. ما فقط محتوا مصرف نمی‌کنیم؛ همزمان داده نیز تولید می‌کنیم.
اما در بحث سواد روان‌شناختی محتوا، در این ارتباط مخاطب باید از خود بپرسد که چرا نمی‌توانم از این محتوا عبور کنم؟ آیا واقعاً به دلیل کیفیت داستان است یا به دلیل استفاده از ترس، شوک، راز، خشم، حسادت، اضطراب یا پایان معلق؟
از دیگر سوادها، سواد فرهنگی است. مخاطب باید بتواند میان لذت فوری و ارزش هنری تفاوت قائل شود. قرار نیست سرگرمی ساده را نفی کنیم. انسان حق دارد سرگرم شود. وقتی مخاطب دارای سواد فرهنگی است دیگر فقط نمی پرسد که این فیلم یا سریال سرگرم کننده بود یا نه؟ بلکه می پرسد، این اثر چه تصویری از انسان را ارائه می دهد؟ چه چیزی در این داستان طبیعی و عادی نشان داده شده است؟ چه نوع سبک زندگی در آن جذاب و مطلوب معرفی می شود؟ چه ارزش هایی تشویق و چه ارزش هایی تحقیر می شوند؟ شخصیت خوب و بد چگونه تعریف شده اند؟ این سریال چه تصویری از خانواده، دوستی، عشق، موفقیت یا قدرت می سازد؟ آیا این روایت تنوع فرهنگی را بازنمایی می کند یا همه چیز را به یک الگوی فرهنگی تقلیل می دهد؟ چه کلیشه هایی را بازتولید می کند؟ چه گروه‌ها و فرهنگ‌هایی در آن دیده یا نادیده گرفته می شوند؟ این همان جایی است که مخاطب از تماشاگر به مخاطب آگاه و تحلیلگر فرهنگی تبدیل می شود.
باید دقت کنیم که فیلم و سریال فقط داستان تعریف نمی کنند بلکه در تولید و بازتولید معنا نیز نقش دارند. مخاطب باید بتواند به یاری سواد فرهنگی فراتر از داستان ظاهری، ارزش ها و الگوهای فرهنگی پنهان در فیلم و سریال را تشخیص دهد. فیلم و سریال فقط داستان تعریف نمی کنند، آنها می توانند تصور ما از انسان، خانواده، موفقیت، قدرت، زیبایی، روابط و سبک زندگی را نیز شکل دهند. در این روند، عنایت به مدیریت توجه نیز ضروری است. در یک جمع بندی باید گفت ما دیگر بدون انواع سوادهای یادشده نمی توانیم با رسانه ها و محتواهای آنها به درستی روبرو شویم.
سلامت اکوسیستم سرگرمی به مسئولیت‌پذیری همه بازیگران این زنجیره وابسته است
آیا مسئولیت سلامت آینده اکوسیستم سرگرمی، فیلم، سریال و محتوای هوش مصنوعی فقط بر عهده تولیدکننده یا مخاطب است؟ سهم تولیدکنندگان صنایع فیلم و سریال، پلتفرم‌های پخش و انتشار، مالکان رسانه‌های اجتماعی، تولیدکنندگان محتوا، مخاطبان و سایر بازیگران این زنجیره چیست؟
به‌نظر من این دقیقاً یکی از مهم‌ترین نکات این بحث است. ما نباید مسئله را به یک بازیگر تقلیل دهیم. سلامت یا ناسالم شدن اکوسیستم سرگرمی حاصل عملکرد یک فرد یا یک نهاد نیست. ما با یک زنجیره به‌هم‌پیوسته روبه‌رو هستیم از جمله تولیدکننده، صنعت فیلم و سریال، پلتفرم پخش، شبکه اجتماعی، الگوریتم، مخاطب، داده و واکنش مخاطب، بازگشت دوباره به چرخه تولید. در این میان، هر حلقه بر حلقه دیگر اثر می‌گذارد.
اگر تولیدکننده صرفاً به دنبال بازدید باشد، پلتفرم محتوای تحریک‌کننده را بیشتر توزیع کند، الگوریتم فقط بر اساس نگه داشتن مخاطب تصمیم بگیرد و مخاطب نیز بدون آگاهی واکنش نشان دهد، این چرخه به سمت تولید و تقویت محتوای سطحی حرکت می‌کند. اما اگر هر بخش از این زنجیره مسئولیت خود را بپذیرد، همان فناوری می‌تواند به رشد خلاقیت، تنوع فرهنگی و توسعه روایت‌های تازه کمک کند.
هوش مصنوعی می‌تواند به تولید حرفه‌ای کمک کند، اما نباید جایگزین تفکر حرفه‌ای شود/
هوش مصنوعی نباید کیفیت، اخلاق و ارزش فرهنگی تولید حرفه‌ای را قربانی کند
تولیدکنندگان حرفه‌ای نباید هوش مصنوعی را صرفاً ابزاری برای کاهش هزینه و افزایش سرعت تولید ببینند. پرسش آنها باید این باشد که آیا فناوری به بهتر شدن اثر کمک کرده یا فقط تولید را سریع‌تر کرده است؟ هوش مصنوعی می‌تواند در پژوهش، طراحی، پیش‌تولید، ایده‌پردازی و برخی فرایندهای فنی کمک کند، اما نباید جایگزین مسئولیت انسانی در داستان، اخلاق، شناخت فرهنگی و درک تجربه انسانی شود.
تولیدکنندگان باید اصالت و خلاقیت را حفظ کنند، از کپی‌سازی و تقلید بی‌رویه الگوهای پربازدید پرهیز کنند، کرامت انسانی را در روایت رعایت کنند، به تنوع فرهنگی و اجتماعی توجه داشته باشند، مخاطب را صرفاً «واحد بازدید» نبینند، در استفاده از داده و شخصی‌سازی مسئولانه عمل کنند، از استفاده بدون رضایت از چهره، صدا و هویت افراد پرهیز کنند و میان جذابیت و دستکاری افراطی روان مخاطب تفاوت قائل شوند.
صنایع حرفه‌ای باید این تغییرات را بشناسند و از فرصت‌های فناوری استفاده کنند، بدون اینکه کیفیت، اخلاق و ارزش فرهنگی را قربانی کنند. چراکه هوش مصنوعی می‌تواند به تولید حرفه‌ای کمک کند، اما نباید جایگزین تفکر حرفه‌ای شود. پلتفرم‌های پخش نیز صرفاً توزیع‌کننده نیستند. آنها در عمل در شکل‌گیری فرهنگ تماشا نقش دارند. پلتفرم‌ها باید به موضوعاتی مانند؛ رده‌بندی سنی، برچسب‌گذاری محتوایی، شفافیت درباره محتوای تولیدشده یا دستکاری‌شده با هوش مصنوعی، حفاظت از کودکان و نوجوانان، کنترل والدین، تنوع در پیشنهاد محتوا، و جلوگیری از تقویت صرفاً فرمول‌های سطحی و تکراری توجه جدی داشته باشند. اگر موفقیت یک پلتفرم فقط با یک شاخص مانند «زمان تماشا» سنجیده شود، طبیعی است که تولیدکنندگان نیز به سمت همان شاخص حرکت کنند. بنابراین پلتفرم‌ها باید به کیفیت تجربه مخاطب نیز توجه کنند، نه فقط مدت زمانی که او در پلتفرم باقی می‌ماند.
رسانه‌های اجتماعی امروز صرفاً محل انتشار نیستند؛ آنها بخشی از زیرساخت فرهنگی جامعه شده‌اند. بنابراین مسئولیت آنها نیز افزایش یافته است. از جمله شفاف‌تر کردن منطق پیشنهاد محتوا، برچسب‌گذاری محتوای مصنوعی یا دستکاری‌شده، حفاظت بیشتر از کودکان، فراهم کردن ابزارهای کنترل برای خانواده‌ها، مقابله با جعل هویت، جلوگیری از فریب گسترده مخاطب و ایجاد امکان بیشتر برای مدیریت تجربه رسانه‌ای توسط خود کاربر. ناگفته نماند که در کنار آزادی بیان و تنوع محتوا، باید به «حق انتخاب آگاهانه» نیز توجه شود. رسانه های اجتماعی در طراحی الگوریتم‌های خود باید سلامت اکوسیستم را مدنظر قرار دهند و به بازدید بیشتر و صرف ترند شدن، ضریب ندهند. مخاطب نیز باید تا حد امکان بتواند کنترل بیشتری بر آنچه می‌بیند داشته باشد، نه اینکه صرفاً در مسیر تصمیم‌هایی قرار گیرد که سیستم برای او گرفته است.
سرعت تولید محتوا با هوش مصنوعی، تولیدکننده را از مسئولیت اخلاقی معاف نمی‌کند
اما، تولیدکنندگان محتوا، به‌ویژه در فضای هوش مصنوعی، باید بدانند که سرعت تولید، آنها را از مسئولیت اخلاقی معاف نمی‌کند. اگر تولید محتوا آسان‌تر شده، مسئولیت نیز آسان‌تر نشده است. آنها باید میان تخیل و فریب، سرگرمی و تحقیر، جذابیت و دستکاری، داستان و شبه‌علم، شوخی و آسیب اجتماعی و… تفاوت قائل شوند. به‌نظر من تولیدکننده مسئول، کسی نیست که هیچ محتوای هیجانی یا سرگرم‌کننده‌ای تولید نمی‌کند. تولیدکننده مسئول کسی است که می‌داند برای جذب توجه تا کجا می‌تواند پیش برود و کجا باید متوقف شود.
مخاطب منفعل نیست؛ انتخاب‌های او مسیر تولید و توزیع محتوا را شکل می‌دهد/
مخاطب با هر تماشا، لایک و اشتراک‌گذاری در چرخه توزیع محتوا نقش دارد
مخاطب نیز باید از حالت مصرف‌کننده کاملاً منفعل خارج شود. هر تماشا، اشتراک‌گذاری، لایک، نظر و مکث می‌تواند به چرخه توزیع محتوا کمک کند. بنابراین مخاطب باید بداند که انتخاب‌های او فقط انتخاب‌های فردی نیستند؛ آنها می‌توانند بر آنچه فردا بیشتر تولید و توزیع می‌شود نیز اثر بگذارند. مخاطب مسئول قرار نیست همه چیز را نبیند یا فقط محتوای جدی مصرف کند. مخاطب باید بداند هوش مصنوعی چه توانایی‌ها و چه محدودیت‌هایی دارد و چگونه می‌تواند برای تولید، بازسازی و جعل محتوا استفاده شود.
۵ سوال کلیدی در برابر فیلم و سریال های تولید شده با هوش مصنوعی
به نظر شما مخاطب اگر با یک سریال یا فیلم ساخته شده با هوش مصنوعی روبرو شد چطور در مورد آن تصمیم گیری کند؟
به‌نظر من مخاطب می‌تواند پیش از تصمیم در مورد تماشا یا ادامه دادن یک سریال یا روایت هوش مصنوعی، پنج سؤال ساده از خود بپرسد: سوال اول: این چیست؟ واقعیت است، داستان است، تبلیغ است یا محتوایی برای گرفتن توجه؟، سوال دوم: چرا به من نشان داده شده است؟ انتخاب من بوده یا انتخاب الگوریتم؟ سوال سوم: چه احساسی را در من تحریک می‌کند؟ ترس، خشم، اضطراب، کنجکاوی یا هیجان و…؟ سوال چهارم: چرا می‌خواهم قسمت بعد را ببینم؟ به دلیل کیفیت داستان یا صرفاً به دلیل یک ترفند برای نگه داشتن من؟ سوال پنجم: برای چه سنی مناسب است؟ و آیا ممکن است کودک یا نوجوانی بدون آگاهی در معرض آن قرار بگیرد؟
این پنج پرسش ساده می‌تواند رابطه مخاطب با محتوا را از یک رابطه کاملاً منفعلانه به رابطه‌ای آگاهانه‌تر تبدیل کند.
مخاطب آینده فقط تماشاگر نیست
الگوریتمها و خطر گرفتاری مخاطب در حباب ذائقه
شخصی‌سازی نباید به معنای زندانی شدن در سلیقه خودمان باشد
آیا یکی از جذابیت‌های سریال‌های هوش مصنوعی، امکان مشارکت و شخصی‌سازی نیست؟
قطعاً. این شاید یکی از مهم‌ترین تفاوت‌های آینده باشد. مخاطب ممکن است بتواند شخصیت مورد علاقه خود را انتخاب کند، ویژگی‌های آن شخصیت را تغییر دهد، برای داستان سوژه پیشنهاد کند، مسیر روایت را انتخاب کند یا حتی پایان متفاوتی برای داستان بخواهد. ممکن است در آینده از مدل سنتی «یک سریال برای همه» به سمت روایت‌هایی حرکت کنیم که تا حدی برای گروه‌ها یا حتی افراد مختلف شخصی‌سازی می‌شوند. این تحول فرصت بزرگی است. مخاطب دیگر فقط مصرف‌کننده نیست؛ می‌تواند تا حدی در خلق تجربه رسانه‌ای مشارکت داشته باشد. اما در کنار این فرصت، یک خطر نیز وجود دارد. اگر الگوریتم فقط همان چیزی را به ما بدهد که از قبل دوست داریم، ممکن است به‌تدریج در یک حباب ذائقه گرفتار شویم. یکی از کارکردهای هنر این است که گاهی ما را با جهان‌ها، انسان‌ها و تجربه‌هایی روبه‌رو کند که خودمان از قبل انتخاب نکرده‌ایم. بنابراین شخصی‌سازی نباید به معنای زندانی شدن در سلیقه خودمان باشد.
تجربه تماشا در حال تغییر است/
سمت و سوی آینده فیلم و سریال با حضور هوش مصنوعی/
شخصی سازی و تعاملی تر شدن جهان به ویژه در حوزه فیلم و سریال/
در آینده‌ای که میلیون‌ها تصویر تولید می‌شود، ایده اصیل، تجربه انسانی و روایت معنادار کمیاب‌تر خواهد شد
با گسترش هوش مصنوعی، روایت‌های تعاملی و امکان شخصی‌سازی، آینده فیلم و سریال را چگونه می‌بینید؟ باید برای چه نوع آینده‌ای آماده شویم و چه مهارت‌ها و الزاماتی نیاز داریم؟
به‌نظر من آینده فیلم و سریال، لزوماً جایگزینی کامل انسان با هوش مصنوعی نیست. احتمالاً با یک اکوسیستم ترکیبی انسان و هوش مصنوعی روبه‌رو خواهیم بود. در این آینده، ممکن است هوش مصنوعی در مراحل مختلف تولید حضور داشته باشد؛ از ایده‌پردازی و پژوهش تا طراحی، پیش‌تولید، تولید، جلوه‌های بصری، صدا، ترجمه، دوبله و حتی ایجاد نسخه‌های متفاوت از یک روایت.
اما مهم‌تر از تغییر ابزار تولید، تغییر خود تجربه تماشا است. فیلم و سریال آینده به سمت شخصی سازی شدن و تجربه های تعاملی تر در حال حرکت است. مخاطب ممکن است بتواند مسیر داستان را انتخاب کند، با شخصیت‌ها تعامل داشته باشد، نسخه ای متفاوت از یک روایت را تجربه کند، شخصیت یا فضای داستانی مورد علاقه خود را شخصی‌سازی کند، پایان‌های متفاوتی را ببیند و حتی در شکل‌گیری بخشی از روایت مشارکت داشته باشد. حتی ممکن است بتواند شخصیت‌هایی را در روایت انتخاب یا بازآفرینی کند که بازیگران یا نمونه های واقعی آنها دیگر در قید حیات نیستند.
باید برای جهانی آماده شویم که در آن تولید محتوا بسیار سریع‌تر، ارزان‌تر و فراوان‌تر است. در چنین جهانی، مزیت اصلی فقط داشتن ابزار تولید نیست بلکه چیزهایی مانند: ایده اصیل، داستان خوب، خلاقیت، شناخت انسان، اعتماد مخاطب، هویت فرهنگی و توان ساختن جهان‌های داستانی معنادارارزش بیشتری پیدا می‌کنند.
وقتی تولید محتوا آسان‌تر می‌شود، ساختن محتوایی که واقعاً ارزش دیده شدن داشته باشد دشوارتر و مهم‌تر می‌شود. برای مواجهه با چنین دنیایی دیگر یاد گرفتن چند ابزار هوش مصنوعی کافی نیست. ما به مجموعه‌ای از مهارت‌ها و الزامات نیاز داریم. هم تولیدکنندگان و هم مخاطبان باید توانایی‌ها، محدودیت‌ها و پیامدهای استفاده از هوش مصنوعی را بشناسند. باید بدانند شخصی‌سازی چگونه عمل می‌کند و داده‌های مخاطب چگونه می‌تواند بر آنچه می‌بینند اثر بگذارد. باید بدانند هرچه فناوری تولید آسان‌تر شود، اهمیت داستان خوب کمتر نمی‌شود؛ بلکه شاید بیشتر شود.
در آینده‌ای که میلیون‌ها تصویر با چند دستور تولید می‌شود، آنچه کمیاب‌تر خواهد شد، ایده اصیل، تجربه انسانی و روایت معنادار است. تولیدکنندگان آینده باید مسائل مربوط به رضایت، مالکیت، هویت، داده، حریم خصوصی، جعل و مسئولیت را بشناسند.
یکی از مهارت‌های مهم آینده این است که باید تولیدکنندگان بدانند که کدام کار را به فناوری سپردند و کدام تصمیم باید انسانی باقی بماند. ماشین می‌تواند پیشنهاد بدهد، اما تصمیم درباره حقیقت، اخلاق، کرامت و پیامدهای اجتماعی نباید بدون مسئولیت انسانی گرفته شود.
در آینده‌ای که هوش مصنوعی می‌تواند برای ما ایده، تصویر، متن و داستان تولید کند، خطر وابستگی بیش از حد به پیشنهادهای ماشین نیز وجود دارد. ما باید بتوانیم از هوش مصنوعی استفاده کنیم، بدون اینکه قدرت تخیل و قضاوت مستقل خود را به آن واگذار کنیم. بنابراین آینده مطلوب، آینده‌ای نیست که در آن همه چیز شخصی‌سازی شده و مخاطب همیشه فقط همان چیزی را ببیند که از قبل دوست دارد. به عبارتی آینده مطلوب، آینده‌ای است که فناوری بتواند تجربه را غنی‌تر کند، اما همچنان فرصت کشف، مواجهه با تفاوت، انتخاب آگاهانه و تجربه مشترک انسانی حفظ شود.
تولیدکنندگان مستقل؛ فرصت و مسئولیت بزرگ/
تولیدکنندگان محتوا باید از منطق گرفتار شدن در چرخه بازدید بیشتر و تولید محتوا به هر قیمتی فاصله بگیرند
هوش مصنوعی برای تولیدکنندگان مستقل نیز فرصت بزرگی ایجاد کرده است. آنها چگونه می‌توانند از این فرصت استفاده کنند، بدون اینکه وارد چرخه تولید محتوای سطحی شوند؟
به‌نظر من تولیدکنندگان مستقل در موقعیت بسیار مهمی قرار دارند. هوش مصنوعی می‌تواند هزینه ورود آنها به صنعت روایت تصویری را کاهش دهد. دیگر لازم نیست برای آزمایش هر ایده، الزاماً به امکانات بسیار گسترده دسترسی داشته باشند.
اما این مزیت نباید به این معنا باشد که سرعت و حجم جای خلاقیت را بگیرد. یکی از خطرها این است که تولیدکننده مستقل تصور کند موفقیت یعنی تکرار سریع فرمولی که یک‌بار بازدید گرفته است.
در حالی که مزیت واقعی تولیدکننده مستقل می‌تواند دقیقاً برعکس باشد. او می‌تواند جسورتر، خلاق‌تر و متفاوت‌تر عمل کند. می‌تواند سراغ موضوعاتی برود که در تولیدات بزرگ‌تر کمتر فرصت دیده شدن دارند. می‌تواند داستان‌های محلی، تجربه‌های انسانی، روایت‌های فرهنگی و ایده‌های تازه را وارد فضای رسانه کند.
به‌نظر من سؤال مهم برای تولیدکننده مستقل نباید فقط این باشد: «چگونه بازدید بیشتری بگیرم؟» بلکه باید بپرسد: «چه چیزی می‌توانم بسازم که خود ارزش آفرین است و ارزش دیده شدن داشته باشد؟» تولیدکنندگان محتوا باید از منطق گرفتار شدن در چرخه بازدید بیشتر و تولید محتوا به هر قیمت و بهایی فاصله بگیرند.
سازمان‌های حرفه‌ای باید هوش مصنوعی را وارد تولید کنند، بدون اینکه کیفیت و هویت انسانی آثار را از دست بدهند
مخاطب امروز به سرعت، تعامل، مشارکت و شخصی‌سازی عادت کرده است
در شرایطی که مخاطب به سریال‌های هوش مصنوعی علاقه‌مند می‌شود و حتی ممکن است در آینده در انتخاب شخصیت، سوژه و مسیر فیلمنامه نقش داشته باشد، سازمان‌های حرفه‌ای تولید فیلم و سریال چه باید بکنند؟
اگر مخاطب به روایت‌های تولیدشده با هوش مصنوعی علاقه نشان می‌دهد، صنایع حرفه‌ای نمی‌توانند صرفاً این پدیده را نادیده بگیرند یا با نگاه تحقیرآمیز به آن نگاه کنند. باید پرسید که چرا مخاطب جذب این محتوا شده است؟ آیا به دلیل کوتاهی و سرعت روایت است؟ آیا به دلیل شخصیت‌های متفاوت است؟ آیا به دلیل تعامل و مشارکت است؟ آیا به دلیل امکان دنبال کردن داستان در موبایل و شبکه اجتماعی است؟
به‌نظر من این یکی از مهم‌ترین پرسش‌های آینده صنعت رسانه است. اگر سازمان‌های حرفه‌ای تصور کنند مخاطب صرفاً به دلیل بودجه بالا، کیفیت فنی یا حضور بازیگران شناخته‌شده به آنها وفادار می‌ماند، ممکن است آینده را اشتباه تحلیل کنند.
مخاطب امروز به سرعت، تعامل، مشارکت و شخصی‌سازی عادت کرده است. او می‌خواهد نظر بدهد، درباره شخصیت‌ها گفت‌وگو کند، مسیرهای فرعی داستان را دنبال کند، پشت صحنه را ببیند و حتی در آینده در شکل‌گیری بخشی از تجربه داستانی مشارکت داشته باشد. بنابراین سازمان‌های حرفه‌ای باید به‌جای موضع صرفاً دفاعی، از خود بپرسند که چگونه می‌توانند هوش مصنوعی را وارد فرایند تولید کنند، بدون اینکه کیفیت، خلاقیت و هویت انسانی آثارمان را از دست بدهند؟
نیاز جدی به پروتکل اخلاقی، انسانی و حرفه‌ای برای تولید روایت و سریال ها با هوش مصنوعی
اگر قرار باشد برای تولید سریال‌های هوش مصنوعی استاندارد یا پروتکل تدوین شود، چه اصولی باید در آن وجود داشته باشد؟
به‌نظر من ما به یک پروتکل اخلاقی، انسانی و حرفه‌ای برای تولید روایت و سریال با هوش مصنوعی نیاز داریم؛ پروتکلی که فقط درباره فناوری نباشد و انسان را در مرکز قرار دهد. در ادامه از ۱۶ اصل در این ارتباط یاد می کنم.
پروتکل اول حفظ کرامت انسانی است که براساس آن هیچ محتوایی نباید برای گرفتن بازدید، انسان را تحقیر، شیء‌واره یا به ابزار صرف سرگرمی تبدیل کند. پروتکل دوم، مسئولیت انسانی و حقوقی مشخص است. به این معنی که هر اثر باید مسئول انسانی یا حقوقی مشخص داشته باشد. هوش مصنوعی نمی‌تواند سپر فرار از مسئولیت باشد.
پروتکل سوم شفافیت درباره محتوای مصنوعی است. هرجا احتمال فریب مخاطب وجود دارد، باید درباره مصنوعی یا بازسازی‌شده بودن تصویر، صدا، شخصیت یا رویداد اطلاع‌رسانی شود. پروتکل چهارم رضایت و حقوق افراد است یعنی استفاده از چهره، صدا، بدن یا ویژگی‌های قابل شناسایی افراد واقعی باید تابع رضایت و حقوق روشن باشد.
رده بندی سنی و برچسب گذاری پروتکل پنجم است. هر سریال باید دارای رده‌بندی سنی و برچسب‌های محتوایی قابل فهم باشد و این اطلاعات در سازوکارهای حفاظت از کودکان و نوجوانان نیز مورد استفاده قرار گیرد. پروتکل ششم تعیین مرز بین تخیل و فریب است. تخیل آزاد است، اما ادعای اثبات‌نشده نباید به‌عنوان حقیقت قطعی عرضه شود.
پروتکل هفتم پرهیز از ترویج خرافه و شبه‌علم است. هرچه احتمال اشتباه گرفتن یک روایت ساختگی با واقعیت بیشتر باشد، ضرورت شفاف‌سازی نیز بیشتر است. اصل هشتم پرهیز از دستکاری افراطی روان مخاطب است. داستان می‌تواند جذاب باشد، اما نباید صرفاً بر سوءاستفاده از آسیب‌پذیری‌های روانی مخاطب برای افزایش زمان تماشا استوار باشد.
پروتکل نهم حفاظت ویژه از کودکان و نوجوانان است. کودکان و نوجوانان باید از طریق ترکیبی از رده‌بندی سنی، برچسب‌گذاری روشن، ابزارهای کنترل خانواده و محدودیت در پیشنهاد محتوای نامناسب مورد حمایت قرار گیرند. پروتکل دهم تنوع فرهنگی و روایی است. براساس آن نباید اجازه داد چند فرمول پربازدید، تمام فضای فرهنگی و داستانی را اشغال کنند.
اصل یازدهم هم شخصی سازی است. اگر روایت بر اساس داده‌های مخاطب شخصی‌سازی می‌شود، مخاطب باید از حدود این شخصی‌سازی و استفاده از داده‌هایش آگاه باشد. دوازدهمین اصل، شفافیت الگوریتمی است. مخاطب باید تا حد امکان بتواند توضیحی قابل فهم درباره علت پیشنهاد محتوا دریافت کند و امکان بیشتری برای مدیریت و کنترل تجربه رسانه‌ای خود داشته باشد.
پروتکل سیزدهم، حفظ عاملیت و خلاقیت انسان است. هوش مصنوعی می‌تواند پیشنهاد دهد و تولید کند، اما تصمیم نهایی درباره حقیقت، اخلاق، کرامت انسانی و پیامدهای فرهنگی باید مسئولیت انسان باقی بماند. پروتکل چهاردهم، مسئولیت زنجیره‌ای است، به طوری که هیچ بازیگری نباید مسئولیت را به دیگری واگذار کند. به عبارتی تولیدکننده، استودیو، پلتفرم پخش، شبکه اجتماعی، طراحان الگوریتم، تولیدکنندگان محتوا، نهادهای آموزشی، سیاست‌گذاران و مخاطبان، هر کدام بخشی از مسئولیت سلامت اکوسیستم رسانه و سرگرمی را بر عهده دارند.
پانزدهمین اصل، استفاده حرفه‌ای و مسئولانه از فناوری‌های نوین است. هر فناوری جدید باید نه صرفاً بر اساس سرعت، کاهش هزینه یا افزایش بازدید، بلکه بر اساس پیامدهای انسانی، فرهنگی، اجتماعی و اخلاقی آن ارزیابی و استفاده شود. فناوری زمانی پیشرفت واقعی ایجاد می‌کند که در خدمت انسان، خلاقیت، آگاهی و کیفیت زندگی قرار گیرد. شانزدهمین اصل کنترل کیفیت زبانی، ادبی و صوتی در پروتکل مذکور است.
وقتی شخصیت هوش مصنوعی از داستان به تبلیغ می‌رود، خطر اشباع و خستگی مخاطب وجود دارد
اخیراً شاهد استفاده از همان شخصیت‌های شناخته‌شده سریال‌ها و روایت‌های تولیدشده با هوش مصنوعی در تبلیغات نیز هستیم. گاهی یک شخصیت که مخاطب ابتدا آن را در یک داستان دنبال کرده، ناگهان در داستانی دیگر، یک ویدئوی مستقل یا حتی تبلیغ یک محصول ظاهر می‌شود. آیا تکرار بیش از حد این شخصیت‌ها در موقعیت‌ها و محتواهای مختلف، می‌تواند از جذابیت آنها بکاهد و مخاطب را دچار خستگی کند؟
به‌نظر من این احتمال کاملاً جدی است و یکی از پیامدهای مهم اقتصاد محتوای مبتنی بر هوش مصنوعی می‌تواند همین باشد. هر شخصیت داستانی، بخشی از جذابیت خود را از جهان داستانی، موقعیت، روابط و معنایی که در آن شکل گرفته می‌گیرد. وقتی مخاطب یک شخصیت را در یک سریال می‌شناسد، معمولاً میان او و جهان داستانی‌اش نوعی پیوند شکل می‌گیرد. شخصیت فقط یک چهره یا تصویر نیست؛ بخشی از یک روایت است. اما اگر همان شخصیت بدون مرز مشخص، مدام در موقعیتهای مختلف ظاهر شود؛ یک‌بار در یک سریال، بار دیگر در یک داستان متفاوت، سپس در یک ویدئوی سرگرمی و بعد در تبلیغ یک محصول، ممکن است به‌تدریج بخشی از هویت روایی خود را از دست بدهد. در این حالت شخصیت از یک «شخصیت داستانی» به نوعی دارایی رسانه‌ای قابل مصرف تبدیل می‌شود.
ممکن است در کوتاه‌مدت، استفاده تبلیغاتی از محبوبیت یک شخصیت بسیار موفق باشد، زیرا مخاطب از قبل او را می‌شناسد و نسبت به او توجه و احساس دارد. اما استفاده بیش از حد می‌تواند نتیجه معکوس داشته باشد. مخاطب ممکن است به‌تدریج احساس کند که «این شخصیت دیگر برای من چیز تازه‌ای ندارد؛ همه‌جا حضور دارد.» این همان نقطه‌ای است که می‌توان از آن با عنوان اشباع شخصیت یاد کرد.
هرچه یک شخصیت تولید شده با هوش مصنوعی بیشتر دیده شود، لزوماً محبوب‌تر نمی‌شود
هوش مصنوعی می‌تواند سرعت تولید محتوا را افزایش دهد، اما الزاماً ظرفیت توجه و علاقه مخاطب را افزایش نمی‌دهد
در اقتصاد توجه معمولاً این تصور وجود دارد که حضور بیشتر، به معنای محبوبیت بیشتر است. اما این قاعده همیشه درست نیست. یک شخصیت ممکن است در ابتدا به دلیل تازگی، کمیاب بودن یا پیوند عاطفی با یک داستان خاص جذاب باشد. اگر حضور او بیش از حد تکرار شود، همان عامل جذابیت می‌تواند به عامل خستگی تبدیل شود. به‌ویژه در فضای امروز که مخاطب روزانه با حجم زیادی از محتوا روبه‌روست، تکرار بیش از حد یک چهره یا شخصیت می‌تواند به نوعی خستگی توجه منجر شود. ممکن است مخاطب در ابتدا با دیدن آن شخصیت توقف کند، اما پس از مدتی همان حضور باعث شود سریع‌تر از محتوا عبور کند. بنابراین باید میان شناخته‌شدن یک شخصیت و مصرف بیش از حد آن تفاوت قائل شد.
شخصیت داستانی نباید به تبلیغ متحرک تبدیل شود. نکته مهم دیگر، مسئله اعتماد مخاطب است. وقتی یک شخصیت محبوب در یک جهان داستانی ظاهر می‌شود، مخاطب او را در چارچوب همان روایت می‌شناسد. اما اگر همان شخصیت بدون منطق روایی مشخص، برای تبلیغ هر نوع کالا، خدمات یا پیام دیگری استفاده شود، ممکن است رابطه مخاطب با او تغییر کند. مخاطب ممکن است احساس کند شخصیت مورد علاقه‌اش بیش از حد تجاری شده است. در این وضعیت، مسئله فقط خستگی نیست؛ اعتماد و پیوند عاطفی مخاطب با شخصیت نیز ممکن است تضعیف شود.
به‌نظر من سازندگان باید از خود بپرسند که آیا حضور این شخصیت در تبلیغ، با هویت او سازگار است؟ آیا این استفاده، به جهان داستانی شخصیت لطمه نمی‌زند؟ آیا مخاطب احساس نمی‌کند از علاقه او به شخصیت برای فروش استفاده شده است؟ آیا تعداد و نوع حضورهای تبلیغاتی کنترل شده است؟
همه محبوبیت‌ها را نمی‌توان بی‌نهایت مصرف کرد. هوش مصنوعی این خطر را بیشتر می‌کند. در گذشته، استفاده مداوم از یک شخصیت داستانی محدودیت‌های عملی داشت. بازیگر باید حضور پیدا می‌کرد، تولید زمان می‌برد و ساخت هر محتوای جدید هزینه داشت. اما شخصیت هوش مصنوعی را می‌توان با سرعت بسیار بیشتری در موقعیتهای مختلف قرار داد. همان شخصیت می‌تواند امروز در یک سریال باشد، فردا در یک ویدئوی کوتاه، روز دیگر در یک تبلیغ، سپس در یک داستان جدید، و بعد در محتوایی کاملاً متفاوت ظاهر شود.
این قابلیت، از یک‌سو فرصت اقتصادی و رسانه‌ای ایجاد می‌کند، اما از سوی دیگر خطر استفاده بیش از حد و فرسایش سریع شخصیت را افزایش می‌دهد. به بیان ساده، هوش مصنوعی می‌تواند سرعت تولید محتوا را افزایش دهد، اما الزاماً ظرفیت توجه و علاقه مخاطب را افزایش نمی‌دهد. این دو نباید با یکدیگر اشتباه گرفته شوند.
شخصیت‌های هوش مصنوعی نیز به «مدیریت چرخه عمر» نیاز دارند
به‌نظر من در آینده، سازندگان حرفه‌ای باید برای شخصیت‌های هوش مصنوعی نیز نوعی مدیریت چرخه عمر در نظر بگیرند.
یعنی مشخص باشد که شخصیت در چه جهان‌هایی می‌تواند حضور داشته باشد؟ در چه نوع تبلیغاتی می‌تواند استفاده شود؟ چه میزان حضور برای مخاطب مناسب است؟ چه زمانی شخصیت باید از مرکز توجه فاصله بگیرد؟ چه زمانی باید با روایت یا موقعیتی تازه بازگردد؟ ممکن است یکی از اشتباه‌های آینده این باشد که تصور کنیم چون ساختن یک شخصیت با هوش مصنوعی آسان شده، می‌توان از آن بی‌نهایت استفاده کرد. در حالی که جذابیت فرهنگی و عاطفی یک شخصیت، منبعی نامحدود نیست.
از «اقتصاد شخصیت» تا «فرسودگی شخصیت»
به‌نظر من باید میان دو مفهوم «اقتصاد شخصیت» و «فرسودگی شخصیت» تفاوت قائل شویم: چراکه اقتصاد شخصیت، استفاده حرفه‌ای و محدود از محبوبیت یک شخصیت برای گسترش یک جهان داستانی یا فعالیت‌های تجاری مرتبط است و فرسودگی شخصیت، استفاده مکرر و بی‌برنامه از همان شخصیت در محتواهای متعدد است، تا جایی که تازگی، هویت و جذابیت او کاهش پیدا کند. شخصیت محبوب می‌تواند سرمایه فرهنگی و روایی باشد، اما اگر بدون برنامه و صرفاً برای گرفتن بازدید یا فروش مصرف شود، همین سرمایه ممکن است به‌تدریج کاهش پیدا کند.
مخاطب شخصیت تولید شده با هوش مصنوعی را فقط به خاطر چهره‌اش دوست ندارد
در نهایت باید به یک نکته مهم توجه کنیم؛ مخاطب معمولاً یک شخصیت را فقط به دلیل ظاهرش دوست ندارد. او ممکن است به خاطر داستان شخصیت، تجربه‌های او، روابطش، مسیر تحولش، شکست‌ها و موفقیت‌هایش و جایگاهی که در ذهن مخاطب پیدا کرده است، با او ارتباط برقرار کند. لذا اگر شخصیت از این زمینه جدا شود و صرفاً به یک چهره قابل تکثیر در محتوا و تبلیغات تبدیل شود، ممکن است همان چیزی را از دست بدهد که در ابتدا باعث جذابیتش شده بود.
بنابراین در عصر هوش مصنوعی، شاید یکی از اصول جدید تولید حرفه‌ای این باشد که هر شخصیتی که قابلیت تکثیر دارد، الزاماً نباید بی‌نهایت تکثیر شود و شاید بتوان این موضوع را با یک جمله ساده جمع‌بندی کرد که هوش مصنوعی می‌تواند یک شخصیت را همه‌جا حاضر کند، اما هنر مدیریت حرفه‌ای این است که بدانیم کجا و چه زمانی نباید او را دوباره ظاهر کنیم.
هوش مصنوعی ابزار است، اما مسئولیت، راهبری و نظارت همچنان انسانی است
سخن آخر؟
معتقدم اگر همه بازیگران اکوسیستم تولید محتوا به ویژه تولید محتوای بر پایه هوش مصنوعی و به طور مشخص در حوزه فیلم و سریال و صنایع سرگرمی، با نگاهی مسئولانه، اخلاق‌مدار، حرفه‌ای و انسان‌محور به سراغ فناوری‌های نوین بروند، هوش مصنوعی می‌تواند به فرصتی برای گسترش خلاقیت، کاهش موانع تولید، تنوع روایت و خلق تجربه‌های تازه تبدیل شود.
شاید مسئله آینده، رقابت ساده انسان و هوش مصنوعی نباشد. مسئله اصلی این است که در جهانی که ماشین‌ها می‌توانند برای هر سلیقه‌ای داستان بسازند، آیا ما می‌توانیم همچنان از انسان، حقیقت، کرامت، تنوع فرهنگی، سلامت مخاطب و حق انتخاب آگاهانه در دل این داستانها محافظت کنیم؟ پاسخ به این پرسش، بیش از آنکه به قدرت فناوری وابسته باشد، به قدرت انتخاب، مسئولیت و بلوغ انسانی ما در استفاده از فناوری‌های نوین بستگی دارد. مسئله آینده فیلم و سریال این نیست که هوش مصنوعی چه می‌تواند بسازد بلکه مسئله این است که انسان‌ها، پلتفرم‌ها و صنایع فرهنگی تصمیم می‌گیرند با قدرت ساختنِ هوش مصنوعی چه کنند. هوش مصنوعی ابزار است، اما مسئولیت، راهبری و نظارت همچنان انسانی است. این مهم را نباید هرگز از نظر دور داشت.
