وقتی حقیقت در محاصره است فناوری باید خط‌شکن باشد
هوش مصنوعی در برابر اخبار غلط
نقش فناوری‌های نوین به‌ویژه هوش مصنوعی و تحلیل کلان داده‌ها در شرایط جنگی از سطح ابزارهای تسهیل‌گر فراتر رفته و به عناصر حیاتی برای حفظ پایداری، تسریع تصمیم‌گیری و مقابله با جنگ شناختی تبدیل شده است. در جنگ میان جمهوری اسلامی ایران و رژیم اشغالگر قدس شاهد تولید انبوهی از اطلاعات در سطوح مختلف رسانه‌ای، سایبری، عملیاتی و حتی داده‌های ماهواره‌ای بودیم. در چنین شرایطی، راستی‌آزمایی سریع و دقیق اطلاعات از ارکان حیاتی حفظ انسجام ملی و تصمیم‌گیری راهبردی محسوب می‌شود. این یادداشت به بررسی کارکردها و نمونه‌های بهره‌گیری از هوش مصنوعی در راستی‌آزمایی اخبار پرداخته و توصیه‌هایی برای توسعه سیاست‌گذاری فناورانه در این حوزه ارائه می‌دهد.
ضرورت بهره‌گیری از هوش مصنوعی برای راستی‌آزمایی اخبار
رصد و پایش مستمر فضای رسانه‌ای و شبکه‌های اجتماعی، بدون بهره‌گیری از الگوریتم‌های پردازش زبان طبیعی و سامانه‌های هوشمند عملاً غیرممکن است. هوش مصنوعی می‌تواند با اتکا به تحلیل خودکار متن، تصویر، ویدئو و صوت، داده‌های معتبر را از داده‌های نادرست و جعلی تمییز دهد و سرعت واکنش مراکز تصمیم‌گیر را به طرز چشمگیری افزایش دهد.
چهار نقش کلیدی هوش مصنوعی در تشخیص اخبار جعلی
۱. استخراج هوشمند اطلاعات از سیل داده‌ها: این مرحله اولین و مهم‌ترین گام در فرآیند راستی‌آزمایی است. سامانه‌های هوش مصنوعی با استفاده از الگوریتم‌های تشخیص ادعا می‌توانند به‌طور خودکار گزاره‌های خبری مشکوک را از حجم انبوه متون خبری استخراج کنند. همچنین این سامانه‌ها قادرند به‌صورت شبانه‌روزی شبکه‌های اجتماعی، وب‌سایت‌های خبری و کانال‌های پیام‌رسان‌ها را برای شناسایی سریع اطلاعات جدید و بالقوه نادرست پایش کنند. ابزارهایی مانند جستجوی معکوس تصویر نیز کمک می‌کنند تا تصاویر بازنشرشده از منابع دیگر یا دستکاری‌شده شناسایی شوند.
۲. تحلیل اولیه و تشخیص محتوا: داده‌های جمع‌آوری‌شده در این مرحله به‌صورت عمیق‌تر تحلیل می‌شوند. سامانه‌های هوشمند با بهره‌گیری از فناوری‌های شناسایی صوت و تصویر می‌توانند ویدیوها و صوت‌های جعلی یا دستکاری‌شده را شناسایی کنند. از سوی دیگر امکان تطبیق ادعاهای مطرح‌شده با پایگاه‌های داده قبلی و آرشیوهای فکت‌چک وجود دارد. همچنین، با استفاده از تکنیک‌هایی نظیر تحلیل اعتبار منبع و استخراج موجودیت‌های اسمی (مانند اسامی اشخاص، مکان‌ها یا سازمان‌ها)، می‌توان میزان صحت یک ادعا را بررسی کرد. این ابزارها نقش اساسی در فیلتر کردن اطلاعات اولیه دارند تا ادعاهای اولویت‌دار برای بررسی انسانی مشخص شوند.
۳. اعتبارسنجی خودکار منابع و داده‌ها: سامانه هوش مصنوعی حتی می‌تواند به‌طور تخصصی در ارزیابی صحت داده‌ها و منابع مورد استناد کمک کنند. داده‌های عددی و آماری به‌صورت خودکار با منابع رسمی مانند بانک‌های اطلاعاتی دولتی یا آمارهای بین‌المللی مقایسه می‌شوند. همچنین قادر به ارائه پیشنهاد منابع معتبر به فکت‌چکرها برای بررسی بیشتر است. ابزارهای هوشمند قادرند میزان اعتبار یک رسانه یا نویسنده را نیز بر اساس سابقه انتشار اطلاعات نادرست یا صحیح رتبه‌بندی کنند.
۴. تحلیل روند و شناسایی جریان‌های هماهنگ اطلاعات نادرست: این بخش از فرآیند به تحلیل کلان‌داده‌ها و رفتارهای اطلاعاتی می‌پردازد. با تحلیل داده‌های انتشار اخبار در شبکه‌های اجتماعی، ترندهای اطلاعات نادرست شناسایی شده و تغییرات آن‌ها در طول زمان رصد می‌شود. سامانه‌ها می‌توانند انتشار هماهنگ‌شده اطلاعات جعلی از سوی حساب‌های خاص یا بات‌ها را کشف کنند. همچنین تحلیل شبکه‌ای کمک می‌کند تا بازیگران اصلی و گره‌های کلیدی در انتشار اطلاعات نادرست مشخص شوند. ابزارهای پیش‌بینی نیز با اتکا به داده‌های گذشته، موضوعات شایعه‌ساز آینده را پیش‌بینی کرده و به تصمیم‌گیران در اتخاذ تدابیر پیشگیرانه کمک می‌کنند.
تجربه‌های بین‌المللی در بهره‌گیری از هوش مصنوعی برای راستی‌آزمایی
۱. AI۴TRUST (اتحادیه اروپا): پروژه AI۴TRUST که با حمایت مالی اتحادیه اروپا اجرا می‌شود، یک سامانه ترکیبی مبتنی بر همکاری انسان و ماشین و راه‌حل‌های پیشرفته بر پایه هوش مصنوعی توسعه خواهد داد که هدف آن، پشتیبانی از روزنامه‌نگاران و سیاست‌گذاران برای مقابله با اطلاعات نادرست است. این سیستم امکان نظارت بر تعداد زیادی از پلتفرم‌های اجتماعی آنلاین را تقریباً به‌صورت آنی فراهم می‌کند و با تحلیل محتوای چندرسانه‌ای (متن، صدا، تصویر) و چندزبانه، محتوایی را که ریسک بالای انتشار اطلاعات نادرست دارد، برای بررسی تخصصی علامت‌گذاری خواهد کرد.
این سیستم می‌تواند شبکه‌های اجتماعی مختلف را تقریباً به‌صورت لحظه‌ای زیر نظر بگیرد، محتوای غیرمفید و بی‌ارتباط را حذف کند و با استفاده از الگوریتم‌های پیشرفته هوش مصنوعی، متن، صدا و تصویر را در زبان‌های مختلف (با پوشش تا ۷۰ درصد زبان‌های رایج در اروپا) تحلیل کند. همچنین این سامانه به‌طور خودکار با یک شبکه بین‌المللی از فکت‌چکرهای انسانی در ارتباط است. این فکت‌چکرها به‌طور منظم وارد عمل می‌شوند و داده‌های تأییدشده خود را در اختیار سیستم قرار می‌دهند تا الگوریتم‌ها به‌روز و دقیق باقی بمانند.
نتایج این تحلیل‌ها در قالب شاخص‌های کمی ارائه می‌شوند – از جمله سنجش «ریسک اپیدمی اطلاعاتی» – که با بهره‌گیری از روش‌های علمی در حوزه‌های علوم اجتماعی و محاسباتی بررسی می‌شوند. این اطلاعات معتبر، ابزار مفیدی برای روزنامه‌نگاران فراهم می‌کنند تا بتوانند گزارش‌های داده‌محور دقیق و قابل اعتماد تولید کنند.
۲. Full Fact (بریتانیا): سازمانی غیردولتی و مستقل مستقر در لندن است که در سال ۲۰۱۰ تأسیس شد و فعالیت خود را در حوزه مقابله با اطلاعات نادرست در رسانه‌ها آغاز کرد. فول‌فکت از هوش مصنوعی استفاده می‌کند تا راستی‌آزمایی را سریع‌تر و مؤثرتر انجام دهد. ابزارهای آن‌ها کمک می‌کند تا منابع رسانه‌ای مختلف مانند اخبار آنلاین، رادیو، شبکه‌های اجتماعی، تلویزیون و یوتیوب را پایش کنند. این فناوری به آن‌ها امکان می‌دهد تا بحث‌های عمومی را در مقیاسی فراتر از توان انسانی دنبال کنند.
هوش مصنوعی به آن‌ها در شناسایی ادعاهای جدید و مهم برای راستی‌آزمایی و همچنین شناسایی اطلاعات نادرست تکرارشونده کمک می‌کند تا بتوانند سریع‌تر واکنش نشان دهند. این فناوری نقش پشتیبانی از تیم راستی‌آزمایی آن‌ها را دارد و جایگزین آن‌ها نمی‌شود و تمام راستی‌آزمایی‌ها همچنان توسط تیم تخصصی فول‌فکت بررسی می‌شود.
راستی‌آزمایی به‌مثابه زیرساخت پدافند غیرعامل شناختی
با توجه به نقش فزاینده عملیات شناختی در جنگ‌های مدرن، توسعه سامانه‌های بومی راستی‌آزمایی مبتنی بر هوش مصنوعی برای جمهوری اسلامی ایران یک ضرورت است. این سامانه‌ها باید نه‌تنها قادر به تحلیل داده‌های فارسی، بلکه توانا در تعامل میان‌زبانی با داده‌های عربی، عبری و انگلیسی باشند. همچنین، اتصال این سامانه‌ها به مراکز فرماندهی رسانه‌ای و امنیتی، امکان واکنش هماهنگ و سریع را در برابر امواج اطلاعات نادرست فراهم می‌سازد.
راستی‌آزمایی اخبار در زمان جنگ نه یک فعالیت رسانه‌ای، بلکه بخشی از سازوکار پدافند غیرعامل شناختی است. فناوری‌های هوش مصنوعی به‌ویژه در حوزه تحلیل زبان طبیعی و تحلیل محتوای چندرسانه‌ای، ابزارهایی حیاتی برای حفظ پایداری شناختی کشورها در برابر جنگ‌های شناختی و اطلاعاتی هستند. بدون اتکا به الگوریتم‌های پیشرفته مقابله با سیل اخبار جعلی امکان‌پذیر نیست.