اوپنایآی و آنتروپیک اتاق جنگ انتخاباتی راهاندازی کردند
به گزارش اختصاصی سمافور، هر دو شرکت اوپنایآی و آنتروپیک برای نخستینبار «اتاقهای جنگ» (war rooms) اختصاصی برای رصد و مقابله با اطلاعات نادرست پیرامون انتخابات میاندورهای آمریکا در سال ۲۰۲۶ راهاندازی کردهاند. اتاق جنگ انتخاباتی اوپنایآی و آنتروپیک تلاشی مشترک برای تضمین صحت اطلاعات ارائهشده توسط چتباتهای این دو شرکت در روزهای حساس انتخاباتی است، اقدامی که برای هر دو شرکت بیسابقه به شمار میرود.
زمینه و پسزمینه اتاق جنگ انتخاباتی اوپنایآی و آنتروپیک
مفهوم «اتاق جنگ» در صنعت فناوری به سال ۲۰۱۸ بازمیگردد، زمانی که متا برای نخستینبار چنین واحدی را در واکنش به نگرانیها دربارهی گسترش اطلاعات نادرست انتخاباتی در فیسبوک راهاندازی کرد. اما به نوشتهی اشلی گلد، خبرنگار ارشد فناوری سمافور، عصر هوش مصنوعی این تهدیدها را بهشدت تشدید کرده است؛ تهدیدهایی که اکنون شامل ویدیوهای دیپفیک و نتایج جستوجوی مبتنی بر هوش مصنوعی حاوی اطلاعات نادرست نیز میشوند.
نمونهای از این چالش هفتهی گذشته رخ داد، زمانی که حالت AI Mode گوگل به یک پرسش ساده دربارهی برندهی انتخابات سال ۲۰۲۰ پاسخ نداد؛ مشکلی که گوگل اعلام کرده در حال رفع آن است. یک سخنگوی آنتروپیک به سمافور گفته است: «تیمهای مختلف در سراسر شرکت بهطور مستمر در طول سال روی تقویت تدابیر امنیتی مرتبط با انتخابات و اجرای سیاستهایمان کار میکنند. پیش از انتخابات، ما یک اتاق جنگ اختصاصی داریم که پلتفرم ما را برای شناسایی سوءاستفاده رصد میکند و آمادهی واکنش سریع به هر رخدادی است.»
چالشهای پیشروی این اتاقهای جنگ
به گفتهی کیتی هارباث، مدیر سابق خطمشی عمومی متا که اکنون این حوزه را از نزدیک دنبال میکند، اتاقهای جنگ «برای مقابله با چیزهایی ساخته شدهاند که نمیتوانیم از قبل پیشبینی کنیم که اشتباه خواهند رفت، و به یک فرآیند سریع و از پیش تعیینشده برای اولویتبندی مشکلات نیاز دارید.» این توصیف نشان میدهد که این واحدها بیشتر شبیه تیمهای واکنش اضطراری عمل میکنند تا سیستمهای پیشگیرانهی صرف.
طبق گزارش سمافور، کار این تیمها را سه عامل دشوارتر میکند: نخست، ماهیت غیرقابلپیشبینی خود مدلهای هوش مصنوعی که گاهی پاسخهای غیرمنتظره یا نادرست تولید میکنند؛ دوم، مشکلات امنیت سایبری اخیر که میتواند زمینهساز حملات هدفمند در روزهای حساس انتخاباتی باشد؛ و سوم، گرایش طبیعی ابزارهای جستوجوی مبتنی بر هوش مصنوعی به بازتاب نتایجی که کاربران میخواهند ببینند، نه لزوماً نتایجی که دقیقترین اطلاعات موجود هستند.
تحلیل: رقابت دو غول هوش مصنوعی در میدان سیاست
راهاندازی اتاق جنگ انتخاباتی اوپنایآی و آنتروپیک را باید در بستر رقابت گستردهتر میان این دو شرکت در حوزهی سیاستگذاری و تنظیمگری هوش مصنوعی در آمریکا دید. در ماههای اخیر، هر دو شرکت بهطور فزایندهای وارد عرصهی لابیگری و حتی تأمین مالی کمیتههای اقدام سیاسی (PAC) شدهاند تا بر چارچوبهای قانونی آیندهی هوش مصنوعی در آمریکا تأثیر بگذارند. این اقدام جدید را میتوان بخشی از همان راهبرد بزرگتر دانست: نشان دادن مسئولیتپذیری در برابر نهادهای قانونگذار و رأیدهندگان، در زمانی که هر دو شرکت زیر ذرهبین نظارتی قرار دارند.
از منظر عملیاتی، تفاوت اصلی میان این موج از نگرانیها و دورهی انتخابات سال ۲۰۱۸ یا حتی ۲۰۲۰، در ماهیت تولیدی (generative) هوش مصنوعی امروز است. در گذشته، نگرانی اصلی پلتفرمهای اجتماعی، انتشار محتوای نادرست توسط کاربران انسانی بود. اما امروز، خودِ مدلهای زبانی میتوانند بهطور مستقل و بدون نیت بد، اطلاعات نادرست تولید کنند—چیزی که متخصصان آن را «توهم» (hallucination) مینامند. این تفاوت بنیادین به این معناست که اتاقهای جنگ امروزی نهتنها باید با کنشهای مخرب عمدی مقابله کنند، بلکه باید رفتار پیشبینیناپذیر خودِ محصول را هم کنترل کنند؛ چالشی که بهمراتب پیچیدهتر از نظارت بر محتوای کاربر است.
نمونهی ناکامی گوگل در پاسخ به پرسش دربارهی برندهی انتخابات ۲۰۲۰، نشاندهندهی ریسک واقعی این وضعیت است: وقتی یک موتور جستوجوی هوش مصنوعی حتی نمیتواند به یک پرسش تاریخی و اثباتشده پاسخ درست بدهد، این سؤال مطرح میشود که در روزهای بسیار حساستر—مثل شب شمارش آرا یا پس از یک نتیجهی مورد مناقشه—عملکرد این سیستمها چگونه خواهد بود. اگر تجربهی انتخابات ۲۰۲۴ درسی برای صنعت فناوری داشته باشد، آن است که شکست حتی یک سیستم کوچک میتواند به سرعت در فضای مجازی بازتاب یابد و به بحران اعتماد عمومی تبدیل شود.
در نهایت، موفقیت یا شکست این اتاقهای جنگ در روزهای آینده، میتواند نقش مهمی در شکلدهی به نحوهی تنظیمگری آیندهی چتباتها و موتورهای جستوجوی هوش مصنوعی در فصلهای انتخاباتی بعدی—از جمله انتخابات ریاستجمهوری ۲۰۲۸ آمریکا—داشته باشد.
مقایسه با انتخاباتهای گذشته و درسهای احتمالی
برای درک بهتر اهمیت اتاق جنگ انتخاباتی اوپنایآی و آنتروپیک، بد نیست نگاهی به تجربهی متا در انتخابات ۲۰۱۸ و ۲۰۲۰ بیندازیم. در آن دوره، اتاقهای جنگ متا عمدتاً بر شناسایی حسابهای جعلی، کمپینهای تبلیغاتی سیاسی مشکوک و انتشار اطلاعات نادرست توسط کاربران انسانی متمرکز بودند. چالش پیش روی اوپنایآی و آنتروپیک اما ماهیت کاملاً متفاوتی دارد: این دو شرکت باید محصول خودشان—یعنی مدل زبانی—را بهعنوان منبع احتمالی اطلاعات نادرست در نظر بگیرند، نه صرفاً پلتفرمی که دیگران از آن برای انتشار محتوای مخرب استفاده میکنند.
این تفاوت بنیادین، معیارهای موفقیت را نیز تغییر میدهد. در حالی که متا میتوانست با حذف حسابهای جعلی یا مسدودسازی تبلیغات مشکلدار، نتیجهی ملموسی از کار اتاق جنگ خود ارائه دهد، موفقیت اتاقهای جنگ آنتروپیک و اوپنایآی به چیزی دشوارتر برای اندازهگیری بستگی دارد: دقت و صداقت پاسخهایی که میلیونها کاربر در لحظه از چتباتها دریافت میکنند. این نوع نظارت بسیار شبیه به کنترل کیفیت در زمان واقعی است تا مدیریت بحران رسانههای اجتماعی.
نکتهی دیگری که نباید نادیده گرفت، نقش رسانههای خبری سنتی در این میان است. با توجه به اینکه کاربران بهطور فزایندهای بهجای مراجعهی مستقیم به رسانههای خبری، سؤالات انتخاباتی خود را از چتباتهای هوش مصنوعی میپرسند، بار مسئولیت اطلاعرسانی دقیق که زمانی بر دوش روزنامهنگاران و سازمانهای خبری بود، اکنون بهطور فزایندهای به شرکتهای فناوری منتقل شده است. این انتقال مسئولیت، بدون آنکه این شرکتها از پیش برای آن آمادهسازی ساختاری کامل انجام داده باشند، میتواند یکی از مهمترین چالشهای پوشش انتخاباتی در سالهای آینده باشد؛ چالشی که راهاندازی این اتاقهای جنگ تنها گام نخست برای مواجهه با آن است. نتیجهی نهایی این آزمایش بزرگ، که در روزهای پیشرو و در جریان شمارش آرای انتخابات میاندورهای آمریکا مشخص خواهد شد، میتواند بهطور مستقیم بر سیاستهای آیندهی تنظیمگری هوش مصنوعی در حوزهی اطلاعات عمومی اثر بگذارد.
منبع: Semafor