فاطمه فارسی
پژوهشگر موسسه مطالعات جهان معاصر
ظهور هوش مصنوعی عمومی — سیستمی با قابلیتهای شناختی برابر یا فراتر از انسان در انجام هر وظیفهای — بهعنوان یک امکان واقعی، در حال تبدیل شدن به یکی از محورهای کلیدی بحثهای امنیت ملی است. جامعه امنیت ملی ایالات متحده نمیتواند این پدیده را نادیده بگیرد؛ چراکه تحقق هوش مصنوعی عمومی نهتنها تحولاتی بنیادین در فناوری ایجاد میکند، بلکه توازن قدرت جهانی، امنیت ملی و حتی ماهیت جنگ را دگرگون خواهد ساخت. این تغییرات میتوانند بهطور مستقیم بر روی استراتژیهای دفاعی و امنیتی ایالات متحده تأثیر بگذارند و چالشهای جدیدی را در عرصههای مختلف ایجاد کنند.
بااینحال، عدم قطعیت در مورد سرعت توسعه هوش مصنوعی عمومی ، مسیر دستیابی به آن و ساختار جهان پس از ظهورش، برنامهریزی راهبردی را با چالشهای بیسابقهای مواجه کرده است. در ادامه با تمرکز بر پنج مسئله دشوار مرتبط با هوش مصنوعی عمومی ، به تحلیل ریسکها و فرصتهای پیشروی امنیت ملی آمریکا پرداخته می شود:
۱. سلاحهای شگفتانگیز:
هوش مصنوعی عمومی میتواند به توسعه سلاحهای خودمختار پیشرفته، سیستمهای سایبری غیرقابل نفوذ یا حتی ابزارهای جنگ بیولوژیکی با دقت بالا منجر شود. این سلاحها ممکن است با قابلیتهای تصمیمگیری مستقل، تهدیدات جدی برای ثبات جهانی ایجاد کنند. خطر اصلی در اینجا تسلط یک بازیگر دولتی یا غیردولتی بر این فناوریها و ایجاد شکاف غیرقابل جبران در توازن قدرت است که میتواند به وقوع جنگهای ناخواسته و افزایش تنشهای بینالمللی منجر شود.
۲. تغییرات سیستماتیک در توازن قدرت:
ظهور هوش مصنوعی عمومی ممکن است به جابهجایی قدرت از دولتها به شرکتها، گروههای غیرمتمرکز یا حتی خود سیستمهای هوش مصنوعی عمومی بینجامد. این تغییرات میتوانند نقش سنتی نیروی انسانی در تصمیمگیریهای نظامی را کاهش داده و آن را به الگوریتمها منتقل کنند. بهعلاوه، این انتقال قدرت میتواند به ایجاد نهادهای جدیدی منجر شود که کنترل و نظارت بر فعالیتهای نظامی را دچار چالش کند.
۳. توانمندسازی غیرمتخصصان در ساخت سلاحهای کشتار جمعی:
دسترسی به هوش مصنوعی عمومی میتواند فرایند طراحی و تولید سلاحهای کشتار جمعی (شیمیایی، هستهای یا سایبری) را برای افراد عادی تسهیل کند. این مسئله، چالش جدیدی برای نظارت بینالمللی و کنترل تسلیحات ایجاد میکند و نیازمند بازنگری در سیاستهای کنونی و تقویت همکاریهای بینالمللی است.
۴. وجود موجودیتهای مصنوعی با «عاملیت»:
هوش مصنوعی عمومی هایی که توانایی تصمیمگیری مستقل و تعقیب اهداف خود را دارند، ممکن است خارج از کنترل انسان عمل کنند. پرسش کلیدی در این زمینه این است که چگونه میتوان اطمینان حاصل کرد که اهداف هوش مصنوعی عمومی با منافع ملی و اخلاقی انسانها همسو است؟ این چالش نیازمند تدوین اصول اخلاقی و چارچوبهایی برای مدیریت رفتار این سیستمهاست.
۵. بیثباتی ساختاری:
رقابت تسلیحاتی مبتنی بر هوش مصنوعی عمومی ، افزایش تنشهای ژئوپلیتیک و شتابگیری تغییرات اجتماعی-اقتصادی میتواند به بیثباتی در سطوح محلی و جهانی بینجامد. تعامل پیچیده بین مسائل مختلف ممکن است راهحلهای پیشنهادی برای یک مسئله (مثلاً محدودسازی دسترسی به هوش مصنوعی عمومی ) را با چالشهایی مواجه کند که بیثباتی را تشدید یا امکان توسعه سلاحهای پیشرفته را به رقبا منتقل کند.
با توجه به مباحث فوق، سناریوهای محتمل برای آینده هوش مصنوعی عمومی و امنیت ملی آمریکا عبارتاند از:
- خوشبینانه: همکاری بینالمللی برای تدوین چارچوبهای نظارتی، کاهش رقابتهای مخرب و استفاده مسئولانه از هوش مصنوعی عمومی در راستای امنیت جمعی.
- واقعبینانه: رقابت فزاینده میان قدرتهای بزرگ برای تسلط بر هوش مصنوعی عمومی ، همراه با دورههای مکرر بحران و توافقهای موقت.
- بدبینانه: تسلط یک بازیگر غیرقابل پیشبینی بر هوش مصنوعی عمومی ، فروپاشی نظامهای کنونی کنترل تسلیحات و تشدید جنگهای سایبری/اتوماتیک.
عوامل تعیینکننده شامل سرعت پیشرفت فناوری هوش مصنوعی عمومی و توانایی دولتها در تطبیق قوانین، سطح هماهنگی بین بازیگران دولتی، بخش خصوصی و نهادهای بینالمللی، و موفقیت در ایجاد «حفاظتهای امنیتی» برای جلوگیری از سوءاستفاده از هوش مصنوعی عمومی هستند.
در مجموع ظهور هوش مصنوعی عمومی بهمثابه یک «تغییردهنده بازی» (Game-Changer) در حوزه امنیت ملی، نیازمند نگاهی جامع، پیشدستانه و چندرشتهای است. پنج مسئله مطرحشده در این مقاله — از سلاحهای پیشرفته تا بیثباتی ساختاری — نشان میدهد که نمیتوان بهصورت مجزا به این چالشها پرداخت. موفقیت ایالات متحده در این عرصه، منوط به سه اقدام کلیدی است:
۱. توسعه یک زبان مشترک برای درک و تحلیل ریسکهای هوش مصنوعی عمومی در سطح ملی و بینالمللی.
۲. سرمایهگذاری در پژوهشهای امنیتی-اخلاقی برای همسوسازی اهداف هوش مصنوعی عمومی با منافع بشری.
۳. تقویت نهادهای نظارتی برای مدیریت تعارضات ناشی از رقابتهای فناورانه.
در غیاب این اقدامات، جهان پسا-هوش مصنوعی عمومی ممکن است به صحنهای از هرج و مرج، بیاعتمادی و جنگهای نوین تبدیل شود که کنترل آن حتی برای قدرتمندترین دولتها نیز غیرممکن خواهد بود.
