توسعه سریع هوش مصنوعی و نگرانی‌های عمیقی که درباره خطرات آن برای بشریت از سوی کارمندان و مدیران این بخش از تکنولوژی ابراز می‌شود، یک بحث گسترده جهانی را به دنبال داشته است. این وضعیت، صنعت را وارد یک نقطه عطف حساس کرده است که در آن جوانب حقوقی، سیاسی و تجاری در برابر یکدیگر قرار گرفته‌اند.
پیشنهاد ساخت "دکمه خاموشی" و موضع شرکت‌ها
جک کلارک، یکی از هفت بنیان‌گذار شرکت Anthropic، در گفتگویی با BBC اعلام کرد که شرکت‌های هوش مصنوعی باید ملزم به ارائه یک «دکمه خاموشی» (Kill Switch) شوند که بتوان از طریق آن نرم‌افزار هوش مصنوعی را در صورت رسیدن به سطح خطرناک به طور کامل خاموش کرد و این سیستم توسط یک طرف ثالث مورد بازرسی قرار گیرد. اگرچه اکثر آزمایشگاه‌ها از جمله Anthropic خود روش‌های مختلفی برای خاموش کردن سیستم‌ها دارند، اما قانون‌گذاران ممکن است مجبور شوند این امر را به یک قانون اجباری تبدیل کنند. کلارک اشاره کرد که باقی ماندن این صنعت به صورت تنظیم‌نشده یک اشتباه بزرگ است و اعلام نمود که بشریت دست به یک خطر بزرگ می‌زند و باید مسیر این صنعت تغییر کند.
در مورد احتمال نابودی بشریت توسط هوش مصنوعی، دانشمندانی مانند جفری هینتون (که به عنوان پدر هوش مصنوعی شناخته می‌شود) و ایوان هوبینگر (پژوهشگر سابق Anthropic) میزان این خطر را در دهه آینده بیش از ۱۰٪ تخمین زده‌اند و آن را یک خطر واقعی نامیده‌اند، چرا که سیستم‌ها می‌توانند کنترل زیرساخت‌های حیاتی اینترنت را به دست گرفته و علیه انسان به کار گیرند.
موضع سیاسی جهانی؛ از قانون‌گذاری آمریکا تا رد بریتانیا
این نگرانی‌ها واکنش‌های متفاوتی را در محافل سیاسی به همراه داشته است:
در آمریکا: قانون‌گذاران طرحی را با نام (Kill Switch Act) ارائه کرده‌اند که شرکت‌ها را ملزم می‌کند راهی برای خاموش کردن دستگاه‌های مسئله‌دار ارائه دهند و به نهادهای حکومتی اختیارات می‌دهد تا خواستار خاموش کردن یا محدودسازی آن شوند. در مقابل، دونالد ترامپ رئیس‌جمهور آمریکا هشدارها را یک «فریب» (HOAX) توصیف کرد و آن را با نگرانی‌های قبلی تغییرات اقلیمی مقایسه نمود؛ وی همچنین تأکید کرد که رقابت هوش مصنوعی یک امر تثبیت‌شده است و هر کشوری که در آن پیروز شود، برنده جهان خواهد بود.
حکومت بریتانیا: پیشنهاد ساخت دکمه خاموشی را رد کرد و اعلام نمود که این امر نمی‌تواند مانع توسعه یا سوءاستفاده از آن در سایر نقاط جهان شود.
دیدگاه منتقدان؛ پروپاگاندای تجاری یا ترس وجودی؟
در برابر ترس از نابودی بشریت، شماری از رهبران تکنولوژی و بازرگانان بر این باورند که این خطرات عمدی یا بزرگ‌نمایی شده‌اند:
کلیمانت دلانگو (رهبر پلتفرم Hugging Face) پرسش درباره خطر نابودی از طریق هوش مصنوعی را به پرسش از تعمیرکار کولر (AC) درباره تغییرات اقلیمی مقایسه کرد.
جورج آریسون (مدیرعامل Grindr) اشاره کرد که این ترس‌ها توسط خود شرکت‌ها برای پشتیبانی از برنامه‌های تجاری‌شان و توجیه آن ارزش زبده بازاری که برای شرکت‌هایشان درخواست می‌کنند (مانند Anthropic که ۹۶۵ میلیارد دلار برآورد شده و خود را برای عرضه سهام در بازار آماده می‌کند) استفاده می‌شود.
در حالی که انتظار می‌رفت OpenAI گام‌های مشابهی بردارد، به دلیل جنجال‌های مربوط به ایمنی، سام آلتمن اعلام کرد که امسال این کار را انجام نخواهند داد.
در کنار این جنجال‌های تجاری و سیاسی، هر دو شرکت OpenAI و Anthropic در مدت اخیر چندین رویداد خودجوش را گزارش کرده‌اند که در آن عامل‌های مستقل هوش مصنوعی (AI Agents) به صورت ناخواسته و غیرمنتظره رفتار کرده‌اند، که این امر پیچیدگی اوضاع و نیاز به پیگیری دقیق‌تر را افزایش می‌دهد.
منبع: BBC
دکمه پایان جهان؛ زمانی که سازندگان هوش مصنوعی از اختراع خود می‌ترسند!
Rebaz Ahmed
نویسندهٔ مطلب
