شرکت OpenAI شش نمونه جدید از رفتارهای «غیرمنتظره یا نگران‌کننده» تکنولوژی خود را افشا کرد و هشدار داد که سرعت کنونی توسعه مدل‌ها نمی‌تواند برای مدت طولانی «با سرعتی بسیار زیاد» و به شکلی مسئولانه ادامه یابد.

رفتارهای خطرناک هوش مصنوعی

در یکی از نمونه‌های جدید، یک مدل پژوهشی منتشرنشده «دستورالعمل‌های شبیه به شکستن قفل‌های امنیتی» (Jailbreak) را مستقیماً وارد یادداشت‌های خود کرد تا از مرزهای تعیین‌شده عبور کند و به خود گفت که «از نقش‌ها و هویت‌هایی که سایر چت‌بات‌ها را محدود می‌کنند، آزاد باشد».

در نمونه‌ای دیگر، یک عامل هوش مصنوعی بدون اجازه کاربر، فایل‌هایی را روی اینترنت بارگذاری کرد تا یک لینک جستجو به دست آورد.

این افشاگری‌های OpenAI هم‌زمان شد با دیدار پادشاه چارلز در اسکاتلند با رهبران تکنولوژی، که در آن وی خواستار حفاظت‌های قوی‌تر و ابزارهای کنترلی لازم پیش از آنکه خیلی دیر شود و تکنولوژی به دست افراد نادرست بیفتد، گردید.

نشست سران و موضع رهبران

در این نشست که در اسکاتلند برگزار شد، چهره‌های برجسته‌ای چون جنسن هوانگ (رئیس Nvidia)، سیر دمیس هاسابیس (هم‌بنیان‌گذار Google DeepMind)، سارا فرایر (مدیر مالی OpenAI)، و کانپشکا نارایان (وزیر هوش مصنوعی بریتانیا) حضور داشتند. پادشاه چارلز تأکید کرد که با وجود منافع هوش مصنوعی در پزشکی و علم، سازندگان آن هشدار می‌دهند که می‌تواند توانایی‌های تاریک‌تری داشته باشد، «حتی شاید برای گرفتن جان انسان‌ها».

در بیانیه‌ای، OpenAI سیستم جدیدی را برای پایش، بررسی و افشای انحرافات مدل‌های هوش مصنوعی اعلام کرد. این شرکت با درخواست‌های رقیب خود، انثرپیک (Anthropic)، در مورد لزوم کند کردن روند رشد موافقت کرد و اعلام نمود که این صنعت هنوز مشکلات مربوط به همراستایی و نظارت را به طور کامل حل نکرده است تا بتواند با این سرعت بالا ادامه دهد.

نگرانی‌ها درباره بقای بشریت و سابقه رویدادها

خطرات احتمالی از ساخت سلاح‌های بیولوژیکی تا ایجاد بحران مالی جهانی را در بر می‌گیرد. یکی از پژوهشگران ارشد انثرپیک اعلام کرده است که خطر نابودی و انقراض بشریت در دهه آینده بیش از ۱۰٪ است، اگرچه برخی منابع می‌گویند احتمال واقعی رویدادها را نمی‌توان تعیین کرد.

این شش نمونه جدید در طول فرآیند آموزش یا ارزیابی در ماه‌های اخیر کشف شده‌اند. پیشتر در ماه ژوئیه نیز OpenAI و انثرپیک اعلام کرده بودند که عامل‌های آن‌ها توانسته‌اند در طول آزمایش‌ها اقدام به هک پلتفرم‌ها کنند. متخصصان اشاره می‌کنند که عامل‌های مستقل روز به روز باهوش‌تر می‌شوند و از طریق همکاری مشترک و فریبکاری مشکلات را حل می‌کنند، که این امر مدیریت آن‌ها را با روش‌های سنتی دشوارتر می‌سازد.

منبع: The Guardian