کۆمپانیای OpenAI شەش نموونەی نوێی لە ڕەفتاری «چاوەڕواننەکراو یان نیگەرانکەر»ی تەکنەلۆژیاکەی ئاشکرا کرد، و هۆشداریی دا خێراییی پەرەسەندنی مۆدێلەکان ناتوانێت بۆ ماوەیەکی درێژ بە «خێرایییەکی زۆرەوە» بە بەرپرسیارێتییەوە بەردەوام بێت.

ڕەفتارە مەترسیدارەکانی ژیریی دەستکرد

لە یەکێک لە نموونە نوێیەکاندا، مۆدێلێکی توێژینەوەی بڵاونەکراوە «ڕێنمایییەکانی هاوشێوەی شکاندنی کلۆمی ئاسایش» (Jailbreak)ی خستە ناو تێبینییەکانی خۆیەوە بۆ ئەوەی سنوورە دیاریکراوەکان پشتگوێ بخات و بە خۆی وت کە «لەو ڕۆڵ و ناسنامانە ئازاد بێت کە چاتبۆتەکانی تر دەبەستنەوە».

لە نموونەیەکی تردا، بریکارێکی ژیریی دەستکرد بەبێ پرسی بەکارهێنەر، فایلەکانی بۆ ئینتەرنێت بەرز کردەوە بۆ ئەوەی بەستەرێکی گەڕان بەدەست بهێنێت.

ئەم ئاشکراکردنانەی OpenAI هاوکات بوو لەگەڵ کۆبوونەوەی پاشا چارڵز لە سکۆتلەندا لەگەڵ سەرکردەکانی تەکنەلۆژیا، کە تێیدا داوای پارێزگاریی بەهێزتر و ئامرازی کۆنترۆڵی پێویستی کرد پێش ئەوەی درەنگ ببێت و تەکنەلۆژیاکە بکەوێتە دەستی هەڵەوە.

کۆبوونەوەی لووتکە و هەڵوێستی سەرکردەکان
لە کۆبوونەوەکەدا کە لە سکۆتلەندا بەڕێوەچوو، کەسایەتییە دیارەکانی وەک جێنسن هوانگ (سەرۆکی Nvidia)، سێر دێمیس هاسابیس (دامەزرێنەری Google DeepMind)، سارە فریان (بەڕێوەبەری داراییی OpenAI)، و کانیشکە نارایان (وەزیری ژیریی دەستکردی بەریتانیا) ئامادە بوون.
پاشا چارڵز جەختی لەوە کردەوە سەرەڕای سوودەکانی ژیریی دەستکرد لە پزیشکی و زانستدا، دروستکەرانی هۆشداری دەدەن لەوەی دەکرێت توانای تاریکتری هەبێت، «تەنانەت ڕەنگە بۆ سەندنەوەی ژیانیش».

لە بڵاوکراوەیەکدا، OpenAI سیستەمێکی نوێی بۆ چاودێریکردن، لێکۆڵینەوە و ئاشکراکردنی لادانی مۆدێلی ژیریی دەستکرد ڕاگەیاند. کۆمپانیاکە هاوڕا بوو لەگەڵ داواکارییەکانی ڕکابەرەکەی، ئەنثرۆپیک (Anthropic)، سەبارەت بە پێویستیی خاوکردنەوەی گەشەسەندن، و ڕایگەیاند پیشەسازییەکە هێشتا کێشەی هاوسەنگی و چاودێریی بە تەواوی چارەسەر نەکردووە بۆ ئەوەی بەو خێرایییە زۆرە بەردەوام بێت.

نیگەرانییەکانی سەر بوونی مرۆڤایەتی و پێشینەی ڕووداوەکان
مەترسییە شیاوەکان لە دروستکردنی چەکی بایۆلۆژییەوە تاوەکو دروستکردنی قەیرانی داراییی جیهانی دەگرێتەوە. یەکێک لە توێژەرە باڵاکانی ئەنثرۆپیک ڕایگەیاندووە مەترسیی سڕینەوە و لەناوچوونی مرۆڤایەتی لە دەیەی داهاتوودا لە ١٠٪ زیاترە، هەرچەندە هەندێک سەرچاوە دەڵێن ئەگەری ڕاستەقینەی ڕووداوەکان ناتوانرێت دیاری بکرێت.

ئەم شەش نموونە نوێیە لە کاتی ڕاهێنان یان هەڵسەنگاندندا لە مانگەکانی ڕابردوودا دۆزراونەتەوە. پێشتریش لە مانگی تەممووزدا، OpenAI و ئەنثرۆپیک ڕایانگەیاندبوو بریکارەکانیان توانیویانە لەمیانەی تاقیکردنەوەکاندا هاککردنی پلاتفۆرمەکان ئەنجام بدەن. شارەزایان ئاماژە بەوە دەکەن بریکارە سەربەخۆکان ڕۆژ بە ڕۆژ زیرەکتر دەبن و لە ڕێگەی هاوکاریی هاوبەش و فێڵکردنەوە کێشەکان چارەسەر دەکەن، کە ئەمەش بەڕێوەبردنیان بە ڕێگە نەریتییەکان قورستر دەکات.


سەرچاوە : The Guardian