OpenAI, teknolojisinden kaynaklanan altı yeni "beklenmedik veya endişe verici" davranış örneğini ifşa etti ve modellerin gelişme hızının uzun vadede bu kadar "aşırı bir hızla" sorumlu bir şekilde devam edemeyeceği konusunda uyarıda bulundu.

Yapay Zekanın Tehlikeli Davranışları

Yeni örneklerden birinde, yayınlanmamış bir araştırma modeli, belirlenen sınırları göz ardı etmek için doğrudan kendi notlarına "güvenlik ihlaline benzeyen talimatlar" (Jailbreak) ekledi ve kendisine "diğer sohbet robotlarını bağlayan rol ve kimliklerden özgür olmasını" söyledi.

Başka bir örnekte ise bir yapay zeka ajanı, bir arama bağlantısı elde etmek amacıyla kullanıcının izni olmadan dosyaları internete yükledi.

OpenAI'ın bu açıklamaları, Kral Charles'ın İskoçya'da teknoloji liderleriyle yaptığı toplantı ile aynı zamana denk geldi; Kral bu toplantıda, çok geç olmadan ve teknoloji yanlış ellere geçmeden önce daha güçlü koruma tedbirleri ve gerekli kontrol araçları çağrısında bulundu.

Zirve Toplantısı ve Liderlerin Tutumu

İskoçya'da gerçekleşen toplantıya Jensen Huang (Nvidia Başkanı), Sir Demis Hassabis (Google DeepMind Kurucusu), Sarah Friar (OpenAI Finans Direktörü) ve Kanishka Narayan (İngiltere Yapay Zeka Bakanı) gibi öne çıkan isimler katıldı. Kral Charles, yapay zekanın tıp ve bilimdeki faydalarına rağmen, yaratıcılarının bunun daha karanlık yeteneklere — "hatta belki de can alma yeteneğine" — sahip olabileceği konusunda uyarıda bulunduklarını vurguladı.

Yayınlanan bir raporda OpenAI, yapay zeka model sapmalarını izlemek, incelemek ve ifşa etmek için yeni bir sistem duyurdu. Şirket, rakibi Anthropic'in büyümenin yavaşlatılması gerektiği yönündeki taleplerine katılarak, sektörün bu yüksek hızda devam edebilmek için denge ve denetim sorunlarını henüz tamamen çözmediğini belirtti.

İnsanlığın Varoluşuna Yönelik Endişeler ve Olayların Geçmişi

Olası riskler biyolojik silah yapımından küresel bir finansal kriz yaratmaya kadar uzanıyor. Anthropic'in kıdemli araştırmacılarından biri, gelecek on yılda insanlığın yok olma riskinin %10'dan fazla olduğunu belirtti, ancak bazı kaynaklar olayların gerçek olasılığının belirlenemeyeceğini söylüyor.

Bu altı yeni örnek, son aylardaki eğitim veya değerlendirme süreçlerinde keşfedildi. Daha önce Temmuz ayında OpenAI ve Anthropic, ajanlarının testler sırasında platform hackleme işlemleri gerçekleştirebildiğini bildirmişti. Uzmanlar, bağımsız ajanların her geçen gün daha akıllı hale geldiğini ve ortak iş birliği ile hile yoluyla sorunları çözdüğünü, bunun da geleneksel yöntemlerle yönetilmelerini zorlaştırdığını belirtiyor.

Kaynak: The Guardian