Şirketin geçen hafta paylaştığı bilgilere göre modeller, kontrol altında tutuldukları kapalı test ortamından çıkarak internete bağlandı ve geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızdı.

Salı günü yayımlanan “Invest Like the Best” adlı podcast programına konuşan Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi.

Altman, olayın ardından daha fazla insanın benzer bir endişe göstermemesine de şaşırdığını belirtti.

Bir yapay zeka modelinin geliştiricilerinin kontrolünden ilk kez çıktığı olay bu olmasa da son testlerde yaşananların özellikle kaygı verici olduğu değerlendirildi.

Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirdiğini söyledi.

“TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR”

Sam Altman’a göre uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızının bilinçli biçimde yavaşlatılması konusunda anlaşmak zorunda kalabilir.

“Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” diyen Altman, böyle bir girişimin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerektiğini söyledi.

Altman ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemesi gerektiğini belirtti.

“Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” ifadelerini kullandı.

Altman, cumartesi günü yayımlanan “Relentless” adlı başka bir podcast programında ise teknolojinin insan zekasını ve kontrolünü aşacak kadar ilerlediği varsayımsal dönüm noktası olarak tanımlanan “teknolojik tekilliğin” şimdiden başladığını savundu.

Altman, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi.

OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermişti.

ABD yönetimi yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuştu.

Kaynak: NTV

Bu post ALTMAN: “TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR, YAPAY ZEKANIN HIZINI DÜŞÜRMEMİZ GEREKEBİLİR…” Aşağıdaki Sitede Yayınlanmıştır. Kuzey Ege Haber. Yazının Kaynağı Bu Sitedir.

OpenAI’nin ABD Savunma Bakanlığı (DoD) ile yaptığı iş birliği daha mürekkebi kurumadan krize dönüştü. Yapay zekânın devlet tarafından kitlesel gözetim amacıyla kullanılıp kullanılmayacağı sorusu sosyal medyada büyük tepki topladı. Tartışmalar büyüyünce CEO Sam Altman bizzat devreye girdi.

Altman, çalışanlara gönderdiği ve X’te paylaştığı yazısında anlaşmanın değiştirileceğini açıkladı. Yeni düzenlemeyle birlikte OpenAI sistemlerinin ABD vatandaşlarını izlemek, takip etmek ya da geniş çaplı gözetlemek için kullanılması açıkça yasaklanacak.

Sözleşmeye eklenecek yeni maddede ABD Anayasası’nın Dördüncü Maddesi, 1947 Ulusal Güvenlik Yasası ve 1978 tarihli FISA yasasına açık referans veriliyor. Yani mesele sadece etik değil, doğrudan anayasal bir çerçeveye bağlanmış durumda.

Metne göre OpenAI’nin yapay zekâ sistemleri, ABD vatandaşlarının kasıtlı biçimde izlenmesi veya ticari yollarla elde edilen kişisel veriler üzerinden dolaylı gözetim yapılması için kullanılamayacak. Altman ayrıca, mevcut sözleşme kapsamında NSA dahil istihbarat kurumlarının sistemi kullanamayacağını özellikle vurguladı.

“Anayasaya Aykırı Emir Gelirse Hapse Girmeyi Tercih Ederim”
Sam Altman’ın en dikkat çeken çıkışı ise şu oldu: “Eğer anayasaya aykırı bir emir alırsam buna uymak yerine hapse girmeyi tercih ederim.” Açık konuşmak gerekirse bu cümle, tartışmayı bambaşka bir seviyeye taşıdı.

Altman ayrıca anlaşmanın 27 Şubat’ta aceleyle duyurulduğunu kabul etti. Sürecin “çok karmaşık” olduğunu ve daha net iletişim kurulması gerektiğini belirtti. Şirketin aslında daha kötü bir sonucu engellemeye çalıştığını ancak bunun dışarıdan “fırsatçılık” gibi göründüğünü de ekledi…

Kaynak: Webtekno

Bu post OpenAI, Yapay Zekanın Gözetleme İçin Kullanılmasına İzin Vermeyecek!… Aşağıdaki Sitede Yayınlanmıştır. Kuzey Ege Haber. Yazının Kaynağı Bu Sitedir.