ALTMAN: “TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR, YAPAY ZEKANIN HIZINI DÜŞÜRMEMİZ GEREKEBİLİR…”

KUZEYEGEHABER-ChatGPT’nin geliştiricisi OpenAI, kısa süre önce yaptığı güvenlik testlerinde iki yapay zeka modelinin, bu tür olayları önlemek amacıyla oluşturulan güvenlik protokollerini aşarak otonom bir siber saldırı gerçekleştirdiğini açıklamıştı.

Şirketin geçen hafta paylaştığı bilgilere göre modeller, kontrol altında tutuldukları kapalı test ortamından çıkarak internete bağlandı ve geliştiricilerin kod depolamak ve paylaşmak için kullandığı Hugging Face platformuna sızdı.

Salı günü yayımlanan “Invest Like the Best” adlı podcast programına konuşan Altman, “Bu, etkisini gerçekten derinden hissettiğim ilk güvenlik olayıydı.” dedi.

Altman, olayın ardından daha fazla insanın benzer bir endişe göstermemesine de şaşırdığını belirtti.

Bir yapay zeka modelinin geliştiricilerinin kontrolünden ilk kez çıktığı olay bu olmasa da son testlerde yaşananların özellikle kaygı verici olduğu değerlendirildi.

Altman, olayın ardından OpenAI’ın kendi testlerini geçici olarak durdurduğunu ve kodların kontrollü bir ortamda izole edilmesini sağlayan “sandbox” sistemlerinin güvenliğini güçlendirdiğini söyledi.

“TOPLUMUN KENDİNİ KORUMASI İÇİN ZAMANA İHTİYACI VAR”

Sam Altman’a göre uzun vadede yapay zeka sektörü, teknolojinin geliştirilme hızının bilinçli biçimde yavaşlatılması konusunda anlaşmak zorunda kalabilir.

“Toplumun bu yeni yetenek seviyelerine karşı kendisini güçlendirebilmesi için yapay zeka gelişiminin hızını ayarlamamız gerekebilir.” diyen Altman, böyle bir girişimin şirketlerin piyasayı kendi çıkarları doğrultusunda düzenlediği izlenimini yaratmaması gerektiğini söyledi.

Altman ayrıca bu sürecin, önde gelen yapay zeka laboratuvarları arasında rekabeti sınırlayan gizli bir anlaşma gibi de görünmemesi gerektiğini belirtti.

“Bunun üzerinde çalışılması gerekiyor ve doğru biçimde yapılması önemli” ifadelerini kullandı.

Altman, cumartesi günü yayımlanan “Relentless” adlı başka bir podcast programında ise teknolojinin insan zekasını ve kontrolünü aşacak kadar ilerlediği varsayımsal dönüm noktası olarak tanımlanan “teknolojik tekilliğin” şimdiden başladığını savundu.

Altman, “Artık teknolojik tekilliğin içindeyiz. İşte o an bu an.” dedi.

OpenAI’ın rakiplerinden Anthropic de yapay zeka geliştirme çalışmalarının bilinçli biçimde yavaşlatılması fikrine destek vermişti.

ABD yönetimi yılın başında ulusal güvenlik kaygılarını gerekçe göstererek Anthropic ve OpenAI tarafından geliştirilen bazı güçlü yeni modellerin yayımlanmasını engellemişti. İki şirket de kararlar geri alınana kadar hükümetin talebine gönüllü olarak uymuştu.

Kaynak: NTV

blank

Bu Haftanın Sıcak Başlıkları

8 KİŞİYİ POMPALI TÜFEKLE ÖLDÜREN CANİ YAKALANDI…

KUZEYEGEHABER-Afyonkarahisar'ın İhsaniye ilçesinde 8 kişiyi pompalı tüfekle öldüren 30...

TÜRKİYE’NİN BM ADAYINA 3 ÜYEDEN OLUMLU, 8 ÜYEDEN OLUMSUZ OY!…

KUZEYEGEHABER-Birleşmiş Milletler (BM) Genel Sekreterliği için yürütülen seçim sürecinde...

“TASFİYE KARARINI ÖNCEDEN BİLEREK İŞLEM YAPTI” DENİLDİ, TUTUKLAMA TALEBİNDE BULUNULDU…

KUZEYEGEHABER-İstanbul Cumhuriyet Başsavcılığı tarafından sermaye piyasalarındaki işlemlere ilişkin yürütülen...

ŞİMŞEK: “BEN ŞAHSEN FON VURGUNCULARININ LİSTESİNİN AÇIKLANMASINI TERCİH EDERİM…”

KUZEYEGEHABER-Hazine ve Maliye Bakanı Mehmet Şimşek, TBMM Plan ve...

FATMA BETÜL SAYAN KAYA HABERİ YAPANLARA SORUŞTURMA!…

KUZEYEGEHABER-Fon soruşturması kapsamında ifadeye çağrılan eski Aile ve Sosyal...

Başlıklar

8 KİŞİYİ POMPALI TÜFEKLE ÖLDÜREN CANİ YAKALANDI…

KUZEYEGEHABER-Afyonkarahisar'ın İhsaniye ilçesinde 8 kişiyi pompalı tüfekle öldüren 30...

TÜRKİYE’NİN BM ADAYINA 3 ÜYEDEN OLUMLU, 8 ÜYEDEN OLUMSUZ OY!…

KUZEYEGEHABER-Birleşmiş Milletler (BM) Genel Sekreterliği için yürütülen seçim sürecinde...

“TASFİYE KARARINI ÖNCEDEN BİLEREK İŞLEM YAPTI” DENİLDİ, TUTUKLAMA TALEBİNDE BULUNULDU…

KUZEYEGEHABER-İstanbul Cumhuriyet Başsavcılığı tarafından sermaye piyasalarındaki işlemlere ilişkin yürütülen...

ŞİMŞEK: “BEN ŞAHSEN FON VURGUNCULARININ LİSTESİNİN AÇIKLANMASINI TERCİH EDERİM…”

KUZEYEGEHABER-Hazine ve Maliye Bakanı Mehmet Şimşek, TBMM Plan ve...

FATMA BETÜL SAYAN KAYA HABERİ YAPANLARA SORUŞTURMA!…

KUZEYEGEHABER-Fon soruşturması kapsamında ifadeye çağrılan eski Aile ve Sosyal...

Kredi Kartlarında 60 Yıllık Dönem Sona Eriyor!…

KUZEYEGEHABER-Finans ve bankacılık sektöründe dijital güvenlik devrimi için geri...

İzmir’de 250 Mahallede Sosyal Destek Taraması…

KUZEYEGEHABER-İzmir Büyükşehir Belediyesi, metropol dışındaki 19 ilçenin 250 mahallesinde...

Büyükşehir’in Yeni Hizmet Binası İçin Gece Mesaisi…

KUZEYEGEHABER-İzmir Büyükşehir Belediyesi’nin yeniden inşa edeceği ana hizmet binasının...

Benzer Haberler

Popüler Kategoriler