En zeki insanlardan daha akıllı bir süper zeki yapay zeka bir gün haydut olursa ne olur? OpenAI’de yeni bir ekip, asla öğrenemeyeceğimizden emin olmak için çıktı.
Bu hafta yapılan bir duyuruda OpenAI, “AI sistemlerini bizden çok daha akıllıca yönlendirmek ve kontrol etmek” için bir ekip oluşturduğunu söyledi.
Ayrıca:Yapay zekanın önünde, bu diğer teknoloji dalgası hızla yayılıyor
Yapay zeka laboratuvarı, önümüzdeki on yıl içinde ulaşabilecek olan süper zekanın şimdiye kadar yaratılmış en etkili teknoloji olacağını ve dünyanın en önemli sorunlarını çözmeye yardımcı olabileceğini söylemeye devam etti. Ancak bunu, “aynı zamanda çok tehlikeli olabileceği ve insanlığın güçsüzleşmesine ve hatta insanın yok olmasına yol açabileceğine” dair oldukça korkunç bir uyarı ile takip etti.
Şirket, insanların daha akıllı oldukları için yapay zekayı kontrol altında tutabileceklerini söylüyor. Peki yapay zeka insanları geçtiğinde ne olur?
Araştırma laboratuvarının şu anki baş bilim adamı ve şu anki uyum başkanı tarafından yönetilen yeni ekibin devreye girdiği yer burasıdır. Bu liderliğe ek olarak, ekip OpenAI’nin en iyi araştırmacıları ve mühendisleri ile mevcut bilgi işlem gücünün %20’sinden oluşacaktır.
Ayrıca:ChatGPT tarama özelliği kullanıma sunulduktan yalnızca bir hafta sonra devre dışı bırakıldı – nedeni bu
Nihai hedef, “kabaca insan düzeyinde otomatik hizalama araştırmacısı” veya belirli bir hedefe ulaşan ve belirlenen parametrelerin dışına çıkmayan bir yapay zeka sistemi oluşturmak olacaktır. Ekip bunu üç adımda gerçekleştirmeyi planlıyor:
Yapay zekanın diğer yapay zekaları insan etkileşimi olmadan nasıl analiz ettiğine dair bir anlayış geliştirin
Sorunlu alanları veya istismarları aramak için yapay zekayı kullanın
Tespit edilip edilmediğini görmek için bazı yapay zekaları kasıtlı olarak yanlış yönlendirin
Kısacası, OpenAI’deki insanlardan oluşan bir ekip, süper akıllı yapay zekayı kontrol altında tutmak için yapay zekayı eğitmelerine yardımcı olmak için yapay zekayı kullanıyor. Ve bunu dört yıl içinde halledeceklerini düşünüyorlar. Bunun iddialı bir hedef olduğunu ve başarının garanti olmadığını kabul ediyorlar, ancak işlerine güveniyorlar.
News
