OpenAI’nin geliştirdiği Voice Engine, yalnızca 15 saniyelik ses kayıtlarını kullanarak herkesin sesinin ikna edici bir kopyasını oluşturabilen bir araç olarak dikkat çekiyor. Ancak bu yeni teknolojinin yayınlanmasıyla ilgili ciddi endişeler ortaya çıkıyor.
OpenAI’nin Açıklamaları
2022 yılında geliştirilen Voice Engine, OpenAI’nin önde gelen yapay zeka aracı ChatGPT’de yer alan metinden konuşmaya özelliğini kullanıyor. OpenAI, bu teknolojiyle ilgili olarak toplumla bir diyalog başlatmayı ve teknolojinin geniş çapta nasıl ve ne şekilde kullanılacağı konusunda daha bilinçli kararlar almayı amaçladıklarını belirtti.
OpenAI’nin yapay zekâ teknolojilerinin yeteneklerini ve sınırlamalarını anlamak için halkı eğitme çağrısında bulunması ve bireylerin seslerinin kullanımını korumaya yönelik politikaları araştırma sözü vermesi dikkat çekiyor.
Rakiplerin Durumu
OpenAI’nin Voice Engine’i, teknik basitliği ve az miktarda orijinal ses kullanarak ikna edici klonlar oluşturabilmesiyle öne çıkıyor. Diğer şirketler ise bu alanda daha fazla ilerleme kaydetmiş durumda. Örneğin, ElevenLabs gibi şirketler, birkaç dakikalık ses kayıtlarıyla tamamen gerçekçi klonlar oluşturabiliyor.
Güvenlik Önlemleri
OpenAI’nin Voice Engine’iyle ilgili endişeler arasında, ses klonlarının kötüye kullanımı da yer alıyor. ElevenLabs, ses klonlarının siyasi adaylar gibi önemli figürleri taklit ederek seçimlere müdahale riskini azaltmak için güvenlik önlemleri geliştirmeye odaklanmış durumda.