Generative AI, metin, sanat, resim ve hatta konuşma dahil her türlü içeriği oluşturma yeteneğine sahiptir.
Yapay zeka başlangıcı ElevenLabs, Ocak ayındaki beta lansmanından bu yana metinden konuşmaya oluşturmayı ve ses klonlamayı destekledi ve bir milyondan fazla kayıtlı kullanıcıya ulaştı.
Ayrıca: Meta, arkadaşlarınızın ve sevdiklerinizin seslerini çoğaltmak için Voicebox AI’yı sunar
Salı günü ElevenLabs, 19 milyon dolarlık A Serisi turunun kapanışını ve en büyük tartışmasını ele alacak olanlar da dahil olmak üzere platformda bazı önemli güncellemeleri duyurdu.
Elevenlabs’ın ses üretme teknolojisinin lansmanından bu yana hem olumlu hem de olumsuz sonuçları oldu.
ElevenLabs tarafından tanımlanan olumlu kullanımlardan bazıları arasında “sesli kitaplar oluşturan bağımsız yazarlar, video oyunlarındaki karakterleri seslendiren geliştiriciler, görme engellilerin çevrimiçi yazılı içeriğe erişmesini destekleme ve dünyanın ilk AI radyo kanalını güçlendirme” yer alıyor.
Bu kullanım durumları olumlu olsa ve birçok farklı endüstrinin iş süreçlerini ilerletse de, aynı derecede zararlı uygulamalar da olmuştur.
Yeni ses oluşturmak için bir kişinin sesinden küçük parçalar alan ses klonlama aracı, hain amaçlarla kullanıldı ve tanınmış kişileri korkunç, ayrımcı ifadeler söylüyormuş gibi gösterdi.
Betayı yayınladıktan haftalar sonra ElevenLabs hemen twitter “ses klonlama kötüye kullanım durumlarını” ele almak için. Şirket, ek hesap doğrulama, sesin telif hakkını doğrulama, ses klonlamayı ücretli bir katmana taşıma ve hatta her isteği manuel olarak doğrulama gibi sorunla mücadele etmenin olası yollarını önerdi.
Ayrıca: Vimeo, video oluşturmayı önemli ölçüde kolaylaştırmak için bir AI araçları paketi ekler
Bugün, şirketin soruna çözümü gibi görünen bir AI Konuşma Sınıflandırıcısını kamuoyuna açıkladı. Bu araç, yüklenen sesin ElevenLabs’ten yapay zeka tarafından oluşturulmuş ses içerip içermediğini deşifre edebilecektir.
ElevenLabs açıklamada, “AI Speech Classifier’ın piyasaya sürülmesi, şirketin şeffaflık çabasındaki en son adım ve güvenli, üretken bir medya ortamı yaratma taahhüdünün temel taşıdır” dedi.
Aracı duyuran önceki bir gönderiye göre, araç, sesin ne zaman değiştirilmediğini belirlemede >%99 doğruluk sağlar.
Bununla birlikte, yayına göre, ses Codec veya yankı dönüşümlerine tabi tutulduysa, doğruluk %90’ın üzerine düşüyor ve içerik ne kadar çok işlenirse, doğruluk o kadar düşüyor.
Bu araç kötüye kullanımı engellemez ve ilk zarar verildikten sonra kafa karışıklığının giderilmesine yardımcı olabilir. Sorunu çözmedeki etkinliği sorgulanabilir, ancak bu küçük bir adımdır.
Bu, AI nesil teknolojisinin tanınmış kişileri hedef almak için ilk kez kötüye kullanılması değil. Örneğin, bir AI müzik üreteci, hiçbir sanatçı aslında pistte olmamasına rağmen kulağa gerçek gibi gelen bir Drake ve The Weekend ortak çalışması oluşturabildi.
Ayrıca: AI tarafından üretilen müzik bir müzik ödülü kazanabilir mi? Grammy’ler yeni kuralları açıklıyor
Yapay zeka sanat ve görüntü oluşturucular, belirli faaliyetleri gerçekleştiren tanınmış kişilerin sahte, gerçekçi görüntülerini oluşturmak için de kullanılmıştır. Bu görüntülerin bazıları olumsuz bir şekilde siyasi propaganda olarak kullanılırken, diğerleri sadece eğlence amaçlı kullanılmıştır, örneğin kirpi mantolu Papa Francis’in memeleri.
ElevenLabs, AI Speech Classifier’a ek olarak ürün grubuna “Projeler”in de geldiğini duyurdu.
“Projeler”, şu anda erken erişim için mevcut olan uzun biçimli sözlü içeriği düzenlemeye ve oluşturmaya yönelik bir iş akışıdır. Yayına göre, ses düzenleme ihtiyaçları için tek durak noktası olarak hizmet vermesi ve ses oluşturmaya “Google Dokümanlar düzeyinde basitlik” sağlaması amaçlanıyor.
“Projeler” özelliğinin eklenmesi, Vimeo, TikTok ve Adobe Express gibi diğer yaratıcılık platformlarından gördüklerimize benzer. Tüm bu platformların amacı, AI’yı kullanıcı iş akışını optimize edecek ve daha kolay, optimize edilmiş içerik oluşturmaya izin verecek şekilde uygulamaktır.
News
