Deepfake
Bir kişinin yüzünü veya sesini başka bir içeriğe gerçekçi şekilde yerleştiren yapay zeka üretimi.
Deepfake, "deep learning" (derin öğrenme) ve "fake" (sahte) kelimelerinin birleşiminden türetilen, derin öğrenme teknikleri kullanılarak bir kişinin yüzünü, sesini veya hareketlerini başka bir görüntü, ses ya da video içine son derece gerçekçi biçimde yerleştiren yapay zeka üretimidir. Teknik olarak genellikle üretici çekişmeli ağlar (GAN) veya otokodlayıcılar kullanılır: bir model, hedef kişinin çok sayıda fotoğraf veya video karesinden yüz özelliklerini öğrenir, ardından bu öğrenilen özellikleri başka bir videodaki kişinin yerine, ışık, açı ve mimikleri koruyarak "bindirir". Ses klonlama teknikleri ise benzer şekilde, kısa bir ses örneğinden kişinin konuşma tonunu, aksanını ve ritmini taklit edebilen yapay sesler üretebilir.
Deepfake teknolojisi eğlence sektöründe ve eğitimde yaratıcı kullanımlara sahip olsa da, en çok kimlik dolandırıcılığı, dezenformasyon ve rıza dışı içerik üretimi konularında endişe yaratmaktadır; sahte bir politikacı videosu kamuoyunu yanıltabilir veya sahte bir CEO sesi kurumsal dolandırıcılıkta kullanılabilir. Bu riskler, deepfake tespit teknolojilerinin (video ve seste tutarsızlıkları veya dijital izleri arayan modeller) ve yasal düzenlemelerin hızla gelişmesine yol açmıştır; bu, üretim ve tespit teknolojileri arasında sürekli bir "silahlanma yarışı" yaratmaktadır.
Deepfake teknolojisi eğlence sektöründe ve eğitimde yaratıcı kullanımlara sahip olsa da, en çok kimlik dolandırıcılığı, dezenformasyon ve rıza dışı içerik üretimi konularında endişe yaratmaktadır; sahte bir politikacı videosu kamuoyunu yanıltabilir veya sahte bir CEO sesi kurumsal dolandırıcılıkta kullanılabilir. Bu riskler, deepfake tespit teknolojilerinin (video ve seste tutarsızlıkları veya dijital izleri arayan modeller) ve yasal düzenlemelerin hızla gelişmesine yol açmıştır; bu, üretim ve tespit teknolojileri arasında sürekli bir "silahlanma yarışı" yaratmaktadır.