Köken, Content Credentials ve Güven Standartları

Kökenin aslında ne kanıtladığı

Bir Content Credential (C2PA), kriptografik olarak imzalanmış bir manifestodur: bir dosyayı kimin veya neyin, ne zaman, hangi cihaz veya araçla oluşturduğunun ve daha sonra hangi düzenlemelerin uygulandığının bir kaydı, her biri iddiayı yapan araç tarafından imzalanmıştır. Mevcut olduğunda ve imza zinciri veren otoritenin sertifikasına karşı doğrulandığında, bu, iddianın o belirli araç tarafından yapıldığını ve imzalandığından beri değiştirilmediğini kanıtlar.

Yapay zeka filigranlaması (en yaygın kullanılan örnek Google DeepMind'ın SynthID'sidir) farklı çalışır: eklenmiş bir kayıt yerine, üretim anında algılanamaz bir sinyali doğrudan üretilen piksellerin kendisine gömer, kırpma, yeniden sıkıştırma veya format dönüştürme gibi yaygın dönüşümleri atlatacak şekilde tasarlanmıştır.

Her iki mekanizma da katılımı kanıtlar, gerçeği değil. İmzalı bir C2PA manifestosu, imzalayan aracın belirli bir iddia yaptığını kanıtlar — iddianın doğru olduğunu bağımsız olarak doğrulamaz, yalnızca tanımlanabilir, doğrulanmış bir kaynak tarafından yapıldığını ve o zamandan beri değiştirilmediğini kanıtlar.

Kökenin kanıtlayamadığı şey

Köken sinyalleri, hiç eklenmemiş içerik için özgünlüğü kanıtlayamaz, mevcut dosyalara geriye dönük olarak eklenemez ve her gerçek dünya işleme hattını atlatamaz.

• Eksik bir sinyal, manipülasyon veya yapay zeka üretiminin kanıtı değildir — çoğu içeriğin basitçe hiç eklenmiş bir sinyali olmamıştır
• Hem C2PA hem de SynthID yalnızca kaynak araç o belirli standarda katıldığında çalışır; katılımcı olmayan bir kamera, editör veya üretici, içeriğin nasıl yapıldığından bağımsız olarak hiçbir sinyal üretmez
• C2PA manifestoları, gömülü meta verileri korumayan platformlar ve hatlar tarafından kaldırılabilir — sosyal medya yeniden yüklemeleri, ekran görüntüleri ve birçok mesajlaşma uygulaması bunları rutin olarak kaldırır
• Kriptografik bir imza, iddiayı kimin imzaladığını kanıtlar, iddianın gerçeği tanımladığını değil — ele geçirilmiş veya kötü niyetli bir imzalama anahtarı, çoğu saldırganın erişimi olmasa da, yine de geçerli olarak imzalanmış yanlış bir iddia üretebilir
• Her iki standart da bağlamsal gerçeği değerlendirmez: gerçek, değiştirilmemiş bir fotoğrafın doğru bir şekilde başlıklandırılıp başlıklandırılmadığı veya doğru zamanda ve yerde kullanılıp kullanılmadığı, her iki mekanizmanın da kontrol ettiği şeyin dışındadır

Meta veri ve köken sinyallerinin neden kaybolduğu

Dolaşımdaki görsellerin ezici çoğunluğu, kasıtlı kaçınma yerine sıradan, şüpheli olmayan nedenlerle hiçbir köken sinyali taşımaz.

• Yakalama cihazı veya üretim modeli standarttan önce gelir veya üretici bunu uygulamamıştır
• Yükleme hatları dosyaları yeniden kodlar ve gömülü meta verileri işlemenin rutin, kötü niyetli olmayan bir yan etkisi olarak atar (küçük resim oluşturma, format dönüştürme, sıkıştırma)
• Ekran görüntüleri ve ekran kayıtları yalnızca oluşturulan pikselleri yakalar, orijinal dosyanın taşıdığı herhangi bir meta veriyi değil
• Mesajlaşma uygulamaları ve bazı sosyal platformlar, kısmen kullanıcı gizliliği nedenleriyle (meta veriler GPS koordinatları ve cihaz tanımlayıcıları içerebilir) varsayılan olarak meta verileri kaldırır

Yapay zeka tespitinin hala ne zaman gerekli olduğu

Köken ve filigranlama isteğe bağlı olduğundan ve aktarım sırasında kolayca kaybolduğundan, bir kişinin gerçekte değerlendirmesi gereken çoğu görsel — tanıdık olmayan bir kaynaktan gelen bir fotoğraf, yayınlandığı platform tarafından meta verilerinden zaten arındırılmış bir görsel, filigran gömmeyen bir üreticiden gelen çıktı — hiçbir doğrulanabilir köken sinyali taşımaz. Genel amaçlı yapay zeka tespiti, özellikle bu çoğunluk durumu için mevcuttur: herhangi bir aracın bir standarda katılmasına bağlı olmadan, dosyanın kendisinde mevcut olan görsel ve teknik kanıtlardan bir görselin yapay zeka tarafından üretilmiş veya manipüle edilmiş olma olasılığını tahmin eder.

Köken ve tespit birbirini nasıl tamamlar

İki yaklaşım farklı sorulara yanıt verir ve birbirinin yerine geçmek yerine birlikte kullanıldığında en güçlüdür.

• Doğrulanabilir bir Content Credential mevcut olduğunda: yakalamadan düzenlemeye kadar belgelenmiş bir gözetim zinciri oluşturur — mevcut olduğunda en güçlü kanıt türü
• Köken sinyali mevcut olmadığında (yaygın durum): yapay zeka tespiti, meta veri incelemesi ve manipülasyon analizi birincil mevcut kanıt haline gelir
• Bir sinyal mevcut olduğunda bile ikisi birlikte kontrol edilebilir — geçerli bir C2PA manifestosu, bazı üreticiler artık kendi çıktılarını imzaladığından, yapay zeka tarafından üretilen içerikle birlikte var olabilir; tespit ve köken farklı şeyleri kontrol eder, aynı cevap için rekabet etmezler

Sınırlamalar, doğrudan ifade edildi

C2PA'nın sınırlamaları: benimseme, dolaşımdaki toplam görsel hacminin hâlâ bir azınlığıdır; standart, bir içeriğin geçmişindeki her aracın katılmayı ve zinciri korumayı seçmesine bağlıdır; kaldırılmış veya eksik kimlik bilgileri istisna değil, yaygın durumdur.

Yapay zeka filigranlamasının sınırlamaları: yalnızca belirli filigranlama şemasını uygulayan üreticilerden gelen çıktıyı tanımlar; katılımcı olmayan üreticiler, düzenlenmiş kompozitler veya daha eski üretim yöntemleri için hiçbir sinyal sağlamaz; düşmanca kaldırmaya karşı sağlamlık, çözülmüş bir sorun değil, aktif, çözülmemiş bir araştırma sorusudur.

Genel olarak meta verilerin sınırlamaları: kolayca kaldırılır, platformlar arasında tutarsız bir şekilde korunur ve — mevcut ve değiştirilmemiş olsa bile — dosyanın teknik geçmişini tanımlar, içeriğinin veya bağlamının doğru bir şekilde temsil edilip edilmediğini değil.

Bir görselin geçerli bir C2PA kimlik bilgisi varsa, bu onun özgün olduğu anlamına mı gelir?

İmzalayan aracın, dosyanın kökeni ve düzenleme geçmişi hakkında belirli, doğrulanabilir bir iddia yaptığı ve bu iddianın imzalandığından beri değişmediği anlamına gelir. İddianın doğru olduğunu bağımsız olarak doğrulamaz ve görselin doğru bir bağlamda kullanılıp kullanılmadığı hakkında hiçbir şey söylemez.

Eksik bir köken sinyali, bir görselin yapay zeka tarafından üretildiği veya manipüle edildiği anlamına mı gelir?

Hayır. Dolaşımdaki görsellerin çoğunun başlangıçta hiç eklenmiş bir köken sinyali olmamıştır veya yükleme sırasında kaldırılmıştır — eksik bir sinyal yaygın durumdur ve tek başına hiçbir şeyin kanıtı değildir.

C2PA kimlik bilgileri veya SynthID filigranları sahte olarak oluşturulabilir mi?

Bir C2PA kimlik bilgisinin arkasındaki kriptografik imza, imzalayanın özel anahtarı olmadan sahte olarak oluşturulamaz, ancak bir kimlik bilgisi bir dosyadan tamamen kaldırılabilir (manifestoyu sahte olarak oluşturmak yerine kaybederek). SynthID filigranının kasıtlı kaldırmaya karşı sağlamlığı aktif bir araştırma alanıdır, bir garanti değildir.

PhotoProof Labs neden yalnızca Content Credentials veya filigranlamaya güvenmiyor?

Çünkü pratikte karşılaşılan görsellerin çoğu her iki sinyali de taşımaz. PhotoProof Labs'nin kendi meta veri inceleme katmanı, mevcut köken sinyallerini birkaç girdiden biri olarak kontrol eder, ancak herhangi bir tek köken standardının mevcut olmasına bağlı değildir, çünkü bu, gerçek dünya görsellerinin çoğunluğunu hiçbir değerlendirme olmadan bırakır.