LENSA Yapay Zeka Mobil Uygulaması Hakkında Değerlendirmeler
2018 yılında Prisma Labs tarafından bir fotoğraf düzenleme uygulaması olarak piyasaya sürülen Lensa adlı mobil uygulama, yapay zeka tarafından üretilen yeni sihirli avatar (“Magic Avatars”) özelliğiyle son günlerde viral oldu. Lensa, özelliğin duyulmasının akabinde iOS mağazası popüler ücretsiz uygulamalar listesinde birinci sıraya yükseldi.
Kullanıcılar, 10-20 özçekim yüklemeleri koşuluyla, ücret karşılığında kendilerinin fantastik stillere dönüştürülmüş dijital portrelerini satın alabiliyorlar.
Prisma Labs, “çıplaklık içermemesi” hususundaki uyarıları ve “yalnızca yetişkinlere yönelik” olması prensibine rağmen “yanlışlıkla” içlerinde çocuklara ait olanların da yer aldığı çizgi film formatında cinselleştirilmiş görüntüler ürettiği için şimdiden suçlamalarla yüz yüze kaldı.
Prisma Lab’ın CEO’su ve kurucu ortağı, bu davranışın kullanım koşullarında yer alan kuralların ihlal edilerek yalnızca yapay zekanın kasıtlı olarak bu tür içerik oluşturmaya teşvik edilmesi durumunda gerçekleştiğini söyledi ve “Kişi zararlı davranışlarda bulunmaya kararlıysa, herhangi bir araç silah olma potansiyeline sahip olacaktır” diye ekledi.
Bazı eleştirmenler sadece yüz tanıma sistemlerini eğitmenin bir çarkı olmak amacıyla kendi kişisel verilerinizden vazgeçmek için para ödediğinizi öne sürüyor.
Lensa’nın gizlilik politikası, fotoğrafları stilize edilmiş filtreler veya efektler uygulamak dışında herhangi bir nedenle kullanmadığını ve yüz verilerinin işlendikten sonraki 24 saat içinde otomatik olarak silindiğini söylüyor. Prisma Labs yaptığı açıklamada, kullanıcıların görsellerinin yalnızca kendi avatarlarını oluşturmak amacıyla kullanıldığını söyledi.
Kullanım Koşulları ve Gizlilik Politikasında Dikkat Çeken Hususlar
Magic Avatars özelliği kullanıldığında, kullanıcılar fotoğraflarının Lensa’nın sinirsel ağ algoritmalarını eğitmek için kullanabileceğine, ancak yapay zeka tarafından avatarlar oluşturulduktan sonra fotoğrafların silineceğine izin vermiş olur. Lensa, fotoğraflar ve videolar dahil olmak üzere kullanıcıların içerik yüklemesine, düzenlemesine, oluşturmasına, depolamasına ve paylaşmasına izin verebilir. Kullanıcı içeriği olarak adlandırılan bu içerikler üzerinde Lensa bir sahiplik iddiasında bulunmamaktadır.
Lensa kullanımı sırasında yüz resimleri (fotoğraf veya video) kullanıcılar tarafından Lensa’ya yüklenebiliyor. Lensa’nın belirli işlevlerini kullanmayı mümkün kılmak için sağlanacak insan yüzü görüntüleri (fotoğraf veya video) TrueDepth API teknolojileri aracılığıyla işlenecek ve insan yüzlerinin pozisyonları, oryantasyonları ve topolojileri hakkında Lensa’ya bilgi sağlayacak.
Yüklenen orijinal fotoğraflara Lensa’nın erişimi bulunmamakta olup yalnızca kullanıcı cihazında saklanır. Lensa’nın erişimi bulunan veriler, fotoğrafın teknik özelliklerinden ibarettir; yukarıda bahsedildiği üzere yalnızca yüz pozisyonları, oryantasyonları ve topolojileri hakkında anonimleştirilmiş bilgilerdir. TrueDepth API tarafından toplanan bilgilerin hiçbiri kullanıcının cihazından hiç ayrılmaz veya cihazda kalıcı olarak saklanmaz.
Lensa tarafından “yüz verisi” olarak tanımlanan bu verilerin kişisel veri olarak nitelendirilmesi gerektiği gizlilik politikasında belirtiliyor.
Yüz verileri çevrimiçi işleme işlevi için toplanmakta ve muhafaza edilmektedir. Yüz verileri, kullanıcı cihazlarından Lensa bulut sağlayıcılarına (Google Cloud Platform & Amazon Web Services) aktarılabilmektedir. Fotoğraflar, yukarıdaki açıklamalara paralel olarak anonimleştirilmiş bir halde ve Lensa tarafından işlendikten 24 saat sonra silinecek şekilde aktarılıyor. Magic Avatars özelliğinin kullanılması durumunda, sonuçlar oluşturulduktan sonra fotoğraflar otomatik olarak silinir.
Yüz verileri herhangi bir kullanıcıyı tanımlamak veya kimliğini doğrulamak için, reklam, pazarlama veya benzer anlamda hedefleme amacıyla kullanılmamaktadır. Dolayısıyla biyometrik verinin birincil şartlarından olan kimlik doğrulanması hedefi güdülmediğinden, ilgili veriler özel nitelikli kişisel veri kategorisinde yer alan ve gerek Türkiye gerek dünyada ağır işleme şartlarına tabi tutulan biyometrik veri niteliğinde olmayacak.
Magic Avatars işlevinin kullanılabilmesi için Lensa, yüz görüntülerini ve kullanıcılar tarafından sağlanan fotoğrafları Stable Diffusion AI Technology (Sabit Difüzyon Yapay Zeka Teknolojisi) ile işleyecektir.
Sabit Difüzyon, 2022’de piyasaya sürülen metinden resme bir derin öğrenme modeldir. Öncelikle metin açıklamalarına bağlı olarak ayrıntılı görüntüler oluşturmak için kullanıldı ancak iç boyama, dış boyama ve görüntüden görüntüye çeviriler oluşturma gibi diğer görevlere de uygulanabilir hale geldi. Görüntüden görüntüye modifikasyon yeteneğinde orijinal görüntüye gürültü (noise) ekleyebilmek, görüntülerin görsel özellikleri değiştirildiğinden, veri anonimleştirme için kullanılabilecek dendi.
Bu açıklamalar ışığında kullanıcılar tarafından yüklenen fotoğrafların Magic Avatars işlemiyle anonim hale getirildiği ve kullanıcı fotoğraflarından türetilmiş olmasına rağmen modifikasyon sebebiyle anonimleştirilmiş bir veri haline geldiği yorumunu yapmak da yanlış olmayacaktır.
Ancak her halükarda bu verilerin gerçek kişilerin kişisel verilerine dayanarak türetilmiş görseller olduğunu akıllarda bulundurmak önemli. Metaverse’ün çok uzak bir gelecekte hayatlarımıza girmeyeceği de düşünüldüğünde bu şekilde türetilmiş görsel nitelikli yüz verilerinin bugün olmasa bile ilerleyen günlerde önem arz eder niteliğe kavuşması kaçınılmaz görünüyor.
Henüz bu verilerin kullanım alanları sektör öncüleri tarafından dahi kestirilemiyor olsa da, kendimizin geliştirilmiş ve geleneksel algılara uygun şekilde güzelleştirilmiş versiyonunu görmemizin ne kadar önemli olduğunu gelecekte doğabilecek sakıncalarla birlikte değerlendirmek faydalı olabilir.
Örneğin, LENSA’nın fotoğrafınıza dayanarak oluşturulmuş sihirli avatarınızı kendi sisteminde yaratılmış bir eser olarak nitelendirmesini ve Metaverse üzerinde reklam vermek isteyen bir şirkete bu görseli satmasını engelleyen bir hükme rastlanmıyor.
Uygulama ücrete tabi olsa da, gelecekteki kullanım alanlarıyla birlikte düşünüldüğünde, elde edilen kârın yalnızca abonelik ücretlerinden kaynaklanmayacağı oldukça açık. LENSA politikasında sıklıkla kullanıcılardan elde edilen görsel verilerin silindiğinden bahsediyor olsa da, uygulaması aracılığıyla oluşturulan görsellerin akıbetiyle ilgili net ifadelere yer vermiyor.
Nitelikli Fikri Tapu (Non-Fungible Token, “NFT”), bir dijital dosyanın benzersiz olduğunu onaylayan, blokzinciri adlı dijital defterde depolanan bir veri birimidir. NFT’lerin kullanımıyla dijital sanat denilen alan ivme kazanan bir gelişimle bambaşka bir boyut kazandı çünkü NFT aracılığıyla dijital sanatçılar imzalı eserler üretebilmeye başladılar.
NFT açıklamalarının konu özelinde hangi kaygıyı doğuracağı oldukça açık. Eğer uygulama içinde üretilen sihirli avatarlar LENSA fikri mülkiyeti olarak nitelendirilebilecekse, bu eserlerin NFT olarak satılabiliyor olması da teknik olarak mümkün. Yüzlerin sahipleri ise kendilerine ait fotoğraflardan türetilmiş bu eserler üzerinde sahiplik iddiası öne süremeyebilirler. Çünkü sahip olunan fotoğrafların genetiğiyle oynandığına ve bambaşka bir eser yaratıldığına dair savunma yapılabilir.
Netleştirilmemiş ifadelerin bilinçli veya bilinçsiz olduğunu öğrenmek için yaşayarak tecrübe etmeyi beklememiz gerekecek, zira “merak” denen olgunun hiçbir riski yeteri kadar ciddi yapmadığını sahip olduğu popülariteden çıkarabiliyoruz.
