Papa’nın AI tarafınca oluşturulan görüntüsü, gerçekçi düzmece görüntülerin interneti iyi mi ele geçirebileceğini gösteriyor

Geçen hafta, 31 yaşındaki bir inşaat işçisi birkaç saykodelik aldı ve Balenciaga seçimi büyük beyaz bir şişme ceket giyen Papa Francis’in fotogerçekçi bir görüntüsünü oluşturmak için AI görüntü oluşturucu Midjourney kullanmanın keyifli olabileceğini düşündü. Bunu gören birçok insan da keyifli bulunduğunu düşündü ve bunu toplumsal medyaya yaydı. Bir çok muhtemelen bunun gerçek olmadığına dair hiçbir fikre haiz değildi.

Şimdi, Papa’nın bu damlaya haiz olması, metin istemlerinden yeni görüntülerin oluşturulduğu fotogerçekçi suni zeka tarafınca üretilen sanatın en fena ve en tehlikeli dağıtımı değil. Sadece, bu hızla gelişen teknolojinin ne kadar iyi hale geldiğinin bir örneği, hatta çoğu zaman çevrimiçi yanlış informasyon yayma mevzusunda daha anlayışlı olan insanları bile kandırabilir. Hatta buna, yanlış ve dezenformasyona karşı harpte bir dönüm noktası bile kabul edebilirsiniz; savaşan insanoğlu, açıkçası, sırf toplumsal medya var olduğundan esasen kaybediyorlardı. Şimdi, o harpte savaşan insanların bile istemeden de olsa savaşmaya çalışmış oldukları dezenformasyonun yayılmasına destek olabileceği ihtimaliyle uğraşmamız gerekiyor. Ve sonrasında ne?

Bir tek Coat Pope değil. Son iki haftada, birkaç uğursuz suni zeka görüntüsü hikayesi gördük. Trump’ınki vardı sahte tutuklama ve bir takım fena işlenmiş parmakla kapatılan, yasanın AI tarafınca üretilen uzun kolundan kaçmaya çalıştı. Levi’s, çeşitlilik adına insan modellerini suni zeka tarafınca üretilen modellerle “tamamlayacağını” duyurdu (daha çeşitli insan modellerini işe almak, görünüşe nazaran bir seçenek değildi). Microsoft, suni zeka destekli yeni Bing ve Edge tarayıcısında Bing Image Creator’ı piyasaya sürdü ve fotogerçekçi görüntüleri ile tanınan Midjourney son olarak sürümünü yayınladı.

Son olarak, bir görüntünün düzmece olup olmadığını saptamak için en mühim işaretlerden kabul edilen suni zeka görüntü oluşturucularının el çizme mevzusunda daha iyi hale geldiğine dair haberler var. Coat Pope ne kadar inandırıcı görünse de, sağ eline yakından bakıldığında suni zekanın kökenleri ortaya çıkabilirdi. Fakat yakında, buna bile haiz olamayabiliriz. Levi’s, eldivenlerini göstermek için AI modellerini kullanabilecekken, geri kalanımız neye güvenebileceğimiz mevzusunda hiçbir fikrimizin olmadığı, şu anda içinde yaşadığımız dünyadan bile daha fena olan yeni bir dünyaya atılabilir.

“Toplumsal platformlarda metin ve yanlış bilgilendirmeyle ilgili bu problemi yaşadık. Carnegie Mellon Üniversitesi’nde dijital medya ve pazarlama profesörü olan Ari Lightman, “İnsanlar metin mevzusunda şüpheci olmaya şartlandırılmıştır” dedi. “Bir fotoğraf … kullanıcının zihninde bir miktar meşruiyet sağlar. Bir video görüntüsü daha çok rezonans yaratır. At gözlüklerimizin hemen hemen kalkmadığını düşünüyorum.”

Bir tek birkaç kısa yıl içinde, suni zeka tarafınca oluşturulan görüntüler oldukca yol kat etti. Daha masum bir zamanda (2015) Google, Google’ın suni sinir ağı programlarını – kısaca bir insan beyninin sinir ağlarını öykünmek edecek şekilde öğrenmek suretiyle eğitilmiş suni zekayı – kullanan “DeepDream”i piyasaya sürdü. onlardan yeni görüntüler. Onu bir görüntüyle beslersiniz ve ona benzeyen bir şeyi geri tükürürdü, sadece bir sürü yeni görüntü örülmüş, çoğu zaman gözbebeklerine, balıklara ve köpeklere benzeyen şeyler. Görsel olarak suni sinir ağlarının kalıpları iyi mi tespit ettiğini göstermek kadar görseller oluşturmak için tasarlanmamıştı. Sonuçlar, Büyülü Göz çizimi ile üniversitedeki üçüncü yılım içinde bir geçiş benzer biçimde görünüyordu. Uygulamada bilhassa kullanışlı değil, sadece bakması oldukça havalı (yada ürkütücü).

Bu programlar, orijinal yaratıcılarının bilgisi yada izni olmadan çoğu zaman internetten kazınmış milyarlarca görüntü üstünde eğitim vererek gittikçe daha iyi hale geldi. 2021’de OpenAI, metin istemlerinden fotogerçekçi görüntüler oluşturabilen DALL-E’yi piyasaya sürdü. MIT Bilgisayar Bilimi ve Suni Zeka Laboratuvarı’nda üretken modeller üstünde çalışan doktora talebesi Yilun Du, bunun bir “çığır” bulunduğunu söylüyor. Kısa süre sonrasında, suni zeka tarafınca üretilen fotogerçekçi sanat şaşırtıcı derecede iyi olmakla kalmadı, bununla beraber oldukça erişilebilir hale geldi. OpenAI’den Dall-E 2, Stability AI’den Stable Diffusion ve Midjourney, 2022’nin ikinci yarısında genel halka sunuldu.

Bunu, telif hakkı problemlerinden ırkçı yada cinsiyetçi önyargı iddialarına ve bu programların oldukca sayıda sanatçıyı işi olmayan bırakma olasılığına ve son zamanlarda gördüğümüz şeye kadar beklenen etik kaygılar takip etti: dezenformasyon yaymak için kullanılan derin sahtekarlıkları ikna etmek. Ve görüntüler oldukca iyi olsa da, gene de muhteşem değiller. Sadece bu hızla gelişen teknolojinin şimdiye kadar ne kadar süratli ilerlediği göz önüne alındığında, yakında suni zeka tarafınca oluşturulan görüntülerle gerçek görüntüleri birbirinden ayırmanın neredeyse olanaksız olduğu bir noktaya geleceğimizi varsaymak güvenlidir.

Mesela, Nick St. Pierre’in çalışmasını ele alalım. Ürün tasarımında çalışan, New York merkezli 30 yaşındaki St. Pierre, son birkaç aydır gösteriş yapmak süper gerçekçi suni zeka sanatı kreasyonları ve bu tarz şeyleri iyi mi elde ettiğini açıklıyor. Bu görüntüleri kendi başına oluşturacak sanatla alakalı becerilere haiz olmayabilir, sadece onları Midjourney’den çıkarmak için bir beceri geliştirdi ve bunu, oradaki en iyisi bulunduğunu düşündüğü için kullandığını söylüyor. Pierre, Ocak ayını Midjourney’de 12 saatlik iş gününe adadığını söylüyor. Artık bir şeyler yaratabilir bunun gibi bir tek iki saat içinde.

St. Pierre, “İnternette dijital bir görüntü gördüğünüzde ve suni zeka tarafınca oluşturulmuşsa, bu mükemmel olabilir fakat sizi şok etmez” dedi. “Fakat oldukca gerçekçi bir görüntü gördüğünüzde ve ‘vay canına, bu oldukca güzel bir görüntü’ dediğinizde bunun suni zeka bulunduğunu anlıyor musunuz? Tüm gerçekliğinizi sorgulamanıza niçin olur.”

Sadece St. Pierre, işine çoğu zaman gerçek insanları dahil etmez (kendi oluşturma Brad Pitt ve John Oliver’ın 90’ların hanım Gucci modelleri olması bir istisnadır, sadece oldukca azca şahıs ikisine de bakar ve onların aslen Brad Pitt yada John Oliver bulunduğunu düşünür). Ek olarak, toplumsal medya şirketlerinin suni zeka tarafınca oluşturulan derin sahtekarlıklar benzer biçimde sorunlu içinde ne olduğu saptamak ve denetlemek için daha iyi araçlar geliştirmeye devam edeceğini düşünüyor.

“Pek oldukca insan kadar endişelenmiyorum” dedi. “Fakat belirgin tehlikeleri görüyorum, bilhassa Feysbuk dünyasında.”

Nick St.Pierre/Yol Ortası V5

MIT’den Du, suni zekanın dünyamızı düzmece bilgilerle dolduran görüntüler ve videolar üretebilmesinden minimum birkaç yıl uzakta olduğumuzu düşünüyor. St. Pierre’in görüntüleri ne kadar gerçekçi olsa da, bununla beraber saatlerce devam eden eğitimin nihai ürünü olduklarını belirtmekte yarar var. Coat Pope, geçen Kasım’dan beri Midjourney ile oynadığını söyleyen biri tarafınca yapılmış oldu. Kısaca bunlar hemen hemen herhangi birinin evvel deneyime haiz olmadan canlandırabileceği görüntüler değil. Carnegie Mellon’dan Lightman, şimdi probleminin bu olasılığa hazır olup olmayacağımız bulunduğunu söylüyor.

Doğal ki, bunun bir çok, bu programları meydana getiren şirketlere, onları barındıran platformlara ve görevli bir halde hareket etmek ve bunun olmasını önlemek için mümkün olan her şeyi yapmak için görüntüleri oluşturan insanlara bağlıdır.

Olmayacağına dair pek oldukca işaret var. Bing Creator gerçek bir kişinin görüntüsünü oluşturmayacak, sadece hem Coat Pope hem de Fugitive Trump’ın deposu olan Midjourney açıkça yapıyor (o zamandan beri her iki görüntünün yaratıcılarını platformdan yasakladı, sadece yorum talebine cevap vermedi) . Hepsinin neye izin verilip verilmediğine dair kendi kuralları vardır. Kimi zaman hiçbir kaide yoktur. Kesin Difüzyon açık kaynaktır, bu yüzden herhangi bir amacı olan hepimiz onun üstüne kendi şeyini inşa edebilir.

Toplumsal medya platformları, içlerinde çılgınca dolaşan dezenformasyon kampanyaları hakkında ne yapacaklarını yada yanlış bilgilerin yayılmasını engelleyip engellemeyeceklerini ve iyi mi önleyeceklerini bulmak için senelerce savaşım etti. Deepfake’lerle başa çıkmak için de pek donanımlı görünmüyorlar. Tüm insanlığın doğru şeyi yapmasını ve insanları kandırmaya çalışmamasını yada AI görüntülerini fena amaçlar için kullanmamasını beklemek inanılmaz derecede saflıktır.

AI hareketinin birçok liderinin, daha gelişmiş AI modelleri geliştirmek için altı aylık bir moratoryumu teşvik eden, etkili, fedakarlıkla bağlantılı kar amacı gütmeyen bir kuruluştan gelen bir mektubu imzalaması asla yoktan iyidir, sadece yasal olarak da zorlayıcı değildir. Sektördeki hepimiz tarafınca da imzalanmadı.

Tamamı, bir çok insanoğlunun internetteki derin sahtekarlıklar yada öteki yalanlar tarafınca kandırılmamayı oldukca önemsediğini varsayar. Geçtiğimiz birkaç yıl bizlere bir şey öğrettiyse, o da pek oldukca insan düzmece haberlerin gerçek bir mesele bulunduğunu düşünürken, çoğu zaman umursamıyorlar yada tükettiklerinin gerçek olup olmadığını iyi mi denetim edeceklerini bilmiyorlar – bilhassa de. bu informasyon inançlarına uygun olduğunda. Ve gördüklerini olduğu benzer biçimde kabul edecek kadar mutlu olan insanoğlu var bu sebeple her şeyi sorgulayacak zamanları ya da kim bilir detayları yok. Güvenilir bir kaynaktan geldiği sürece, bunun doğru bulunduğunu varsayacaklar. Bundan dolayı, bu güvenilir kaynakların dağıttıkları detayları araştırma işini yapabilmeleri önemlidir.

Sadece, gerçeklikten ayırt edilemeyen derin sahtekarlıkların yarattığı potansiyel ziyanı önemseyen ve gören insanoğlu da var. Suni zeka tarafınca oluşturulan görüntüler yeterince iyi hale ulaşmadan önce bu soruna bir tür çözüm bulma yarışı devam ediyor. Kimin kazanacağını hemen hemen bilmiyoruz fakat ne kaybedeceğimize dair oldukça iyi bir fikrimiz var.

O zamana kadar Twitter’da Papa Francis’in Gucci kot pantolonuyla Roma’da dolaşırken çekilmiş bir fotoğrafını görürseniz, retweet’lemeden ilkin iki kez düşünmek isteyebilirsiniz.

Bu hikayenin bir versiyonu ilk olarak Vox teknoloji haber bülteninde gösterildi. buradan kaydolun böylece bir sonrakini kaçırmazsın!