Seneler önce çalıştığım bir gazetede yok olan mesleklere yönelik bir yazı dizisi hazırlamıştık. Başta sıkıcı bir konu gibi gelmişti. Aksine gayet bereketli konular çıkardı. Örneğin bugün sadece “biyometrik fotoğraf” için aklımıza gelen fotoğraf stüdyoları, dijital kameraların ve fotoğraf çekebilen cep telefonlarının yeni çıktığı o yıllarda bir ayağı çukurdaki sektörlerin başında geliyordu. Her bir esnaf, birbirinden ilginç bilgiler paylaşmıştı. İlgimi en çok çekeni anlatmadan önce o çağa yabancı dijital kuşak için bir altlık yapmam gerek.

Analog fotoğraf makinelerinin içinde (genellikle) 36 fotoğraf kaydetmeye izin veren film ruloları vardı. Film bitince makarasına geri sarılır, götürülüp fotoğraf stüdyosuna bırakılırdı. Orada önce kimyasal bir işlemden geçer, ardından karta basılarak sahibine teslim edilirdi. Yani çekilen fotoğrafı görebilmek en azından birkaç GÜN sürerdi. Dahası, sizden önce mutlaka bir fotoğrafçı ya da kalfası onlara bakmış olurdu.

Söyleştiğimiz esnaf sıklıkla tek bir film rulosunda aynı çiftin söz, nişan, düğün ve ilk doğum kareleri olduğundan yakınıyordu. Fotoğraf makinesi de, film rulosu da, karta bastırmak da maliyetliydi nihayetinde. Bu yüzden çoğu hatıra ancak kimyasal ömrünü tamamlamaya yakın ölümsüzleşebiliyordu. Aynı sebeple “fotoğrafı çekilecek an” da sıkça oluşan türden değildi. Bu yüzden fotoğraf arşivi denen şey birkaç ayakkabı kutusuna sığacak cinstendi. Ayakkabı da ancak bayramdan bayrama alınabildiğinden, eğrisi doğrusuna denk gelirdi.

Bugün sıradan bir akıllı telefon kullanıcısı günde ortalama 20 kare fotoğraf çekiyor. Bunların büyük bir kısmı kişinin kendine ait “selfie” pozlarından oluşuyor. Sahiplerinin sosyal medya hesaplarında biriken bu masumane arşivler, ne yazık ki artık üretken yapay zekanın mucizevi araçlarını kullanan istismarcı ve tacizcilerin hammaddesini oluşturuyor.

Yeni nesil şantaj

Basit internet aramalarıyla ulaşılabilen birçok dijital hizmet, tek fotoğraftan ve tek bir tıklamayla kişilerin müstehcen fotoğraf ve videolarını üretebiliyor. Sadece Telegram platformunda bu amaçla “hizmet veren” botların aylık 4 milyon kullanıcısı var. Kurucusunun tutuklanmasıyla kendini yasalara “daha uyumlu” hale getirme kararı alan Telegram yönetimi, geçtiğimiz ay (Güney Kore’nin şikayetiyle) bu şekilde üretilmiş 25 videoyu sildiğini ve çocuk istismarı içeren 45 BİN grubu kapattığını açıkladı. Ne var ki bu yöntemle müstehcen fotoğraf ve videoları oluşturulan kişi sayısı şimdiden 4 milyonu geçmiş durumda.

Bu içeriğin üretilmesi kadar üretilme amacı da sorunlu. Özellikle küçük yaştaki çocukları hedef alan gruplar, ürettikleri sahteliği anlaşılamayacak kadar gerçekçi görüntüleri kurbanlarının ailelerine ve arkadaşlarına yaymakla tehdit ederek şantaj yapıyor. İfşaatlar sebebiyle intihar edenler dahi var. Bu tip vakaların çetelesini özel bir başlık altında tutan ABD’de aylık ihbar sayısı 450’yi geçmiş durumda. Dünya genelinde kayda geçen yıllık vaka ise 3 milyonu aşıyor. Kayda geçmeyen örneklerin çok daha fazla olduğunu tahmin etmek güç değil.

İşin bir de “yeraltı” boyutu var. Pedofil (sübyancı) gruplar aynı araçları kullanarak hiçbir tehdit ya da şantaj amacı olmadan, kendi özel arşivleri için küçük yaştaki çocuklara ait fotoğraf ve video galerileri oluşturuyor. Üretken yapay zekanın “türetme” yeteneğini düşününce işler daha da karmaşıklaşıyor. En sıkıntılı konu, sentetik olarak üretilen bu içeriğin çocuk pornografisi başlığı altına girip girmeyeceği. Zira 2002 yılında ABD’de görülen bir davada Yüksek Mahkeme çocuk yaştaki kişileri temsil eden cinsel içerikli dijital görüntülerin yasaklanma talebini anayasaya aykırı bularak reddetmişti.

Suyu ısınan bataklık

Bu konudaki yöntemleri, araçları ve vakaları sıralayarak moral bozma ya da evham yaratma niyetinde değilim. Ancak bir şey yapmanın vaktinin geldiği de aşikar. Gelgelelim şimdiye dek küresel ölçekte yürütülen çaba sineklerle mücadeleden farksız. Oysa bu bataklığı besleyen üretken yapay zeka araçlarının sayısı iki elin parmaklarını geçmiyor.

Her şeye aklı yeten yapay zekanın ürettiği içeriğin muhtevasından habersiz olma ihtimali bana pek inandırıcı gelmiyor. Hepsinin sığındığı liman “kullanıcılarımızın ürettiği içerikten biz sorumlu değiliz” şeklinde özetlenebilecek “platform sorumsuzluğu” adlı yasal kalkan. Ne var ki cinsel istismara yönelik kullanımdaki patlama, onların da suyunu epey ısıtmış durumda.

Doğrudan bu konuyla ilgili görünmese de ilk adımı atan Meta oldu. Tetikleyici sebep ise şirketin sahip olduğu Facebook ve Instagram gibi sosyal platformlarda popüler kişilerin benzer yöntemlerle üretilmiş görüntülerini kullanan sahte reklamlar. İçerikten Sorumlu Başkan Yardımcısı Monika Bickert, bundan sonra her reklamın yayımlanmadan önce yapay zeka yardımıyla yüz taramasından geçirileceğini duyurdu. Aynı tekniğin bu yazıya konu derdi aşması işten bile değil.

“Üretken zekayı nasıl kullanabiliriz?” evresinden “Kendimizi üretken yapay zekadan nasıl koruyabiliriz?” durumuna bu kadar kısa sürede geçeceğimizi kimse tahmin edemezdi sanıyorum.

(18 Ekim 2024 tarihli Oksijen gazetesindeki yazım.)