Reklamlar açıklama seviyelerini karşılamıyor Meta, platformun Hindistan seçimleriyle bağlantılı yapay zeka tarafından oluşturulan gönderilere ihtiyaç duyduğunu söylüyor ve bu da yaptırımla ilgili soruları artırıyor.
Bengaluru, Hindistan – Mart ayının başlarında, Hindistan Başbakanı Narendra Modi’nin yapay zeka tarafından oluşturulan, antik Hindu destanı Mahabharata’dan Bhishma Pitamah stiline sahip gerçekçi bir görüntüsü, Instagram’da siyasi bir reklam olarak öne çıkarıldı.
Uzun dalgalı gri saçları, alnında güneş şeklinde bir işareti ve vücut zırhını giyen fotoğraf, Modi hayranlarının onun günümüz dünyasındaki rolü olarak gördüğü şeyi tasvir ediyordu: dış tehditlere karşı savaşan başkomutan Bhishma’nın reenkarnasyonu.
Sağcı Hokage Modi Sama sayfası tarafından oluşturulan ve ilk olarak 2023’te yayınlanan bu Instagram görseli, Mart ayında iki gün boyunca siyasi reklam olarak öne çıkarıldı ve 35.000’den fazla gösterim topladı.
Al Jazeera’nin, Meta Reklam Kütüphanesi’nin Hindistan’daki son üç aydaki siyasi reklam verilerine ilişkin incelemesi, 27 Şubat ile 21 Mart arasında Hokage Modi Sama’nın, Modi’nin yapay zeka tarafından oluşturulan yaklaşık 50 parça görselini tanıttığını ve bu sayede onu dünyanın önde gelen reklamvereni haline getirdiğini ortaya çıkardı. Instagram’da yapay zeka tarafından oluşturulan Modi görüntüleri.
Meta Reklam Kütüphanesi, aralarında Instagram ve Facebook’un da bulunduğu platformlarda yayınlanan siyasi reklamlardan oluşan bir koleksiyona ev sahipliği yapan halka açık bir arşivdir.
Kullanıcı adının paylaştığı tüm görsellerdeki ortak tema, Modi’nin bir Hindu lideri olarak takdir edilmesiydi. Hokage Modi Sama’daki sponsorlu gönderilerle öne çıkan popüler yapay zeka görselleri, Modi’yi, Hindu mirasını kucaklayan, takım elbise giyen tanrının oğlu Bhishma’nın reenkarnasyonu ve Hindu Rashtra Kralı’nın tahtına yerleşerek milyonlarca beğeni ve görüntüleme toplayan bir reenkarnasyonu olarak gösteriyor. (Hindu Rashtra, Hindistan’ın Hindu-çoğunlukçu yönetiminin çekişmeli ideolojisidir ve seküler kuruluş ilkesinden uzaklaşmaktadır.)
“Bu görüntüler aracılığıyla, Modi’ye aynı anda hem bilge hem de savaşçı bir nitelik kazandırma girişiminde bulunuluyor; bunların her ikisi de yorulmaz, yenilmez, suçlamaların ötesinde ve dolayısıyla sorgusuz sualsiz sadakatimize layık bir siyasi liderin aurasını yaratıyor.” Oxford Üniversitesi’nde siyasi iletişim üzerine öğretim görevlisi olan Amogh Dar Sharma, El Cezire’ye şunları söyledi:
Ancak Modi’nin yapay zeka görüntülerinin en üretken çevrimiçi reklamvereni tarafından yapılan gönderiler, aynı zamanda, fotoğraf ve videolarda yapılan değişikliklerin boyutunu tam olarak anlayamayan seçmenler arasında manipüle edilmiş görüntülerin propaganda için kullanıldığı korkusunun ortasında, yapay zeka ile ilgili kuralların sosyal medyada uygulanmasındaki zorlukları da gösteriyor. memler geçebilirdi.
Meta bu tür bir kullanımın farkında ve kritik bir 2024 seçim yılı öncesinde, Ocak ayından itibaren Instagram ve Facebook’ta yapay zeka (AI) kullanılarak oluşturulan siyasi reklamların bu kullanımı açıklamak zorunda kalacağını, aksi takdirde yasaklanma riskiyle karşı karşıya kalacağını duyurdu.
Meta Reklam Kütüphanesi verilerine göre, 29 Mart’a kadar geçen 30 gün içinde Hokage Modi Sama, Instagram sayfasında görseller ve videolar da dahil olmak üzere 363 parça siyasi içeriği öne çıkarmak için 537.799 Hindistan rupisi (6.500 $) harcadı. Analizimiz, tüm sponsorlu reklamların yaklaşık yüzde 14’ünün, yani 50 görselin, yapay zeka tarafından oluşturulduğunu gösteriyor.
Tüm Hokage Modi Sama AI reklamları Instagram’daki sponsorlu gönderilerdi ve AI’nın kullanımının açıklanması #aiartwork, #midjourneyart, #midjourneyai ve diğerleri gibi hashtag’ler aracılığıyla yapıldı. Hashtaglerin atıfta bulunduğu Midjourney, popüler bir üretken yapay zeka programıdır.
Ancak Meta, Al Jazeera’ye hashtag’lerin dijital olarak oluşturulan veya değiştirilen bir reklam için kabul edilebilir bir açıklama olmadığını söyledi. Reklamverenlerin içeriklerinin dijital olarak oluşturulduğunu veya değiştirildiğini açıklamaları gerektiği durumlarda Meta, Reklam Kitaplığı da dahil olmak üzere “Ödeme yapan” sorumluluk reddi beyanının yanına “Dijital olarak oluşturuldu” yazan bir etiket ekleyecektir. Bu tür etiketler şu anda Hokage Modi Sama AI reklamlarında mevcut değildir.
Meta, Al Jazeera’nin, Modi’nin fotogerçekçi görsel reklamlarının, gerçek bir kişiyi yapmadığı bir şeyi yaparken tasvir etme veya gerçekleşmemiş gerçekçi görünen bir olayı tasvir etme politikasını ihlal edip etmediğine ilişkin özel sorusuna yanıt vermedi.
Bunun yerine Meta, Al Jazeera muhabirini, reklamverenler için AI açıklama gereklilikleri ve şirketin Hindistan seçimlerine nasıl hazırlandığına ilişkin Mart 2024 tarihli bir blog gönderisine işaret etti.
Hindistan merkezli İnternet Özgürlüğü Vakfı’nın (IFF) genel müdürü Prateek Waghre, Al Jazeera’ye, bu belirli reklamlar #aiart olarak etiketlendiğinden, içerik yaratıcılarının yapay zeka görsellerini bir tür biçim aracılığıyla artırma girişimini kabul etmeleri gerektiğini söyledi. Açıklamanın, Meta’nın yakın zamanda güncellenen yapay zeka açıklamasını gerektiren politikalarına uyması.
Yapay zeka ‘stratejik anlatıları’ öne sürüyordu
Hindistan’daki seçim kampanyaları, Al Jazeera’nin daha önce bildirdiği gibi, ölü siyasi liderlerin yapay zeka tarafından diriltilmesi ve bunların resmi parti hesaplarında kampanya sanatı olarak kullanılması da dahil olmak üzere, yapay zeka tarafından oluşturulan görüntü ve videoların yavaş yavaş yayılması için bir araç oldu. Yapay zekanın oluşturduğu seçim yanlış bilgilendirme tehdidine rağmen, deepfake’ler yalnızca seçmenleri aldatmak için kullanılmıyor. Bunun yerine, üretken yapay zeka bir anlatı oluşturmak için seçiliyor.
Oxford Üniversitesi’nden Sharma, yapay zekayı inceledikten sonra Al Jazeera’ye şunları söyledi: “Dezenformasyon kesinlikle dikkatimizi gerektiren ciddi bir sorun olsa da, aynı zamanda yapay zeka tarafından oluşturulan içeriğin siyasi partilerin stratejik anlatılarını desteklemeye yardımcı olabileceği bilinçaltı yollardan da dikkati dağıtıyor.” resim reklamları.
“Bu sadece yapay zekanın seçmenleri açıkça yanlış olan bir şeye inandırmak için ‘aldatması’ değil; daha ziyade yapay zeka, daha yaratıcı ve daha yenilikçi kültürel referanslardan faydalanabilen içeriklerin üretilmesini sağlıyor; bu da daha eğlenceli ve dolayısıyla daha paylaşılabilir olan ve yaygın dolaşıma olanak sağlayan siyasi propagandayı sağlıyor” diye ekledi.
Örneğin Hokage Modi Sama sayfasında yayınlanan en popüler yapay zeka görseli “Safran Süper Kahramanımız”dır. Modi’nin safran rengi kurta pijama giydiğini, dökümlü bir pelerinle Hindu manevi sembolü olan “Om” bayrağının altında yürüdüğünü gösteriyor. Yapay zeka görseli, “Hindistan’ın bir Hindu ülkesi olmasını kim ister?” gibi yorumlarla birlikte yaklaşık iki milyon beğeni aldı. Instagram’da yorum bölümünde. Görsellerin çoğu, Hindistan başbakanını bir “kurtarıcı”, “Hindistan’ın geleceğinin safran kaplı koruyucusu”, “Hindu rönesansının sembolü” ve daha fazlası olarak yeniden canlandırıyor.
Sharma, siyasi liderleri mitolojik hale getirmenin veya onları Hindu destanlarında öne çıkarmanın yeni olmadığını, ancak yapay zekanın bunun daha büyük bir ustalıkla uygulanmasına izin verdiğini belirtti.
“Narendra Modi’nin yapay zeka tarafından üretilen bu görüntüleri, BJP’nin bir kült yaratmaya yönelik uzun süredir devam eden stratejisinin en son yinelemesi gibi görünüyor. [Modi] bilge ve anlayışlı bir lider olarak,” dedi Sharma.
Hokage Modi Sama’nın Instagram ve Facebook sayfalarında, Modi’nin Bharatiya Janata Partisi (BJP) ile doğrudan bağlantı olduğuna dair açık bir sorumluluk reddi beyanı bulunmamakla birlikte, sayfanın Hindutva yanlısı ve BJP yanlısı içerik yayınlama geçmişi vardır. Daha önce sayfa bir paylaşımın ardından ilgi kazanmıştı. görüntü Sosyal medya platformu X’in sahibi Elon Musk’un bir Hindu keşiş olarak tasvir edildiği fotoğrafta, “Bizim bhakt Elon” başlığı, Musk’ın bir Hindu milliyetçisi olduğunu ifade ediyor.
Hokage Modi Sama’nın yöneticisiyle iletişime geçmek için yapılan birçok girişim başarısız oldu. Naruto animesinde “Hokage” bir köy liderine verilen prestijli bir unvandır, Sama ise Japonca “efendim” demenin saygılı bir yoludur, dolayısıyla sayfa kabaca “Lider Modi Efendim” anlamına gelir. 130.000 takipçiye sahip Instagram hesabında artık safranlı süper kahraman yapay zeka görseline dayalı tişörtler, kahve kupaları ve günlükler gibi ürünler satılıyor.
Yapay zeka görselleri dünya genelinde siyasi kampanyalarda kullanılıyor. Mart ayında, Amerika Birleşik Devletleri başkan adayı Donald Trump’ın kampanyasını destekleyenler, onun Siyah seçmenlerle birlikte Siyah topluluğa “stratejik destek” sağlamak için poz verdiği sahte yapay zeka görüntülerini kullandı. Arjantin’de iki başkan adayı, popülerliklerini artırmak ve rakiplerine saldırmak için yapay zeka tarafından oluşturulan görselleri kullandı. Ve Endonezya’da, bir zamanların korkulan askeri diktatörü seçilen Başkan Prabowo Subianto, seçim kampanyası sırasında kendisini “sevimli bir büyükbaba” olarak yeniden markalamak için yapay zeka görüntülerini kullandı.
Hindistan’da, Aralık 2023’teki Telangana eyalet seçimleri öncesinde, gerçekleri doğrulayan yayın kuruluşu BOOM Live, yapay zeka görüntülerinin, öğrencilere yönelik ücretsiz yemek programı açılışında bölgesel siyasi lider K Chandrashekar Rao’yu yanlış bir şekilde tasvir ettiğini ve kendisinin hiç katılmadığını bildirdi. .
Meta Reklam Kitaplığı’nın Aralık 2023 tarihli Al Jazeera incelemesi, Mana Telangana sayfasının Instagram ve Facebook’ta Kongre Partisi’nden Hint muhalefet lideri Rahul Gandhi’nin çocuklarla ve çiftçilerle poz verdiği çok sayıda sahte yapay zeka görseli paylaştığını ortaya çıkardı. Çiftçiler Hindistan’da etkili bir oy bloğu oluşturuyor ve Modi’nin piyasa dostu tarım yasalarını sık sık protesto ediyorlar.
Gandhi’nin çiftçilerle ilgili sahte imajına şu başlık eşlik ediyordu: “Rahul Gandhi çiftçilerle empati kuruyor, sarsılmaz destek ve onların kaygılarını bireysel olarak ele alma taahhüdü vaat ediyor.” Sponsorlu gönderi, #aigeneated ve #aiimages hashtag’lerini içeriyordu; bu da bunların yapay zeka tarafından oluşturulduğunu ve tahmini 7.000 gösterime sahip olduğunu gösteriyor.
Batı ve Küresel Güney
Ayrıca Batı ve Küresel Güney’deki platformların seçimler öncesinde yapay zeka görüntüleri eğilimini ele alma yöntemlerinde de bir eşitsizlik var.
Örneğin, Kasım ayındaki ABD başkanlık seçimleri öncesinde yapay zeka görüntülerinin olası kötüye kullanımını azaltmak için, popüler yapay zeka görüntü oluşturucusu Midjourney, Mart ayında sahte Başkan Joe Biden ve Donald Trump görüntülerinin oluşturulmasını yasakladı.
Ancak Logically Facts’ın genel müdürü Baybars Örsek, Al Jazeera’ye yaptığı açıklamada, Hindistan’da böyle bir adım atılmamasının “politikaların farklı bölgelerdeki teknoloji platformları tarafından eşit şekilde uygulanmasına ilişkin endişeleri” artırdığını söyledi. Logically Facts, Meta’nın üçüncü taraf doğrulama programının ve Hindistan’daki yanlış bilgiyle mücadele ittifakının bir parçasıdır.
Al Jazeera’nin, Modi ve Gandhi’nin el sıkıştığı yolculuğun ortasında yapay zeka görüntüleri oluşturma girişimleri başarılı olurken, Modi ve Trump’ın el sıkışırken görüntü oluşturma istemi “Yasaklı İstem Algılandı” bildirimiyle sonuçlandı.
Orsek, “Bu karar, bu tür ılımlı politikaların küresel olarak, özellikle de yılın en önemli seçimlerine giren Hindistan gibi ülkeler de dahil olmak üzere Küresel Güney bağlamında nasıl uygulandığındaki eşitsizlikleri gün ışığına çıkarıyor” dedi.
Al Jazeera, ılımlılıktaki eşitsizlik hakkında Midjourney’e e-posta gönderdi ve henüz bir yanıt alamadı.
IFF’den Waghre, bunun, Facebook veya Twitter gibi sosyal medya şirketlerinin platformlarını güvende tutmaya yönelik politikalarının Batı’ya yönelmesine ve Küresel Güney’in perspektiflerini çoğu zaman ihmal etmesine benzer olduğunu ekledi.
