AI'daki önyargı, pazarlama verilerine nasıl zarar verebilir ve bu konuda ne yapabilirsiniz?

Algoritmalar, pazarlama ve martech'in merkezinde yer alır. Veri analizi, veri toplama, izleyici segmentasyonu ve çok daha fazlası için kullanılırlar. Çünkü onlar, üzerlerine inşa edilen yapay zekanın merkezinde yer alıyor. Pazarlamacılar, tarafsız ve güvenilir veriler sağlamak için yapay zeka sistemlerine güvenir. Aksi takdirde, pazarlama çabalarınızı yanlış yönlendirebilir.

Algoritmaları önyargı veya amaç içermeyen kurallar dizisi olarak düşünmeyi seviyoruz. Kendi içlerinde, tam olarak böyleler. Fikirleri yoktur.. Ancak o kurallar, yaratıcılarının varsayımları ve değerleri üzerine kuruludur. Bu, önyargının yapay zekaya girmesinin bir yolu. Diğer ve belki de daha önemli yol, üzerinde eğitildiği verilerdir.

Daha derin kaz: Bard ve ChatGPT sonuçta arama deneyimini daha iyi hale getirecek

Örneğin, yüz tanıma sistemleri, çoğunlukla daha açık tenli insanların görüntü setleri üzerinde eğitilir. Sonuç olarak, daha koyu tenli insanları tanımakta kötü bir şöhrete sahiptirler. Bir örnekte, orantısız bir şekilde beyaz olmayan 28 Kongre üyesi, sabıka fotoğraflarıyla yanlış bir şekilde eşleştirildi. Bunu düzeltme girişimlerinin başarısızlığı, başta Microsoft olmak üzere bazı şirketlerin bu sistemleri polis departmanlarına satmayı bırakmasına neden oldu.

ChatGPT, Google'ın Bard'ı ve yapay zeka destekli diğer sohbet robotları, metin üretmek için derin öğrenmeyi kullanan otomatik gerileyen dil modelleridir. Bu öğrenme, muhtemelen belirli bir zaman diliminde internette yayınlanan her şeyi kapsayan devasa bir veri seti üzerinde eğitilir - hata, dezenformasyon ve tabii ki önyargıyla dolu bir veri seti.

Yalnızca aldığı veriler kadar iyi

The Marketing AI Institute'un kurucusu ve CEO'su Paul Roetzer, "Ona internete erişim izni verirseniz, doğası gereği var olan herhangi bir önyargıya sahip olur" diyor. “Birçok yönden sadece insanlık üzerine bir ayna.”

Bu sistemleri kuranlar bunun farkındadır.

TrustInsights.ai'nin kurucu ortağı ve baş veri bilimcisi Christopher Penn, "[ChatGPT yaratıcısı] OpenAI'nin açıklamalarında ve feragatnamelerinde, olumsuz duyguların Afro-Amerikan kadın adlarıyla, orada yer alan diğer tüm adlardan daha yakından ilişkili olduğunu söylüyorlar" diyor. "Yani, herhangi bir türde tam otomatik kara kutu duyarlılığı modellemeniz varsa ve insanların adlarını yargılıyorsanız, Letitia Laura'dan daha düşük puan alırsa, bir sorununuz var demektir. Bu önyargıları pekiştiriyorsunuz.”

OpenAI'nin en iyi uygulama belgeleri ayrıca, "Yanlış bilgi halüsinasyonundan, rahatsız edici çıktılara, önyargıya ve çok daha fazlasına kadar, dil modelleri önemli değişiklikler yapılmadan her kullanım durumu için uygun olmayabilir" diyor.

Bir pazarlamacı ne yapmalı?

Önyargıyı azaltmak, mümkün olan en iyi verilerle çalışmak isteyen pazarlamacılar için çok önemlidir. Onu ortadan kaldırmak, sonsuza kadar hareketli bir hedef, peşinden gidilmesi gereken ama mutlaka ulaşılması gerekmeyen bir hedef olacaktır.

Christopher Penn, "Pazarlamacıların ve martech şirketlerinin düşünmesi gereken şey, 'Modelin başlangıçta daha az önyargıya sahip olması ve daha sonra hafifletmemiz gereken daha az önyargı olması için bunu içeri giren eğitim verilerine nasıl uygularız?' olmalıdır" diyor Christopher Penn. “Çöpü atmayın, çöpü filtrelemek zorunda değilsiniz.”

Bunu yapmanıza yardımcı olabilecek araçlar var. İşte en iyi bilinen beş tanesi:

• What-If from Google, veri noktalarını manipüle ederek, çizimler oluşturarak ve değişikliklerin nihai sonucu etkileyip etkilemediğini test etmek için ölçütler belirleyerek bir modeldeki önyargının varlığını tespit etmeye yardımcı olan açık kaynaklı bir araçtır.
• IBM'den AI Fairness 360, makine öğrenimi modellerinde önyargıyı tespit etmek ve ortadan kaldırmak için açık kaynaklı bir araç takımıdır.
• adil bilgi adalet ve model performansı arasındaki ödünleşimlerde gezinmeye yardımcı olmak için tasarlanmış Microsoft'tan.
• Araştırmacı Marco Tulio Ribeiro tarafından oluşturulan Yerel Yorumlanabilir Model-Agnostik Açıklamalar (LIME) kullanıcıların bir modelin farklı bileşenlerini daha iyi anlamak ve varsa önyargının kaynağını gösterebilmek için manipüle etmelerine olanak tanır.
• FairML MIT'den Julius Adebayo, modelin girdilerinin göreli önemini ölçerek tahmine dayalı modelleri denetlemek için uçtan uca bir araç kutusudur.

Penn, "Ne aradığınızı bildiğinizde iyidirler" diyor. "Kutuda ne olduğundan emin olmadığınızda daha az iyidirler."

Girdileri değerlendirmek kolay kısımdır

Örneğin, AI Fairness 360 ile ona bir dizi kredi kararı ve yaş, cinsiyet, ırk vb. korunan sınıfların bir listesini verebileceğinizi söylüyor. Daha sonra, eğitim verilerindeki veya modeldeki herhangi bir önyargıyı belirleyebilir ve model önyargılı bir yönde kaymaya başladığında bir alarm verebilir.

Penn, "Üretim yaparken bunu yapmak çok daha zor, özellikle de kopya veya görüntü yapıyorsanız," diyor. "Şu anda var olan araçlar, hafifletmeye çalıştığınız net sonuçlara sahip tablo şeklindeki dikdörtgen veriler içindir."

ChatGPT ve Bard gibi içerik üreten sistemler inanılmaz derecede bilgi işlem yoğundur. Önyargıya karşı ek önlemler eklemek, performansları üzerinde önemli bir etkiye sahip olacaktır. Bu, zaten zor olan onları oluşturma görevini artırıyor, bu nedenle yakında herhangi bir çözüm beklemeyin.

beklemeye gücüm yetmez

Marka riski nedeniyle, pazarlamacılar oturup modellerin kendilerini düzeltmelerini bekleyemezler. Yapay zeka tarafından oluşturulan içerik için yapmaları gereken azaltma, sürekli olarak neyin yanlış gidebileceğini sormaktır. Bunu soracak en iyi insanlar çeşitlilik, eşitlik ve kapsayıcılık çabalarındandır.

Penn, "Kuruluşlar, DEI girişimlerine sözde destek veriyor," diyor, "ancak DEI'nin gerçekten parlayabildiği yer burasıdır. Çeşitlilik ekibine sahip olun … modellerin çıktılarını inceleyin ve 'Bu doğru değil veya bu uygun' deyin. Ve sonra, DEI'nin onay mührünü verdiği gibi, bunun süreçlere dahil edilmesini sağlayın.

Şirketlerin tüm bu sistemlerde önyargıyı nasıl tanımladığı ve bu önyargıyı nasıl azalttığı, kültürünün önemli belirteçleri olacaktır.

Paul Roetzer, "Her kuruluş, bu teknolojiyi nasıl geliştirip kullandıklarına ilişkin kendi ilkelerini geliştirmek zorunda kalacak" diyor. "Ve 'bu, önyargı olarak gördüğümüz şeydir ve bunun olmasına izin veren araçları kullanacağız veya kullanmayacağız' şeklindeki öznel düzeyden başka nasıl çözülebileceğini bilmiyorum."