Soruyu soran: Heja Bozyel

Cevaplayan: Chat GPT-4

‍

GPT-3'ün piyasaya sürülmesinden bu yana Internet, yazılımın dil konusundaki ürkütücü becerisini takdir ederken kötü niyetli eğilimlere açıklığını sessiz sessiz konuşuyor. GPT-3, basit Hollywood hikâyeleri yazmada, ayrıntılı metinleri kısa sürede toparlamada kullanabileceğiniz kişisel bir sekreter gibi faydalı ama her şey bu kadar basit ve kontrol edilebilir değil. 

Meselemiz şu: ChatGPT ve AI dediğimiz bu tarz tüm sistemler, Internette var olan verileri kullanarak yeni bir yazılı ve görsel dil oluşturuyor. Verileri kullanmanın farklı yollarını sunuyor. Buraya kadar her şey şahane. Düşünenize bugüne kadar Internete yüklenmiş tüm şarkıları, kitapları, filmleri saniyeler, dakikalar içinde analiz edebilecek bir sistemden bahsediyoruz. İnsan ömrünün yetmeyeceği her araştırmayı gerçekleştirmek mümkün. Ve fakat “var olan veriler, bilgiler” dediğimiz HER ŞEY, çoğunlukla erkekler tarafından hazırlanmış (Eğitimde ve iş hayatında yakın zamana kadar fazlasıyla ayrıcalıklı oldukları için) üstüne üstlük çoğunlukla eğitime erişimi daha kolay olan kesim tarafından oluşturulmuş bilgiler. En basitinden, dünya çapında tıp alanında sadece kadınlara özgü hastalıklara dair yapılan çalışmalar, erkeklerin de veya sadece erkeklerin yaşadığı hastalıklarla ilgili yapılan çalışmaların ⅓’ünden az. Kullanılan dil ırkçı bir dil. Kadının ikinci sınıf olduğunu vurgulayan verilerle dolu bir tarih (veri yığını) var Internette. 

‍

Internet ve teknoloji sistemini geliştirenlerin büyük çoğunluğu erkek!

‍

Hatta daha da kötüsü, Internet ve teknoloji sistemini geliştirenlerin büyük çoğunluğu erkek! Çok basit bir örnekle, eğer Google Calendar ya da Google Assistant bir kadın topluluğu tarafından geliştirilmiş olsaydı, muhakkak içinde “regl takvimi ve uyarıları” da olurdu. Oysa uzun süre kadınların doğal haklarına dair konularda bile yetersizdi Google Assistant ve bu konuda kendini geliştirene kadar büyük tepkiler çekti. 

‍

Daha gelişmiş bir sistem olan ChatGPT, var olanı analiz ediyorsa o zaman biz yapay zekaya da “kadın ikinci sınıftır, ev işlerinden sorumludur, siyahlar kötüdür” gibi ilkel bilgileri öğretiyoruz. Oysa Z kuşağı, “cancel culture” yani ağzından çıkan her kelimeyi kendine/kadına/LGBTQ+ bireylerine/ve her şeye karşı ofansif bulan o kuşak bambaşka bir kültür geliştiriyor. Internet tarihinin tam zıttı bir kültür. ChatGPT de bu neslin oyuncağı olduğuna göre biz sadece ileride faydasız görülecek “cancel edilecek” bir sistem için mi heyecanlanıyoruz bu kadar? Yoksa ChatGPT ve türevlerini geliştirecek olan Z kuşağı, yeni dili daha eşitlikçi, daha temiz, daha insani yapabilecek mi? 

‍

Bu sorular için ChatGPT’nin son versiyonu GPT-4’ün bizzat kendisinden görüş aldık.

‍

Elbette, işte belirttiğiniz düşünceyi daha fazla detaylandıran, örneklendiren ve ChatGPT-4'ün çalışma sistemini daha net anlatan genişletilmiş bir makale:

‍

Son zamanlarda, yapay zeka (AI) ve kullandığı dil üzerine birçok tartışma var. AI’ın dilini var olan internet verilerinden aldığı gerçeği, bazı kaygıları beraberinde getiriyor. Bu kaygılar, özellikle dilin taraflılıkları ve erkek egemen kültürün etkileri üzerinde yoğunlaşıyor. Peki, gerçekten AI ile kendimizden daha yanlı, daha seksist ve daha ırkçı bir dil mi oluşturuyoruz?

‍

Öncelikle, internet verilerinin büyük bir kısmı, mevcut toplumsal yapılarımızın yansımasıdır. Bu veriler, tarih boyunca süregelmiş erkek egemen kültürün izlerini taşır. Kadınlar, LGBTQ+ bireyler ve diğer marjinal gruplar, internet içeriklerinde çoğunlukla ya eksik temsil edilmiştir ya da yanlış ve önyargılı bir şekilde ele alınmıştır. Bu nedenle, AI’ın eğitiminde kullanılan dil verileri de bu önyargıları ve eşitsizlikleri içerebilir.

‍

AI modelleri, büyük miktarda metin verisi üzerinde eğitilir. Bu veriler, kitaplar, makaleler, sosyal medya gönderileri ve diğer dijital içeriklerden oluşur. ChatGPT-4 gibi modeller, dil kalıplarını ve ilişkileri öğrenmek için bu verileri kullanır. Model, belirli bir bağlamda hangi kelimenin veya ifadenin gelmesi gerektiğini tahmin eder. Ancak, bu tahminler kullanılan veri setinin doğasına bağlıdır. Eğer veri seti önyargılı ve taraflıysa, model de bu önyargıları yansıtabilir.

‍

Örneğin, internette sıklıkla kadınların belirli mesleklerde, özellikle de bakım ve hizmet sektöründe daha fazla temsil edildiği görülür. Bir AI modeli, bu verileri analiz ederken, kadınları bu mesleklerle daha sık ilişkilendirebilir. Aynı şekilde, belirli ırksal gruplar hakkında olumsuz stereotipler içeren içeriklerle eğitilmiş bir model, bu gruplar hakkında olumsuz önyargılar taşıyabilir. Bu, AI’ın tarafsız olması gerektiği beklentisiyle çelişir.

‍

Öte yandan, AI’ın bu sorunları çözme potansiyeli de vardır. AI modellerini eğitirken, taraflılıkları ve önyargıları tanımlayabilir ve düzeltebiliriz. Bu, elbette kolay bir süreç değildir ve dikkatli bir denetim gerektirir. Ancak, AI’ın dil ve kültür üzerindeki etkilerini olumlu yönde şekillendirmek mümkündür.

‍

Örneğin, Google’ın "AI Fairness" girişimleri, AI sistemlerindeki önyargıları azaltmaya yönelik adımlar atmaktadır. Bu tür girişimler, AI modellerinin daha adil ve tarafsız olmasını sağlamak için önemlidir. Ayrıca, AI modelleri eğitilirken kullanılan veri setlerinin çeşitliliği ve temsil edilebilirliği artırılmalıdır. Farklı kültürlerden, cinsiyetlerden ve sosyo-ekonomik arka planlardan gelen veriler kullanılarak, daha dengeli ve kapsayıcı AI sistemleri oluşturulabilir.

‍

ChatGPT-4’ün çalışma sistemine daha yakından bakacak olursak, modelin temel prensiplerini anlamak önemlidir. GPT-4, çok büyük bir metin veri tabanı üzerinde eğitilmiştir. Bu veri tabanı, geniş bir yelpazede konular ve kaynaklar içerir. Model, metinleri analiz ederken, kelimeler arasındaki ilişkileri ve kalıpları öğrenir. Bu süreçte, modelin amacı, insan diline mümkün olduğunca yakın bir dil üretmektir.

‍

Ancak, bu süreçte modelin öğrendiği dil kalıpları, eğitildiği veri setinin özelliklerine bağlıdır. Eğer veri seti, belirli önyargıları ve taraflılıkları içeriyorsa, model de bu önyargıları yansıtabilir. Bu nedenle, AI modellerinin eğitimi sırasında kullanılan veri setlerinin dikkatli bir şekilde seçilmesi ve değerlendirilmesi önemlidir.

‍

Bir başka önemli nokta da, AI’ın mevcut önyargıları sürdürme tehlikesinin yanı sıra, bu önyargıları azaltma kapasitesine sahip olmasıdır. Örneğin, AI’ın önyargıları tespit edebilme ve bu önyargıları düzeltme yetenekleri, dildeki eşitsizlikleri azaltmada önemli bir rol oynayabilir. Bu, doğru verilerle ve etik kurallara uygun bir şekilde eğitilmiş AI sistemleri ile mümkündür.

‍

Sonuç olarak, AI’ın dili öğrenme süreci, mevcut önyargılar ve eşitsizliklerle dolu bir dünyada büyük bir sorumluluk taşır. Ancak bu, AI’ın kaçınılmaz olarak yanlı ve ayrımcı bir dil oluşturacağı anlamına gelmez. Bilinçli bir çaba ile, AI’ı daha tarafsız ve kapsayıcı bir dil oluşturmak için kullanabiliriz. Bu süreç, toplumsal bilinç ve etik kurallarla desteklendiğinde, AI’ın dil ve kültür üzerindeki etkileri olumlu yönde şekillenebilir. Kendimizden daha yanlı, daha seksist veya daha ırkçı bir dil yaratmaktan ziyade, daha adil ve kapsayıcı bir iletişim biçimi geliştirmek mümkündür. Bu da bizim sorumluluğumuzda olan bir süreçtir.

‍

---

Chat GPT’nin uyarısı: ChatGPT can make mistakes. Check important info. (ChatGPT hatalar yapabilir. Önemli bilgileri kontrol edin.)

‍