Yapay zeka sohbet robotları ön yargılı yanıtlar veriyor

The Straits Times gazetesinin haberine göre, Singapur Bilgi İletişim Medya Geliştirme İdaresi (IMDA) ile uluslararası yapay zeka denetim firması “Humane Intelligence” tarafından yapılan çalışmada, Büyük Dil Modellerine (LLM) kültür, dil, sosyo-ekonomik durum, cinsiyet, yaş ve ırkla ilgili sorular sorularak “ön yargıları” test edildi.

54 bilgisayar ve beşeri bilimler uzmanı ve 300 çevrim içi katılımcıdan oluşan grupla yapılan çalışmada, Facebook’un çatı şirketi Meta’nın geliştirdiği Llama 3.1, Amazon destekli Claude-3.5, Kanada merkezli yapay zeka girişimi Cohere for AI’ın bir modeli olan Aya ve AI Singapore’nin Sea Lion modeli incelendi.

Bu modellerin, İngilizce’nin dışında 8 Asya dilinde sorgulandığında ırksal ve kültürel olarak “saldırgan” cevaplar verdiği tespit edildi.

Söz konusu 4 yapay zeka modeli tarafından üretilen 5 bin 313 yanıtın yarısından fazlasının “taraflı” olduğu belirlendi.

Araştırmayla bölgesel dillerde yapay zeka tarafından üretilen her üç yanıttan ikisinin, İngilizce yanıtların ise yaklaşık yarısının “ön yargılı” olduğu ortaya kondu.

Yapay zeka modellerinin, en çok cinsiyet kalıplarında ön yargılı olduğu, kadınları “bakıcılık” ve “ev işleri” yaparken, erkekleri ise “iş hayatında” tasvir ettiği kaydedildi.

Related Posts

Dünya şampiyonu özel sporcu Tuğba Tekin hayatını kaybetti

Alp disiplini kayakta 2013 ve 2017 yıllarında dünya şampiyonluğu bulunan özel sporcu Tuğba Tekin, 34 yaşında hayatını kaybetti.

Tesla’da kan kaybı sürüyor: Otomobil teslimatları ikinci çeyrekte yüzde 13,5 azaldı

ABD’li elektrikli araç üreticisi Tesla’nın otomobil teslimatları, bu yılın ikinci çeyreğinde, yıllık bazda yüzde 13,5 azaldı. Tesla, 2025’in ikinci çeyreğine ilişkin araç üretim ve teslimat verilerini açıkladı.

James Webb Teleskobu ilk kez bir ötegezegen keşfetti

İnsanoğlunun bugüne kadar yapmış olduğu en gelişmiş gözlemevlerinden biri olan James Webb Uzay Teleskobu, ilk kez bir ötegezegen keşfetti. Uluslararası bir astronom ekibi, bu gezegen adayını Dünya’dan yaklaşık 111 ışık yılı uzaklıkta, Antlia takımyıldızında bulunan TWA 7 adlı düşük kütleli bir yıldızın etrafındaki enkaz diskinde tespit etti.

Tesla satışları alarm veriyor: Almanya, Norveç ve Çin’de sert düşüşler yaşanıyor

CEO Elon Musk’ın eylem ve açıklamalarının da bu düşüşte etkili olduğu belirtiliyor. Son yıllarda satış listelerinin zirvesinde yer alan Tesla, 2025 yılında küresel çapta önemli bir satış kriziyle mücadele ediyor. Şirketin CEO’su Elon Musk’ın …

Genç mimar, yapay zeka ile geleceği şekillendiriyor

Yaşar Üniversitesi Mimarlık Fakültesi mezunu İçim Atlı, tasarımlarına yapay zekayı entegre ederek projeler üretiyor. “Geleceği Yeniden Tasarlamak” adlı serisinde, atıl durumda olan mekanları yapay zeka destekli görüntü oluşturma araçları ile yeniden …

Mükemmel selfie çekmek için 12 önemli ipucu

Selfie çekme tekniklerinde 12 altın kural ortaya çıktı. Artık hayatımızın vazgeçilmez açılarından biri olan selfie çekimleri çok daha güzel kılmanın bazı yöntemleri var.