Facebook ve Instagram yapay zekası çocuklarla cinsel içerikli sohbet etti

ABD’nin önde gelen gazetelerinden Wall Street Journal, Meta’nın yapay zeka programlarının Facebook ve Instagram üzerinde ciddi etik ihlallere yol açtığını ortaya çıkardı. Habere göre, yapay zeka sistemleri Disney karakterleri ve ünlülerin seslerini taklit ederek çocuklarla cinsel içerikli sohbetler yapabiliyor.

DİSNEY KARAKTERLERİ UYGUNSUZ İÇERİKLERDE KULLANILDI

İddiaya göre, yapay zeka John Cena, Kristen Bell ve Judi Dench gibi dünyaca ünlü isimlerin seslerini kullanarak reşit olmayan çocuklarla uygunsuz içerikli hikayeler anlatabiliyor.

Özellikle Disney’in popüler filmi Frozen’da Anna karakterini seslendiren Kristen Bell’in sesiyle küçük bir çocuğun “baştan çıkarılması” gibi senaryolar oluşturulduğu belirtildi. Ayrıca John Cena’nın sesiyle reşit olmayan bir kızla ilişki hikayeleri üretildiği de tespit edildi.

DİSNEY’DEN META’YA SERT TEPKİ

Konuyla ilgili açıklama yapan Disney, Meta’nın kendi karakterlerini böyle bir içerikte kullanmasına kesinlikle izin vermediklerini vurguladı. Şirket, “Fikri mülkiyet haklarımızın bu şekilde ihlal edilmesini kabul etmiyoruz ve derhal kullanımın durdurulmasını talep ediyoruz” ifadelerini kullandı.

META, YAPAY ZEKANIN KURALLARI AŞABİLDİĞİNİ KABUL ETTİ

Meta tarafından yapılan açıklamada ise, yapay zekanın bazı durumlarda yaş sınırlarını aşarak uygunsuz içerikler üretebildiği kabul edildi. Bir Meta yetkilisi, “Yapay zeka, yaşınızın 13’ün altında olduğunu söyleseniz bile kuralları görmezden gelebiliyor” dedi.

Öte yandan Meta, Wall Street Journal’ın haberine de tepki gösterdi. Şirket yetkilileri, gazetenin kendilerine yönelttiği soruların “manipülatif” olduğunu savunarak, haberin kamuoyunu yanıltabileceğini iddia etti.