Bias in AI: when you translate this from English ➡️Turkish, a gender neutral language, then that same Turkish phrase back to English #GHC17pic.twitter.com/qyODOuW18Q
İşte politically correct salaklığıyla buna önlem alıp doğal seyri bozacaklar diye korkuyorum. Doktor algısı insanların kendinde de erkektir. Bakıcı da kadındır. Bunu tartışabilirsin. Ama AI'ı düzeltmek için değil, toplumdaki cinsiyetçiliği düzeltmek için. Yoksa herkes kendi düşünce yapısına göre müdahale etmeye başlarsa bu iş çok kötü bir yerde sonlanır.
Bir bozukluk yok bu sistemde. Annesinin öldüğünü bilmediğin bir arkadaşına babanın yaptığı yemek için çok güzel olmuş annenin ellerine sağlık demek gibi bir şey. Birileri yine boş kalabalık yaratmış. Mesajı tekrar yollayan 7 bin kişinin de muhtemel 5 bini ortada bir problem var sanıyor. Twitter'ın yavuz medyası.
Bozukluk şurada: Toplumda doktorların çoğunun erkek, bebek bakıcılarının çoğunun (hepsinin) kadın olduğu statükonun devam etmesi için geçerli hiçbir sebep yokken, hatta bu durumun iyileştirilmesi topluma hakkaniyet açısından artı yönde bir katkıda bulunacakken, google yazılımının bu statükonun devam etmesine yardımcı olacak şekilde tasarlanması iyi değil.
Tabi bu göreceli olarak önemsiz bir örnek, ileride yapay zekalar daha önemli görevler üstlendiğinde (mesela hakimlere karar vermede yardımcı olmak için yapılmış bir yapay zekanın ırkçı sonuçlara vardığını veya otonom çalışan bir arabanın kaza anında cinsiyet ayrımcılığı ile karar verdiğini düşünün) benzer ayrımcılık içeren kararlara varmaları çok daha kötü durumlara sebep olabilir.
Olay zaten genel bir sorunu gösteriyor. Müthiş teknolojik, yapay zekanın kendini eğitmesi ve öğrenmesi bizim ona hangi bilgileri verdiğimize bağlı olarak değişiyor. Algısı ve karar verme mekanizması bizim ona verdiğimiz veriler ile şekilleniyor.
Yani yapay zeka mutlaka doğruyu bilecek ve en tarafsız objektif sonuca ulaştıracak diye bir şey olmadığını gösteriyor.
Çok basit olarak yapay zekaya sürekli zencilerin suç işlediği ile ilgili bilgileri verirsen. Yapay zeka zencilerin suça eğilimli bir ırk olduğunu düşünüp, ona göre karar verecektir.
İnsanlık yapay zeka algoritması ve yapay zeka eğitimi konusunda daha geliştirmesi gerekiyor kendini.
Bakıcılar genelde kadın olduğu için çeviri havuzuna katkı sağlayanlar she olarak çevirmişler. O da öyle öğrenmiş. Doktor içinde tersi durum geçerli.
Türkçe’de cinsiyet olmadığı için verilen örneklere dayanarak çeviriyor
İşte politically correct salaklığıyla buna önlem alıp doğal seyri bozacaklar diye korkuyorum. Doktor algısı insanların kendinde de erkektir. Bakıcı da kadındır. Bunu tartışabilirsin. Ama AI'ı düzeltmek için değil, toplumdaki cinsiyetçiliği düzeltmek için. Yoksa herkes kendi düşünce yapısına göre müdahale etmeye başlarsa bu iş çok kötü bir yerde sonlanır.
Feministler çalışıyor 🙂
Geçen bilim gündeminde konuşmuşlardı, makineye verdiğin veri ile alakalı. Öyle öğrenmiş gariban.
Bir bozukluk yok bu sistemde. Annesinin öldüğünü bilmediğin bir arkadaşına babanın yaptığı yemek için çok güzel olmuş annenin ellerine sağlık demek gibi bir şey. Birileri yine boş kalabalık yaratmış. Mesajı tekrar yollayan 7 bin kişinin de muhtemel 5 bini ortada bir problem var sanıyor. Twitter'ın yavuz medyası.
Bozukluk şurada: Toplumda doktorların çoğunun erkek, bebek bakıcılarının çoğunun (hepsinin) kadın olduğu statükonun devam etmesi için geçerli hiçbir sebep yokken, hatta bu durumun iyileştirilmesi topluma hakkaniyet açısından artı yönde bir katkıda bulunacakken, google yazılımının bu statükonun devam etmesine yardımcı olacak şekilde tasarlanması iyi değil.
Tabi bu göreceli olarak önemsiz bir örnek, ileride yapay zekalar daha önemli görevler üstlendiğinde (mesela hakimlere karar vermede yardımcı olmak için yapılmış bir yapay zekanın ırkçı sonuçlara vardığını veya otonom çalışan bir arabanın kaza anında cinsiyet ayrımcılığı ile karar verdiğini düşünün) benzer ayrımcılık içeren kararlara varmaları çok daha kötü durumlara sebep olabilir.
Olay zaten genel bir sorunu gösteriyor. Müthiş teknolojik, yapay zekanın kendini eğitmesi ve öğrenmesi bizim ona hangi bilgileri verdiğimize bağlı olarak değişiyor. Algısı ve karar verme mekanizması bizim ona verdiğimiz veriler ile şekilleniyor.
Yani yapay zeka mutlaka doğruyu bilecek ve en tarafsız objektif sonuca ulaştıracak diye bir şey olmadığını gösteriyor.
Çok basit olarak yapay zekaya sürekli zencilerin suç işlediği ile ilgili bilgileri verirsen. Yapay zeka zencilerin suça eğilimli bir ırk olduğunu düşünüp, ona göre karar verecektir.
İnsanlık yapay zeka algoritması ve yapay zeka eğitimi konusunda daha geliştirmesi gerekiyor kendini.