Algoritmaların Adil Karar Verdiğini Nasıl Anlarız?
Kamu kurumlarında kullanılan algoritmik karar verme sistemlerinin adalet kriterlerini test etme ve değerlendirme yöntemleri.
Makaleyi Oku
Zeynep Karagöz
Kıdemli Yapay Zeka Etiği Uzmanı
mentexa Anonim Şirketi
12
Yıl Teknoloji Deneyimi
8
Yayınlanan Akademik Makale
5+
Kamu Proje İşbirliği
3
Uzmanlık Alanı
Yapay Zeka Etiği Alanında Öncü
12 yıllık teknoloji deneyimi ile Türkiye'de sorumlu yapay zeka geliştirme çerçeveleri oluşturmak
Eğitim ve Başlangıç
İstanbul'da doğup büyüdüğü bir yazılım mühendisi ailesinin içinde yetişen Zeynep, yapay zeka alanına merakı ilk olarak Boğaziçi Üniversitesi Bilgisayar Mühendisliği bölümündeki lisans eğitimi sırasında uyanmıştır. Üniversitede aldığı makine öğrenmesi dersleri, onun teknolojiyi sadece teknik açıdan değil, etik ve sosyal yönleriyle de düşünmesine neden olmuştur.
Veri Analisti Yılları ve Dönüm Noktası
Lisans bitirdikten sonra, Zeynep bir teknoloji şirketinde veri analisti olarak 4 yıl çalışmıştır. Bu dönemde, kendi geliştirdikleri algoritmaların farklı demografik gruplara ayrımcı davranabileceğini fark etmesi, onu yapay zeka etiği alanına yöneltmiştir. İlk bulguları şirket içinde paylaştığında, yönetim ekibi modelleri revize etmeyi tercih etmiştir — bu deneyim, Zeynep'in algoritmik adalet konusundaki tutkusunu daha da artırmıştır.
Yapay Zeka Etiği Sertifikasyonu ve Akademik Çalışmalar
2019 yılında Orta Doğu Teknik Üniversitesi'nde Yapay Zeka ve Etik Politikası konusunda sertifikasyon programını tamamlayan Zeynep, ardından Türkiye'nin önde gelen teknoloji danışmanlık şirketlerinden birinde 5 yıl Etik Yapay Zeka Direktörü olarak görev yapmıştır. Bu dönemde, Türkçe veri eksikliğinin makine öğrenmesi modellerinde yarattığı önyargıları ortaya koyan çalışmalarıyla akademik ve sektörel tanınırlık kazanmıştır. 8 makalesi uluslararası konferanslarda sunulmuş ve yayınlanmıştır.
KVKK Uyumlu Sistem Tasarımı ve Kamu Işbirliği
Kamu kurumlarıyla yaptığı işbirliklerinde, KVKK düzenlemeleriyle uyumlu algoritmik karar verme sistemleri tasarlamıştır. Kamu Personel Yönetim Sistemi (PERPER) gibi büyük ölçekli projelerde aktif rol almış, veri gizliliği ve algoritmik şeffaflık standartlarının geliştirilmesine katkıda bulunmuştur. Bu projelerde öğrendikleri, Zeynep'in Türkiye'ye özgü yapay zeka yönetim çerçeveleri geliştirmesine yardımcı olmuştur.
Günümüz: Etik Yapay Zeka Ekosistemi Kuruluşu
Şu anda mentexa'de yer aldığı pozisyonunda, Zeynep Türkiye'deki üniversiteler, hükümet kurumları ve özel sektör arasında köprü kurmak suretiyle, etik yapay zeka ekosisteminin geliştirilmesi ve kamuoyunun bilinçlendirilmesi için çalışmalarını sürdürmektedir. Yaşadığımız günlerde yapay zeka sistemlerinin insanların günlük yaşamını nasıl etkilediğini anlatmak, Zeynep'in misyonunun merkezinde yer almaktadır.
Uzmanlık Alanları
Yapay zeka etiği, algoritmik adalet ve Türkiye'de sorumlu teknoloji geliştirme konularında derinlemesine bilgi ve deneyim
Yapay Zeka Etiği
Algoritmik Adalet
Adil Karar Verme Sistemleri
Algoritma Şeffaflığı
Türkçe Doğal Dil İşleme
Veri Önyargısı
KVKK Uyumlu Sistemler
Veri Gizliliği
Sorumlu Yapay Zeka Çerçeveleri
Kamu Sektörü Algoritmaları
Etik Yapay Zeka Politikası
Teknoloji Hukuku
Öne Çıkan Makaleler
Yapay zeka etiği konusunda yazılan en önemli içerikler
Sınırlı Türkçe Veri ile Yapay Zeka Eğitmek
Türkçe dilinin makine öğrenmesi modellerinde yarattığı zorluklar, veri eksikliği ve bu sorunları çözmek için yenilikçi yaklaşımlar.
Makaleyi OkuKVKK ve Yapay Zeka: Türkiye'nin Gizlilik Standartları
Kişisel Verilerin Korunması Kanunu'nun yapay zeka uygulamalarında nasıl uygulanacağı ve uyumlu sistem tasarımı.
Makaleyi OkuEtik Yapay Zeka Ekosistemi: Üniversite, Devlet ve Şirketlerin İşbirliği
Türkiye'de sorumlu yapay zeka geliştirme için üniversite, kamu ve özel sektör arasında nasıl işbirliği yapılabilir.
Makaleyi OkuMisyon: Türkiye'de Etik Yapay Zeka
Zeynep'in temel inancı basit: yapay zeka sistemleri insan hayatını iyileştirebilir, ancak bu ancak ve ancak etik ilkelere dayalı şekilde tasarlanırsa mümkün olabilir. Algoritmaların adil olması, şeffaf olması ve insanların gizliliğini koruması gerekir.
Şu anda Zeynep'in odağı, Türkiye'de üç temel alan üzerindedir. Birincisi, kamu kurumlarında kullanılan algoritmik karar verme sistemlerinin adil ve şeffaf olmasını sağlamak. İkincisi, Türkçe veri eksikliğinden kaynaklanan önyargıları tespit etmek ve çözmek. Üçüncüsü, KVKK düzenlemeleriyle uyumlu veri gizliliği standartları geliştirmek. Ve hepsi bunun dışında, her gün insanların yapay zeka sistemlerinin kendilerini nasıl etkilediğini anlayabilmeleri için yazıyor, sunuyor ve eğitiyor.
"Yapay zeka sadece teknoloji değil. Kamu hizmetlerine, iş gücüne, eğitime nasıl girdiğini görünce, bu aslında siyasi bir meseledir. Türkiye'de bu konuşmayı açan birkaç kişiden biri olmaktan onur duyuyorum."
— Zeynep Karagöz
Yapay Zeka Etiği Hakkında Daha Fazla Bilgi
Zeynep Karagöz'ün yazıları, araştırmaları ve yapay zeka etiği konusundaki tüm içerikleri keşfet.