Yapay Zekâ Etiği

Bir cümlelik özet

Yapay zekâ bir araçtır; onu adil, dürüst ve zarar vermeyecek biçimde kullanmanın sorumluluğu her zaman insana aittir.

Neden önemli?

Bu modülde yapay zekânın veriden örüntü bulan bir araç olduğunu gördük. Yapay zekâ bilinçli değildir, sihir de yapmaz; yanılabilir ve yanlı olabilir. Peki bu araç bir videoyu önerdiğinde, bir başvuruyu değerlendirdiğinde veya bir metni oluşturduğunda ne olur? İşte bu noktada etik devreye girer.

Etik, "doğru ve adil olan nedir?" sorusudur. Yapay zekâ artık gerçek kararlarda kullanılıyor: kimin gönderisinin görüneceği, hangi haberin öne çıkacağı, hatta bazı ülkelerde işe alım değerlendirmeleri. Bir araç bu kadar çok insanı etkiliyorsa, onu nasıl kullandığımız önemlidir.

En önemli fikir şudur: Yapay zekâ karar veriyor gibi görünse de gerçek sorumluluk onu yapan, eğiten ve kullanan insanlardadır. Bu dersin amacı, seni bu sorumluluğu taşımaya ve yapay zekânın kararlarını sorgulamaya hazırlamaktır.

Adalet ve yanlılık

Yanlılık (İngilizcesi *bias*), bir sistemin bazı grupları haksız biçimde kayırması veya dışlamasıdır. Yapay zekâ öğrendiği veriden ne kadar iyiyse o kadar iyidir. Veri geçmişteki haksızlıkları taşıyorsa, yapay zekâ da bu haksızlığı öğrenir ve sürdürür.

Günlük örnek: Fotoğraf tanıma

Bir fotoğraf tanıma sistemi düşün. Onu eğitirken çoğunlukla tek bir kıyafet stilinde köpek fotoğrafı gösterdik. Bu sistem, farklı görünen bir köpeği tanımakta zorlanabilir. Sistem "kötü niyetli" değildir; sadece gördüğü örneklere göre örüntü kurmuştur. Eksik veri, eksik bir sonuç doğurur.

Günlük örnek: Geçmiş kararlardan öğrenmek

Diyelim ki bir yapay zekâya geçmişteki kararları veriyoruz ve o bu kararları taklit ediyor. Aşağıdaki küçük deneyde, geçmiş verideki kabul oranlarını gruplara göre sayıyoruz. Bu gerçek bir model değildir; sadece verideki örüntüyü ortaya çıkaran basit bir sayım deneyidir.

# Geçmiş kararlar: (grup, kabul edildi mi)
kararlar = [
    ("A", True), ("A", True), ("A", False),
    ("B", False), ("B", False), ("B", True),
]

sayac = {}
for grup, kabul in kararlar:
    if grup not in sayac:
        sayac[grup] = [0, 0]  # [kabul sayısı, toplam]
    sayac[grup][1] += 1
    if kabul:
        sayac[grup][0] += 1

for grup, (kabul, toplam) in sayac.items():
    oran = kabul / toplam
    print(grup, "grubu kabul oranı:", round(oran, 2))

Çıktı, A grubunun kabul oranını B grubundan yüksek gösterir. Bir yapay zekâ bu veriden öğrenirse, aynı haksız örüntüyü geleceğe taşır. Buradaki ders açıktır: veri yanlıysa, sonuç da yanlıdır. Bu yüzden verinin dengeli ve adil olup olmadığını her zaman sormalıyız.

Gizlilik, şeffaflık ve kaynak

Adalet kadar önemli üç konu daha vardır: gizlilik, şeffaflık ve kaynak.

Gizlilik

Gizlilik, kişisel bilgilerin korunmasıdır. Adın, adresin, okulun, telefonun veya bir arkadaşının fotoğrafı kişisel bilgidir. Bir yapay zekâ aracına yazdığın her şey o araca girer ve orada saklanabilir. Bu yüzden kendinin veya başkasının kişisel bilgisini çevrimiçi araçlara yazmamak temel bir kuraldır.

Şeffaflık

Şeffaflık, bir sonucun nasıl elde edildiğini açıkça söylemektir. Bir yazıyı yapay zekâ yardımıyla hazırladıysan, bunu gizlemek dürüst değildir. Aynı şekilde, yapay zekânın verdiği bir cevabın kesin doğru olduğunu varsaymak yerine "bu bir tahmindir, kontrol etmeliyim" demek şeffaf bir tutumdur.

Kaynak ve telif

Telif, bir eseri üretenin emeğine saygı göstermek demektir. Yapay zekâ, başkalarının yazdığı metinlerden ve çizdiği görsellerden örüntü öğrenir. Bir sonucu kendi işinmiş gibi göstermek doğru değildir. İyi bir alışkanlık, kimin yardım ettiğini ve hangi aracı kullandığını belirtmektir.

Sorumluluk insandadır

Yapay zekâ bir hesap makinesi gibidir: hızlıdır ama neyin doğru veya adil olduğunu bilmez. Bir araç yanlış bir sonuç ürettiğinde suçlu araç değil, onu kontrolsüz kullanan insandır.

Bu yüzden önemli kararlarda yapay zekânın çıktısını her zaman doğrulamalısın. "Yapay zekâ öyle dedi" bir gerekçe değildir. Sen sorumlusun. Aşağıdaki basit kontrol listesi, herhangi bir yapay zekâ aracını kullanmadan önce kendine sorabileceğin sorulardır:

1. Bu araca kişisel bilgi giriyor muyum? (Girmemeliyim.)
2. Sonuç birine zarar verebilir mi veya haksızlık yapabilir mi?
3. Bu sonucu güvenilir bir kaynaktan doğrulayabilir miyim?
4. Kimin yardımıyla ve hangi araçla yaptığımı açıkça söylüyor muyum?
5. Bu aracı bir yetişkinin bilgisiyle ve yaş kurallarına uygun kullanıyor muyum?

Mini uygulama

Aşağıdaki senaryolardan birini seç ve yukarıdaki beş soruyu kullanarak değerlendir. Cevaplarını bir deftere yaz.

1. Arkadaşının fotoğrafını, izin almadan bir yapay zekâ aracına yükleyip "eğlenceli" bir hâle getirmek.
2. Bir ödev sorusunu yapay zekâya sorup çıkan cevabı hiç kontrol etmeden teslim etmek.
3. Yapay zekânın önerdiği bir sağlık tavsiyesini doğrudan uygulamak.
4. Bir yarışma için yapay zekânın oluşturduğu bir resmi tamamen kendi çizimin gibi göstermek.

Her senaryo için şunu belirt: Burada hangi etik kural (adalet, gizlilik, şeffaflık, kaynak, insan sorumluluğu) zedeleniyor ve daha iyi bir davranış ne olurdu?

Uygulama laboratuvarı: Yapay Zekâ Etiği

Yapay Zekâ Etiği konusunu kalıcı hâle getirmenin en iyi yolu, kavramı küçük ve ölçülebilir bir göreve dönüştürmektir. Bu çalışmada Adalet ve yanlılık ile Günlük örnek: Geçmiş kararlardan öğrenmek arasındaki ilişkiyi kullanarak temizlenmiş küçük veri tablosu, açık sınıflandırma kuralı ve hata değerlendirmesi hazırlayacaksın. Amaç yalnız sonucun çalışması değil; hangi kararı neden verdiğini, neyi test ettiğini ve hangi durumda tasarımı değiştireceğini açıklayabilmektir.

Görev senaryosu

Şu senaryoyu ele al: sensör ölçümlerindeki eksik ve sıra dışı değerleri ayıklama. Dersin ana hedefi “Adalet, gizlilik, şeffaflık ve insan sorumluluğu gibi yapay zekâ etiği ilkelerini öğren” olduğuna göre önce problemi tek cümleyle tanımla. Ardından sistemin alacağı girdiyi, uygulayacağı işlemi ve üreteceği çıktıyı ayrı ayrı yaz. Bilmediğin bir ayrıntı varsa onu varsayım olarak işaretle; varsayımı gerçek bilgi gibi kullanma.

1. Planla: Başlangıç durumunu, beklenen sonucu ve kullanacağın kavramları yaz.
2. En küçük sürümü kur: Yalnız temel davranışı çalıştır; süsleme ve ek özellikleri sonraya bırak.
3. Üç test hazırla: Normal bir durum, sınırda bir durum ve hatalı ya da beklenmeyen bir durum seç.
4. Sonucu kaydet: Beklenen ile gerçekleşeni yan yana yaz; fark varsa olası nedeni belirt.
5. Tek değişiklik yap: Aynı anda birçok şeyi değiştirmek yerine bir kararı düzeltip testi yeniden çalıştır.

Başarı ölçütleri

• Verinin kaynağı ve amacı açık mı?
• Eksik, tekrar eden ve sıra dışı değerler işaretlendi mi?
• Kişisel bilgi kullanılmadan örnek kurulabiliyor mu?
• Eğitim ve test verisi birbirinden ayrıldı mı?
• Yanlış tahminler saklanıp nedenleri incelendi mi?

“Yapay Zekâ Etiği” çalışmasını bitirdiğinde ürünü bir arkadaşına yalnız bölüm başlıklarıyla anlat. Arkadaşın sensör ölçümlerindeki eksik ve sıra dışı değerleri ayıklama senaryosundaki adımları ve karar nedenlerini takip edebiliyorsa anlatım yeterince açıktır. Anlaşılmayan noktayı daha fazla terim ekleyerek değil, Adalet ve yanlılık ve Günlük örnek: Geçmiş kararlardan öğrenmek ilişkisini daha küçük adımlara bölerek düzelt.

Sık yapılan hatalar

Yapay zekâyı yanılmaz sanmak

Yapay zekâ kendinden emin bir dille yanlış cevap verebilir. Emin ton, doğruluk anlamına gelmez. Önemli bilgileri her zaman doğrula.

"Araç yaptı" diye sorumluluktan kaçmak

Bir sonucu yapay zekâ ürettiğinde bile onu paylaşan kişi sensin. Sorumluluk araca devredilemez.

Kişisel veriyi paylaşmak

Bir aracın "sadece yardım ediyorum" demesi, ona ad, adres veya fotoğraf yazmanı güvenli hâle getirmez. Kişisel bilgi çevrimiçi araçlara girmez.

Yanlı veriyi fark etmemek

Sonuç "bilgisayar hesapladı" diye adil olmaz. Verinin bazı grupları dışlayıp dışlamadığını sormak senin işindir.

Güvenlik notu

• Yapay zekâ araçlarını her zaman bir yetişkinin bilgisiyle ve platformun yaş kurallarına uygun kullan.
• Kendinin veya başkasının kişisel bilgisini (ad, adres, okul, telefon, fotoğraf) çevrimiçi araçlara yazma.
• Bir yapay zekânın verdiği sağlık, güvenlik veya para ile ilgili tavsiyeyi doğrudan uygulama; bir yetişkine danış.
• Başkasına zarar verecek, aşağılayacak veya kandıracak içerik üretmek için yapay zekâ kullanma.
• Önemli bir sonucu paylaşmadan önce güvenilir bir kaynaktan doğrula.

Ders özeti

• Yapay zekâ bir araçtır; adil ve dürüst kullanmanın sorumluluğu insandadır.
• Yanlı veri, yanlı ve haksız sonuçlar üretir; verinin dengeli olup olmadığını sormalıyız.
• Gizlilik, kişisel bilgiyi çevrimiçi araçlara vermemek demektir.
• Şeffaflık ve kaynak, bir sonucu nasıl ve kimin yardımıyla ürettiğini açıkça söylemektir.
• Önemli çıktıları her zaman doğrula; "yapay zekâ öyle dedi" bir gerekçe değildir.

Kontrol soruları

1. Etik nedir ve yapay zekâda neden önemlidir?
2. Yanlılık (bias) nedir? Yanlı veri neye yol açar?
3. Kişisel bilgiye üç örnek ver. Bunları neden çevrimiçi araçlara yazmamalıyız?
4. Bir yapay zekânın verdiği cevabı neden doğrulamamız gerekir?
5. Yapay zekâ bir hata yaptığında sorumluluk kimdedir? Neden?

Cevaplar

1. Etik, "doğru ve adil olan nedir?" sorusudur. Yapay zekâ gerçek kararlarda kullanıldığı ve birçok insanı etkilediği için, onu nasıl kullandığımız önemlidir.
2. Yanlılık, bir sistemin bazı grupları haksız biçimde kayırması veya dışlamasıdır. Yanlı veri, geçmiş haksızlıkları öğrenip sürdüren yanlı ve haksız sonuçlar üretir.
3. Örnekler: ad, adres, okul, telefon, fotoğraf. Bu bilgiler çevrimiçi araçlarda saklanabileceği ve kötüye kullanılabileceği için yazılmamalıdır.
4. Çünkü yapay zekâ emin bir dille bile yanlış olabilir. Doğrulamak, hatalı bilgiyi paylaşmayı ve birine zarar vermeyi önler.
5. Sorumluluk her zaman insandadır; aracı yapan, eğiten ve kullanan insan. Araç neyin adil olduğunu bilmez, bu yüzden kararı denetlemek insana düşer.

Kaynak ve doğrulama notu

“Yapay Zekâ Etiği” dersi için doğrulama odağı Adalet ve yanlılık ile Günlük örnek: Geçmiş kararlardan öğrenmek arasındaki ilişkinin örnekler üzerinde tutarlı çalışmasıdır. Bu modüldeki veri kümeleri eğitim amaçlı ve küçüktür; gerçek kişisel veri kullanılmamalıdır. Bir yapay zekâ sonucunun doğruluğu kadar, verinin dengesi, hataların dağılımı ve açıklanabilirliği de değerlendirilmelidir.

Sonraki ders

Proje: Basit Sınıflandırma Deneyi