1. Genel Olarak Yapay Zekâ Hukuku
31
2. Avrupa Yapay Zekâ Hukuku
36
3. Yumuşak ve Sert Yapay Zekâ Hukuku Ayrımı
37
4. Yapay Zekâ Okur Yazarlığı ve Dijital Okur Yazarlık
38
A. AB Yapay Zekâ Yasası: Yapay Zekâ Okur Yazarlığı
38
B. AK Yapay Zekâ Çerçeve Sözleşmesi: Dijital Okuryazarlık ve Dijital
AVRUPA BİRLİĞİ YAPAY ZEKÂ HUKUKUNUN GELİŞİMİ VE TEMELLERİ
1.1. AB HUKUKU DÜZENLEMELERİNE GENEL BAKIŞ
43
1.2. YAPAY ZEKÂ YASASINA GİDEN YOLDA HUKUKİ GİRİŞİM VE
1.2.1. AB Komisyonunun Girişimleri
46
1.2.1.1. 2019 Tarihli AB Komisyonu Uzman Grubu Önerileri
46
1.2.1.2. Güvenilir Bir Yapay Zekâ İçin Etik İlkeler Rehberi
1.2.1.3. AB Komisyonu Beyaz Kitap Raporu (2020)
49
1.2.1.4. Komisyonun Diğer Girişimleri
50
1.2.2. AB Parlamentosu’nun Hukuki Yükümlülüklere İlişkin Karar
1.2.3. AB Yapay Zekâ Sorumluluk Direktifi
54
1.2.4. Ürün Sorumluluk Direktifi
55
1.3. İLGİLİ DÜZENLEMELER
58
1.3.1. AB Temel Haklar Şartı
58
1.3.2. Genel Veri Koruma Yasası
59
1.3.2.1. GDRP’nin Ulusal Uygulanmasına Örnekler
65
1.3.2.1.1. SyRI davası kararı
65
1.3.2.1.2. Uber Veri İhlali Davası
66
1.3.2. 1.3. Uber ve Ola Cabs Sürücüleri Davası
67
1.3.3. Avrupa Veri Yönetimi Yasası
68
1.3.3. 2016 Tarihli Kolluk Direktifi
70
1.3.4. Dijital Hizmetler ve Dijital Pazar Yasaları
71
1.3.4.2. Kurumsal Yapı: Avrupa Algoritmik Şeffaflık Merkezi
1.3.5. AB Ürün Güvenliği Mevzuatı
74
1.3.6. Siber Güvenlik Mevzuatı
75
1.4. AB YAPAY ZEKÂ YASASINA GENEL BAKIŞ
77
1.4.3. Yapay Zekâ Yasasının Temel Öğeleri
80
1.4.4. Önemi ve Etkisi
81
1.4.5. Değişiklik Yaptığı Mevzuat
83
1.4.6. Yasanın Kapsamı
83
1.4.7. Yapay Zekâ Yasasına Yönelik Eleştiriler
85
1.4.8. Yapay Zekâ Yasasının Diğer AB Mevzuatı ile İlişkisi
89
1.5.1. Ligue des droits humains Davası
90
1.5.2. Google Spain SL, Google Inc. v Agencia Española de Protección
de Datos, Mario Costeja González Davası
92
1.5.3. Schrems II Davası
93
1.5.4. Özel Gerçek ve Tüzel Kişilerin Açacağı Davalar
94
YAPAY ZEKÂ YASASININ ANALİZİ
2.1. YASANIN KONU VE AMACI
95
2.2. YASANIN KAPSAM VE UYGULAMA ALANI
98
2.3.1. Askeri, Savunma veya Ulusal Güvenlik Amaçları İçin Piyasaya
Sürülen, Hizmete Sunulan veya Kullanılan Yapay Zekâ sistemleri
102
2.3.2. AB’de Piyasaya Sürülmeyen veya Hizmete Sunulmayan ve
Çıktısı Yalnızca Askeri, Savunma veya Ulusal Güvenlik Amaçları
İçin Kullanılan Yapay Zekâ Sistemleri
105
2.3.3. Uluslararası İş Birliği Muafiyeti
106
2.3.4. Yapay Zekâ Sistemleri veya Modellerinin Araştırma, Test veya
Geliştirme Faaliyetleri
107
2.3.5. Yalnızca Bilimsel Araştırma ve Geliştirme Amacıyla Özel Olarak
Geliştirilen ve Hizmete Sunulan Yapay Zekâ Sistemleri veya
Modelleri ve Bunların Çıktısı
108
2.3.6. Gerçek Kişiler Tarafından Sadece Kişisel ve Mesleki Olmayan Bir
Faaliyet Kapsamında Kullanılan Yapay Zekâ Sistemleri
111
2.3.7. Serbest ve Açık Kaynaklı Lisanslar Altında Yayımlanan Yapay
2.4. YASANIN ETKİLEMEDİĞİ AVRUPA BİRLİĞİ MEVZUATI
114
2.5. YAPAY ZEKÂ SİSTEMİNİN HUKUKİ TANIMI
115
2.5.1. Yapay Zekâ Sistemi
115
2.5.2. Genel Amaçlı Yapay Zekâ Modeli ve Genel Amaçlı Yapay Zekâ
2.6. YAPAY ZEKÂ YASASININ UYGULAMA TAKVİMİ
126
2.7. RİSK TEMELLİ DÜZENLEYİCİ YAKLAŞIM
128
2.9. KABUL EDİLEMEZ RİSK
134
2.9.1. Davranışları Çarpıtmak ve Bilinçli Karar Verme Yetisini
Zayıflatmak Amacıyla Bilinçaltı, Manipülatif veya Aldatıcı
Teknikler Kullanarak Önemli Zararlara Yol Açan Yapay Zekâ
2.9.2. Yaş, Engellilik veya Sosyo–Ekonomik Durumla İlgili Zayıflıkları
İstismar Ederek, Davranışları Çarpıtarak Önemli Zararlara Yol
2.9.3. Sosyal Puanlama Yapay Zekâ Sistemleri
137
2.9.4. Profilleme Amaçlı Yapay Zekâ Sistemleri (Öngörücü Adalet
2.9.5. Yüz Tanıma Yapay Zekâ Sistemleri
141
2.9.6. Duygu Tanıma Sistemleri
143
2.9.7. Biyometrik Sınıflandırma Sistemleri
145
2.9.8. Kamuya Açık Alanlarda Kanun Uygulama Amacıyla 'Gerçek
Zamanlı' Kullanılan Uzaktan Biyometrik Tanımlama Sistemleri
146
2.10. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ
151
2.10.2. Yasanın III Nolu Ekinde Sayılan Yapay Zekâ Sistemleri
154
2.10.2.1. Uzaktan Biyometrik Tanıma, Biyometrik
Sınıflandırma ve Duygu tanıma sistemleri
154
2.10.2.2. Kritik Altyapı
156
2.10.2.3. Genel ve Mesleki Eğitim
157
2.10.2.4. İstihdam, personel yönetimi ve serbest meslek
2.10.2.5. Temel Özel ve Kamu Hizmetleri ve Yardımlarına
Erişim ve Bunlardan Yararlanma
160
2.10.2.6. Kanun Uygulama (Kolluk Faaliyeti)
163
2.10.2.7. Göç, iltica ve Sınır Kontrol Yönetimi
165
2.10.2.8. Adalet ve Demokratik Süreçler
167
2.10.3. Muafiyet ve Eklemeler
169
2.11. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARININ
2.11.1.1. Gereksinimlere Uyum (m.8).
172
2.11.1.2. Risk Yönetim Sistemi (m.9)
172
2.11.1.3. Veri Ve Veri Yönetimi (m.10)
174
2.11.1.4. Teknik Belgeleme (m.11)
176
2.11.1.5. Kayıt Tutulması ve Saklanması (m.12 ve 19).
176
2.11.1.6. Şeffaflık ve Kullanıcılara Bilgi Sağlama (m.13)
177
2.11.1.7. İnsan Kontrolü (m.14)
180
2.11.1.8. Doğruluk, Sağlamlık ve Siber Güvenlik (m.15)
184
2.11.2. Bilgilendirme Yükümlülüğü (m.16)
187
2.11.3. Kalite Yönetim Sistemi Kurma
188
2.11.4. Belgeleme (Dokümantasyon)
193
2.11.6. Uygunluk Değerlendirmesi
194
2.11.7. AB Uygunluk Beyanı
195
2.11.9. Kayıt Yükümlülükleri
196
2.11.10. Düzeltici Eylemler
197
2.11.11. Uygunluğun Gösterilmesi
197
2.11.12. Erişilebilirlik Gereklilikleri
198
2.11.13. Yetkili Otoritelerle İşbirliği
204
2.11.14. AB Dışındaki Sağlayıcıların Yetkili Temsilci Atama Yükümlülüğü
205
2.12. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN İTHALATÇILARI İÇİN
2.12.1. Piyasaya Sürmeden Önce Uyumluluğun Sağlanması
206
2.12.2. Uyumsuz veya Sahte Sistemlerin Bildirilmesi
207
2.12.3. İthalatçı Bilgilerinin Gösterilmesi
208
2.12.4. Depolama ve Taşıma Koşulları
208
2.12.5. Belgelerin Saklanması
208
2.12.6. Yetkili Makamlara Bilgi Sağlama
208
2.12.7. Yetkili Makamlarla İşbirliği
209
2.13. DAĞITICILARIN YÜKÜMLÜLÜKLERİ
209
2.13.1. Piyasaya Sunmadan Önce Doğrulama
209
2.13.2. Uyumsuzluk Durumunda Yapay Zekâ Sistemlerini Piyasaya
2.13.3. Depolama ve Taşıma Koşulları
210
2.13.4. Uyumsuzluk Durumunda Düzeltici Eylemler
210
2.13.5. Yetkili Makamlara Bilgi Sağlama
211
2.13.6. Yetkili Makamlarla İşbirliği
212
2.14. YAPAY ZEKÂ DEĞER ZİNCİRİ BOYUNCA SORUMLULUKLAR
212
2.15. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN KULLANICILARININ
2.15.1. Teknik ve Organizasyonel Önlemler
215
2.15.2. İnsan Denetimi
215
2.15.3. Diğer Yükümlülükler
215
2.15.4. Girdi Verilerinin Kontrolü
216
2.15.5. İzleme ve Ciddi Olayları Bildirim
216
2.15.6. Otomatik Kayıtların Saklanması
217
2.15.7. Çalışan Bilgilendirme
218
2.15.8. Kamu Otoriteleri ve AB Kurumları
218
2.15.9. Veri Koruma Etki Değerlendirmesi
218
2.15.11. Gerçek Kişilerin Bilgilendirilmesi
221
2.15.12. Yetkili Makamlarla İşbirliği
222
2.16. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN DAĞITICILARI İÇİN TEMEL
HAKLAR ETKİ DEĞERLENDİRMESİ
222
2.17. YÜKSEK RİSKLİ YAPAY ZEKÂ SİSTEMLERİ İÇİN BİLDİRİMDE BULUNAN
YETKİLİLER VE BİLDİRİLEN KURULUŞLAR
226
2.18. STANDARTLAR, UYGUNLUK DENETİMİ SERTİFİKALAR VE KAYIT
229
2.18.1. Uyumlaştırılmış Standartlar ve Standardizasyon Ürünleri
229
2.18.2. Ortak Şartnameler
229
2.18.3. Belirli Gerekliliklerle Uyumun Varsayılması
230
2.18.4. Uygunluk Değerlendirmesi
230
2.18.6. Bildirilen Kuruluşların Bilgilendirme Yükümlülükleri
231
2.18.7. Uygunluk Değerlendirme Prosedüründen Sapma
231
2.18.8. AB Uygunluk Beyanı
231
2.18.10. Pazarlama Sonrası İzleme Sistemleri
232
2.18.11. Kayıt ve İzlenebilirlik
233
2.19. SINIRLI RİSKLİ YAPAY ZEKÂ SİSTEMLERİNİN SAĞLAYICILARI VE
DAĞITICILARI İÇİN ŞEFFAFLIK YÜKÜMLÜLÜKLERİ
236
2.20. SİSTEMİK RİSK TAŞIYAN YAPAY ZEKÂ MODELLERİ
238
2.20.1. Genel Amaçlı Yapay Zekâ Modeli
238
2.20.2. Sistemik Risk Taşıyan Genel Amaçlı Yapay Zekâ Modeli
239
2.21. DÜŞÜK RİSKLİ SİSTEMLER
244
2.22. YAPTIRIMLAR VE CEZALAR
245
2.22.1. İhlaller ve Uygulanacak Cezalar
245
2.22.2. AB Kurumlarına Yönelik Para Cezaları ve Düzenleyici Yaptırımlar
247
2.22.3. Uyum Sağlamayan Sistemler İçin Düzeltici Tedbirler
247
2.23. YÖNETİŞİM MEKANİZMALARI
248
2.23.1. Ulusal Düzeyde
248
2.23.2. Avrupa Yapay Zekâ Ofisi
250
2.22.3. Avrupa Yapay Zekâ Kurulu
252
2.23.4. Danışma Forumu
253
2.23.5. Bağımsız Uzmanlar Bilimsel Paneli
254
2.23.6. Üye Devletlerin Görev ve Sorumlulukları
255
2.24. İNOVASYONU DESTEKLEYİCİ ÖNLEMLER: KUM HAVUZLARI VE KÜÇÜK
İŞLETMELERİN (KOBİLERİN) DESTEKLENMESİ
255
2.24.2. Düzenleyici Kum Havuzları
257
2.24.3. Küçük İşletmelere Destek
257
2.24.4. Küçük İşletmeler için Basitleştirilmiş Yönetim Sistemleri
258
2.24.5. Yüksek Riskli Yapay Zekâ Sistemlerinin Gerçek Dünya
Koşullarında Test Edilmesi
258
2.24.6. Kişisel Verilerin Kullanımı
258
AVRUPA KONSEYİ YAPAY ZEKÂ HUKUKUNUN TEMELLERİ VE GELİŞİMİ
3.1. AVRUPA KONSEYİ VE YAPAY ZEKÂ
261
3.1.2. Bakanlar Komitesinin Belgeleri
262
3.1.3. Parlamenterler Meclisinin Belgeleri
264
3.1.4. İnsan Hakları Komiserinin Belgeleri
265
3.1.5. Yapay Zekâ Üzerine Komiteler
266
3.1.5.1. Yapay Zekâ Ad Hoc Komite (CAHAI)
266
3.1.5.2. Yapay Zekâ Komitesi (CAI)
267
3.1.6. CEPEJ ve Yargı Sistemleri ve Çevrelerinde Yapay Zekânın
Kullanımı İçin Bir Avrupa Etik Şartı
267
3.1.6.1. Avrupa Yargının Etkinliği Komisyonu (CEPEJ)
267
3.1.6.2. Yargı Sistemleri ve Çevrelerinde Yapay Zekânın
Kullanımı İçin Bir Avrupa Etik Şartı
269
3.2. AVRUPA KONSEYİ YAPAY ZEKÂ, İNSAN HAKLARI, DEMOKRASİ VE
HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ
272
3.2.2. Sözleşmenin Hazırlık Süreci ve Kabulü
275
3.2.3. Sözleşmenin Uygulama Alanı ve İlkeleri
277
3.2.4. Sözleşmenin Uygulanması ve İzlenmesi
278
3.2.5. Dikkate Alınan Belgeler
278
3.2.6. Sözleşmeye Yönelik Eleştiriler
279
İNSAN HAKLARI, DEMOKRASİ VE HUKUKUN ÜSTÜNLÜĞÜ BAĞLAMINDA YAPAY ZEKÂ HAKKINDA AVRUPA KONSEYİ ÇERÇEVE SÖZLEŞMESİNİN ANALİZİ
4.1. SÖZLEŞMENİN AMAÇ VE HEDEFLERİ
284
4.2. YAPAY ZEKÂ SİSTEMİ TANIMI
290
4.3. SÖZLEŞMENİN UYGULAMA ALANI
291
4.3.1. Kamu Makamları veya Onların Adına Hareket Eden Özel
Aktörlerin Yapay Zekâ Sistemlerinin Yaşam Döngüsü
Çerçevesinde Faaliyeti
292
Faaliyetlerinden Kaynaklanan Riskler ve Etkileri ile Özel
Aktörlerin Diğer Faaliyetleri
292
4.4.1. Ulusal Güvenlik Çıkarlarının Korunmasıyla İlgili Yapay Zekâ
Sistemlerinin Yaşam döngüsü Çerçevesinde Yürütülen
4.4.2. Yapay Zekâ Sistemlerine İlişkin Araştırma ve Geliştirme
Faaliyetleri, Testler, Benzeri Faaliyetler
294
4.4.3. Ulusal Savunma ile İlgili Konular
294
4.5. TARAF DEVLETLERİN GENEL YÜKÜMLÜLÜKLERİ
295
4.5.1. İnsan Haklarının Korunması
295
4.5.2. Demokratik Süreçlerin Dürüstlüğü ve Hukukun Üstünlüğüne
4.5.3. Yapay Zekâ Sistemlerinin Yaşam Döngüsü Çerçevesinde
Yürütülen Faaliyetlere İlişkin İlkeler
302
4.5.3.1. İnsan Onuru ve Bireysel Özerklik
303
4.5.3.2. Şeffaflık ve Denetim
304
4.5.3.2.1. Şeffaflık İlkesi
305
4.5.3.2.2. Denetim İlkesi
307
4.5.3.3. Hesap Verebilirlik ve Sorumluluk
307
4.5.3.4. Eşitlik ve Ayrımcılık Yasağı
309
4.5.3.5. Mahremiyet ve Kişisel Verilerin Korunması
313
4.5.3.6. Güvenilirlik
316
4.5.3.7. Güvenli İnovasyon (Yenilikçilik)
318
4.5.5. Usuli Garantiler
324
4.5.5.1. İnsan Kontrolü
324
4.5.5.2. Bir İnsanla Etkileşimde Bulunmadığına İlişkin
4.5.6. Risk ve Etki Yönetim Çerçevesi
326
4.5.6.1. Risk Temelli Yaklaşım
326
4.5.6.2. İnsan Hakları Etki Analizi
329
4.5.6.3. Kabul Edilemez Risk Taşıyan YZ sistemleri
330
4.5.7. Sözleşmenin Uygulanmasında Ayrımcılık Yapılmaması
331
4.5.8. Engelli Kişilerin ve Çocukların Hakları
333
4.5.9. Kamu İstişaresi
334
4.5.10. Tanınan İnsan Haklarının Korunması
334
4.5.11. Daha Geniş Koruma
335
4.5.12. İzleme Mekanizması: Taraflar Konferansı
335
4.5.13. Uluslararası İşbirliği
338
4.5.14. Etkili Denetim Mekanizmaları
339
4.5.15. Sözleşme ve AB Hukuku
340
EK 1 : AVRUPA BİRLİĞİ YAPAY ZEKÂ YASASI (İçeriği)
347
EK 2: AVRUPA KONSEYİ YAPAY ZEKÂ VE İNSAN HAKLARI, DEMOKRASİ VE
HUKUKUN ÜSTÜNLÜĞÜ ÇERÇEVE SÖZLEŞMESİ (Tam Metin)
352
EK: 3 YAPAY ZEKÂ HAKKINDA OECD KONSEY TAVSİYESİ
363
YAZARIN YAYINLANMIŞ KİTAPLARI
373