ISO 42001 Yapay Zekâ Yönetim Sistemi Nedir?

ISO/IEC 42001 Yapay Zekâ Yönetim Sistemi, yapay zekâ sistemlerini geliştiren, sunan veya kullanan kuruluşların yapay zekâyla ilgili riskleri, fırsatları ve etkileri sistematik şekilde yönetmesini sağlayan uluslararası bir yönetim sistemi standardıdır.

ISO 42001; yapay zekâ teknolojilerinin güvenilir, şeffaf, hesap verebilir, güvenli ve sorumlu şekilde geliştirilmesi ve kullanılması için kuruluşlara kapsamlı bir yönetim çerçevesi sunar.

Standart yalnızca yapay zekâ yazılımı geliştiren teknoloji şirketlerine yönelik değildir. Hazır yapay zekâ uygulamalarını kullanan, yapay zekâ destekli kararlar alan veya müşterilerine yapay zekâ tabanlı ürün ve hizmetler sunan bütün kuruluşlar tarafından uygulanabilir.

ISO 42001 kapsamında değerlendirilebilecek yapay zekâ uygulamalarına şu örnekler verilebilir:

• Üretken yapay zekâ uygulamaları,
• Metin ve görsel oluşturma sistemleri,
• Yapay zekâ destekli sohbet uygulamaları,
• Müşteri hizmetleri chatbotları,
• Tahmin ve sınıflandırma sistemleri,
• İşe alım ve çalışan değerlendirme uygulamaları,
• Kredi ve risk değerlendirme sistemleri,
• Sağlık teşhis ve karar destek sistemleri,
• Görüntü ve yüz tanıma uygulamaları,
• Dolandırıcılık tespit sistemleri,
• Otonom araç ve ekipmanlar,
• Kalite kontrol ve hata tespit sistemleri,
• Tavsiye ve kişiselleştirme algoritmaları,
• Talep ve satış tahmin sistemleri,
• Siber güvenlik uygulamaları,
• Eğitim ve sınav değerlendirme sistemleri.

ISO 42001, yapay zekâ kullanımını yasaklayan veya sınırlandıran bir standart değildir. Kuruluşun yapay zekâ sistemlerinden yararlanırken bu sistemlerin insanlar, toplum, müşteriler, çalışanlar ve kuruluş üzerindeki etkilerini sorumlu şekilde yönetmesini amaçlar.

ISO 42001 Standardının Amacı Nedir?

ISO 42001 standardının temel amacı, yapay zekâ sistemlerinin sorumlu şekilde geliştirilmesi, sağlanması ve kullanılması için etkin bir Yapay Zekâ Yönetim Sistemi oluşturulmasını sağlamaktır.

Standardın başlıca amaçları şunlardır:

• Yapay zekâ sistemleriyle ilgili riskleri belirlemek,
• Yapay zekânın kişiler ve toplum üzerindeki etkilerini değerlendirmek,
• Güvenilir ve sorumlu yapay zekâ kullanımını desteklemek,
• Yapay zekâ sistemlerinde hesap verebilirliği sağlamak,
• Görev, yetki ve sorumlulukları belirlemek,
• Yapay zekâ kararlarının şeffaflığını geliştirmek,
• İnsan gözetimi ve müdahale yöntemlerini oluşturmak,
• Veri kalitesini ve uygunluğunu yönetmek,
• Hatalı, ayrımcı veya önyargılı sonuçları azaltmak,
• Gizlilik ve kişisel verilerin korunmasını desteklemek,
• Yapay zekâ sistemlerinin güvenliğini ve dayanıklılığını artırmak,
• Yapay zekâ sistemlerinin yaşam döngüsünü yönetmek,
• Tedarikçi ve dış hizmet sağlayıcı risklerini kontrol etmek,
• Yasal, düzenleyici ve sözleşmesel şartlara uyumu desteklemek,
• Yapay zekâ olaylarına ve uygunsuzluklarına müdahale etmek,
• Yapay zekâ performansını izlemek ve ölçmek,
• Paydaşların yapay zekâya olan güvenini artırmak,
• Yapay Zekâ Yönetim Sistemi’ni sürekli iyileştirmektir.

ISO 42001, yalnızca yapay zekâ sisteminin teknik doğruluğuna odaklanmaz. Yönetim, insan hakları, etik, veri, güvenlik, şeffaflık, çevresel etkiler ve toplumsal sonuçlar gibi birçok konuyu birlikte ele alır.

ISO 42001 Yapay Zekâ Yönetim Sistemi Nasıl Çalışır?

ISO 42001 Yapay Zekâ Yönetim Sistemi, kuruluşun geliştirdiği veya kullandığı yapay zekâ sistemlerini belirlemesi ve bu sistemlerle ilişkili riskleri, etkileri ve fırsatları değerlendirmesiyle başlar.

Kuruluş öncelikle aşağıdaki sorulara cevap vermelidir:

• Hangi yapay zekâ sistemlerini kullanıyoruz?
• Bu sistemleri kendimiz mi geliştiriyoruz, dışarıdan mı temin ediyoruz?
• Yapay zekâ hangi kararları veriyor veya destekliyor?
• Bu kararlardan kimler etkileniyor?
• Kullanılan veriler nereden geliyor?
• Sonuçların doğruluğu nasıl kontrol ediliyor?
• İnsan gözetimi ve müdahalesi bulunuyor mu?
• Hatalı sonuçların oluşturabileceği etkiler nelerdir?
• Sistemlerin güvenliği ve sürekliliği nasıl sağlanıyor?
• Tedarikçi ve bulut hizmeti riskleri nasıl yönetiliyor?

ISO 42001 sistemi genel olarak aşağıdaki aşamalardan oluşur:

• Kuruluşun iç ve dış koşullarının değerlendirilmesi,
• Yapay zekâyla ilgili ilgili tarafların belirlenmesi,
• İlgili tarafların ihtiyaç ve beklentilerinin değerlendirilmesi,
• Yapay Zekâ Yönetim Sistemi kapsamının oluşturulması,
• Yapay zekâ politikasının hazırlanması,
• Yapay zekâ sistemleri envanterinin oluşturulması,
• Görev, yetki ve sorumlulukların belirlenmesi,
• Yapay zekâ risk ve fırsatlarının değerlendirilmesi,
• Yapay zekâ sistemlerinin etkilerinin analiz edilmesi,
• Risk işleme planlarının hazırlanması,
• Uygun kontrollerin seçilmesi,
• Veri yönetimi süreçlerinin oluşturulması,
• İnsan gözetimi ve müdahale yöntemlerinin belirlenmesi,
• Tedarikçi ve dış kaynak süreçlerinin kontrol edilmesi,
• Yapay zekâ sistemlerinin yaşam döngüsünün yönetilmesi,
• Performansın izlenmesi ve ölçülmesi,
• Olayların ve uygunsuzlukların yönetilmesi,
• İç tetkiklerin gerçekleştirilmesi,
• Yönetimin sistemi gözden geçirmesi,
• Sürekli iyileştirme çalışmalarının yürütülmesi.

Bu yaklaşım sayesinde yapay zekâ uygulamaları çalışanların bireysel tercihleriyle ve kontrolsüz şekilde kullanılan araçlar olmaktan çıkarak kuruluşun politika, risk, yetki ve kontrol yapısı içinde yönetilir.

ISO 42001 Standardının Temel Prensipleri Nelerdir?

ISO 42001 risk temelli düşünme, hesap verebilirlik ve sürekli iyileştirme yaklaşımına dayanan bir yönetim sistemi standardıdır.

Sorumlu yapay zekâ kullanımı

Yapay zekâ sistemleri yalnızca teknik olarak çalıştığı için kullanılmamalıdır. Sistemin insanlar, kuruluş, toplum ve çevre üzerindeki olumlu ve olumsuz etkileri değerlendirilmelidir.

Liderlik ve üst yönetimin sorumluluğu

Üst yönetimin Yapay Zekâ Yönetim Sistemi’ne liderlik etmesi, gerekli kaynakları sağlaması ve yapay zekâyla ilgili sorumlulukları belirlemesi gerekir.

Yapay zekâ yönetimi yalnızca bilgi işlem veya yazılım geliştirme birimine bırakılmamalıdır.

Hesap verebilirlik

Yapay zekâ sistemlerinin geliştirilmesi, onaylanması, kullanılması, izlenmesi ve durdurulmasıyla ilgili sorumlular açık şekilde belirlenmelidir.

Yapay zekâ tarafından üretilen bir sonuçtan veya verilen bir karardan nihai olarak kimin sorumlu olduğu bilinmelidir.

Şeffaflık

Kullanıcıların ve etkilenen kişilerin yapay zekâ sistemi kullanıldığını anlayabilmesi sağlanmalıdır.

Kuruluşun faaliyetlerine göre sistemin amacı, kullandığı veri türleri, sınırlamaları ve sonuçların nasıl değerlendirildiği hakkında uygun bilgilendirme yapılabilir.

Açıklanabilirlik

Özellikle kişileri önemli ölçüde etkileyen kararlarda, yapay zekâ sisteminin sonucunun anlaşılabilir şekilde açıklanması gerekebilir.

Her sistem için aynı seviyede açıklama mümkün olmayabilir. Gereken açıklanabilirlik seviyesi sistemin riskine ve kullanım amacına göre belirlenmelidir.

Adalet ve ayrımcılığın önlenmesi

Yapay zekâ sistemlerinin belirli kişi veya gruplar açısından ayrımcı, önyargılı veya haksız sonuçlar oluşturma ihtimali değerlendirilmelidir.

Eğitim verileri, model çıktıları ve karar sonuçları uygun yöntemlerle kontrol edilmelidir.

İnsan gözetimi

Yapay zekâ sistemlerinin önemli kararlarında uygun insan gözetimi ve müdahale imkânı bulunmalıdır.

İnsanların sistemin sonucunu kontrol etmesi, değiştirmesi veya gerektiğinde sistemi durdurabilmesi sağlanmalıdır.

Gizlilik ve veri koruma

Yapay zekâ sistemlerinde kullanılan kişisel ve kurumsal bilgiler korunmalıdır.

Verilerin hukuka uygun toplanması, kullanılması, saklanması ve silinmesi sağlanmalıdır.

Güvenlik ve dayanıklılık

Yapay zekâ sistemleri siber saldırılara, veri zehirleme girişimlerine, yetkisiz erişime, manipülasyona ve hizmet kesintilerine karşı korunmalıdır.

Veri kalitesi

Yapay zekâ sistemlerinde kullanılan verilerin doğru, yeterli, güncel, ilgili ve kullanım amacına uygun olması gerekir.

Eksik, hatalı veya dengesiz veriler güvenilir olmayan sonuçlara neden olabilir.

Sürekli iyileştirme

Yapay zekâ sistemlerinin performansı ve etkileri zaman içinde değişebilir. Bu nedenle sistemler düzenli şekilde izlenmeli, değerlendirilmeli ve geliştirilmelidir.

ISO 42001 Kapsamında Yapay Zekâ Riskleri Nelerdir?

Yapay zekâ sistemlerinin oluşturabileceği riskler kullanım amacına, etkilenen kişilere ve sistemin verdiği kararların önemine göre değişebilir.

Başlıca riskler şunlardır:

Hatalı sonuç riski

Yapay zekâ sistemi yanlış, eksik veya yanıltıcı sonuçlar üretebilir.

Özellikle sağlık, finans, işe alım veya güvenlik gibi alanlarda hatalı sonuçlar ciddi zararlara yol açabilir.

Önyargı ve ayrımcılık riski

Eğitim verilerindeki dengesizlikler veya model tasarımı belirli gruplar için haksız sonuçlar oluşturabilir.

Yaş, cinsiyet, engellilik, etnik köken veya diğer özelliklere bağlı ayrımcılık riskleri değerlendirilmelidir.

Gizlilik riski

Kişisel veya gizli bilgilerin yapay zekâ sistemine kontrolsüz şekilde girilmesi veri ihlaline neden olabilir.

Üretken yapay zekâ araçlarına müşteri bilgileri, ticari sırlar veya çalışan verileri girilmesi önemli riskler oluşturabilir.

Şeffaflık ve açıklanabilirlik riski

Yapay zekâ sisteminin nasıl karar verdiğinin anlaşılamaması, sonuçlara itiraz edilmesini veya hataların belirlenmesini zorlaştırabilir.

Güvenlik riski

Yapay zekâ sistemleri siber saldırı, model manipülasyonu, zararlı veri girişi veya yetkisiz erişim gibi tehditlere maruz kalabilir.

İnsan kontrolünün kaybedilmesi

Yapay zekâ kararlarının insan kontrolü olmadan otomatik uygulanması, yanlış sonuçların doğrudan kişilere veya süreçlere yansımasına neden olabilir.

Fikri mülkiyet riski

Yapay zekâ sistemlerinde kullanılan eğitim verileri veya oluşturulan içerikler telif hakkı, marka veya ticari sır ihlallerine neden olabilir.

Yanlış bilgi riski

Üretken yapay zekâ sistemleri gerçeğe uygun olmayan ancak ikna edici görünen içerikler oluşturabilir.

Tedarikçi bağımlılığı

Kuruluşun dışarıdan aldığı bir yapay zekâ hizmetine aşırı bağımlı olması hizmet kesintisi, fiyat değişikliği veya veri erişimi sorunlarına neden olabilir.

İtibar riski

Hatalı, ayrımcı veya etik dışı yapay zekâ kullanımı kuruluşun müşteriler, çalışanlar ve toplum nezdindeki güvenilirliğini zedeleyebilir.

Yapay Zekâ Etki Değerlendirmesi Nedir?

Yapay zekâ etki değerlendirmesi, bir yapay zekâ sisteminin kişiler, gruplar, kuruluş ve toplum üzerinde oluşturabileceği olumlu ve olumsuz etkilerin sistematik şekilde incelenmesidir.

Etki değerlendirmesinde aşağıdaki konular dikkate alınabilir:

• Yapay zekâ sisteminin amacı,
• Sistemin kullanım alanı,
• Verilen kararların önemi,
• Etkilenen kişi ve gruplar,
• Hassas veya korunmaya ihtiyaç duyan gruplar,
• Kullanılan veri türleri,
• Gizlilik ve kişisel veri etkileri,
• Ayrımcılık ve önyargı ihtimali,
• İnsan hakları üzerindeki etkiler,
• Sağlık ve güvenlik sonuçları,
• Çalışanlar üzerindeki etkiler,
• Yanlış sonuçların oluşturabileceği zararlar,
• İnsan gözetiminin yeterliliği,
• Sisteme itiraz ve düzeltme imkânları,
• Çevresel ve enerji etkileri.

Etki değerlendirmesinin kapsamı, yapay zekâ sisteminin riskine ve kullanım amacına uygun olmalıdır.

Basit bir metin düzenleme uygulamasıyla işe alım, kredi veya sağlık kararı veren bir yapay zekâ sistemi aynı seviyede değerlendirilmemelidir.

ISO 42001 Kapsamında Yapay Zekâ Kontrolleri Nelerdir?

ISO 42001 kapsamında kuruluşun risklerine göre çeşitli yönetim ve kontrol uygulamaları oluşturulabilir.

Yapay zekâ politikaları

Kuruluşun yapay zekâ sistemlerini hangi amaçlarla ve hangi kurallar altında kullanacağı belirlenmelidir.

Çalışanların onaylı ve onaysız yapay zekâ araçlarını nasıl kullanabileceği açıklanmalıdır.

Görev ve sorumluluklar

Yapay zekâ sistemlerinin geliştirilmesi, satın alınması, onaylanması, kullanılması, izlenmesi ve durdurulmasından sorumlu kişiler belirlenmelidir.

Yapay zekâ sistemleri envanteri

Kuruluş içinde geliştirilen veya kullanılan yapay zekâ sistemleri kayıt altına alınmalıdır.

Envanterde sistemin amacı, sahibi, tedarikçisi, kullandığı veri türleri ve risk seviyesi gibi bilgiler bulunabilir.

Kaynakların yönetimi

Yapay zekâ sistemi için ihtiyaç duyulan veri, yazılım, donanım, insan kaynağı ve teknik altyapı belirlenmelidir.

Etki değerlendirmesi

Yapay zekâ sisteminin bireyler, toplum ve ilgili taraflar üzerindeki olası etkileri değerlendirilmelidir.

Veri yönetimi

Verilerin kaynağı, kalitesi, uygunluğu, saklama süresi, güvenliği ve kullanım yetkileri kontrol edilmelidir.

Yaşam döngüsü yönetimi

Yapay zekâ sisteminin tasarım, geliştirme, test, doğrulama, kullanım, izleme ve hizmetten çıkarma aşamaları planlanmalıdır.

İnsan gözetimi

Yapay zekâ sonuçlarının hangi durumlarda insan tarafından kontrol edileceği ve değiştirilebileceği belirlenmelidir.

Teknik dokümantasyon

Sistemin amacı, çalışma yöntemi, sınırlamaları, test sonuçları ve kullanım şartları uygun ölçüde dokümante edilmelidir.

Kullanıcı bilgilendirmesi

Yapay zekâ sistemini kullanan veya sonuçlarından etkilenen kişiler uygun şekilde bilgilendirilmelidir.

Tedarikçi yönetimi

Dışarıdan temin edilen yapay zekâ sistemleri ve hizmetleri güvenlik, veri, performans, şeffaflık ve yasal şartlar açısından değerlendirilmelidir.

Olay yönetimi

Hatalı sonuç, veri ihlali, ayrımcılık, sistem arızası veya güvenlik ihlali gibi olayların bildirilmesi ve araştırılması için yöntem oluşturulmalıdır.

ISO 42001 Belgesi İşletmelere Ne Kazandırır?

ISO 42001 Yapay Zekâ Yönetim Sistemi, kuruluşlara teknik, hukuki, etik, ticari ve kurumsal açıdan önemli katkılar sağlar.

Başlıca faydaları şunlardır:

• Yapay zekâ sistemlerinin kontrollü şekilde kullanılmasını sağlar.
• Yapay zekâ risklerinin sistematik olarak belirlenmesine yardımcı olur.
• Yapay zekâ kullanımında görev ve sorumlulukları netleştirir.
• Hatalı ve güvenilir olmayan sonuçların azaltılmasını destekler.
• Ayrımcılık ve önyargı risklerinin yönetilmesini sağlar.
• İnsan gözetimi ve müdahale yöntemlerinin oluşturulmasına yardımcı olur.
• Veri kalitesi ve veri güvenliği uygulamalarını geliştirir.
• Kişisel verilerin korunmasını destekler.
• Yapay zekâ sistemlerinin şeffaflığını ve açıklanabilirliğini artırır.
• Tedarikçi ve dış hizmet sağlayıcı risklerini azaltır.
• Yapay zekâ olaylarına karşı hazırlık seviyesini geliştirir.
• Yasal ve sözleşmesel yükümlülüklere uyumu destekler.
• Çalışanların yapay zekâ farkındalığını artırır.
• Kontrolsüz yapay zekâ kullanımını azaltır.
• Müşteri ve iş ortaklarının güvenini güçlendirir.
• Yapay zekâ ürün ve hizmetlerinin pazara sunulmasını kolaylaştırabilir.
• Kuruluşun yenilikçilik ve sorumluluk anlayışını destekler.
• Kurumsal itibarın korunmasına katkı sağlar.
• Kamu ihaleleri ve kurumsal müşteri değerlendirmelerinde avantaj sağlayabilir.
• ISO 9001, ISO 27001 ve ISO 27701 gibi standartlarla entegre edilebilir.
• Yapay Zekâ Yönetim Sistemi’nin sürekli geliştirilmesine katkıda bulunur.

ISO 42001’in en önemli katkılarından biri, kuruluş içindeki yapay zekâ kullanımını bireysel ve kontrolsüz uygulamalardan çıkararak politika, sorumluluk, risk ve performans yönetimine dayalı kurumsal bir yapıya dönüştürmesidir.

ISO 42001 Belgesini Kimler Alabilir?

ISO 42001 standardı, yapay zekâ sistemlerini geliştiren, sağlayan veya kullanan bütün kuruluşlar tarafından uygulanabilir.

Aşağıdaki kuruluşlar ISO 42001 standardından yararlanabilir:

• Yapay zekâ yazılımı geliştiren firmalar,
• Yazılım ve bilişim şirketleri,
• Bulut hizmeti sağlayıcıları,
• Veri analitiği firmaları,
• E-ticaret kuruluşları,
• Bankalar ve finans kuruluşları,
• Sigorta şirketleri,
• Sağlık kuruluşları,
• Hastaneler ve laboratuvarlar,
• İnsan kaynakları ve işe alım firmaları,
• Eğitim kurumları,
• Üniversiteler,
• Kamu kurumları,
• Belediyeler,
• Üretim işletmeleri,
• Otomotiv ve savunma sanayi kuruluşları,
• Lojistik ve taşımacılık firmaları,
• Telekomünikasyon şirketleri,
• Danışmanlık ve denetim kuruluşları,
• Müşteri hizmetlerinde yapay zekâ kullanan firmalar,
• Üretken yapay zekâ araçlarını kullanan bütün kuruluşlar.

ISO 42001 belgesi almak için kuruluşun kendi yapay zekâ modelini geliştirmesi gerekmez.

Hazır yapay zekâ araçlarını iş süreçlerinde kullanan kuruluşlar da yapay zekâ risklerini yönetmek amacıyla ISO 42001 standardını uygulayabilir.

ISO 42001 Belgesi Nasıl Alınır?

ISO 42001 belgelendirme süreci, kuruluşun Yapay Zekâ Yönetim Sistemi’ni kurması, uygulaması ve bağımsız bir belgelendirme kuruluşu tarafından denetlenmesiyle gerçekleştirilir.

1. Mevcut durum analizi

Kuruluşun kullandığı veya geliştirdiği yapay zekâ sistemleri, mevcut politikaları, risk yönetimi uygulamaları ve teknik kontrolleri incelenir.

ISO 42001 şartlarına göre eksik ve geliştirilmesi gereken konular belirlenir.

2. Kuruluş bağlamının belirlenmesi

Yapay Zekâ Yönetim Sistemi’ni etkileyebilecek iç ve dış konular değerlendirilir.

Yasal düzenlemeler, teknolojik gelişmeler, müşteri beklentileri ve etik konular dikkate alınır.

3. İlgili tarafların belirlenmesi

Müşteriler, çalışanlar, kullanıcılar, düzenleyici kurumlar, tedarikçiler ve yapay zekâ sistemlerinden etkilenen diğer taraflar belirlenir.

4. Kapsamın oluşturulması

Yapay Zekâ Yönetim Sistemi’nin kapsayacağı ürünler, hizmetler, sistemler, birimler ve lokasyonlar belirlenir.

5. Yapay zekâ sistemleri envanterinin hazırlanması

Kuruluşun geliştirdiği, temin ettiği veya kullandığı yapay zekâ sistemleri kayıt altına alınır.

6. Risk ve etki değerlendirmesinin yapılması

Yapay zekâ sistemleriyle ilgili teknik, etik, hukuki, sosyal ve güvenlik riskleri değerlendirilir.

Sistemlerin kişiler ve toplum üzerindeki etkileri analiz edilir.

7. Kontrollerin belirlenmesi

Risklerin azaltılması için gerekli organizasyonel, teknolojik, veri odaklı ve insan odaklı kontroller seçilir.

8. Politika ve dokümantasyonun hazırlanması

Yapay zekâ politikası, risk yönetimi, etki değerlendirmesi, veri yönetimi, olay yönetimi ve diğer gerekli dokümanlar hazırlanır.

9. Kontrollerin uygulanması

İnsan gözetimi, veri doğrulama, sistem testleri, yetkilendirme, tedarikçi yönetimi ve diğer kontroller uygulamaya alınır.

10. Eğitimlerin gerçekleştirilmesi

Çalışanlara ISO 42001 temel eğitimi, sorumlu yapay zekâ kullanımı ve görevlerine özel eğitimler verilir.

11. Performansın izlenmesi

Yapay zekâ sistemlerinin doğruluğu, güvenliği, olayları, kullanıcı şikâyetleri ve diğer performans göstergeleri takip edilir.

12. İç tetkik yapılması

Yapay Zekâ Yönetim Sistemi’nin ISO 42001 şartlarına ve kuruluşun kendi düzenlemelerine uygunluğu değerlendirilir.

13. Yönetimin gözden geçirmesi

Üst yönetim riskleri, etkileri, olayları, hedefleri, iç tetkik sonuçlarını ve iyileştirme ihtiyaçlarını değerlendirir.

14. Belgelendirme denetimi

Bağımsız belgelendirme kuruluşu tarafından aşama 1 ve aşama 2 denetimleri gerçekleştirilir.

Belirlenen uygunsuzlukların giderilmesinin ardından uygun bulunan kuruluş adına ISO 42001 belgesi düzenlenir.

ISO 42001 Danışmanlık Süreci Nasıl İlerler?

ISO 42001 danışmanlık hizmetinin amacı yalnızca yapay zekâ politikası veya prosedürleri hazırlamak değildir.

Etkin bir danışmanlık çalışmasında kuruluşun kullandığı yapay zekâ sistemlerinin, verilerinin, tedarikçilerinin, risklerinin ve insan üzerindeki etkilerinin birlikte değerlendirilmesi gerekir.

Danışmanlık süreci genel olarak aşağıdaki çalışmaları kapsar:

• Kuruluşun faaliyetlerinin ve yapay zekâ kullanım alanlarının değerlendirilmesi,
• Mevcut yapay zekâ uygulamalarının belirlenmesi,
• Yapay zekâ sistemleri envanterinin hazırlanması,
• Kuruluş bağlamının ve ilgili tarafların değerlendirilmesi,
• Yapay Zekâ Yönetim Sistemi kapsamının oluşturulması,
• Yapay zekâ politikasının hazırlanması,
• Görev, yetki ve sorumlulukların belirlenmesi,
• Yapay zekâ risk değerlendirme metodolojisinin oluşturulması,
• Risk ve fırsat analizinin gerçekleştirilmesi,
• Yapay zekâ etki değerlendirmelerinin yapılması,
• Veri kaynaklarının ve veri kalitesinin değerlendirilmesi,
• Kişisel veri ve gizlilik risklerinin incelenmesi,
• Önyargı ve ayrımcılık risklerinin değerlendirilmesi,
• İnsan gözetimi ve müdahale yöntemlerinin belirlenmesi,
• Şeffaflık ve kullanıcı bilgilendirme yöntemlerinin oluşturulması,
• Yapay zekâ sistemlerinin yaşam döngüsü süreçlerinin düzenlenmesi,
• Test, doğrulama ve onay kriterlerinin belirlenmesi,
• Tedarikçi ve dış hizmet sağlayıcıların değerlendirilmesi,
• Üretken yapay zekâ kullanım kurallarının hazırlanması,
• Yapay zekâ olay yönetimi sürecinin oluşturulması,
• Performans göstergelerinin belirlenmesi,
• Kuruluşa özel politika, prosedür, plan ve formların hazırlanması,
• Çalışan eğitimlerinin gerçekleştirilmesi,
• İç tetkiklerin yapılması,
• Yönetimin gözden geçirmesi toplantısının gerçekleştirilmesi,
• Belgelendirme denetimine hazırlık yapılması,
• Uygunsuzlukların kapatılmasına destek verilmesi.

Hazır ve her kuruluş için aynı şekilde hazırlanan yapay zekâ dokümanları, kuruluşun gerçek yapay zekâ sistemlerini ve risklerini yeterince yansıtmayabilir.

Etkin bir ISO 42001 sistemi; kuruluşun geliştirdiği veya kullandığı yapay zekâ teknolojilerine, veri türlerine, karar süreçlerine ve ilgili taraflarına özel olarak hazırlanmalıdır.

Neden EA Kalite Eğitim ve Danışmanlık?

EA Kalite Eğitim ve Danışmanlık olarak, 2011 yılından bu yana edindiğimiz yönetim sistemleri deneyimiyle Türkiye genelinde ISO 42001 Yapay Zekâ Yönetim Sistemi danışmanlığı, eğitim ve belgelendirme hazırlık hizmetleri sunuyoruz.

Danışmanlık çalışmalarımızda yalnızca dokümantasyon hazırlamak yerine, kuruluşunuzun gerçek yapay zekâ kullanım alanlarını, verilerini ve risklerini esas alan uygulanabilir bir yönetim sistemi oluşturmayı amaçlıyoruz.

ISO 42001 danışmanlık hizmetimiz kapsamında:

• Kuruluşunuza özel mevcut durum analizi gerçekleştiririz.
• Yapay zekâ sistemleri envanterinizi oluştururuz.
• Belgelendirme kapsamınızı belirleriz.
• Yapay zekâ risk ve fırsatlarınızı değerlendiririz.
• Yapay zekâ etki değerlendirmelerinizi gerçekleştiririz.
• Veri, gizlilik, güvenlik ve önyargı risklerinizi inceleriz.
• İnsan gözetimi ve müdahale yöntemlerinizi oluştururuz.
• Yapay zekâ sistemlerinin yaşam döngüsü kontrollerini belirleriz.
• Tedarikçi ve dış hizmet sağlayıcı süreçlerinizi düzenleriz.
• Üretken yapay zekâ kullanım kurallarınızı hazırlarız.
• Kuruluşunuza özel politika, prosedür, plan ve formlar oluştururuz.
• Yapay zekâ hedefleri ve performans göstergeleri belirleriz.
• Çalışanlarınıza ISO 42001 ve sorumlu yapay zekâ eğitimleri veririz.
• İç tetkik ve yönetimin gözden geçirmesi çalışmalarını gerçekleştiririz.
• Belgelendirme denetimine hazırlık sürecini yönetiriz.
• Belgelendirme sonrasında sistemin sürdürülebilirliğini destekleriz.

Amacımız yalnızca ISO 42001 belgesinin alınmasını sağlamak değil; yapay zekâ risklerini azaltan, paydaş güvenini artıran ve kuruluşunuza uzun vadeli değer kazandıran bir Yapay Zekâ Yönetim Sistemi oluşturmaktır.

Sık Sorulan Sorular

ISO 42001 nedir?

ISO 42001, yapay zekâ sistemlerini geliştiren, sağlayan veya kullanan kuruluşların yapay zekâ risklerini ve etkilerini yönetmesini sağlayan uluslararası bir yönetim sistemi standardıdır.

ISO 42001 belgesi zorunlu mudur?

ISO 42001 belgesi genel olarak bütün kuruluşlar için yasal bir zorunluluk değildir.

Ancak müşteri talepleri, sözleşmeler, kamu ihaleleri veya gelecekteki düzenleyici şartlar kapsamında talep edilebilir.

ISO 42001 belgesi kaç yıl geçerlidir?

ISO 42001 belgesi genel olarak üç yıllık belgelendirme döngüsü kapsamında düzenlenir.

Bu süre içinde yıllık gözetim denetimleri gerçekleştirilir.

ISO 42001 yalnızca yapay zekâ geliştiren firmalar için midir?

Hayır. Yapay zekâ geliştiren kuruluşların yanı sıra hazır yapay zekâ sistemlerini kullanan kuruluşlar da standardı uygulayabilir.

Üretken yapay zekâ kullanan şirketler ISO 42001 alabilir mi?

Evet. Metin, görsel, kod veya analiz üreten yapay zekâ araçlarını kullanan kuruluşlar da yapay zekâ risklerini yönetmek amacıyla ISO 42001 standardını uygulayabilir.

ISO 42001 ile ISO 27001 arasındaki fark nedir?

ISO 27001, bilgi güvenliği risklerinin yönetilmesine odaklanır.

ISO 42001 ise yapay zekâ sistemlerinin etik, teknik, toplumsal ve yönetsel risklerini daha geniş bir çerçevede ele alır.

İki standart birlikte uygulanabilir.

ISO 42001 kapsamında kişisel veriler değerlendirilir mi?

Evet. Yapay zekâ sistemlerinde kişisel veri kullanılıyorsa gizlilik, veri güvenliği, hukuka uygunluk ve ilgili kişilerin hakları değerlendirilmelidir.

ISO 42001 belgesine sahip olmak tek başına KVKK veya diğer veri koruma mevzuatına tam uyum anlamına gelmez.

ISO 42001 kapsamında yapay zekâ etki değerlendirmesi yapılır mı?

Evet. Yapay zekâ sistemlerinin kişiler, gruplar ve toplum üzerindeki olası etkilerinin değerlendirilmesi sistemin önemli unsurlarındandır.

ISO 42001 kapsamında insan gözetimi zorunlu mudur?

İnsan gözetiminin seviyesi, yapay zekâ sisteminin kullanım amacı ve riskine göre belirlenmelidir.

Önemli kararlar veren sistemlerde insan müdahalesi ve kontrol yöntemleri özellikle önemlidir.

Yapay zekâ sistemlerinde önyargı nasıl değerlendirilir?

Kullanılan veri setleri, sistem çıktıları ve farklı kullanıcı grupları üzerindeki sonuçlar analiz edilerek ayrımcılık ve önyargı riskleri değerlendirilebilir.

ISO 42001 kapsamında tedarikçiler değerlendirilir mi?

Evet. Bulut hizmetleri, yapay zekâ modelleri, veri sağlayıcıları ve yazılım tedarikçileri risk, güvenlik, gizlilik ve performans açısından değerlendirilmelidir.

ISO 42001 kapsamında çalışanların ücretsiz yapay zekâ araçları kullanması değerlendirilir mi?

Evet. Kurumsal bilgiler kontrolsüz yapay zekâ araçlarına girildiğinde gizlilik, fikri mülkiyet ve veri güvenliği riskleri oluşabilir.

Kuruluşun onaylı araçları ve kullanım kurallarını belirlemesi gerekir.

ISO 42001 kapsamında yapay zekâ envanteri gerekli midir?

Kuruluşun hangi yapay zekâ sistemlerini geliştirdiğini veya kullandığını bilmesi gerekir.

Bu nedenle sistemlerin amacı, sahibi, tedarikçisi, kullandığı veri ve risk seviyesi gibi bilgileri içeren bir envanter oluşturulması faydalıdır.

ISO 42001 kapsamında hangi performans göstergeleri takip edilebilir?

Aşağıdaki göstergeler izlenebilir:

• Hatalı yapay zekâ sonucu sayısı,
• Yapay zekâ olayı ve şikâyeti sayısı,
• İnsan tarafından değiştirilen karar oranı,
• Veri kalitesi uygunsuzlukları,
• Önyargı test sonuçları,
• Sistem kullanılabilirlik oranı,
• Tedarikçi performansı,
• Yapay zekâ eğitimi tamamlanma oranı,
• Gizlilik ve güvenlik ihlalleri,
• Risk işleme planlarının tamamlanma oranı.

ISO 42001 danışmanlığı ne kadar sürer?

Danışmanlık süresi; kuruluşun büyüklüğüne, kullanılan yapay zekâ sistemi sayısına, sistemlerin risk seviyesine, veri yapısına ve mevcut yönetim uygulamalarına göre değişir.

ISO 42001 belgesi almak için hangi dokümanlar hazırlanır?

Kuruluşun faaliyetlerine göre aşağıdaki dokümanlar hazırlanabilir:

• Yapay zekâ politikası,
• Yapay zekâ sistemleri envanteri,
• Risk değerlendirme metodolojisi,
• Yapay zekâ risk analizi,
• Risk işleme planı,
• Yapay zekâ etki değerlendirmeleri,
• Veri yönetimi kuralları,
• İnsan gözetimi prosedürü,
• Yapay zekâ yaşam döngüsü prosedürü,
• Model test ve doğrulama kayıtları,
• Üretken yapay zekâ kullanım talimatı,
• Tedarikçi değerlendirme kayıtları,
• Şeffaflık ve kullanıcı bilgilendirme metinleri,
• Yapay zekâ olay yönetimi prosedürü,
• Performans izleme kayıtları,
• Eğitim ve farkındalık kayıtları,
• İç tetkik kayıtları,
• Yönetimin gözden geçirmesi kayıtları,
• Uygunsuzluk ve düzeltici faaliyet kayıtları.

Dokümantasyonun kapsamı kuruluşun yapay zekâ kullanımı, risk seviyesi ve faaliyetlerinin karmaşıklığına göre belirlenmelidir.

ISO 42001 Danışmanlığı İçin Bizimle İletişime Geçin

ISO 42001 Yapay Zekâ Yönetim Sistemi; yapay zekâ teknolojilerini güvenilir, şeffaf, hesap verebilir ve sorumlu şekilde geliştirmek veya kullanmak isteyen kuruluşlar için etkili bir yönetim aracıdır.

EA Kalite Eğitim ve Danışmanlık olarak işletmenizin faaliyet alanına özel Yapay Zekâ Yönetim Sistemi kuruyor; yapay zekâ envanteri, risk ve etki değerlendirmesi, veri yönetimi, insan gözetimi, dokümantasyon, eğitim, iç tetkik ve belgelendirme hazırlık süreçlerinde profesyonel destek sağlıyoruz.

ISO 42001 danışmanlığı, ISO 42001 eğitimi ve belgelendirme hazırlık hizmetleri hakkında bilgi almak için EA Kalite Eğitim ve Danışmanlık ile iletişime geçebilirsiniz.