Pandeminin ani ve yıkıcı başlangıcı ekonomideki birçok sektörü yavaşlattı ancak teknoloji sektörü özellikle yapay zeka (AI) üzerinde tam tersi bir etkiye sahip görünüyor. Hizmet olarak AI (AIaaS) pazarının büyümesini hızlandırdı ve şu anda önümüzdeki üç yıl içinde yüzde 48'in üzerinde bir CAGR (Compound Annual Growth Rate) ile büyüyeceği tahmin ediliyor. Gartner, 2024'ün sonunda kuruluşların yüzde 75'inin pilot uygulamadan yapay zekayı operasyonel hale getirmeye geçeceğini tahmin ediyor.
Bu sıkıntılı zamanlarda kuruluşlar hizmetleri otomatikleştirme, operasyonel maliyetleri düşürme, verimliliği artırma ve çok daha fazlasını yapabilmek için yapay zekadan yararlanmaya hazırlanıyor.
Yapay Zeka sağlık sektöründe enfeksiyonun yayılmasını izleme, sözleşme takibini, araştırma, veri yönetimini ve çok daha fazlası konuda yardımcı olmada çok önemli bir rol oynadı. Eğitim sektöründe öğrenci performansını izlemek, idari görevleri otomatikleştirmek ve öğretimdeki boşlukları belirlemek için AI yani yapay zeka kullanıyor. Bankalar dijital erişimlerini müşterilere genişletmek için sanal asistanlar ve yapay zeka destekli sohbet robotları kullanıyor. Benzer şekilde diğer birçok hizmet sektörü de iş sürekliliğini korumak için yapay zeka destekli teknolojilerden yararlanıyor.
Veri işleme ve karar verme için yapay zeka algoritmalarına güvenen pek çok sektörle birlikte yapay zeka tarafından üretilen bu sonuçların ne kadar güvenilir ve tarafsız olduğu herzaman kafalarda bir soru işareti.
AI'da etik fikrinin devreye girdiği yer burasıdır. Yapay (veya makine) etik, AI sistemlerinin tasarımı, geliştirilmesi ve konuşlandırılmasındaki etik sorunları ortaya çıkarmayı amaçlamaktadır. Yapay olarak akıllı sistemler için davranış kodları sağlar ve bu da durumlara etik bir şekilde yanıt vermelerini sağlar. Yapay zeka etiğinde yapay zekanın ürettiği sonuçların ve tahminlerin adaletinin bu sonuçlardan elde edilen faydalar kadar önemli olduğu düşünülmektedir.
AI sistemleri genellikle yaratıcıları tarafından yapılan seçimlere göre geliştirilir ve bu da tamamen tarafsız bir sistem tasarlamayı zorlaştırır. Bu nedenle, AI'da etik bir süredir tartışma konusu olmuştur.
Bununla birlikte salgın sırasında yapay zekanın benimsenmesindeki artış, etik bir çerçevenin aciliyetini artırdı. Bunun anlamı, AI tasarımdan itibaren etik yaklaşımı gerektirir. Yani etik ve risk değerlendirme uzmanlarının ilk aşamalardan itibaren AI tabanlı çözümler geliştiren ekiplerle birlikte çalışması gerektiği anlamına gelir.
Etik AI kavramı ve salgının AI ‘a olan ihtiyacı nasıl gözler önüne serdiğini gösteren beş başlık aşağıdaki gibidir;
1. Etik AI'nın yükselişi: Şeffaf bir gelecek için noktaları birleştirmek
AI teknolojisinin kullanımıyla ilgili birçok zorluk ve tehdit vardır. Bu nedenle bir güven unsuru oluşturmak, yapay zekanın faydalarını daha iyi bir şekilde uygulamanın anahtarıdır. Bu güven, etik kodlar ve uygulamalar yerleştirilerek ve bunlara sıkı sıkıya bağlı kalınarak zaman içinde inşa edilebilir. Bu pandeminin yarattığı büyük yapay zeka ve otomasyon potansiyeli ancak akıllıca düzenlenirse gerçekleştirilebilir.
28 Şubat 2020 ‘de IBM ve Microsoft gibi teknoloji devlerinin İtalyan hükümeti ile yapay zekanın etik kullanımı konusunda yazılı bir anlaşma imzaladıkları "Roma'nın yapay zeka etiği çağrısı" ‘na (Rome call for Artificial Intelligence Ethics) tanık olduk. Etik kullanım esas olarak Şeffaflık, Kapsayıcılık, Sorumluluk, Tarafsızlık, Güvenilirlik ve Güvenlik ve Gizlilik ilkelerine göre kategorize edilmiştir.
Yapay Zeka, AI önyargısı, hızlandırılmış bilgisayar korsanlığı ve AI terörizmi gibi büyük zorluklarla birlikte gelir. Yapay zekayı iyilik için kullanmanın başarısı ise güvene bağlıdır ve bu güven ancak zaman içinde etik ilkelere ve uygulamalara en üst düzeyde bağlılıkla inşa edilebilir. 2020'lerin ötesine geçerken, dünyayı etkisine alması için yapay zeka ve otomasyonu gerçekçi bir şekilde görebilmemizin tek yolu, sadece akıllıca düzenlenmesidir. Bu da teknolojide daha fazla ilerlemeyi ve yeniliği teşvik etmekle başlar. Yani teknolojinin kendisinden ziyade uygulamaları düzenlemek anlamına gelir. Yapay Zeka olası sonuçları etrafında büyük miktarda haksız korku varken yapay zekanın etik ve yararlı olduğu bir gelecek konusunda iyimser olmalıyız.
2. Kriz anında yapay zeka acil olarak etiğe ihtiyaç duyar
Salgın sırasında yapay zeka araçları yoğun bir şekilde kullanılmaktadır. Ancak teknolojinin bu kadar hızlı benimsenmesi birçok zorlu etik sorunu ortaya çıkarmaktadır. Yapay zekanın COVID-19 ile mücadelede ve ötesinde güvenli ve faydalı bir şekilde kullanılmasını sağlamak için yapay zeka konusunda acil bir şekilde etik kurallara ihtiyacımız olduğu açıktır.
3. Sağlık Hizmetlerinde Yapay Zeka: Etik ve Düzenlemelerin Ele Alınması
Sağlık hizmetlerinde yapay zeka araçlarının benimsenmesi son aylarda katlanarak arttı. Bu sağlık hizmeti verilerinde AI kullanımıyla ilgili gizlilik ve güvenlik yönleriyle ilgili birçok endişeye yol açtı. Sağlık hizmeti sağlayıcıları, teknoloji ve veri kullanımının etik ve yasal gerekliliklerini karşılarken yapay zekanın tüm potansiyelinden nasıl yararlanabilir?
Yapay zekanın çekiciliği çok ancak belirli alanlarda ele alınması gereken ciddi etik sorular var. Nexdigm’in Akıllı Otomasyon ve Hızlandırılmış Analiz Hizmeti Direktörü Amit Kumar sağlık hizmetlerinde yapay zeka çözümlerini kullanmanın sonuçlarını değerlendiriyor.
"Etik, yapmaya hakkınız olan şey ile doğru olan şey arasındaki farkı bilmektir."
Veri düzenlemeleri hakkındaki tüm bu itirazlar buna değer mi? Gerçekten ne kadar önemsiyoruz? En son ne zaman bir akıllı telefon uygulamasının hüküm ve koşullarını ve veri izinlerini düşündünüz veya bir web sitesinin gizlilik ve çerez politikalarını okumaya zaman ayırdınız? Bilgi güvenliği ve veri gizliliği gibi alanlarda yönetişim organlarına güvenerek çok sayıda web sitesine ve uygulamaya doğal olarak izin veriyoruz.
Veri ve sağlık hizmetlerinin iç içe geçmiş kaderiyle durum tespiti yapmak ve sağlık hizmeti verilerinin mahremiyetini ve güvenliğini sağlamak ise giderek daha zor hale geliyor. Böyle bir senaryoda sağlık hizmeti sağlayıcılarının yapay zekanın gücünden yararlanmasını ve aynı zamanda teknoloji ve veri kullanımının etik ve yasal yükümlülüklerine bağlı kalmasını nasıl sağlayabiliriz?
Aşağıdakiler sağlık kuruluşlarının verilerden yararlanma konusunda sıklıkla karşılaştıkları temel endişelerden bazılarıdır;
Veri Gizliliği ve Güvenliği
Verilerin güvenlik ve risk etkileri hakkındaki tartışmalar yeni değildir. Her kuruluş verilerin adil kullanımıyla ilgili etik yol gösterici ilkelere sahip olduğunu iddia etse de bağlayıcı bir yasal çerçevenin olmaması kullanıcıları veri hırsızlığı, bilgisayar korsanlığı ve yetkisiz kullanıma daha duyarlı hale getirdi. Verilerin reklam ve üçüncü taraf paylaşımı yoluyla paraya çevrilmesi günümüzde sözde dijital işletmelerin başlıca iş modelidir ve bu insanların kişisel verileri kuruluşlarla paylaşma konusunda şüpheci olmasının nedenidir. Yanlış ellerdeki bu tür veriler daha da maliyetli olabileceğinden bu endişelerin sağlık hizmetlerinde vurgulanması gerekir.
COVID-19'un bu zamanlarında bir temas izleme uygulamasının herkes için zorunlu hale getirilip getirilmeyeceği konusunda devam eden bir tartışma var. Böyle bir uygulama kullanıcının yakınında olası bir hasta varsa kullanıcıyı (ve muhtemelen yetkilileri) uyarabilir. Şüphesiz uygulamanın her zaman bir kullanıcının konumuna erişmesi gerekir. Güney Kore ve Tayvan gibi birkaç ülke salgını kontrol altına almak için bunun gibi dijital ve veri konusunda bilgili bir yaklaşımın etkinliğini kanıtladı. Bununla birlikte veri gizliliği savunucularının dile getirdiği endişeleri gidermek için ise şimdiye kadar çok az şey yapıldı. Bu tür grupların argümanları (verilerin çalınmasından, devlet tarafında farklı amaçlarla kullanıma kadar) kanun yapıcılar için bir ikilem oluşturuyor ve halk sağlığı ile mahremiyet arasında bir seçim ortaya çıkarıyor.
Veri Hakları
Bu tartışmanın altında yatan soru, bir kullanıcının verilerinin kime ait olduğudur. Bu tür verilerin adil kullanım haklarını kim yönetir? Kullanıcılara verilerini yönetmeleri için gelişmiş aktif kontrollerin verildiği sık sık dile getirilmiştir. Bununla birlikte birçok hasta (veya daha genel olarak kullanıcılar) genellikle (kasıtlı olarak) bu tür veri kontrollerinden habersizdir. Dahası sıklıkla görüldüğü gibi bu tür kontroller teknoloji ile barışık olmayan insanlar için çok karışık ve karmaşıktır. Bu nedenle hangi verilerin nasıl ve hangi koşullarda kullanılabileceği konusunda tartışmalar yapılması önem kazanmaktadır. Bir yönetişim organı veya küresel hukuk, bu endişelere yardımcı olabilir ve böylece en çok ihtiyaç duyulan zamanda ve yerde değerli verilerin ilgili birimlerce amacında kullanımına izin verebilir.
Avrupa'da GDPR (Genel Veri Koruma Yönetmeliği) bu yönde bir adım olmuştur ve GDPR'nin, bilimsel araştırma için veya halk sağlığı yararına gerekli olduğu yerlerde sağlık verilerinin rıza olmaksızın kullanılmasına izin verdiğini belirtmekte fayda var. Hastalar verilerin nasıl anonim hale getirildiği, kime güvendiği ve daha iyi için kullanılıp kullanılmadığı konusunda daha fazla farkındalık, şeffaflık ve inançla daha fazla veriyi paylaşmaya teşvik edilecektir. Bununla birlikte GDPR, Avrupa'da veri gizliliği ve güvenliği standartları için iyi bir kriter belirledi (hala devam eden bir çalışma) ve diğer ülkelerin de yakında aynı şeyi yapmaları bekleniyor.
Adalet ve Kapsayıcılık
Diğer işletmelerde büyük, çeşitli ve dengeli veri kümeleri elde etmek genellikle kolay olsa da sağlık hizmetleri işletmeleri klinik verileri toplarken katı düzenlemeler ve kurumsal engellerle karşı karşıyadır. Bu kadar seyrek ve taraflı veriler üzerinde eğitilmiş yapay zeka sistemleri başarısız olmaya mahkumdur. Örneğin Kafkasyalı erkeklerden oluşan bir örnek grubu üzerinde eğitilen bir cilt kanseri algılama algoritması kadın veya beyaz olmayan bir hasta grubu üzerinde denendiğinde kötü bir şekilde başarısız oluyor. Bu tür önyargılar yapay zekada yerleşik değildir ve kasıtsız kişisel seçimler / veri önyargıları yoluyla pekiştirilir. Azınlıkları veya göz ardı edilen grupların verilerini de böylelikle daha da ilginç hale getirir.
4. Zeka Topluluğu için Yapay Zeka Etik Çerçevesi
Yapay zeka, zeka misyonunu geliştirebilir ancak diğer yeni araçlar gibi etik olmayan sonuçları önlemek için ilkelerimizle uyumlu bir şekilde onu nasıl kullanacağımızı anlamamız gerekir. Aşağıdaki kılavuz, paydaşlara muhakeme için mantıklı bir yaklaşım sağlamayı ve AI yaşam döngüsü ile ilgili hususların dokümantasyonuna yardımcı olmayı amaçlayan canlı bir belgedir.
https://www.dni.gov/files/ODNI/documents/AI_Ethics_Framework_for_the_Intelligence_Community_10.pdf
5. Yapay Zeka: Etikten Kurallara
Mevcut eğilime bağlı olarak AI ve makine öğrenimi (ML), kamu hizmetlerinde devrim yaratacağı öngörülüyor. Bununla birlikte AI, toplumu olumsuz etkileme potansiyeline sahip iki ucu keskin bir kılıçtır. Öyleyse, Yapay Zeka etiği fikrinden yapay zekayı yönetmek için belirli politikaları ve mevzuatı formüle etmeye nasıl geçebiliriz?
Yapay zekanın sunabileceği pek çok avantajı olsa da tehlikeli gizli güdüler elde etmek için bozulma riski kesinlikle mevcuttur. Bu nedenle hükümetler ve kurumsal kuruluşlar AI sorumluluğunu ele almalıdır.
Avrupa komisyonu, AI sistemlerini etik olarak geliştirmek için yedi alanı vurgulayan kılavuzları halihazırda ortaya koydu. Amazon, Google, Microsoft, IBM ve Facebook gibi işletme devleri yapay zekanın etik kullanımı için en iyi uygulamaları geliştirmek ve halkı faydalar hakkında nasıl eğiteceklerine dair fikirleri paylaşmak için kar amacı gütmeyen bir yapay zeka koalisyonu oluşturdular.
Aşağıdaki dökümanda bu koalisyonun sonucu olarak ortaya çıkan sonucu okuyabilirsiniz;
https://www.europarl.europa.eu/RegData/etudes/STUD/2020/641507/EPRS_STU(2020)641507_EN.pdf
Sonuç olarak şunu söylemekte fayda görüyoruz. Şuan yaşanılan pandemic süreci gibi kriz anları sırasında etik yapay zeka sistemlerinin gelişimini hızlandırmak, bu uygulamalara halkın güvenini kazandırabilir ve işletmelerin bu teknolojiyi gelecekte tam potansiyeline kullanmasını sağlamak kritik önemde olacaktır.