Üsküdar Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Yazılım Mühendisliği Bölüm Başkan Yardımcısı Dr. Öğretim Üyesi KristinSurpuhi Benli, yapay zekaların hatalı uygulamaları hakkında bilgiler ve ilgi çekici örnekler paylaştı. İLK VAKA 2018’DE GERÇEKLEŞTİ Yapay zekanın verdiği hatalı kararların bazen tehlikelere yol açabildiğini belirten Dr. Öğretim Üyesi KristinSurpuhi Benli, “Örneğin, 2018 yılında Uber’in sürücüsüz otomobili yanında güvenlik sürücüsü bir insan olmasına rağmen bir bisiklet sürücüsüne çarpmış ve bu kaza ölümle sonuçlanmıştı. Bu olay otonom arabanın ölüme sebebiyet verdiği kaydedilen ilk vakadır. Bu kaza sonrasında yayınlanan raporda yapay zekanın bisikletli sürücüyü çarpışmaya çok kısa bir süre kala algıladığı görüldü. Öncesinde ise, onu farklı ve yanlış nesneler ile eşleştirmiş. Bisikletli sürücü algılandıktan sonra da tehlikeli durumlarda devreye girmesi gereken otomatik fren sisteminin kapalı olması nedeniyle aracın durdurulamadığı belirtildi.” dedi. İYİLEŞTİRME ÇALIŞMALARI YAPILMALI Yapay zekanın da hata yapabildiğini ifade eden Dr. Öğretim Üyesi Benli, “Yapmış olduğu hatalar da otonom araç örneğinde olduğu gibi telafisi mümkün olmayan sonuçlar doğurabilir. Bu olay gibi yapay zekanın yapmış olduğu bir başka ciddi hata ise yapay zeka tabanlı yüz tanıma sistemi tarafından gerçekleştirildi. Bir hırsızlık olayında suçlunun bulunması için kullanılan sistem masum olan bir kişinin, hatalı yüz eşleştirme işlemi sonucunda tutuklanmasına sebebiyet verdi. Tutuklanan kişinin koyu ten renge sahip olmasının sistemde hataya yol açtığı düşünülüyor. Yüz tanıma sistemleri ile ilgili yapılan araştırmalarda da bu sistemlerin koyu cilt tonuna sahip insanları açık cilt tonuna sahip olanlara göre daha sık yanlış tanıdığını gösteriyor. Bu örnekte de görüldüğü gibi bu sistemler üzerinde iyileştirme çalışmalarının yapılması gerekiyor.” diye konuştu. HATALARDAN KİMİN SORUMLU TUTULACAĞI ÖNEMLİ Dr. Öğretim Üyesi KristinSurpuhi Benli, ‘Özellikle sağlık, hukuk, savunma ve ulaşım gibi alanlarda yapay zekanın yapmış olduğu hataların sonuçları büyük olacaktır.’ dedi ve sözlerini şöyle sürdürdü: “Risklerin daha düşük olduğu alanlarda örneğin yapay zeka kamerası aracılığıyla izlenilen bir futbol maçında kameranın asıl görevi futbol topunu takip etmek iken, top ile kel olan hakemin kafasını karıştırdığında atılan golü izleyememek izleyicinin kaybı olacaktır. Bu örnek ile önceki örnekleri kıyaslandığımızda risklerin ve hataların daha telafi edilebilir düzeyde olduğunu söyleyebiliriz. Yapay zeka tarafından yapılan hatalardan kimin sorumlu tutulacağı ise düşünülmesi gereken başka bir önemli konudur. Otonom aracın yapmış olduğu trafik kazasında yapılan kazanın sorumluluğunun kime ait olduğu konusunda farklı görüşler ortaya çıktı. Burada öncelikle yapay zekanın hukuki statüsünün konunun uzmanları tarafından tartışılması gerekiyor. İlerleyen zamanlarda ise hukuksal düzenlemelerin yapılması ihtiyacı doğacaktır.” YAPAY ZEKA AYRIMCILIK YAPIYOR Yapay zeka tabanlı sistemlerin finans kuruluşlarında müşterilerin kredi limitlerinin belirlenmesi için kullanıldığını ifade eden Dr. Öğretim Üyesi Benli, “Aynı gelir düzeyine sahip kadın ve erkek müşteriler arasından sistemlerin erkek müşterilere daha yüksek miktarda kredi limiti verdiğini gösteren örnekler mevcut. Başka bir durum ise Amazon firmasının işe alımlar sırasında adaylar arasında eleme yapmak için kullandığı işe alım motoru ile ilgili yaşandı. İşe alım motorunun kadın ve erkek adaylar arasında ayrımcılık yaptığı ve iş pozisyonları için daha çok erkek adayları tercih ettiği görüldü. Son iki örnek ile yapay zeka sistemlerinin içerisinde gömülü olan bir önyargının olduğu görülüyor.” diye konuştu. TEHLİKELERE YOL AÇABİLECEĞİ BİLİNMELİ zeka insanların hayat kalitelerini arttırmaya yardımcı olacak bir teknoloji olarak kullanılsa da çoğu yeni gelişen teknolojide olduğu gibi tehlikelere yol açabileceğinin göz önünde bulundurulması gerektiğini belirten Dr. Öğretim Üyesi KristinSurpuhi Benli, “Bazı durumlar önceden öngörülemediği için sistemler kullanıldıkça hataların farkına varılıyor. Yapay zeka tabanlı sistemlerin doğruluk ve önyargılar açısından daha titizlikle test edilmesi gerekiyor. Bu sistemlere girilen verilerin doğru, tutarlı ve tarafsız olması gerekiyor.” dedi. Haber Merkezi