Yapay zeka, bürokrasinin çeşitli alanlarında kullanımı giderek artan bir teknoloji haline gelirken, yeni bir rapor, bu kullanımın birtakım önemli sıkıntıları ve yanılgıları gün yüzüne çıkarıyor. Raporda, bürokrasideki yapay zeka uygulamalarının birtakım durumlarda kusurlu sonuçlar ürettiği ve insan haklarına ziyan verebileceği hususlarına dikkat çekiliyor.
Özellikle toplumsal yardımların idaresi konusunda kullanılan yapay zeka araçlarına odaklanan rapor, bu araçların birtakım vatandaşların hak ettikleri yardımları almalarını engellediğini belirtiyor. İnceleme sonuçlarına nazaran, bu araçlar yanılgılı bir biçimde birtakım bireylerin yardımlarını kesiyor, hatta hak etmelerine karşın yardım almalarını engelliyor. Bu durum, yapay zeka tabanlı sistemlerin insan hayatı üzerindeki önemli tesirlerini gözler önüne seriyor.
Kamuda yapay zeka kullanımı tedirginlik yaratıyor!
Ayrıca, rapor, kolluk kuvvetlerinin yüz tanıma teknolojisi kullanımını da eleştiriyor. Yüz tanıma araçları, aldatıcı bilgiler sunarak hatalı bireylerin tespit edilmesini zorlaştırabiliyor. Bu durum, hatasız insanların haksız yere suçlanmasına ve cezalandırılmasına yol açabilir.
Rapor, bu problemlerin bilhassa yapay zeka sistemlerinin eğitilmesi ve dataların işlenmesi sırasında ortaya çıktığını vurguluyor. Eğitim bilgilerinin önyargılı yahut eksik olması, yapay zeka sistemlerinin yanlışlı sonuçlar üretmesine neden olabiliyor. Ayrıyeten, bu sistemlerin nasıl çalıştığına dair gereğince şeffaf olmamaları, sıkıntıların tespit edilmesini ve çözülmesini zorlaştırıyor.
Rapor, bürokraside yapay zeka kullanımının kontrol altına alınması, eğitim datalarının daha dikkatli bir biçimde seçilmesi ve yapay zeka sistemlerinin şeffaf hale getirilmesi gerektiği hususlarında tekliflerde bulunuyor. Ayrıyeten, insan haklarına hürmet gösterilmesi ve adaletin sağlanması için yapay zeka sistemlerinin daha dikkatli bir halde kullanılması gerektiği vurgulanıyor.
