ABD yönetiminin sızdırılan raporunda, yapay zekanın insanlığı yok etme potansiyeline sahip olduğu belirtildi.
ABD’nin tanınmış politika dergilerinden TIME’ın incelediği “Gelişmiş Yapay Zekanın Güvenliğini Artırmak İçin Eylem Planı” adlı raporda, yapay zekanın yol açabileceği sorunlar ve bunlara karşı atılabilecek adımlar incelendi.
Raporda, “Gelişmiş yapay zeka ve yapay genel zekanın yükselişi, nükleer silahların kullanılmaya başlandığı dönemdeki gibi küresel güvenliği istikrarsızlaştırma potansiyeline sahip” dendi.
Yapay genel zeka (YGZ), bir insanın yapabileceği herhangi bir zihinsel işlemi eksiksiz şekilde gerçekleştirebilen yazılımları tanımlamak için kullanılıyor.
Çalışmada, yapay zekanın denetlenmemesi durumunda “insan türünü yok edebilecek seviyede bir tehdit yaratacağı” savunuldu.
Raporda, yapay zekanın geliştirilmesine yönelik iki temel riske dikkat çekildi. “Silahlanma riski” adı verilen ilk kategoride, yapay zeka çalışmalarının “potansiyel olarak yıkıcı biyolojik, kimyasal veya siber saldırılar tasarlayıp düzenlemek amacıyla kullanılabileceği” savunuldu.
“Denetimin kaybedilmesi” adlı ikinci kategorideyse yapay zekanın “kontrolden çıkabileceği ve otomatik olarak insanlara düşmanca davranabileceği” öne sürüldü.
Çalışmada bu risklere karşı yazılım ve donanım üretiminin denetlenmesinden sorumlu olacak federal bir yapay zeka biriminin kurulması gerektiği belirtildi.
Bu birimin, yapay zekanın belirli bir seviyenin üzerinde eğitilmesini yasaklayabileceği, böylelikle teknolojinin daha kontrollü biçimde gelişmesinin sağlanabileceği savunuldu.
Yapay zeka sektörünün önde gelen firmalarına devlet onaylı sertifika zorunluluğu getirilebileceği, şirketlerin de burada belirlenen sınırlar dahilinde çalışabileceği bildirildi.
Ayrıca bu güvenlik eşiğinin oluşabilecek tehditlere ya da olumsuz durumlara göre farklı seviyelere çekilebileceği ifade edildi.
