Biden yöneticisinin Yapay Zeka Güvenlik Enstitüsü risklerle başa çıkmak için 'yeterli' değil, kullanıcı 'prosedürlerini' kontrol etmeli: uzman

Uzmanlar Fox News Digital'e, Biden yönetiminin bir yapay zeka (AI) güvenlik komisyonu kurma planının, gelişen teknolojiye yönelik potansiyel riskleri ele almak için "gerekli" olabileceğini ancak "yeterli" olmayabileceğini söyledi.

" Gelişmiş Hazırlık ve Tehdit Müdahale Simülasyonu Merkezi'nin (CAPTRS) kurucusu Phil Siegel, ihtimallerin [algoritmanın] riskin çoğunluğunun olduğu yerde olmadığını" söyledi. "Riskin büyük olasılıkla kullanıcıların bunu kötü amaçlarla kullanması ya da açıkça kötüye kullanmasıdır."

Başkan Biden Pazartesi günü Beyaz Saray'ın "şimdiye kadarki en kapsamlı eylemleri" içerdiğini söylediği bir idari kararnameyi imzaladı. Amerikalıları yapay zeka sistemlerinin potansiyel risklerinden korumak için alınan önlemler" - şirketlerin yeni modelleri eğitirken ve "okuma ekibi güvenlik testlerinin" sonuçlarını paylaşırken hükümeti bilgilendirmesi gerekliliği."

"Bu önlemler yapay zekanın Beyaz Saray, idari emirle ilgili olarak "sistemler şirketler halka açılmadan önce emniyetli, emniyetli ve güvenilirdir" dedi.

UZMANLAR AMERİKA'NIN ÇİN'E KARŞI ASKERİ TEKNOLOJİ ÜSTÜNLÜĞÜ YARIŞINI NASIL KAZANABİLECEĞİNİ DETAYLI BIRAKTI

Yönetim ayrıca, Ulusal Standartlar ve Teknoloji Enstitüsü'nün gözetiminde, "kamuoyunun önünde güvenliği sağlamak amacıyla kapsamlı kırmızı takım testlerine yönelik katı standartları belirleyecek olan Yapay Zeka Güvenlik Enstitüsü'nün kurulduğunu da duyurdu.

İngiltere'deki Bletchley Park zirvesinde konuşan ABD Ticaret Bakanı Gina Raimondo Çarşamba günü yaptığı açıklamada, Biden yönetiminin yeni Yapay Zeka Güvenlik Enstitüsü'nü bilinen ve ortaya çıkan "sınır" risklerini değerlendirmek için kullanacağını söyledi. Yapay zeka modellerini ve özel sektörün "adım atması gerektiğini" söyledi.

Siegel, Beyaz Saray'ın yaklaşımını, bir havayolunun "güvenlik" planını kontrol etmesine ancak bakım prosedürlerini, pilotların eğitimini veya mürettebatını kontrol etmemesine benzetti. .

YAPAY ZEKA (AI) NEDİR?

"Hepsi gerekli" dedi. "Benzer şekilde, bir güvenlik kurulu yalnızca algoritmaları kontrol edemez. Kullanıcılara yönelik prosedürleri kontrol etmesi gerekir."

"Teknoloji sağlayıcılarının yardım etmesini sağlayabiliriz" diye devam etti. Siegel, "Tıpkı bankaların kara para aklamayı önlemek için KYC (müşterinizi tanıyın) prosedürleri sunmasını sağladığımız gibi, teknoloji sağlayıcılarından da kullanıcı uygulama güvenliği için KYC sağlamasını talep edebiliriz" diye ekledi.

Gelişmiş Hazırlık ve Tehdit Merkezi Müdahale Simülasyonu, halk sağlığı, mühendislik, kamu politikası ve diğer sektörlerdeki kullanıcılar arasındaki karar verme ve sezgileri inceleyerek ve bu becerileri geliştirmek için onları oyunlarda eğiterek bu tür sorunları düzenli olarak ele alır. Bu nedenle, kullanıcı davranışı, tıpkı yapay zekada olduğu gibi, merkezi bir endişe olmaya devam ediyor.

ESKİ CIA ŞEFİ, MÜTTEFİKLERİ YZ GELİŞİMİNDE 'SON SON NOKTADA' TUTMAK BİZİM ÜLKEMİZİN GÖREVİ DEĞİLDİR

Bu yılın başından bu yana yapay zekayı eleştirenlerin çoğu, derin sahte teknolojinin seçimleri aksatması ve çocuk istismarı materyalleri üretmesinden, en karmaşık dijital güvenliği bile aşmak için yapay zeka tarafından üretilen algoritmaların kullanılmasına kadar teknolojinin sunduğu sayısız tuzağı vurguladı. ve hassas bilgilere erişin.

Pioneer Development Group'un baş analitik sorumlusu Christopher Alexander, şirketleri bilgilerini saklamak yerine paylaşmaya zorlamanın iyi bir fikir olduğunu kabul etti - daha önce bir uzmanın yaptığı gibi Fox News Digital'e içeriğin "kara kutusu" olarak tanımlandı - mevcut sistemin "şeffaf bir itiraz süreci" olmadığı görülüyor.

Alexander, Fox News Digital'e ayrıca "siyasi gündemlerin davayı önyargılı hale getirebileceğinden" endişe duyduğunu söyledi. "güvenlik onay süreci" çünkü idari emirle kurulan kurum, yönetimini görevdeki başkanın emrine veriyor.

Bazı eleştirmenler, örneğin Çin'in herhangi bir yeni yapay zeka teknolojisine ihtiyaç duyması gibi, halihazırda siyasi önyargı endişelerini dile getirdi. İktidar partisinin sosyalist değerlerine uyuyoruz.

Fox News Digital'den Greg Norman ve Reuters bu rapora katkıda bulundu.