Biden yöneticisinin uluslarla yaptığı anlaşma, yeni teknolojinin tehlikelerine karşı 'ciddi' bir adım değil: uzmanlar

ABD ve İngiltere, haydut aktörlerin teknolojiyi kötüye kullanmasını önlemeyi amaçlayan yeni bir yapay zeka anlaşmasını açıklamak için bir düzineden fazla ülkeye katıldı, ancak tüm uzmanlar anlaşmanın ne kadar yararlı olacağı konusunda ikna olmuş değil.

Gelişmiş Hazırlık ve Tehdit Müdahale Simülasyonu Merkezi'nin kurucusu Phil Siegel, Fox News Digital'e "Bu aslında esastan ziyade bir niyet anlaşmasıdır" dedi.

Siegel'in yorumları ABD'nin yaptığı açıklamanın ardından geldi. Reuters'in bir raporuna göre, yapay zeka güvenliğine ilişkin şimdiye kadarki ilk ayrıntılı anlaşma olarak tanımlanan yetkili, Pazar günü açıklandı ve "tasarım gereği güvenli" yapay zeka sistemleri oluşturmayı amaçlayan önlemleri uygulamaya koydu.

ÇOK ULUSLU ANLAŞMA 'SINIR' YZ YZ TEKNOLOJİSİNİN GELİŞTİRİLMESİ ÜZERİNDE İŞBİRLİĞİ İSTİYOR

18 ülke tarafından imzalanan 20 sayfalık belge, halkı potansiyel tehlikelerden korumanın yollarını geliştirme ihtiyacını kabul ediyor AI teknolojisinin kötüye kullanılması. Ancak Reuters, anlaşmanın bağlayıcı olmadığını ve daha çok AI sistemlerinin kötüye kullanım açısından nasıl izleneceği konusunda bir rehber görevi göreceğini bildirdi.

"Bunun arkasında bazı ayrıntıların (bir dizi prosedür ve düzenleme) olması gerekiyor. Siegel, kimsenin 'bu iyi bir başlangıç'ın ötesinde bir tepki veremeden önce" dedi. "Eylem örnekleri, algoritmalar ve/veya çıktılar üzerinde filigranlama girişimlerini, satıcılardan bankaların kara para aklamayı önlemek için yaptığı gibi bir KYC (müşterinizi tanıyın) prosedürünü gerçekleştirmelerini istemeyi veya kolayca manipüle edilemeyeceklerinden emin olmak için algoritmik stres testlerini içerebilir. kötü aktörler tarafından."

Pioneer Development Group'un analitik sorumlusu Christopher Alexander, yeni anlaşmayı "iyi hissetmeye yönelik bir önlemden" başka bir şey olarak nitelendirmedi.

"Potansiyel tek değer Alexander Fox News Digtial'a şöyle konuştu: "Bunun gibi bir anlaşmanın amacı, hükümetlerin yapay zekayı kötüye kullanan kişileri cezalandırmak için kullanabileceği düzenlemelerin önünü açmasıdır." "Hükümetlere uygulanabilir kurallar ve sektöre de gerçekten önemli olan takip edilecek yönergeler sağlayın. Aksi takdirde bu, herhangi bir şeyi çözmekten ziyade tipik bir 'soruna hayranlık' olur."

UZMAN BİDEN YÖNETİCİSİ Diyor Yapay Zeka Güvenliği Enstitüsü, Tuzaklarla Başa Çıkmak İçin 'YETERLİ' DEĞİL

Anlaşma, Biden yönetiminin geçen ay memnuniyetle karşılanan bir idari kararnamenin imzalanması da dahil olmak üzere yapay zeka konusunda daha fazla düzenleme yapılması için baskı yaptığı dönemde gerçekleşti. Yapay zekanın daha güvenli bir şekilde geliştirilmesine yönelik ilk adım olarak. Ancak uzmanlar aynı zamanda düzenin çok fazla ağırlık taşıyacağı konusunda da şüpheci. Yönetim, Kongre'yi daha fazla eyleme geçmeye zorlarken bunu da kabul etti.

Almanya, İtalya, Çek Cumhuriyeti, Estonya, Polonya, Avustralya, Şili, İsrail, Nijerya ve Singapur, en son uluslararası anlaşmayı imzalayan ülkeler arasında yer aldı; ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı Direktörü Jen Easterly, bunun dünya çapında yapay zeka güvenliğine yönelik önemli bir adım olduğunu söyledi.

"Bu, ilk kez biz Easterly, Reuters'e yaptığı açıklamada, bu yeteneklerin sadece harika özelliklerle ve bunları pazara ne kadar çabuk sunabileceğimizle ya da maliyetleri düşürmek için nasıl rekabet edebileceğimizle ilgili olmaması gerektiğine dair bir onay gördüklerini belirterek, anlaşmanın yönergelerinin "en çok kabul edilen bir anlaşmayı" temsil ettiğini ekledi. tasarım aşamasında yapılması gereken en önemli şey güvenliktir."

Bununla birlikte uzmanlar şüpheci olmaya devam ediyor ve Bull Moose Proje Politika Direktörü Ziven Havens anlaşmanın "yavan" olduğunu ve "ciddiyetten" yoksun olduğunu savunuyor.

YAPAY ZEKA (AI) NEDİR?

"On sekiz ülke bu makale üzerinde çalışmak için bir araya geldi ve ellerinden gelenin en iyisini yaptılar. Havens, Fox News Digital'e yaptığı açıklamada, yapay zeka geliştiricilerine tedarik zincirlerini güvence altına alma ve model güvenliğini izleme konularını hatırlatmak gerektiğini söyledi.

Havens ayrıca anlaşmadaki yaptırım mekanizmalarının eksikliğine de dikkat çekerek bunun devamını okuyacağını savundu Havens, "ciddi bir politika önerisi yerine bir köşe yazısı" gibi.

"Bunun yerine, Kongre bir adım atmalı ve üretken yapay zeka ve küçük güvenlik de dahil olmak üzere yapay zeka konusunda ciddi yasalar önermeli" dedi Havens.

Bu endişe, ABD'de yapay zeka düzenlemeleri konusunda daha fazla çaba gösterilmesi gerektiğini savunan The Federalist'in personel editörü Samuel Mangold-Lenett tarafından da paylaşıldı.

BURAYI İNDİRMEK İÇİN TIKLAYIN FOX NEWS UYGULAMASI

"Bu anlaşmanın etkisi büyük olasılıkla çok az olacaktır. Fox News Digital'e konuşan Mangold-Lenett, bunun 'bağlayıcı olmadığını' ve uygulama mekanizmalarından yoksun olduğunu söyledi. "Yapay zeka geliştiricilerini, kullanıcı verilerini ve fikri mülkiyet haklarını koruyan güvenli ürünler yaratmaya teşvik etmek istiyoruz, ancak iç cephede eyleme ihtiyacımız var, boş değil yurtdışına jestler."