Biden yönetimi, standartlar konusunda kamuoyunun katkısını talep ederek yapay zeka güvenlik girişimini başlattı

Biden yönetimi Salı günü yaptığı açıklamada, üretken yapay zekanın güvenli bir şekilde konuşlandırılması ve sistemlerin nasıl test edilip korunacağı konusunda temel standartlar ve kılavuzların yazılması yönünde ilk adımı attığını söyledi.

Ticaret Bakanlığı'nın Ulusal Enstitüsü Standartlar ve Teknoloji (NIST), yapay zeka sistemlerinin güvenliğini sağlamak için hayati öneme sahip temel testleri gerçekleştirmek üzere 2 Şubat'a kadar kamuoyunun katkısını aradığını söyledi.

Ticaret Bakanı Gina Raimondo, bu çabanın Başkan Joe Biden'ın Ekim ayındaki kararıyla başlatıldığını söyledi. Yapay zekayla ilgili idari emir ve "Amerika'nın hızla gelişen bu teknolojiyi sorumlu bir şekilde geliştirme ve kullanma konusunda dünyaya liderlik etmeye devam etmesini sağlayacak yapay zeka emniyeti, emniyeti ve güveni etrafında endüstri standartları geliştirmeyi" hedefliyor.

BIDEN'IN YÖNETİM DÜZENİ Yapay Zekanın Geleceğini Nasıl Etkileyecek?

Ajans, yapay zekanın değerlendirilmesi için kılavuzlar geliştiriyor, standartların geliştirilmesini kolaylaştırıyor ve yapay zeka sistemlerinin değerlendirilmesi için test ortamları sağlıyor. Talepte yapay zeka şirketlerinden ve halktan, üretken yapay zeka risk yönetimi ve yapay zeka tarafından oluşturulan yanlış bilgi risklerinin azaltılması konusunda görüş alınması bekleniyor.

Üretici yapay zeka - açık uçlu istemlere yanıt olarak metin, fotoğraf ve videolar oluşturabilen - Son aylarda heyecanın yanı sıra bazı işleri geçersiz kılabileceği, seçimleri altüst edebileceği ve potansiyel olarak insanları alt edebileceği ve felaket etkileri yaratabileceği korkularını da artırdı.

Biden'ın emri, kurumları bu testler için standartlar belirlemeye ve ilgili kimyasal, biyolojik sorunları çözmeye yönlendirdi. , radyolojik, nükleer ve siber güvenlik riskleri.

NIST, yapay zeka risk değerlendirmesi ve yönetimi için "kırmızı ekip oluşturma" olarak adlandırılan durumun en faydalı olacağı yerler de dahil olmak üzere test için yönergeler belirleme ve yapay zeka için en iyi uygulamaları belirleme üzerinde çalışıyor. bunu yapıyor.

UZMAN, BAZI OLUMLU YORUMLARA RAĞMEN BIDEN'IN YZ DÜZENİNİN 'YANLIŞ ÖNCELİKLERE' SAHİP OLDUĞU UYARISI

Harici kırmızı ekip oluşturma, siber güvenlikte yıllardır kullanılıyor. Düşmanın "kırmızı takım" olarak adlandırıldığı ABD Soğuk Savaş simülasyonlarına atıfta bulunan terimle yeni riskleri tanımlayın.

Ağustos ayında, ABD kamuoyunun ilk değerlendirmesi olan "kırmızı takım" etkinliği Ağustos ayında gerçekleştirildi. AI Village, SeedAI, Humane Intelligence tarafından düzenlenen büyük bir siber güvenlik konferansı.

Binlerce katılımcı, riskleri daha iyi anlamak amacıyla "sistemlerin istenmeyen çıktılar üretmesini veya başka şekilde başarısız olmasını sağlayıp sağlayamayacağını" görmeye çalıştı. Beyaz Saray, bu sistemlerin mevcut olduğunu belirtti.

Etkinlik, "harici kırmızı ekibin yeni yapay zeka risklerini belirlemek için ne kadar etkili bir araç olabileceğini gösterdi" diye ekledi.