Yapay zeka kıyamet ekibi, yıkıcı nükleer ve biyokimyasal kıyamet senaryolarını savuşturmak için kuruldu

Yapay zeka (AI) hızla gelişerek bize benzeri görülmemiş faydalar sağlıyor, ancak aynı zamanda dünya için felaketle sonuçlanabilecek kimyasal, biyolojik, radyolojik ve nükleer (KBRN) tehditler gibi ciddi riskleri de barındırıyor.

Yapay zekanın kötülük için değil iyilik için kullanılmasını nasıl sağlayabiliriz? Yapay zekadan kaynaklanabilecek en kötü senaryolara nasıl hazırlanabiliriz?

KURT'UN GÜVENLİK UYARILARI, HIZLI VİDEO İPUÇLARI, TEKNOLOJİ YORUMLARI VE KOLAY YAPILIŞI İÇEREN ÜCRETSİZ CYBERGUY HABER BÜLTENİNİ ALMAK İÇİN TIKLAYIN -TO SİZİ DAHA AKILLI HALE GETİRİR

OpenAI en kötüsüne nasıl hazırlanıyor

Bunlar OpenAI'nin sorduğu sorulardan bazıları Önde gelen bir yapay zeka araştırma laboratuvarı ve ChatGPT'nin arkasındaki şirket olan , yeni Hazırlık ekibiyle bu soruya yanıt vermeye çalışıyor. Misyonu, Yapay zeka modellerinin sınır risklerini izlemek, değerlendirmek, tahmin etmek ve bunlara karşı koruma sağlamaktır.

DAHA FAZLA: META YAPTIĞI YAZIYI EĞİTMEK İÇİN PAYLAŞTIĞINIZI KULLANDIĞINI İTİRAF EDİYOR

Sınır riskleri nelerdir? 

Sınır riskleri, mevcut en gelişmiş sistemlerin yeteneklerini aşan yapay zeka modellerinden ortaya çıkabilecek potansiyel tehlikelerdir. OpenAI'nin "sınır yapay zeka modelleri" olarak adlandırdığı bu modeller, kötü amaçlı kod üretme, insan davranışını manipüle etme, sahte veya yanıltıcı bilgiler oluşturma ve hatta KBRN olaylarını tetikleme yeteneğine sahip olabilir.

Deepfake'in tehlikeleri 

Örneğin, bir dünya lideri veya herhangi bir kişinin gerçekçi seslerini ve videolarını sentezleyebilen bir yapay zeka modeli hayal edin. ünlü. Böyle bir model, gerçek gibi görünen ve ses çıkaran sahte videolar veya ses klipleri olan deepfake'ler oluşturmak için kullanılabilir. Deepfake'ler propaganda yaymak, şantaj yapmak, başkasının kimliğine bürünmek veya şiddeti teşvik etmek gibi çeşitli kötü amaçlarla kullanılabilir.

TEHDİTLERDEN KORUNUYOR MUSUNUZ? BURADA İNCELENEN EN İYİ ANTİVİRÜS KORUMASINA BAKIN 

Yapay zeka felaket senaryolarını öngörmek ve önlemek 

Başka bir örnek, şunları yapabilen bir yapay zeka modelidir: İlaçlar veya virüsler gibi yeni moleküller veya organizmalar tasarlayın. Böyle bir model, hastalıklara yönelik yeni tedaviler oluşturmak veya insan yeteneklerini geliştirmek için kullanılabilir. Ancak biyolojik silahlar oluşturmak veya zararlı patojenleri çevreye yaymak için de kullanılabilir.

DAHA FAZLA: BU TARİHLEME UYGULAMASI, RUH EŞİNİZİ YÜZÜNÜZDEN BULMAK İÇİN AI KULLANIYOR

Bunlar mümkün olanlardan sadece birkaçı sınır yapay zeka modellerinin etkinleştirebileceği veya neden olabileceği senaryolar. Hazırlık ekibi, bu felaket senaryolarını gerçekleşmeden önce öngörmeyi ve önlemeyi veya gerçekleşirse etkilerini azaltmayı amaçlamaktadır.

Hazırlık ekibi nasıl çalışacak? 

Hazırlık ekibi OpenAI'deki Güvenlik ekibi ve Politika ekibi gibi diğer ekiplerle yakın işbirliği içinde çalışacak, Yapay zeka modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini ve dağıtılmasını sağlamak.

DAHA FAZLA: TOM HANKS'IN SAHTE AI DİŞLERİ NASIL. PLAN VİDEOSU, SAHTE ÜNLÜ ONAYLARININ SADECE BAŞLANGICIDIR

Son teknoloji yapay zekanın risklerini yönetmek

Ekip, ayrıca yapay zeka risk yönetimine ilişkin içgörüleri ve en iyi uygulamaları paylaşmak için araştırmacılar, politika yapıcılar, düzenleyiciler ve sivil toplum grupları gibi dış ortaklarla da işbirliği yapın. Ekip, hedeflerine ulaşmak için aşağıdakiler gibi çeşitli faaliyetler yürütecek:

Risk bilgisine dayalı bir geliştirme politikası geliştirmek: Bu politika, OpenAI'nin öncü yapay zekanın oluşturduğu riskleri nasıl ele alacağını ana hatlarıyla açıklayacaktır. modeller tasarımdan dağıtıma kadar yaşam döngüleri boyunca Politika, yapay zeka modellerinin test edilmesi, denetlenmesi, izlenmesi ve yeniden gruplandırılması gibi koruyucu eylemleri ve gözetim komiteleri, etik ilkeler ve şeffaflık önlemleri gibi yönetişim mekanizmalarını içerecektir.

Risk çalışmalarının yürütülmesi: Ekip, hem teorik hem de ampirik yöntemleri kullanarak sınır yapay zeka modellerinin potansiyel riskleri üzerine araştırma ve analiz yapacak. Ekip ayrıca risk çalışmaları için topluluktan fikir isteyecek ve 25.000 $ ödül ve ilk 10 başvuruya iş fırsatı sunacak.

YAPAY ZEKA NEDİR?

Risk azaltma araçlarının geliştirilmesi: Ekip, riskleri azaltmak veya ortadan kaldırmak için araçlar ve teknikler geliştirecektir. Sınır yapay zeka modellerinin riskleri. Bu araçlar, yapay zeka modellerinin kötü niyetli kullanımını tespit etmeye ve önlemeye yönelik yöntemleri, yapay zeka modellerinin davranışını ve performansını doğrulamaya ve doğrulamaya yönelik yöntemleri ve yapay zeka modellerinin eylemlerini kontrol etmeye ve bunlara müdahale etmeye yönelik yöntemleri içerebilir.

DAHA FAZLASI: AI TESPİTİYLE TOPLU VURUŞLARIN ÖNLENMESİ: DONANMA MÜHÜRLERİNDEN İLHAM ALAN BULUŞ

Bu neden önemlidir?

Hazırlık ekibinin oluşturulması OpenAI ve daha geniş yapay zeka topluluğu için önemli bir adımdır. Bu, OpenAI'nin kendi çözümünün potansiyel risklerini aldığını gösteriyor…