Zehir hapı aracı, yapay zeka sistemlerini yetkisiz verileri çalarak kırabilir ve sanatçıların eserlerini korumalarına olanak tanıyabilir

Yetkisiz veriler kullanılarak eğitilen yapay zeka programlarını zehirlemek için yeni bir görüntü koruma aracı tasarlandı; bu araç, yaratıcılara eserlerini korumaları ve eserlerini çaldığını söyledikleri sistemlere zarar vermeleri için yeni bir yol sunuyor.

Chicago Üniversitesi ekibinden yeni bir araç olan Nightshade, bir görüntünün piksellerine veri yerleştiriyor ve bu veriler üzerinde eğitim verilecek resimler bulmak için web'i tarayan yapay zeka görüntü oluşturucularına zarar veriyor ve bunların düzgün çalışmamasına neden oluyor. Ekibin araştırmasına göre bir yapay zeka programı, Nightshade ile korunan bir köpeğin görüntüsünü örneğin bir kedi olarak yorumlayabilir, bir arabanın fotoğrafını bir inek olarak görebilir ve bu şekilde makinenin arızalanmasına neden olabilir.

YAPAY ZEKA (AI) NEDİR?

"Nightshade'in amacı [AI] modellerini kırmak değil," Ben Nightshade ekibine başkanlık eden Chicago Üniversitesi profesörü Zhao yazdı. "Bunun amacı, yetkisiz veri eğitimini engellemek ve eğitim için yasal lisanslı içeriği teşvik etmektir."

"Devre dışı bırakmalara uyan ve alıntı yapmayan modeller için minimum veya sıfır etki söz konusudur" diye devam etti.

BURADA DAHA FAZLA FOX NEWS DİJİTAL ORİJİNALLERİNİ İZLEYİN

Midjourney ve Stable Diffusion gibi metinden görüntüye yapay zeka oluşturucular, resimlere dayalı olarak oluşturur kullanıcıların istemleri üzerine. Programlar, internetteki ve diğer kaynaklardan alınan metin ve görseller kullanılarak eğitiliyor.

San Francisco merkezli güzel sanatçı Karla Ortiz, eserlerinin teknolojiyi eğitmek için kullanıldığını söylüyor ve Ocak ayında dava açtı. Telif hakkı ihlali ve tanıtım hakkı ihlalleri nedeniyle Midjourney ve Stabil Difüzyon'a karşı. Sanıklar Nisan ayında davayı reddetmek için harekete geçti ancak davaya bakan bölge yargıcı, davacıların Temmuz ayındaki duruşmanın ardından yeni bir şikayette bulunmalarına izin verdi.

"Sanki birileri sizin çalıştığınız her şeyi almış gibi görünüyor. Ortiz, Mayıs ayında Fox News'e verdiği demeçte, "Başkasının kâr amacıyla onunla istediğini yapmasına izin verdi ve izin verdi" dedi. "Bir şirket izin verdiği için birileri benim çalışmamı taklit edebiliyor."

SON GÜLÜŞ: KOMEDYENLER, MALZEMELERİNİ KAZIYAN YZ'Yİ NASIL ÇEVİRMEYİ PLANLIYOR

"Sonunda McKernan, "O gün birisi benim işimden kazanç elde ediyor" dedi. "Burada Goliath'a karşı David'iz."

Sanatsal tarzlarını ele geçiren yapay zeka makinelerine karşı mücadele etmek amacıyla McKernan ve Ortiz, Zhao ve Chicago Üniversitesi ekibiyle, adlı başka bir sanatı koruma projesi üzerinde işbirliği yaptı. Web sitesine göre Glaze, "tarz taklidini bozarak insan sanatçıları korumak için tasarlanmış bir sistem".

" Kaliforniya Üniversitesi Berkeley Bilgi Okulu profesörü Hany Farid, Fox News'e yaptığı açıklamada, "Sorun elbette ki bu yaklaşımların zaten çevrimiçi olarak yayınlanmış milyarlarca içerik için hiçbir şey yapmamasıdır" dedi. "Bu tür bir yaklaşımın diğer sınırlaması, saldırıya uğradığında - ki öyle olacaktır - içerik oluşturucuların içeriklerini yayınlamış olmaları ve korumaya sahip olamamalarıdır."

"Yani, bir şekilde yanlış bir algı yaratıyor. koruma duygusu" diye devam etti.

Ancak Zhao, hiçbir büyük yapay zeka görüntü oluşturucunun Nightshade'i hackleyemediğini söyledi.

X'te "Bunu tespit edebilecek herhangi bir tekniğin farkında değiliz" diye yazdı. "Eğer bulursak/bulduğumuzda, bundan kaçınmak için Nightshade'i güncelleyeceğiz."

Chicago Üniversitesi ekibi, Stability AI ve Midjourney yorum taleplerine yanıt vermedi.

Ortiz ile yapılan röportajın tamamını izlemek için burayı tıklayın.