Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri

Yapay zeka tepkisi başlıyor: Sanatçılar bu güçlü araçla intihale karşı koruma sağlayabilir - Dünyadan Güncel Teknoloji Haberleri
Bunun ne kadar zor olabileceğine dair size bir fikir vermek gerekirse, 1080p görüntüde iki milyonun üzerinde piksel bulunur

Zehir taktikleri

Test aşamasının bir parçası olarak ekip, Stable Diffusion’ın bulaştığı içeriği besledi ve “daha sonra onu köpek resimleri oluşturmaya yönlendirdi” Nightshade’in yaptığı şey bu “güvenlik açığından” yararlanmaktır

Bunları da beğenebilirsin

Şu anda birden fazla edebiyat yazarı var Programı talep eden OpenAI’ye dava açmak “telif hakkıyla korunan eserleri izinsiz kullanmaktır Şu anda teknoloji “görevli incelemesi için şu adreste gönderildi: [the] bilgisayar güvenliği konferansı Usenix “Köpek” kelimesiyle oynamak köpek yavrusu, husky veya kurt gibi benzer kavramları karıştırır Ancak MİT’in paylaşımında da belirtildiği gibi “bunları kaldırmak çok zor” Glaze’in “isteğe bağlı bir özellik” olarak bir parçası olacak

Ayrıca Profesör Zhao’ya video ve edebiyat için bir Gece Gölgesi yaratma planlarının olup olmadığını sorduk ” MIT Technology Review kısa bir göz atmayı başardı

En azından fikir bu Zhao’ya çeşitli sorularla ulaştık Hatta belki telif ücreti ödemeye bile razı olabiliriz

Bize Nightshade’i “halkın kullanımına sunmayı ve yayınlamayı” planladıklarını söyledi

Şu ana kadar Nightshade’e yönelik ilk tepkiler olumlu Örneğin bir köpeğin resmini kedi olarak veya bir arabanın resmini inek olarak görebilir ” Yapay zeka motoruyla uğraşan bir avuç pikseli bulmak için bir piksel denizine baktığınızı hayal edin

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Rapor, Nightshade’in aynı zamanda “yüzeysel olarak ilişkili” fikirleri de etkilediğini çünkü üretken yapay zekaların “kelimeler arasında bağlantı kurmada” iyi olduğunu söylüyor 50 örnek verildikten sonra yapay zeka, altı bacaklı şekilsiz köpeklerin resimlerini oluşturdu Stabil Difüzyon gibi modellerin çalışma şekli, interneti taramaları ve eğitim verileri olarak kullanabilecekleri kadar çok görüntü toplamalarıdır 100’den sonra kediye benzeyen bir şey görmeye başlarsınız

Toksik bitki ailesinden sonra Nightshade olarak adlandırılan yazılımın, üretken yapay zekaların bunları yorumlama biçimini bozan dijital sanata zehirli pikseller kattığı söyleniyor Eğer aşina değilseniz, cila, Zhao’nun ekibinin yarattığı, sanatçılara “kendi kişisel tarzlarını maskeleme” ve bunun yapay zeka tarafından benimsenmesini engelleme yeteneği veren başka bir araçtır Tarafından açıklandığı gibi MIT Teknoloji İncelemesiBu “zehirli veri örneklerinin modelleri öğrenmeye yönlendirebilmesi” yanlış bir şey Bu aynı zamanda sanat tarzlarına da yansıyor

İllüstrasyonu hobi olarak edinmek istiyorsanız TechRadar’ın 2023’ün en iyi dijital sanat ve çizim yazılımları listesine göz atmayı unutmayın ” Umarım yakında bir gün

Chicago Üniversitesi’ndeki bir araştırma ekibi, çevrimiçi sanatçıların orijinal çalışmalarına esasen zehirli haplar yerleştirerek “Yapay Zeka şirketlerine karşı savaşmalarına” yardımcı olmayı amaçlayan bir araç geliştirdi Columbia Üniversitesi’nde bilgisayar bilimi profesörü Junfeng Yang, Technology Review’a bunun yapay zeka geliştiricilerinin “sanatçı haklarına daha fazla saygı duymasını” sağlayabileceğini söyledi Geliştiricilerin “bozuk her örneği bulup silmeleri” gerekecekti

(İmaj kredisi: Chicago Üniversitesi/MIT Teknoloji İncelemesi)

Yapay zeka şirketlerinin toksik pikselleri ortadan kaldırması mümkün

Gelecekteki çabalar

Ekip lideri olan Chicago Üniversitesi’nden Profesör Ben Y Aşağıda diğer denemeleri göreceksiniz ” Diğer çalışmalar için toksik yazılım geliştirmenin büyük bir çaba olacağını belirtiyor, “çünkü bu alanlar statik görüntülerden oldukça farklı Bu yeterince zor değilse, bu modeller “milyarlarca veri örneği üzerinde eğitiliyor Nightshade henüz başlangıç ​​aşamasında 300 verildikten sonra köpekler tam teşekküllü kedilere dönüştü Takımın “henüz bunlarla başa çıkma planı yok Ayrıca Nightshade’i açık kaynak haline getirmeyi ve başkalarının kendi zehirlerini üretmelerine olanak sağlamayı umuyor