Hollywood ataklarından dijital portrelere kadar, yapay zekanın yaratıcıların çalışmalarını çalma potansiyeli ve bunun nasıl durdurulacağı, 2023’teki teknoloji tartışmalarına istikamet verdi. Sanatkarları ve yapıtlarını müdafaaya yönelik en son gayret, sanatkarların çalışmalarına tespit edilemeyen pikseller eklemesine imkan tanıyan bir araç olan Nightshade oldu. MIT Technology Review raporuna nazaran bu durum yapay zekanın eğitim bilgilerini bozabilir. Nightshade’in yaratılışı, OpenAI ve Meta üzere büyük şirketlerin telif hakkı ihlali ve ferdî yapıtların tazminatsız çalınması nedeniyle davalarla karşı karşıya kalmasıyla ortaya çıkıyor.
Chicago Üniversitesi profesörü Ben Zhao ve takımı, gücün bir kısmını tekrar sanatkarlara vermek emeliyle hakem değerlendirmesindeki Nightshade’i yarattı. Bunu son Stabil Difüzyon modellerinde ve ferdî olarak sıfırdan oluşturdukları bir yapay zeka üzerinde test ettiler.
Yapay zeka artık de sanatta kelam sahibi olacak
Nightshade aslında bir zehir üzere işliyor ve makine tahsili modelinin içerik üretme formunu ve bitmiş eserin neye benzediğini değiştiriyor. Örneğin, bir yapay zeka sisteminin bir el çantası istemini ekmek kızartma makinesi olarak yorumlamasını yahut istenen köpek yerine bir kedi manzarasını göstermesini sağlayabilir (aynı şey köpek yavrusu yahut kurt üzere emsal istemler için de geçerlidir).
Nightshade üzere teknolojiler, yapay zekanın önde gelen oyuncularını sanatkarların çalışmalarını uygun formda talep etmeye ve telafi etmeye teşvik etme konusunda uzun bir yol kat edebilir. Zehiri ortadan kaldırmak isteyen şirketlerin muhtemelen her bozuk bilgi modülünü bulmaları gerekecek, bu da kuvvetli bir misyon. Zhao, birtakım bireylerin bu aracı makus hedeflerle kullanmaya çalışabileceği, fakat gerçek bir hasarın binlerce bozuk eser gerektireceği konusunda uyarıyor.
