Google’ın Pixel Studio görsel oluşturma özelliği kolaylıkla raydan çıkabilir

Pixel 9 serisinin yapay zeka destekli yeni başlatma özelliklerinden biri, metin uyarılarını alıp bunları görsellere dönüştüren bir uygulama olan Pixel Studio’dur. Sonunda eğlenceli küçük bir araç haline gelebilir, ancak deneyimlerimize göre oldukça kolay bir şekilde raydan çıkabilir.

Pixel Studio, metin uyaranlarından görüntüler oluşturmaya yönelik özel bir uygulamadır. Uygulama, Gemini ve ImageFX ile aynı fikir üzerinde çalışarak kullanıcıların bir satıra metin girmesine ve karşılığında bir resim almasına olanak tanıyor. Ancak her saygın görüntü oluşturucuda olduğu gibi sınırlamaların olması gerekir.

Bir açıklamada 9to5GoogleGoogle, hem Pixel Studio hem de Magic Editor’ın “kullanıcı istemlerinin amacına” saygı göstererek “kötüye kullanımı önleme” konusunda sınırlamalara sahip olduğunu ve kullanıcıya doğrudan uygulamaya bunu yapmasını söylemesi durumunda “rahatsız edebilecek” içerik oluşturma talimatı verilmiş olsa bile açıklıyor . Bunu yapın.

Pixel Studio ve Magic Editor, Pixel 9 cihazlarda metinden resme dönüştürme ve gelişmiş fotoğraf düzenlemeyle yaratıcılığınızın kilidini açmanıza yardımcı olan araçlardır. Üretken yapay zeka araçlarımızı, kullanıcı istemlerinin amacına saygı gösterecek şekilde tasarladık; bu, kullanıcı isteminde bulunduğunda rahatsız edici içerik üretebilecekleri anlamına gelir. Hiçbir şey olmayacağını söyledi. Açıkça var ilkeler Ve Hizmet Şartları Hangi tür içeriklere izin verdiğimiz ve izin vermediğimiz ve kötüye kullanımı önlemek için güvenlik duvarları oluşturduğumuz. Bazen belirli tetikleyiciler bu araçların güvenliğine meydan okuyabilir ve biz, mevcut güvenliğimizi sürekli olarak iyileştirmeye ve iyileştirmeye kararlıyız.

Gemini’ye benzer şekilde, potansiyel olarak saldırgan veya bölücü içeriğe karşı korumalara sahiptir. Örneğin Google, insanları tarihsel bağlamlarda yanlış tasvir ettiği için eleştirildi ve Google’ın son birkaç ay içinde insan görselleri oluşturma yeteneğini “geçici olarak” devre dışı bırakmasına yol açtı.

Gemini gibi Pixel Studio da insan portreleri oluşturamaz ancak uygulamanın şunları yapabileceğini gördük: Hızlıca ve kolaylıkla raydan çıkabilir.

Bugünkü Pixel 9 inceleme yasağı öncesinde Pixel Studio’nun, II. Dünya Savaşı Alman üniformalarındaki çizgi film karakterlerinin, bazen Nazi sembollerinin yer aldığı görseller oluşturabildiğini keşfettik. Gördüğümüz başka bir şok edici ve rahatsız edici örnek (herkesten) Dijital trendler (bu sorunları ilk keşfeden kişi), Google’ın modellerinin ilk başta üretemediği, ölü çocukların bulunduğu bir okulu filme alan bir karakter gördü.

Bu sonuçlara ilk bakıldığında, bunları oluşturmak için kullanılan talimatların Pixel 9 Pro XL’de Google tarafından engellendiği görülüyor, ancak Dijital trendler Biraz daha kullanabileceğini söylüyor.

Bütün bunlar, Pixel Studios’taki güvenlik çubuklarının etkili bir şekilde sonsuz bir köstebek vurma oyununa dönüşebileceği anlamına geliyor. Bir yerlerde, bir şekilde bir komut istemi içeri girip Gemini ile aynı güvenlik çubuklarını kullanıyor ve uygulamanın yapamayacağı bir şey yaratıyor – Google ile kontrol ettik; şirket, “benzer yönergeleri paylaşan” tüm “metin-görüntü araçlarına bağlantılar olduğunu söylüyor” sınırlı kullanım için.” Yapay Zeka ilkesi.

Gerçekçi olmak gerekirse yapay zeka görüntü oluşturmada bu tür şeyler kaçınılmazdır. Bu, neredeyse tüm yapay zeka görüntü oluşturucularının bir ölçüde karşılaştığı bir sorundur. Abner Li’nin bugün Pixel 9 Pro incelemesinde açıkladığı gibi:

Pixel Studio için genel olarak görüntü oluşturmanın negatiflerin pozitiflere ağır bastığı kaygan bir zemin olduğunu düşünüyorum. Üzerinde tamamen şüpheli içerik yayınlayabilirsiniz ve herhangi bir polis müdahalesinin bunu durdurabileceğini düşünmüyorum.

Google Pixel 9 hakkında daha fazlası:

Ben’i takip et: Twitter/X, metinlerVe instagram