NUCA是一款自稱「目的是為了引發對於生成式AI在再現身體影像方向的當前趨勢進行質疑和思考」的相機,它使用AI技術自動「脫掉」任何拍照對象的衣物,並在10秒內完成。
這是由創作者Mathias Vef和Benedikt Groß描述為「一種探索性設計和藝術項目」,但它是一個可運作的原型,按照廣告中的描述運作,並且揭示了自從2019年首次出現由AI驅動的「脫衣」應用程式以來就一直存在的事實:只要你手上有某人的照片,就很容易創建出該人的裸照。
NUCA的網站說:「這個項目促進了對AI潛力的關鍵討論,強調了同意、演算法公平性和AI生成圖像對社會的影響。」
目前的NUCA原型是一台帶有37mm廣角鏡頭的3D列印相機。當拍照時,它會將照片發送到伺服器,該伺服器使用Vef和Groß製作的分類器來分析照片,以文字描述主體的性別、年齡、種族等。然後,然後,這些文字被用來生成一個提示,該提示被輸入到Stable Diffusion文字到圖像的AI圖像生成器中,該生成器與Civitai的一個模型一起被用來產生裸體。NUCA相機還使用開源的「一鍵」換臉工具,將原始照片中的臉部加到AI生成的圖像中。
除了將初始照片轉換成成功的文字提示的自定義解決方案外,相機使用的每一部分過程都是既有的、現成的工具,任何人都可以下載並使用。從相機拍下照片的那一刻到產生AI生成的裸體圖像的整個過程約需10秒,但Vef和Groß告訴媒體,他們今天可以再最佳化這個過程,只要一半的時間就可以完成。
結果可能沒有那麼完美,但根據NUCA網站上分享的圖像以及其創作者所說的內容,經感覺很有說服力的。
Vef和Groß說,NUCA網站上那些模擬的宣傳影片和圖像,是作為實際消費電子產品廣告的諷刺而故意做得很光鮮。不是他們計劃出售的實際產品,但這台相機會在6月29日柏林Nüüd舉辦的「Uncanny」展覽中展出。
「我們試圖基本上了解人們會如何反應,因為我們自己對此有不同的反應,」Vef說,「正如你從新聞上看到的,從泰勒絲(Taylor Swift)到西班牙的這些孩子製作他們同學的裸照,這是一個如此敏感的主題。」
儘管NUCA網站上的影片給人一種樂觀、有趣的氛圍,但Vef表示他預計人們會感到恐懼,尤其是女性。
Vef說:「我展示給第一個朋友看時,她對發生的其他深度偽造事件一無所知,她真的感到震驚。其他人,像是我的朋友們,覺得這太好笑、太有趣了,想要玩一玩,拍更多照片。所以有各種各樣的反應。」
作為一個多年來一直在報導非同意AI生成圖像的人,這個專案的目的重點似乎很明顯。相機所做的事情,人們很久以前就已經可以做到了。NUCA的網站引用了在1960年代和70年代雜誌廣告中出現的玩笑X光眼鏡。第一個脫衣APP的也象徵的使用了同一款眼鏡的圖像。NUCA略有不同,因為所產生的圖像完全是AI生成的,而不是AI編輯的真實照片,但使用Stable Diffusion生成的任何人的裸照這件事在幾年前就已經可以做到。它們的傳播也是我為本網站撰寫的第一篇文章的主題,NUCA 的網站也引用了這篇文章。
不過,通常製作非同意裸照的人會在網上匿名操作。被攻擊的對象,絕大多數是女性,她們的隱私受到侵犯,但製作這些圖像的人是無名無姓的,並且使用各種工具在眾多網路平台上進行。
這台相機將整個過程整合在一個物體上,並將創建圖像的人與被AI脫衣的人放在同一個房間裡。
我問Vef和Groß,儘管他們有良好的意圖,但他們是否擔心把這個想法公諸於世。
roß 說:「我認為這實際上恰恰相反。 我們並沒有把它公諸於世。 透過加入相機這個元素的巧妙設計,我們實際上將被拍照的人和拍照者綁定在同一個空間裡,藉此引發了非常、非常有趣的討論。 我認為這可能是最有價值的部分。」
資料來源:
加入電腦王Facebook粉絲團