8 月底，美國科羅拉多州博覽會藝術比賽上，一張奪得冠軍大獎的繪畫作品，引起了不小的爭議。因為，這幅名為《太空歌劇院》的作品，是藝術家使用 AI 技術產生的。
雖然獎金只有區區幾百美元，但對於真正「作畫」的參賽者來說，沒有生命的 AI，創作的作品超過了作為人類的自己，確實傷害性不大，侮辱性極強。
但其實，隨著 DALL-E、Imagen、Stable Diffusion 等開源 AI 模型的出現，任何人，只要會打字，簡單的輸入幾個單詞，就能產生各種風格的繪圖畫面——而不是簡單的線條，而是真正的「作品」等級的畫面。
AI 給了你創作的「眼睛」，但總有人要用它來尋找一些.…….更刺激的東西。
最近，一個名為 pornpen.ai 的工具在 Reddit 上走紅。嗯，看名字就知道，它真的是「暗黑圖」界的「神筆馬良」——使用者都不需要輸入單詞，只需要選擇幾個標籤，就可以出現一張「大尺度裸露圖片」。
從 Deepfake 到 pornpen，AI 產生的成人內容已經逐漸「走上檯面」，有一些網頁甚至開始獲得上億瀏覽，嘗試與傳統的成人影片網站和論壇一爭高下。
未來，AI 產生內容會淘汰網友硬碟裡的AV女優嗎？人們又該如何看待這些目前還沒有任何限制的「限制級內容」？
一鍵產生「步兵圖」
pornpen 的誕生，Stable Diffusion（Stability AI 最近發佈的文字轉圖片產生模型）模型功不可沒。
Stable Diffusion 完全免費開源，它的程式碼都在 GitHub 上公開，在遵循原專案採用的 CreativeML Open RAIL-M 許可證的前提下，任何人都可以下載使用，產生任何他們想要的圖像，甚至調整系統開發獨立的APP或服務。
不可避免，很多使用者用它製作 Deepfake、暴力、假新聞圖片等「非主流」內容……從 hentai，到電腦產生的名人裸照，再到不存在的人的裸照。
此外，Stable Diffusion 訓練資料，來自大規模 AI 開放網路專案 LAION 旗下的一個注重「美感」的資料子集 LAION-Aesthetics。
這是一個開源的 250TB 資料集，其中包含從網路上抓取的近 59 億張圖像。
這些圖像中有相對較少的「NSFW」（Not Safe For Work） 圖像，但可能正是這個資料集的高視覺品質，使得 Stable Diffusion 特別適合製作成人圖片，尤其是名人明星的 Deepfake 情色圖片。
於是，Stable Diffusion 發布不久，pornpen.ai——首批高模擬 AI 色情圖片網站之一上線了。
以 Stable Diffusion 模型作為主要支援系統，pornpen.ai 的操作介面十分簡潔，以功能表列的形式呈現，使用者透過選擇一組標籤，就可以自主定制產生女性裸露照片。
pornpen.ai 的定制標籤涵蓋六個緯度，分別是風格基調、標籤、種族、風格、場景、角度。
使用者擁有極高的自主權，可以隨心組合標籤，全方位、多角度地捕捉模型，還可以改變產生的照片風格。
值得一提的是，pornpen.ai 的創作者明確地刪除了 pornpen.ai 指定自訂文本的功能，以避免產生「有害圖像」。
大多數時候，pornpen.ai 產生的多數圖片看起來是令人信服的；
但有時，當提示比較模糊，涉及到刻板印象或系統不熟悉的主題時，它產生的是外形奇怪的「NSFW」圖片，通常有多餘的四肢，器官在不尋常的地方，以及扭曲的肌肉，令人不安。
pornpen.ai 有時還會在沒有人的情況下自動產生圖像，這可能是系統無法理解提示符造成的。
當然，pornpen.ai 的提示工程演算法還會被進一步微調，新的標籤將被添加，它將變得更加智慧化。 隨著網友操作日益嫺熟，用 pornpen.ai 產生的色情圖片在各國論壇上不斷蔓延。
比如，在 Reddit 上，人們開啟了 r/pornpen 的區塊，目前共約 1.7W 人參與討論，交流分享自己總結的一系列適合創作圖片的標籤。
「P 站」最大敵人？
和不少同類網站相比，pornpen.ai 只是個晚到的「弟弟」，已經有不少專注於 AI 產生成人內容的網站，做得相當成功。
根據 Sensity 的資料顯示，2018 年排名前四的 Deepfaked 色情網站的瀏覽量超過 1.34 億次。
還有網站自今年年初以來已經積累了超過 3800 萬的點擊量。甚至有人將其 AI 能力變成 API 介面，開放給合夥夥伴，搞得太大，以至於 Coinbase（加密貨幣交易所）下達禁令斷掉了它的支付入口。
AI 產生類成人內容的火爆也不難理解，調查顯示，目前在歐美成人網站，使用者對 AI 產生的成人內容主要持有好奇態度。
正如一位 Reddit 網友所言，體驗 AI 產生的 NSFW內容是一種新奇的體驗，「知道它是由機器人產生的，看它的時候，會帶有一種原始的好奇心，好奇它能否捕捉到引起人性的複雜性，或者它只是一種扭曲的模仿。」
新技術開啟了「成人內容的新供給」，但其實它也隱藏了很多問題，而其中不少踩中了道德，乃至法律紅線：
隱私侵犯
早期 pornpen.ai 用明星 Deepfake 合成類資料做訓練，以至於最開始時候，pornpen 網頁還有明星的標籤，後來很快就被去掉了。
同時，模型的訓練資料集還可能包括那些不同意自己的圖像被用於此類培訓的人，包括成人行業工作者。
在現有的盈利性網站上，如 OnlyFans 和 ManyVids，成人創作者必須驗證他們的年齡和身份，這樣公司才知道他們是自願的成年人。
但人工智慧產生的色情模特兒無法做到這一點，因為他們不是真實的。例如，2020 年，研究人員發現了一個 Telegram 機器人，它產生了超過 10 萬名女性的侮辱性深度偽造圖像，其中包括未成年女孩，這對於社會倫理道德無疑是個巨大的挑戰。
偏見與「凝視」
不可否認，pornpen.ai 引發了一系列道德問題，比如按鈕的選擇和預設選項都複製了一種非常異性戀的男性凝視。在 pornpen.ai 網頁上，只有預設輸出女性暴露照片一個選擇，並沒有同樣的男性照片。其中一個原因可能是，用於訓練的資料集中女性的圖片更多，這無疑形成了可怕的「偏見」。
衝擊成人產業
有人認為，AI 成人內容的火爆，可能會導致真人成人內容產業創造者「失業」。不過，目前從業者認為「這些內容很有趣」，真的要取代真人演員，可能還需要很長時間。
對於成人內容表演者來說，更擔心的是如果 AI 類成人內容過於火爆，可能會引來更嚴厲的網路監管，殃及自己的事業。
法律的漏洞
目前，AI 產出的成人內容仍處於法律的灰色地帶，這類內容的生產和傳播都沒得到有效的法律制約。
Deepfake 產生的成人內容幾乎總是出於惡意，通常在未經當事人同意的情況下沖洗出來的，用來威脅和騷擾人們。這種使用演算法產生的成人圖像對當事人的名譽權、甚至人權都會帶來巨大的傷害。
但是，目前還沒有合適的法律來限制這類 AI 產出的成人內容。在美國，只有維吉尼亞和加州，有針對 Deepfake 的成人內容的限制，但這些規定往往執行不力。
此外，根據《通信規範法》（Communications Decency Act） 的第 230 條，科技平臺對幾乎所有使用者產生的內容都享有豁免權。
這意味著社群媒體通常不需要對平臺上傳播的 AI 成人內容 （無論真假） 承擔法律責任，因此，常常對平臺上相關的投訴不予理睬，無形中助長了 AI 成人內容的傳播。
成人內容是推動網路發展的一個重要動力，從流媒體、論壇甚至電子支付體系，都曾受惠於此。現在，反過來，技術尤其是 AI 技術的發展，也對這個古老的產業，產生了「反哺」。
以 pornpen.ai 的成人內容來說，AI 文字產生圖片技術被應用於色情產業幾乎是一個必然的過程。
一方面，現代色情產業一直都是最新科學技術應用的急先鋒；另一方面，AI 在圖像內容產生技術的發展正好迎來了突破臨界點。
但是這樣的「進步」，仍然需要足夠的限制，可能是法律的，如針對 AI 模型刑事立法，健全法律體系；也可能是來自行業自發的，如成立協會，制定業界規範等。
畢竟，無限制的自由，只會帶來混亂，甚至毀滅。
加入電腦王Facebook粉絲團