今年初，一家為殘障人製造時尚服飾及用品的可適應性服裝公司Mighty Well，開始嘗試眾多新銳品牌都會做的一件事情：在Facebook平台上為其最受歡迎的一款產品投放廣告。
譯者註：適應性服裝（Adaptive clothing）也有人翻無障礙服裝，意味著要讓衣服的設計和材質去適應人的需要，而不是人去牽就衣服的設計，目前多指的是專為殘障或行動不便人士所設計的服裝
導致問題的產品是一件灰色拉鍊款連帽衫（零售價39.95美元），胸前印花寫著「我免疫力低，請給我空間。」其中，「免疫力低」這幾個字的背景是一個白色長方形，有點像美國輕奢服飾品牌Supreme品牌標誌背景中的紅色長方形。在該公司的網站上，這款產品得到了消費者的廣泛好評。
然而，Facebook，或者準確地說，Facebook的自動廣告中心，卻不太喜歡這則廣告。
這則廣告因違反Facebook的廣告政策而被拒下線，它主要違反的是「不得推廣醫療和保健產品及服務，包括醫療設備」這一政策。但事實上，Mighty Well廣告中的產品，並沒有涉及到Facebook政策中明令禁止的產品。
於是，Mighty Well公司決定對這一結果提起申訴。經過一段時間的拖延，最後結果也發生了改變。這看起來似乎並不是一件大事。畢竟，其最後的結局是好的。
但Mighty Well公司的經歷，僅僅是眾多案例中的區區一例，這種模式已經持續存在了至少兩年時間。作為Facebook（以及Facebook旗下的Instagram）商業端業務「看守者」的算法，經常會錯誤辨識可適應性時尚產品，並將其從平台上屏蔽。
4年前，艾蜜麗·利維（Emily Levy）和瑪麗亞·德爾·戈麥斯（Maria Del Mar Gomez）共同創建了Mighty Well公司。除了Mighty Well之外，至少還有六家小型可適應性服裝公司都遭遇了同樣的問題，其中有些公司甚至還遭遇了更大的問題。
有一個品牌幾乎每週都要處理這種問題，而另一個品牌則有數百件產品被拒下線。每一次，這些公司都不得不逐項去申訴。
如今，象徵重要性已經成為文化對話中心，各類公司都在公開宣揚其對「多樣性、公平性和包容性（DEI）」和系統性變革的承諾，像Facebook這樣的科技公司也因其政策可以影響及塑造整個社會方式而受到額外審查。
在這樣的背景下，可適應性服裝所經歷的問題反映出了一個更大的問題，即機器學習中的隱形偏見以及它們對邊緣化社群的影響方式。
「這是機器學習分類的後果中不為人知的故事。」即將出版的《人工智慧地圖集》（Atlas of AI）一書作者、巴黎高等師範學院（École normale supérieure，ENS）人工智慧與司法專業客座教授凱特·克勞福德（Kate Crawford）說，「機器學習中的每一個分類系統都包含一種世界觀。每一個都是如此。」
「我們希望幫助可適應性時尚品牌透過Facebook找到並與客戶建立聯繫。」Facebook發言人郵件中答復道，「向我們提出申訴的幾則廣告不應該被我們的系統標記，目前廣告已經恢復上線。我們對這一錯誤致以歉意，並正在努力完善系統，避免品牌來將來不會再遇到類似問題。」
就可適應性服裝行業而言，Facebook並不是唯一一個基於人工智慧對其設置進入壁壘的公司。TikTok和亞馬遜等公司也存在類似的問題。
然而，由於Facebook坐擁28億使用者，而且作為主要的社群平台，對殘障人群體以及為他們提供服務的企業而言，Facebook的重要性就更加不言而喻了。前不久，Facebook還在《紐約時報》（The New York Times）、《華盛頓郵報》（The Washington Post）以及《華爾街日報》（The Wall Street Journal ）等報紙上刊登廣告，表示要為小企業「站台」。
另外，Instagram也是時尚界的首選平台。
關於服裝與背景
可適應性時尚是時尚界相對較新但發展卻相當迅速的利基市場。據美國疾病控制和預防中心（CDC），美國每4個成年人中就有1個是殘障人。據全球市場資訊與諮詢服務公司Coherent Market Insights預測，到2026年，全球可適應性服裝市場的規模將超過3920億美元。
如今，有一些品牌設計出了像肘臂護套一樣的導尿套管；顏色和圖案鮮豔的造口袋；透過側邊閉合而不必拉到大腿上的內褲；為適應坐著的身體而定制的無刺激性縫合時髦牛仔褲和長褲；以及採用磁性閉合而不是鈕扣的襯衫。這些和其他許多產品都是為了關注個人而不是診斷結果而設計的。
有一些大公司和零售商，包括Tommy Hilfiger、Nike和American Eagle旗下品牌Aerie，都推出過針對這一領域的產品，但針對這一群體提供產品與服務的品牌仍然以小型獨立品牌居多，其中大多數通常都是存在殘障的個人創立的，並且專注於直接面向消費者的銷售。此外，這些品牌通常還包括存在殘障的設計師和模特，並且他們也會出現在廣告和門店中。
莫拉·霍頓（Maura Horton）是可適應性服裝領域的先驅人物之一。2014年，在她丈夫獲知自己患有帕金森氏症過後，她設計出了一套磁性閉合系統MagnaReady。2019年，霍頓將自己的公司轉讓給了旗下擁有設計師品牌Sean John和鞋類品牌Frye的時尚巨頭利標品牌（Global Brands Group）。
去年，霍頓和利標品牌又創建了一個專注於殘障人領域的內容中心、電子商務平台和社群JUNIPERunltd，並且還創建了一個他們專有的可適應性時尚品牌Yarrow。霍頓還計劃在Facebook和Instagram等平台上做廣告。
在去年11月至今年1月之間，她陸續提交了四個系列的廣告。其中，有一個針對Yarrow牌長褲的廣告，一種設計中的廣告主角是一位站著的女模特，另一則廣告中的模特則是坐著的，主角是一個坐著輪椅的年輕女性。
每次，站著的那則廣告都可以順利通過審核，但有輪椅的那則廣告則會因為不符合商業政策而被拒絕。其商業政策中規定：「不得推廣醫療和保健產品及服務，包括醫療設備，或者含有尼古丁的戒菸產品。」
在坐著的那則廣告中，系統顯然關注的是輪椅，而不是坐在輪椅上的主角身上穿著的產品。即便霍頓在成功申訴過後，隨後提交的廣告仍然會再次出現相同的問題。每次都要花10天左右的時間，才能讓系統承認自己犯了錯。
霍頓稱，「自動化根本不能無法實現多樣性、公平性和包容性。」
克勞福德則認為，真正的問題在於背景。「機器學習在了解背景方面效果不佳。大規模的分類通常都是簡單化和高度標準化的。它在檢測細微差別方面非常糟糕。在結合人文影響的動態背景下，往往存在更多變化因素，所以寫死分類的方式就容易導致錯誤。」
本文採訪的可適應性時尚公司中，沒有一家認為Facebook存在故意歧視殘障群體的行為。Facebook在創建替代文本方面發揮了重要作用，讓視力受損的使用者能夠連結平台的圖像。該公司已經將殘障包容列為「我們的首要任務之一」。然而，這種因疏忽而導致的特殊形式的歧視，最早在2018年就有人公開提出過，但到目前為止，仍然沒有達到能夠辨識人類的水準。
相反，機器學習卻在讓這個問題持續存在方面扮演著越來越重要的角色。據Facebook發言人稱，Facebook的自動化智慧化不僅控制著廣告和網路商城產品的入口點，而且在很大程度上還控制著申訴流程。
一段錯誤辨識歷史的最新動態
就具體流程而言，通常，一家公司首先需要創建廣告或者創建商店，然後提交給Facebook批准審核，審核過程是完全自動的。（如果是線上商店，產品還可以透過訊息流推廣，但產品推廣必須嚴格遵守Facebook的有關政策。）
如果系統標記了某項潛在違規行為，那麼相關廣告或者產品就會因為違規而被屏蔽。不過，造成該違規問題的具體文字或者圖片某個部分卻不會被指出來，這就意味著公司需要自行猜測問題到底出在哪裡。
隨後，公司可以針對系統判定的違規問題提交申訴，或者針對廣告中的文字用詞或圖片某個部分做出更改，進而盡可能符合Facebook的有關政策。
無論選擇哪種方式，整個過程都是透過自動化系統回饋給Facebook的。在這個自動化系統中，整個過程可能會由另一個自動化系統來審核，當然也有可能由人工完成審核。
據Facebook，過去幾年以來，他們已經增加了數千個人工審核職位。但相比之下，透過Facebook投放廣告的卻有多達300萬個商戶，其中大部分都是小商家。
Facebook發言人並沒有指出，在哪種情況下，商家提交的申訴可以交由人工審核處理，也沒有提到整個申訴過程是否有一套明確的規則劃分。但通常情況下，小商家都會陷入一個無休止的機器控制循環之中。
西納德·伯克（Sinead Burke）是一位關注包容性的活動人士，他同時也在為包括網路體驗與網路安全解決方案供應商瞻博網路（Juniper）在內的眾多品牌和平台提供諮詢服務。
「我們一直面臨的問題就是溝通管道。」伯克說，「可連結性並不應該僅僅意味著實現數位可連結性。我們必須了解到底是誰在負責或參與了這些系統的搭建。」
Facebook發言人稱，Facebook整個公司（包括主管層）都有殘障員工，他們還專門在公司內部設立了一個跨部門的可連結性工作團隊，將可連結性融入到整個產品開發過程中。
不過，雖然Facebook制定的廣告和商店政策在一定程度上是為了保護該平台免受虛假醫療索賠和假冒產品的影響，這一點毫無疑問，但這些政策卻在無意之中阻止平台使用者訪問為他們創建的產品。
「這是我們看到的最典型問題之一。」德國帕德博恩大學（Universität Paderborn）媒體演算法和社會專業教授托比亞斯·馬茲納（Tobias Matzner）稱，「演算法可以透過檢測模式和做出假設來大規模地解決效率問題，但在處理這件事情的同時，它還會做許多其他的事情，比如對小商家造成不良影響。」
其他例子還包括Facebook過去將母乳哺乳圖片辨識為帶有性元素的內容並判定為違規而因此引發的爭議，以及Instagram在2015年將詩人露比·考爾（Rupi Kaur）發布的一系列月經禁忌主題相關的圖片判定為違規等等。
這兩個問題後來都在公眾的強烈抗議之下得到了糾正。如今，主要的差別在於，這一問題已經不是個人內容和言論自由的問題，而變成了一個商業言論問題。
「我們經常從使用者內容的角度來探討這個問題，Facebook也被迫開始考慮各種文化差異因素。」《網際網路的守衛》（Custodians of the Internet）一書作者塔爾頓·吉萊斯皮（ Tarleton Gillespie）稱，「但很顯然的是，參與商業的能力對一個社群而言至關重要，我認為他們還沒有被推到這一步來。」
要嘛高調反擊，要嘛直接放棄
2018年12月3日，生產可適應性內衣的公司Slick Chicks（該公司生產的產品可以在美國高檔連鎖百貨諾德斯特龍（Nordstrom）和線上鞋類和服裝零售商Zappos等管道購買）創始人赫莉亞·穆罕默迪安（Helya Mohammadian）首次注意到了這個問題。
無論是透過Facebook還是Instagram，在這些平台上點擊其發布的網站連結，都會跳轉至一個錯誤頁面，頁面的錯誤提示寫道，「你試圖連結的網頁違反了Facebook社群的標準。」這一做法也熟知為「影子禁令（shadow banning）」。
其網站上的圖片主要以品牌形像大使和消費者為產品模特，只不過不是透過色誘的形式呈現的。儘管如此，演算法似乎仍然預設了它在審查成人內容這一假設。
隨後，穆罕默迪安開始透過客戶支援服務對這一判定提出申訴。她平均每天都要發送一封申訴郵件，這個過程連續持續了三週左右。「我們一共發送了大約30封申訴郵件。」穆罕默迪安說。
最後，到12月中旬時，她終於受夠了，並決定透過線上請願促進社會改變的網站change.org發起一項名為「讓社群媒體更加包容」的請願。在很短的時間內，她就收到了大約800個簽名，隨後禁令就被解除了。
這可能是個巧合。Facebook從未明確地提到過這項請願。隨後，她在平台上沒有再遭到封禁，直到2020年3月。當然，她上傳的一張圖片中，有一位女性坐在輪椅上展示文胸的設計理念。但這一圖片卻因違反「成人內容」相關政策而被屏蔽。
Care + Wear是一家成立於2014年的可適應性公司，其生產了包括護理襯衫和護肘在內的一系列「健康服飾」。然而，在長達幾年的時間裡，這家公司也一直因為系統自動判定過程存在的不合理而備受挫折。
一件襯衫的某個尺碼可能會被Facebook屏蔽，但同一件襯衫的另一個尺碼卻沒有遭屏蔽。最後，在去年3月，該公司只好求助於第三方媒體購買機構，部分原因也在於該機構有直接聯繫Facebook內部人員的管道。
「如果你是一家小公司，無法擔負這筆費用的話，那你可能就很難挽救這一局面了。」Care + Wear公司市場營銷負責人吉姆·拉倫（Jim Lahren）說。
Abilitee Adaptive公司成立於2015年，主要生產胰島素泵腰帶和顏色鮮豔醒目的造口袋。2020年初，該公司開始透過Facebook推廣其產品。
然而，其提交的廣告中，有一半的內容都被系統屏蔽。該公司嘗試過改變廣告文案的內容，有的文案甚至前前後後修改了五次。即便如此，雖然有些廣告最終成功上線，但仍然有一些卻始終不符合有關要求。
「Facebook的回饋非常模糊，這讓人感到非常沮喪。」Abilitee Adaptive公司創始人之一瑪塔·科爾特斯·內維爾（Marta Elena Cortez-Neavel）說。最後，該公司不得不停止在Facebook和Instagram等平台上推廣公司產品的嘗試。
Mighty Well公司的德爾·戈麥斯表示，她也遇到過類似的語言問題。有的時候，她不得不從廣告中刪除許多關鍵詞和標籤，這一行為也直接導致使用者很難搜尋到這些產品。
FFora公司是一家生產杯子和袋子等輪椅附件的公司。其創始人露西·瓊斯（Lucy Jones）發現，該公司產品由於是「醫療設備」而被屏蔽。
「我認為這些產品更像是嬰兒車的杯子。」瓊斯稱。與Abilitee Adaptive公司的內維爾一樣，瓊斯也直接選擇了放棄。畢竟，作為一家小企業，她的資源最好用在其他方面。
在線交易平台Patti + Ricky的創始人及唯一的全職員工亞歷山德拉·赫羅德（Alexandra Herold）稱，其平台上100名設計師設計的約1000件可適應性產品中，至少有200件產品都曾被誤認為是醫療設備，因此被標記為「違反政策」並陷入申訴流程。她不斷地嘗試跟無效的演算法講道理，但事實卻讓她感到極度疲憊。
「如果我總是被迫透過發起請願才能讓人們看到和了解可適應性服裝的話，那我們到底該怎樣才能讓這個世界明白，可適應性服裝實際上也是時尚的基本組成部分之一呢？ 」赫羅德問道。
- 資料來源：Why Is Facebook Rejecting These Fashion Ads?
- 本文授權轉載自36Kr