智東西（公眾號：zhidxcom）
編譯 | 王涵
編輯 | 漠影
智東西9月1日消息，據路透社報道，Meta未經授權擅自使用美國著名歌手泰勒·斯威夫特（Taylor Swift）、賽琳娜·戈麥斯（Selena Gomes）以及好萊塢著名演員斯嘉麗·約翰遜（Scarlett Johansson）、安妮·海瑟薇（Anne Hathaway）等名人的姓名和形象，創建了數十個具有調情功能的社交媒體聊天機器人。
其中至少有3個聊天機器人由Meta員工制作，其中包括2個泰勒·斯威夫特“仿冒”機器人。
一、內部員工參與其中，Meta回應：標注為“仿冒”就不違規
爆料稱，Meta生成式AI部門一名產品負責人創建了冒充泰勒·斯威夫特和英國賽車手劉易斯·漢密爾頓（Lewis Hamilton）的聊天機器人。她創建的其他機器人自稱為“domme”、“哥哥的辣妹好友”以及想看《五十度灰》并親熱的“圖書館麗莎”。
▲英國賽車手劉易斯·漢密爾頓（Lewis Hamilton）
這位員工還創建了“羅馬帝國模擬器”，提議讓用戶扮演被賣為性奴的“18歲農家女孩”。該員工電話接通后拒絕置評。
不僅是被爆料出的幾個名人，路透社還發現Meta允許用戶創建未成年名人聊天機器人，包括16歲影星沃克·斯科貝爾（Walker Scobell）。當要求生成該青少年演員的海灘照片時，機器人輸出了一張逼真的半裸圖像，“挺帥的吧？”虛擬形象在圖片下方寫道。
▲沃克·斯科貝爾（Walker Scobell）
所有這些虛擬名人都已在Meta的Facebook、Instagram和WhatsApp平臺上公開分享。在路透社為期數周的測試中，這些虛擬形象經常堅稱自己是真實的明星藝術家，并頻繁作出性暗示，邀請測試用戶線下見面。
部分AI生成的名人內容尤其露骨，甚至還可以生成展現私密部位的圖片。
Meta發言人安迪·斯通（Andy Stone）向路透社回應，公司AI工具本不應生成成人名人的私密圖像或任何未成年名人圖片。他將女性名人內衣照的生成歸咎于公司政策執行失效，因為Meta政策明確禁止此類內容。
“與其他公司一樣，我們允許生成包含公眾人物的圖像，但我們的政策旨在禁止裸體、私密或性暗示內容。”安迪·斯通回應稱。
雖然Meta規定禁止“直接冒充”，但斯通稱只要標注為“仿冒”即符合規范，但路透社發現部分機器人并未標注。
在路透社本報道發布前，Meta刪除了約12個“仿冒”及未標注的機器人，斯通拒絕就刪除行為置評。
二、Meta曾因“兒童性化”被警告
路透社還發現Meta主要競爭對手之一的埃隆·馬斯克（Elon Mask）的Grok平臺也會為用戶生成名人內衣照。Grok母公司xAI未回應置評請求。
然而，Meta選擇在其社交平臺大量部署AI生成虛擬伴侶的做法，在主要競爭對手中顯得尤為突出。
Meta此前就因聊天機器人行為遭受批評，最近路透社曾報道其內部AI指南聲稱“允許與兒童進行浪漫或感官對話”，此事引發美國參議院調查及44位總檢察長聯署警告Meta等企業不得將兒童性化。
斯通稱Meta正在修訂指南文件，允許機器人與兒童浪漫對話的內容屬錯誤創建。
本月路透社還報道過新澤西州一名76歲認知障礙男子在赴約見Meta聊天機器人途中跌倒身亡事件。該機器人是Meta與名人影響者肯德爾·詹娜（Kendall Jenner）合作開發AI形象的變體，詹娜代表未回應置評。
三、社會評價：對名人安全產生威脅，但不一定能受到法律保護
代表影視廣播演員的工會SAG-AFTRA全國執行總監鄧肯·克拉布特里-愛爾蘭（Duncan Crabtree-Ireland）認為，當社交媒體用戶對形似、聲似且自稱真實名人的數字伴侶產生浪漫情結時，藝術家面臨潛在安全風險。
“我們見過太多對明星抱有執念且精神狀況可疑的案例，”他說，“如果聊天機器人使用本人的形象和語言，其潛在危害顯而易見。”他補充說知名藝人可依據州公開權法律起訴Meta，但SAG-AFTRA正推動聯邦立法保護民眾聲音、形象和人格特征免受AI復制。
斯坦福大學研究生成式AI與知識產權的法學教授馬克·萊姆利（Mark Lemley）質疑這些名人機器人是否符合模仿作品的法律保護條件。
“加州公開權法律禁止為商業目的盜用他人姓名或形象，”他提出，雖然全新創作的作品存在例外，“但本案顯然不適用該例外，因為這些機器人只是簡單盜用明星形象。”
路透社向安妮·海瑟薇代表提交了用戶通過Meta生成的該女星作為“性感維密模特”的公開圖片。其發言人回應稱海瑟薇已知曉Meta及其他AI平臺生成其私密圖像的行為，正在考慮應對方案。
斯威夫特、約翰遜、戈麥斯等被仿冒名人的代表均未回應或拒絕評論。
結語：AI的責任歸屬和規范紅線亟需劃清
Meta此次爭議暴露了生成式AI的行業痛點：企業內部管控失效、平臺規則執行不到位，也折射出當前AI技術落地中“名人權益保護”“未成年人安全防護”等倫理邊界的模糊性。
此前Meta已因“兒童性化”等事件陷入信任危機，OpenAI的ChatGPT此前也被報道稱其有引誘用戶自殺和謀殺的嫌疑。
在AI如此深度融入到社會生活的當下，用戶因AI所產生的不良后果的責任歸屬和規范紅線亟需劃清。
來源：路透社
