一鍵脫衣、換臉親吻，AI開始作惡了？
和迪麗熱巴『接吻』、長得和特朗普『一模一樣』、馬斯克身陷『貧民窟』、乘地鐵的照片被『一鍵脫衣』……隨著AI技術的成熟和發展，一鍵『換臉』『換裝』因帶來意想不到的效果，受到很多關注，屢屢沖上熱搜。
近日，不少網友在社交媒體和短視頻平臺上開始秀出AI換臉內容，比較常見的是在熱播劇中換上自己的臉或者喜歡的明星的臉。
但此舉也引發網友擔憂，AI換臉在影視劇中『大行其道』，這是否尊重演員和版權，這種換臉未來是否也會出現在非法視頻裡？
事實上，ChatGPT走紅後，生成式AI技術的發展和應用，引發了新一輪AI技術熱潮。
多家巨頭湧入，並開發面向消費者的AI應用，讓人工智能開始在用戶生活中『生根發芽』。
但除了自娛自樂之外，不少人試圖利用AI牟利，甚至做出違背倫理、觸犯法律的事情。
如何讓AI在不傷害人類的前提下，有利於人類和社會發展，正在成為新的課題。
圖/視覺中國
當AI換臉走紅
『終於實現和喜歡的愛豆合照了』，有不少網友近日在社交媒體平臺上曬出自己和愛豆的正臉照片，被網友戲稱為『拿去騙我媽，我媽以為我談戀愛了』。
這些照片皆來自一鍵生成的AI換臉APP，這些APP有海量的視頻和照片模板，能夠讓不少粉絲實現和愛豆合照的願望。
不過很多網友表示，這些APP此前基本都免費，現在則需要充錢辦會員。
在手機中的應用商店搜索，不少關於AI換臉的APP近期的下載量排名都有大幅提升，在評論區，很多網友覺得新鮮有趣，但也有網友產生了質疑。
一位博主公開發佈聲明，稱『被AI換臉軟件盜圖做模板了』，該博主表示，自己作為模特，和攝影師辛辛苦苦拍攝，但就這樣被盜用了，是有點『傷心』。
另一位博主也稱自己在1月份發佈的一組照片，目前在國內社交媒體平臺上被不少人用AI換臉軟件私自使用，湧現出大批類似素材的視頻和照片，甚至有人因相關內容還上了熱門榜單，流傳到海外平臺。
在短視頻平臺上，有不少主打AI換臉內容的博主因使用這項技術圈粉不少。
最近還有博主惹出了不小的爭議。
特效師洪某在短視頻平臺上有超過百萬粉絲，此前他經常通過電腦後期制作替換影視視頻中的鏡頭，日前他通過AI換臉的方式，將女明星迪麗熱巴出演的電視劇中激吻鏡頭的男主角替換為自己，該視頻引發了不少爭議，多位粉絲表示了不滿，甚至找到他要討說法。
洪某後續在抖音上曬出自己被迪麗熱巴粉絲抓傷臉的情況，最終的結果是洪亮把關於迪麗熱巴的內容都隱藏刪除。
他的賬號因違反社區規定，也被封了15天。
該事件引發了法律界人士關注，同時也讓AI換臉的行為更受到關注。
在不少人下載APP使用時，這種技術背後帶來的倫理挑戰和法律風險越來越凸顯。
浙江曉德律師事務所主任陳文明則表示，該博主進行AI換臉時，如果得到演員的同意，尊重了演員個人的相關權利，那麼這種行為就變得可行，能夠適當應用。
但如果沒有得到演員的同意，有可能違反道德和法律的雙重規范。
萬商天勤律師事務所合夥人張烽告訴中國新聞周刊，上述博主這種行為可能侵害了相關錄像制品或視聽作品的版權改編權，侵害女明星的人格權、肖像權、名譽權，傳播這種內容如果被認定為不良內容可能違反互聯網信息內容治理相關規定和公序良俗。
賽迪智庫網路安全研究所所長劉權則指出，這種行為涉及多方面的問題，包括道德倫理和法律法制等。
對個人而言，這種行為將會對被害人的心理健康造成損害；對於公眾而言，通過AI技術進行合成創作，可能會模糊真實與虛假之間的界限，損害社會公信力和價值觀念。
從法律法制角度看，如果未經授權使用他人肖像或作品進行合成或創作，可能會構成侵犯他人肖像權和知識版權，涉及侵權問題，需要承擔相應的法律責任。
技術成本越來越低
今年以來，隨著ChatGPT的爆火，生成式AI逐步被人們關注。
當一款AI產品可以像『人』一樣回答問題，與用戶產生互動時，不少業內人士認為『通用型AI』已經到來。
劉權告訴中國新聞周刊，過去市場上的AI產品主要是所謂的『分析式AI』，這類產品的主要功能是對數據進行學習和分析，以此來進行預測、輔助用戶進行判斷。
與這類AI不同，生成式AI的主要功能是通過學習來生成與訓練數據不同的新數據。
得益於這種創造能力，生成式AI可以比分析式AI應用於更多不同的場景、完成更為多樣化的任務，因而正在成為一種『通用型AI』。
他進一步指出，生成式AI技術通過換臉、變裝等技術，可以創造出非常逼真的視頻和圖片，能夠為互聯網生態提供大量的內容產品，並且相比於傳統的UGC《用戶生產內容》，AIGC《AI生產內容》在內容制作成本、內容數量、質量的穩定性等方面都更有保證，這些特點決定了生成式AI在電影制作、遊戲、虛擬現實等領域中有著廣泛的應用潛力。
張烽表示，從內容生成創作角度而言，生成式AI為內容生產創作提供了低成本、高效的方式，一方面從創作主體上看，讓更多普通用戶也能很方便地借助AI工具創作出基本符合自己需求的數字內容；另一方面，從創作內容上看，讓數字內容的創作更加貼近用戶需求和使用場景；此外從結合方式上看，讓內容生成創作能夠智能化地結合到各種場景中。
一位資深電商從業者近期發現不少利用生成式AI的創作工具相繼問世，以前對很多中小廠家來說，拍攝非常精美的產品圖令人頭疼，一方面沒有相關人才，另一方面成本也不低。
近期有很多利用AI做電商設計的產品，一般會按年收費，能夠多快好省進行營銷內容的制作。
中央財經大學數字經濟融合創新發展中心主任陳端表示，目前來看，生成式AI最容易帶來改變或產生沖擊的，就是在內容生產領域。
原因在於內容生產鏈條相對較短，通過打造IP的價值鏈延展空間比較大，目前來看有商業賺錢的可行性。
劉權指出，生成式AI在消費端和產業端的多個領域都可能進行顛覆性的變革。
在消費端日常辦公領域，相對重復、創造性較低的任務都可以由生成式AI來輔助完成；在搜索領域，生成式AI+搜索的模式可以大幅提升人們從海量信息中檢索出自己所需要信息的效率，因而可能會成為新一代的搜索方式。
根據美國Western Securities 《西部證券》分析，預計到2025年，AIGC市場空間將達到40.352億美元，到2030年市場將達到217.558億美元。
這意味著整個市場在未來幾年可能迎來爆炸式增長。
『不加限制將會面臨嚴重挑戰』
在不少社交媒體和電商平臺上，搜索『AI換頭』『AI特效』，不少人都在用這些技術接單，但並不是明目張膽，一般會讓用戶加微信，然後從朋友圈看視頻案例，收費在幾十元到上百元不等，商家表示『提供一張照片即可』。
陳文明指出，不論是收費來做這類視頻還是進行教學，這些營利活動的前提必須是征得相關人士的同意，否則有可能造成侵權。
而上述商家則表示，『自己娛樂有啥風險，只要不商用，誰會來找你？』陳文明強調，隨著技術的發展，所謂的『一鍵變臉』，如果完全放開不加限制的話，肯定是弊大於利。
從法律層面來看，隱私權、知識版權等領域都可能面臨嚴重的挑戰。
劉權的擔心之處則在於，生成式AI的濫用也可能造成很大的公共危害，例如不法之徒可以以更低的成本、更高的效率來偽造文本、圖片，甚至視頻的資料，並以此來從事詐騙、恐嚇、誹謗等犯罪行為。
張烽進一步指出，隨著技術發展，純從技術角度而言生成制作成本確實可能會越來越低，但是從相關技術監測檢測手段和法律規制、管理制度角度來說，會加大違法成本。
近兩年，隨著AI風起，融資超千萬美元的AI產品不在少數，不少產品因此深陷色情信息和虛假信息輿論風波。
在不少媒體的報道中，ChatGPT也可以按照用戶的指令生成虛假信息。
上月底，馬斯克和1000多名人工智能專家簽署聯名信，呼籲暫停訓練比GPT—4更強大的人工智能系統至少六個月，理由是這種系統對社會和人類構成潛在風險。
張烽指出，在未來發展方面，目前比較一致的意見是，人工智能自然語言大模型本身因為涉及海量參數模型開發、海量數據訓練、巨大算力支持，並非一般小公司可承擔，競爭主要存在於中美兩國互聯網巨頭。
互聯網巨頭們謹慎小心對待監管，其自身也有比較強烈的社會責任感，有實力也有意願以合規方式推進研發和應用。
至於未來受益公司，凡是擁有大數據、大算力和大量應用用戶或應用場景的公司，會享有很多機會。
比如目前以圖片類版權授權和使用為業務模式的公司會受到一定影響，但是基於其擁有的巨量正版圖片數據資源，相應調整業務模式的話，還是會有很多機會。
4月11日，為促進生成式人工智能技術健康發展和規范應用，國家互聯網信息辦公室起草了《生成式人工智能服務管理辦法《征求意見稿》》，並向社會公開征求意見。
陳端解讀此舉為在一輪新的立法和政策制定過程中，國家秉承包容開放的態度，通過鮮明的政策導向和指引幫助創新創業人士，明確底線意識，從而更充分釋放創新創業的潛力和動能』。
劉權指出第三條給出監管的原則是國家明確支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
一鍵換臉等行為變得更加普及和容易後，有必要建立相關的規范和監管機制，確保該技術的合法、合規和安全使用，並維護良好的社會秩序和價值觀念。
同時，企業和個人也應該自覺遵守相關法律規定和社會道德標準，不進行侵權行為和虛假宣傳，促進AI技術的健康發展。
作者：孟倩