北京商報訊(記者劉四紅)前一陣火爆全網的AI換臉還記得嗎?但有人卻未經同意定制“AI換臉”視頻，還賣教程進行非法牟利，如今這一行為也迎來法院宣判。

8月23日，杭州互聯網法院發布消息稱，近日，杭州互聯網法院組成七人合議庭，對公益訴訟起訴人杭州市蕭山區人民檢察院訴虞某個人信息保護民事公益訴訟案公開開庭審理，判令被告虞某刪除非法獲取的個人信息，公開賠禮道歉、消除影響并賠償損失共60000元。

被告虞某服從法院判決，現已履行道歉、賠償義務等民事責任。賠償金額將專門用于個人信息保護、人臉深度合成技術不當應用的治理等公益事項。

據了解，2021年左右開始，虞某使用換臉軟件(技術)深度合成偽造視頻和圖片，未經相關信息主體同意，大量搜集、提取、替換、合成、存儲他人人臉敏感信息等個人信息，并將深度合成偽造視頻、圖片發布于2000多人的多個社交軟件群組中，同時，其為他人提供不特定主體的人臉替換定制服務，并為牟利對外銷售換臉軟件、傳授換臉技術教程，獲得非法利益數萬余元。

而上述行為已構成對個人信息權益的侵害。杭州互聯網法院經審理認為，人臉信息屬于敏感個人信息中至為重要的生物識別信息，關系到每個個體的人格尊嚴、人身安全和財產安全。人臉信息的濫用牽涉到不特定社會群體的公共利益。

虞某將合成偽造的視頻、圖片在人數眾多的網絡群組中發布，傳播可能性高、影響范圍大，使得潛在的社會不特定群體可能成為受侵害的對象，更可能導致公眾形成“眼見不為實”的心理預期，破壞互聯網數字世界中社會共同體的信任。法院認定虞某對于人臉深度合成技術的濫用行為，損害了社會公共利益，判決其承擔停止侵害、賠償損失、賠禮道歉的民事責任。

北京商報記者了解到，“AI換臉”背后采用的是深度合成技術，利用深度學習、虛擬現實等生成合成類算法，制作圖像、音頻、視頻等信息，目前在社交、影視、廣告、醫療等諸多領域不斷深化應用，有較大的技術價值和商用潛力，不過也存在著一定的安全隱患，“雙刃劍”效應明顯。

除了侵犯個人信息權益外，今年來利用AI技術實施的新型電信詐騙模式，也已呈現高發態勢，就在前一陣，“AI詐騙成功率接近100%”“科技公司老板10分鐘被騙430萬元”等話題接連登上熱搜，也引發了用戶對于新型技術應用的討論。

易觀分析金融行業高級咨詢顧問蘇筱芮表示，目前市場上個人未經同意定制“AI換臉”視頻，涉嫌對他人肖像權的侵犯。法院判定對目前AI技術在換臉行為中的濫用構成了警示作用，除此之外，目前市場上在個人信息領域中還有“一鍵脫衣”等技術對女性肖像構成侵害。在她看來，后續對于此類行為，一方面需要從源頭規范此類提供AI技術的軟件、小程序，對于非法使用AI技術的App應用、小程序等及時下架，另一方面也要加大對此類法律案件的宣傳力度，通過樹立一批大案、要案等震懾市場。

另外，中國互聯網協會5月也發文稱，伴隨著深度合成技術的開放開源，深度合成產品和服務逐漸增多，利用虛假音視頻，進行詐騙、誹謗的違法行為屢見不鮮。面對利用AI技術的新型騙局，廣大公眾需提高警惕，加強防范。

杭州互聯網法院也稱，技術的運用是把雙刃劍，用之為善可以造福社會，不當濫用則會造成社會風險和損害。對于換臉軟件等深度合成技術應用的規制應當從其參與者入手，包括發明者、應用者、傳播者等方面，以規制深度合成技術使用目的為路徑，實現深度合成技術的合理使用，避免該技術對個人、社會、國家造成諸多方面的風險。同時，也需要引導技術開發、應用者自覺遵守法律規定和科技倫理道德，培育積極健康、向上向善的研發、應用環境，保護和鼓勵新興智能技術的有益探索。