AI蒸餾復刻同事?潛藏三方面法律風險需關注
當下職場涌現出AI蒸餾復刻同事這類新型用工隱患,而社保未足額繳納、臨時用工勞動關系認定,則是常年高發的職場糾紛。讓我們結合司法案例,解析新技術催生的全新法律風險,厘清這些經典用工維權難題。
近日,AI開源工具“同事.skill”引發廣泛關注,開發者通過收集、提取離職員工的聊天記錄、工作文檔、溝通習慣等數據,借助AI蒸餾技術生成具備特定人格特征、可替代人工完成工作任務的智能模型,被輿論稱為“數字重生”。依托數據提取、人格復刻、能力遷移等特性,AI蒸餾技術快速落地,類似“同事.skill”等未經授權復刻他人人格與工作能力的項目不斷涌現,不僅嚴重侵害自然人的人格權、損害勞動者合法權益,還擾亂數字空間公序良俗,衍生出一系列現實法律風險。
風險一
數據未經授權濫用
人格權保護面臨嚴峻挑戰
AI蒸餾技術多以自然人肖像、聲音、聊天記錄、影像等人格要素為核心訓練素材,通過數字化提取、特征固化、模型復刻等方式對人格利益進行實質性利用。實踐中,大量開發者未經權利人同意,擅自抓取并使用個人數據,甚至對逝者實施“數字復活”,嚴重侵害自然人人格權益。
北京某法院2023年4月審結的殷某訴北京某智能科技有限公司人格權糾紛中,配音師殷某曾為科技公司錄制有聲讀物,科技公司利用AI技術將殷某聲音訓練成文本轉語音產品并對外出售,相關AI配音短視頻廣泛傳播。
法院認為,聲音屬于人格權客體,錄音著作權不能替代人格權授權,企業即便享有錄音版權,未經許可將他人聲音用于AI蒸餾仍構成聲音權侵權,判決公司賠禮道歉并賠償殷某25萬元。
風險二
算法監控勞動過程
損害勞動者身心健康
AI蒸餾可將勞動者工作習慣、溝通方式、經驗技能、行為模式轉化為可復用的AI模型,企業通過蒸餾員工數據,優化派單、考核、薪酬全鏈條算法,全程用硬性數據指標管控勞動者工作行為,倒逼勞動者被動貼合算法標準,損害勞動者的身心健康和休息權益。
北京某法院2024年7月審結的孫某訴北京市某商貿有限公司、某科技有限公司勞動糾紛中,外賣騎手孫某在送餐途中發生交通事故致骨折,商貿公司以“眾包非勞動關系”、平臺企業以“僅提供技術服務、不直接用工”為由,均拒絕支付傷殘賠償。
法院認為,平臺算法是核心管理工具,對騎手工作行為、勞動強度、收入分配具有絕對控制權,算法強制派單、壓縮時效、高強度派單,直接倒逼騎手疲勞、趕單、分心作業,是導致事故受傷的重要誘因。最終平臺企業與孫某達成調解協議,支付孫某生活保障費1.3萬元。
風險三
算法黑箱導致舉證不能
權利救濟與司法認定困難
AI蒸餾的訓練數據、模型邏輯、調用過程均由技術方掌控,形成典型算法黑箱。被侵害的自然人通常無法獲取數據來源、授權記錄、算法規則、蒸餾過程等核心證據,在維權中處于明顯弱勢,易因舉證不能導致訴求難以支持。
北京某法院2023年6月審結的唐某某訴某科技有限公司網絡服務合同糾紛中,科技公司運營的平臺將唐某某發布的內容判定為“包含AI生成內容但未標識”的違規情況,將該內容隱藏并將用戶禁言一天,唐某某向平臺申訴失敗后將科技公司訴至法院。案件審理中,公司未對其使用算法決策依據和結果進行適度的解釋和說明。
法院認為,網絡內容服務平臺在即時性創作文本場景下對使用算法自動化決策結果承擔適度說明義務,判決公司展開折疊的回答并刪除相關后臺記錄。
【法官建議】
一是強化人格權授權與保護。企業使用自然人數據開展AI模型蒸餾相關工作,必須依法征得書面明示同意,提前明確數據使用的具體用途、有效期限和適用范圍邊界,嚴禁企業未經許可擅自采集、固化、永久留存勞動者人格特征與工作經驗信息,防止以AI智能化升級、崗位優化替代為由,違法解除勞動關系,變相脅迫員工簽署數據授權文件。
二是全面強化勞動者專項權益保護。在AI智能排班、算法考核、數字化管理等用工場景中,全面規范企業用工行為,嚴格保障勞動者勞動報酬、休息休假、崗位安全、社會保障等各項法定基本權益,堅決防范算法歧視、智能壓榨、差異化對待等各類隱形侵權問題。
三是嚴格適用舉證責任倒置規則。針對職場算法不透明、后臺規則隱蔽等算法黑箱突出問題,統一由AI模型使用方舉證數據來源合規、人員授權真實、全程算法合規,切實降低勞動者與人格權權利人取證壓力,大幅減輕維權實操難度。
文/陳境峰(北京市第一中級人民法院)
來源/北京青年報







































京公網安備 11010202009201號