隨著充滿情感的人工智慧化身（其中一些以已故親人為模型）在全國範圍內獲得廣泛吸引力，中國正在加大力度監管其快速增長的「數位人」產業。此舉是隨著這項技術的商業潛力和道德風險變得越來越明顯而做出的。
悲傷、科技與不斷發展的工業
來自遼寧省的 47 歲女性張馨予在父親因癌症去世後轉向人工智慧。她與一家名為 Super Brain 的公司合作，用他的肖像和聲音創建了一個數位化身，使她能夠在網路上進行對話。她告訴法新社，這段經歷幫助她克服了悲傷，並恢復了情感力量。
她的故事反映了中國更廣泛的趨勢，人工智慧產生的「數位人類」正在迅速流行。這些化身通常在外觀和行為上充滿活力，廣泛應用於社交媒體，尤其是電子商務和內容創作領域。根據新華社報道，到 2024 年，該產業的價值將達到約 41 億元（6 億美元），年增 85%。
然而，並非所有人都積極看待這項技術。一些批評者警告說，這樣的化身可能會產生情感依賴，或者提供張本人所描述的“虛假的安慰”，即使潛在的感受是真實的。
監管正在迎頭趕上
針對這些擔憂，中國國家網路資訊辦公室發布了旨在加強監管的規則草案。擬議的法規將要求對人工智慧產生的內容進行明確標記，並禁止在未經個人同意的情況下創建數位複製品。
這些規則還旨在防止濫用，包括詐欺、錯誤訊息和可能威脅社會穩定或國家安全的內容。違反這些準則的公司可能面臨 10,000 元人民幣（1,460 美元）至 200,000 元人民幣（29,300 美元）的罰款。
一起病毒事件突顯了該組織的緊迫性，該事件涉及一名老年婦女，她無意中與她已故兒子的超現實化身進行了互動。這段影片在中國社群媒體上廣泛傳播，引發了關於人工智慧的這種使用是否代表便利或欺騙的爭論。
平衡創新與風險
專家表示，中國的做法反映了一個熟悉的模式：技術快速發展，隨後是快速的監管幹預。當局特別關注對未成年人的保護，並提出了禁止鼓勵情感依賴或模仿兒童親密關係的人工智慧系統的規則。
同時，產業參與者承認監管是不可避免的。這位超級大腦創始人稱，規則草案是平衡創新和責任的必要步驟。
未來會發生什麼
中國的法規草案將在五月初之前公開徵求意見，之後預計將得到更嚴格的實施。政府更廣泛的目標是加速人工智慧的採用，同時嚴格控制其社會影響。
隨著「數位人類」從新穎工具演變為主流工具，中國的監管模式可能成為其他國家解決類似倫理問題的藍圖——特別是圍繞人工智慧的身份、同意和情感力量。
