劃重點:

?? 平臺嚴格處罰不當使用 AI 生成虛擬人物發表違規內容

?? 違規行為包含消費愛國心理、虛假情感誘導、低質吸粉等

?? 平臺呼吁用戶監督，舉報不當使用人工智能生成內容的情況

廣州文件銷毀服務信息網 3月27日 訊息:抖音近日發表了關于不當利用 AI 生成虛擬人物的治理公告。去年，抖音就明確表態不鼓勵利用 AI 生成虛擬人物進行低質創作，并將莊敬處罰違規使用 AI 生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠的內容。最近，平臺展示仍有賬號不當使用 AI 技術生成虛擬人物發表內容，因此采取了嚴峻的處理辦法。

其中典型行為包羅:

1、生成境外虛假人設，消費愛國心理、博取關注。用虛假外國人的形象，以想嫁給我國、想到中國生活、評價社會事件等言論博取眼球。

2、生成俊男美女虛假形象，騙取交流，交友導流。干脆稱用戶為“你”“娘”“媽媽”“老公”等，發布情感誘導、唱情歌、為你謀福利等表達虛假情感的內容，將用戶導流至私人聊天工具，甚至進行詐騙。

3、生成精英人士虛假人設，宣布心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。

針對違規使用AI生成虛擬人物的行為，平臺會對違規視頻下架，對違規賬號進行取消其投稿和營利權限、抹除賬號粉絲、封禁賬號等處理，并利用模型、技術辨認能力等手段，進行長期系統的辯識表現和處理。同時，平臺已駕馭部分黑產團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊。

人工智能技術的快速發展，豐盛了互聯網內容生態，但也帶來技術濫用的挑戰。平臺重申，創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，須遵循以下規范:

1、宣布者應對人工智能生成內容進行顯著標識，協助其他用戶區分虛擬與現實，極度是易混淆場景。

2、公布者需對人工智能生成內容產生的相應后果負責，無論內容是怎么生成的。

3、虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證。

4、反對利用生成式人工智能技術創作、公布侵權內容，包括但不限于肖像權、知識產權等。一經顯現，平臺將肅穆處罰。

5、阻擋利用生成式人工智能技術創作、發表違背科學常識、弄虛作假、造謠傳謠的內容。一經展示，平臺將嚴格處罰。