Meta監管委員會近日發出強烈呼籲,要求Meta平台對用戶推薦中那些"高風險"的人工智能生成內容採取更為嚴厲的應對策略——包括去貨幣化、降級處理乃至徹底移除,同時建議對屢教不改的違規賬號施加逐級加重的懲罰措施。
這一建議的提出,標誌着監管層面對AI生成內容在社交平台氾濫問題的關注已從單純的標記轉向實質性管控。據悉,該委員會所定義的"高風險"AI內容,涵蓋可能誤導公衆、傳播虛假信息或造成潛在社會危害的生成式內容。
尤其值得關注的是,委員會特別強調了"遞增處罰"機制的重要性——這意味着首次違規可能僅受輕度警告,而反覆違規的賬戶將面臨愈發嚴厲的制裁,形成一種梯度化的懲戒體系。這一設計思路,既體現了對初犯者一定程度的包容,又向惡意濫用者傳遞了明確而強硬的信號。