日前,2025中國網絡媒體論壇“堅持主流價值導向 推動算法向上向善”主題分享會在廣西南寧舉行。抖音、微博、快手、阿里巴巴、美團、騰訊、京東等企業的相關負責人分別發表了主旨演講,小紅書、嗶哩嗶哩、知乎、喜馬拉雅、百度等企業相關負責人就“算法綜合治理的挑戰與創新”進行了一場圓桌對話。分享會上,信息繭房、個性化推薦、信息安全等成為高頻熱詞。
圓桌對話“算法綜合治理的挑戰與創新”。廣西日報供圖
手機在“偷聽”我說話?如何理解信息安全問題
在圓桌對話環節,談及如何從平臺端保證不會濫用用戶的數據,小紅書總編輯、副總裁許磊表示,在“能不能做”的層面上,網絡安全法、民法典和刑法當中都明確規定了,未經用戶允許獲取用戶數據是非常嚴重的違法行為。如果做了的話,平臺會面臨非常高額的處罰甚至刑事處罰。
在“想不想做”的層面,許磊介紹,他用DeepSeek問過,一個日活過億的APP如果每天都進行一小時錄音和上傳的工作,每年的成本超過260億,如果24小時就有6000多億成本,靠商業化絕對賺不回來。在實操層面,如果進行錄音和上傳的動作,手機的掉電是非常嚇人的,可能一小時要掉電30%以上,所以在邏輯上講其實不存在可行性。
許磊強調,推薦算法從本質上來說,數據的準確度和有用性更重要,但是像剛才所說的大量信息進來,實際上是低效的數據雜音,對于推薦來說并沒有特別直接的幫助。“所以我覺得在想做的層面上,我相信也不會有平臺,真的愿意去做這么一件事。”許磊總結。
算法多元化推薦共同打破信息繭房
如今,越來越多的人認識并了解到信息繭房的概念和弊端,各大平臺也在發力,通過優化推送算法主動打破信息繭房。許磊表示,小紅書長期堅持雙列信息流的分發,把最后點擊的權利交給用戶;在算法上也長期堅持把50%以上的流量分給千粉以下的用戶,實現真正的UGC流量普惠。同時在避免短時間的信息繭房上,還設置了一系列的遺忘指數,對短期興趣做打散,避免一個階段看了同類內容就被頻繁推薦。
嗶哩嗶哩算法安全委員會執行主席張強指出,從技術上來說,用戶的短時反饋確實會比較影響接下來推薦的內容,但其實從平臺更關注的長期留存上來說,用戶可能會覺得這個平臺越來越沒意思。b站也專門針對信息繭房進行建模,比如把用戶一小時內、一天內、七天內,甚至一個月內的不同維度推薦過的內容全部拉出來,進行更多元化的主題的打散,提升推薦內容的豐富度,這也是算法需要不斷優化的。
抖音總裁韓尚佑表示,隨著機器學習技術的發展,抖音的推薦系統已經幾乎不依賴對內容和用戶打標簽了,而是通過一系列神經網絡的算法直接預估每一個用戶對每一個內容的點贊、關注、評論、分享等一系列行為的概率,通過層層篩選,最終在幾億內容中計算出概率最大的一次內容,推薦給用戶。抖音還通過對內容的機器識別和人工識別,在不同階段過濾掉不好的內容,解決系統對內容的理解缺失而帶來的安全問題。抖音也會在用戶最終看到這些內容之前對內容進行重組,避免內容過度密集和同質化。
推動算法透明化 幫助用戶了解推送機制
京東集團副總裁王冠之介紹,京東通過隱私政策、用戶協議等協等渠道,清晰公示個性化推薦算法的運行邏輯與干預機制。在使用服務過程中,用戶可自主管理編輯標簽偏好,并了解推薦結果生成原因,充分保障知情權與選擇權。
官方主動發布算法運行規則的解說,能夠提升用戶體驗感和信任感。張強介紹,b站制作了動畫視頻講解作品投稿后的分發全流程,并在官方賬號發布。視頻中將一些技術性話語換為了更加通俗易懂的語言,例如“協同過濾”會改成“跟你興趣相關或一致的人最喜歡看什么”。
快手聯合創始人楊遠熙則表示,快手對外公示了熱搜榜單的排序規則和算法運行規則,通過官方賬號發布趣味視頻,生動講解個性化推薦算法相關信息;還推動智能客服24小時在線解答算法相關問題,保障每一位用戶的算法知情權。
算法應以人為本 傾聽一線人員聲音
2020年9月,《人物》雜志發布的一篇《外賣騎手,困在系統里》引發巨大社會反響和討論。近年來,各大平臺也在持續關注外賣騎手的權益和平臺算法的改進。阿里巴巴集團安全總裁錢磊表示,餓了么每個月會召開騎手懇談會,讓騎手能夠自己參與到一些跟他們利益相關的制度和機制的定義中,提升騎手的參與度和獲得感。
美團黨委書記、副總裁陳榮凱也介紹,過去幾年,美團累計召開了四百多場騎手懇談會,特別是去年以來,算法是每一場懇談會中的重要內容。“我們要聽騎手的意見,包括我自己也參加了不少,在現場聽一聽騎手的吐槽,聽一聽騎手臉紅脖子粗的責罵。騎手提出送餐路徑規劃太荒謬、太不合理,對每一個工程師都觸動,知道我們改進的方向在哪里。”
陳榮凱指出,算法是平臺基礎性的支撐,對美團這樣的平臺來說,如果沒有算法,很難在一天內幫助200萬騎手為近7000萬用戶提供配送服務。同時他也表示,對配送算法來說,不能因為極致地追求時間的精確性而忽視了以人為本。美團黨委專門組織了黨員走一線的活動,每個月都推動高管、產品人員、研發人員、客服等穿上工服,騎上電動車去小區里面走一走、取餐后去送餐。“如此,算法就從計算機里冰冷的代碼,變成大家心中非常直觀深入的體驗,激發大家內心深處的價值觀。”
陳榮凱還提到,算法不能只追求效率,要更多地考慮綜合平衡。美團在算法算出的送餐模型時間上再加8分鐘余量,展示給用戶預估送達的時間段,不是一個可丁可卯的時間點,以緩解雙方關于配送時間的焦慮感。對于商家出餐慢的問題,美團也逐步取消了騎手超時罰款。而為防止騎手過長時間的勞動,跑單8個小時會出現彈窗提醒,超過12個小時將采取強制下線。