我们被困在算法里了吗?互联网企业负责人共议如何推动算法向善向上

我们被困在算法里了吗?互联网企业负责人共议如何推动算法向善向上

hyde221 2025-03-31 装修常识 1 次浏览 0个评论

“坚持主流价值导向 推动算法向上向善”主题分享会现场。 澎湃新闻记者 高宇婷 图

3月30日下午,2025中国网络媒体论坛“坚持主流价值导向 推动算法向上向善”主题分享会在广西南宁举行。主题分享会上发布了“算法向善”南宁宣言,重点互联网企业代表集体签署。

中央网信办副主任、国家网信办副主任牛一兵在“坚持主流价值导向 推动算法向上向善”主题分享会上致辞时强调,中央网信办聚焦党中央关心、人民群众关切的算法问题,以压实网站平台主体责任为抓手,出台系列政策法规,构建算法备案、安全评估、监测检查、执法处罚等全流程监管体系,算法应用生态持续向好。加强算法治理,是维护网络安全和意识形态安全的关键环节,是推动平台经济健康可持续发展的有力保障,是维护人民群众利益的具体行动。要内化导向要求,把准算法治理“定盘星”,坚持党管互联网原则,把主流价值导向贯穿算法设计、开发、应用全过程。要净化内容生态,守好算法应用“责任田”,加强网上正能量推送,严禁算法助推低俗信息传播,提高算法设计的透明度和算法运行的可解释性。要深化创新驱动,树立算法发展“新标杆”,开发具有创新性、引领性的算法产品和服务,创造更多物质财富和精神财富。要强化多元共治,绘就算法向善“同心圆”,加强部门联动,督促平台建立长效机制,动员行业组织、广大网民积极参与治理,形成共治共享良好局面。

在这场主题分享会上,抖音、微博、快手、阿里巴巴、美团、腾讯、京东等企业的相关负责人还分别发表了主旨演讲,分享了如何引导、驾驭算法,推动算法向上向善的相关做法。主旨演讲结束后,小红书、哔哩哔哩、知乎、喜马拉雅、百度等企业的相关负责人就“算法综合治理的挑战与创新”进行了一场圆桌对话。此外,来自中央和国家机关有关部门,中央新闻单位,中央和地方新闻网站,各地网信办,主要商业网站、互联网企业负责人等300余位嘉宾也参加了这场主题分享会。

澎湃新闻注意到,长达2个小时的主题活动中,上述企业负责人不仅介绍了短视频平台如何优化算法推荐,信息茧房如何破除,骑手如何不会被困在算法中,以及作为普通用户,该怎样认识算法、用好算法。

抖音:实现算法向善向上,需回到算法原理中去持续改进

3月30日召开的“推荐主流价值导向 坚持算法向上向善”主题分享会上,抖音总裁韩尚佑在发表了题为《引导算法透明向善 共创多远美好社区生态》的主旨演讲。在他的分享中,可以看到短视频平台是如何优化算法推荐的。

韩尚佑提到,在大多数人的想象中,一个推荐系统是通过一系列的内容理解技术,把所有内容打上对应标签,比如说是新闻、美食、唱歌、跳舞。其次通过一系列的用户数据挖掘,给用户打上对应的属性,比如性别、年龄、可能的兴趣爱好等。最后通过大量的历史数据运算,计算这些标签的相关性,并把对应标签的内容推给对应属性的用户。

韩尚佑解释,但随着机器学习技术的发展,抖音的推荐系统已几乎不依赖对内容和用户打标签了,而是通过一系列神经网络的算法直接预估每一个用户对每一个内容的点赞、关注、评论、分享等一系列行为的概率,通过层层筛选,最终在几亿内容中计算出概率最大的一次内容,推荐给用户。

“这种大规模计算模型的优势是显然的,毕竟不能仅仅通过几十个频道、几百个内容标签就去刻画所有内容,也没办法通过对几亿用户兴趣爱好的总结,来刻画每一个用户的生活经验和兴趣爱好的倾向。”韩尚佑说,这种机制对清晰理解和调试算法带来了非常大的挑战。因为我们并不真正地知道,在海量的数据计算构建的神经网络当中,到底是哪些参数决定了人们点赞那个内容。

韩尚佑讲道,虽然推荐系统本身并不依赖标签,但抖音建设了一套完整的内容治理体系,通过对内容的机器识别和人工识别,在不同阶段过滤掉不好的内容,解决系统对内容的理解缺失而带来的安全问题。抖音也会在用户最终看到这些内容之前对内容进行重组,避免内容过度密集和同质化。

但真正实现算法向善和向上,还需要回归到算法的原理和生效机制去,持续地改进。韩尚佑提到,后来经过仔细分析和研究发现,一些用户对于知识内容和自己觉得有用的内容会收藏。因此抖音专门训练了预估收藏和重复观看概率的算法大模型,并且将收藏的按钮放在了抖音首页最容易点击的地方。

“经过了一年用户习惯和算法数据的相互成就,抖音内部有用内容和长内容的分发得到了很大的改善。2024年一条450分钟深度解读红楼梦的超长内容,在抖音获得了超过3亿的播放,其中有700万收藏,最终有一百万人在抖音里看完了450分钟的超长视频。”韩尚佑说,“这放在之前的抖音是不可想象的。”

韩尚佑提到,很多类似的案例也启发他们找到正确的、和算法协作的方式。“虽然在一个具体的案例中,可能抖音最好的算法工程师也很难回答具体这个视频为什么推荐给了你,而另一个你可能更喜欢的视频却没有推荐给你,但我们也通过一系列的实践认识到算法虽然复杂,但它可以被调教和驯化。”

微博:媒体及时介入回击谣言,有效破除信息茧房

微博首席执行官王高飞分享了微博在算法治理与平台内容生态建设方面的实践与思考。

王高飞提到,中国正式接入国际互联网已超过30年,当下社交媒体也逐渐成为信息传播的主要载体。而算法作为平台内容分发的核心引擎,不仅影响着用户的信息获取,更深刻塑造着网络空间的内容生态和价值观。算法不仅是技术手段,更体现了平台的价值观。

王高飞介绍,微博是最早推进媒体融合的平台,微博开放的产品属性,为媒体提供了便捷的内容载体和丰富的传播手段。媒体也因此在微博落地生根、枝繁叶茂。经过十多年的融合发展,媒体账号已经成为微博主要的内容生态,是微博正能量宣传和热点事件回应的主要力量。微博上注册的媒体账号约为1.72万个,总粉丝超百亿,月均阅读量过千亿。人民日报、新华社、央视新闻的粉丝均超过一亿,以其为代表的媒体引导和带动越来越多的年轻人在微博追新闻、看热点。

而微博通过算法升级,进一步提升了媒体内容的推荐权重。2024年微博创建了媒体共建机制,让更多的媒体正能量话题登上热搜榜,并提供更多的流量加持。去年下半年热搜前十的话题中,媒体主持的热点话题环比增长90%。2024年热搜中的时事社会热点,96%来源于官方媒体。

王高飞还介绍,微博在热搜等主要流量场景进行算法升级,把平台的产品标签向媒体开放。除之前微博上线的“原创”“首发”和“暖新闻”之外,微博还将“辟谣”“主题宣传”“官方回应”等标签开放给媒体。媒体在发布时可以对内容进行标注,根据媒体的标注,平台对相关的原创内容进行推荐。2024年下半年对比上半年,媒体报道辟谣类的热搜上榜量提升137%。另外,针对热点事件中的争议性内容,媒体可以进行说明,引导网民理性讨论。

王高飞提到,前一段时间,米汤可以代替奶粉的相关流言在网上引发了讨论。澎湃新闻等媒体发布的权威解读在热搜榜单高位呈现,及时回应了社会关切。微博也迅速对传播伪科学的博主进行了社区处置,相关内容也登上了央视。媒体的及时介入和高效回应,有力回击了谣言,也消除了杂音、噪音,更有效地破除了信息茧房,这也是媒体公信力的绝佳体现。

王高飞提到,年轻网民使用微博的主要诉求是了解媒体的权威报道。从数据上看,时政和社会热点是热搜的主要流量之一,网民希望媒体在重大事件中帮助他们抽丝剥茧、还原真相,以及对于热点事件是否有跟进和回应。

王高飞还建议,媒体要回应大众关切,媒体生产内容既要准确把握时代脉搏,也要深刻洞察民生关切。尤其对于年轻网民,更要了解他们的审美趣味和价值取向。只有和网民共情,才能凝聚网民共识,最后才能形成同频共振。算法不是脱缰的野马,而是技术的良驹。只有驾驭好这条良驹,才能行稳致远。

美团骑手被困在算法里吗?

在30日召开的“推荐主流价值导向 坚持算法向上向善”主题分享会上,美团党委书记、副总裁陈荣凯回答了网友的一个疑问:“是不是美团的算法在让骑手越跑越快?”对此陈荣凯表示,这是美团不能回避的、要直面的问题。

陈荣凯提到,算法是平台基础性的支撑,对美团这样的平台来说,如果没有算法,很难在一天内帮助200万骑手,为近7000万用户提供配送服务。“也就是在高峰期的时候,每分钟有几十万的订单要通过算法来完成这个匹配,可以说没有算法就没有这样的业态。”

陈荣凯讲道,算法不是一个单纯的技术问题,算法有价值观,要体现向上向善的意志。对配送算法来说,不能极致地追求时间的精确性而忽视了以人为本的概念。美团党委专门组织了党员走一线的活动,每个月都推动高管、产品人员、研发人员、客服等穿上工服,骑上电动车去小区里面走一走、取餐去送餐。如此,算法就从计算机里冰冷的代码,变成大家心中非常直观深入的体验,激发大家内心深处的价值观。这个价值观,是平台的“定盘星”。

此外,陈荣凯提到,算法不能是平台单方面主导、说了算。过去几年,美团累计召开了四百多场骑手恳谈会,特别是去年以来,算法是每一场恳谈会中的重要内容。“我们要听骑手的意见,包括我自己也参加了不少,在现场听一听骑手的吐槽,听一听骑手脸红脖子粗的责骂。骑手提出送餐路径规划太荒谬、太不合理,对每一个工程师都是触动,知道我们改进的方向在哪里。”

最后,陈荣凯提到,算法不能只追求效率,要更多地考虑综合平衡。美团在算法算出的送餐模型时间上再加8分钟余量,展示给用户预估送达的时间段,不是一个可丁可卯的时间点,以缓解双方关于配送时间的焦虑感。对于商家出餐慢的问题,美团也逐步取消了骑手超时罚款。而为防止骑手过长时间的劳动,跑单8个小时会出现弹窗提醒,超过12个小时将采取强制下线。

“算法最后也还是一个技术问题,对美团来说算法跟内容平台有差距,不完全是算法可以百分百支配的,是数字世界和物理世界的叠加。对物理世界的复杂变化怎样精准定位、合理规划?还需要不断地提高技术能力。”陈荣凯说。

转载请注明来自夏犹清建筑装饰工程有限公司,本文标题:《我们被困在算法里了吗?互联网企业负责人共议如何推动算法向善向上》

每一天,每一秒,你所做的决定都会改变你的人生!

发表评论

快捷回复:

评论列表 (暂无评论,1人围观)参与讨论

还没有评论,来说两句吧...