现摘录主要互联网企业负责人发言内容,以飨读者。
“坚持主流价值导向 推动算法向上向善”主题分享会现场
抖音总裁韩尚佑作主旨发言
抖音总裁韩尚佑:
让用户和算法双向奔赴
抖音打造了专门用于预测用户收藏和多次观看概率的算法模型,同时将收藏功能置于首页最为便捷的点击位置。自运行一年有余,抖音平台上的有用性内容与长视频的传播效果显著提升。到了2024年,一部时长达450分钟的《红楼梦》深度解析视频,成功吸引了超过3亿的观看量,并收获了700万的收藏数。观看此视频的人数已超过百万,这段时长450分钟的内容,成为了用户与算法相互吸引的典范之作。
抖音构建了多目标模型,并对其进行了超过100个目标的训练,旨在解决系统在单一目标导向下,频繁推送相似内容的问题。同时,抖音强化了推荐系统中搜索行为的应用,使系统能够更加及时地响应用户的搜索兴趣变化。此外,抖音对评论中蕴含的喜怒哀乐等情绪进行了细致分析,以防止出现争议越大、推送越频繁的现象。
抖音安全与信任中心官网现已启动试运行,并正式对外公布,内容涵盖抖音的算法运作机制、社区管理规则、治理架构以及客户服务信息。
微博首席执行官王高飞作主旨发言
微博首席执行官王高飞:
算法不是脱缰的野马,而是技术的良驹
微博设立了专门的算法安全小组,同时出台了《热搜管理规范》等一系列健全的热搜算法管理措施,以此确保内容的安全性。此外,微博还构建了算法风险评估体系,对算法模型实施定期的审查和改进,以激发算法推荐的积极效应。为了确保算法的安全性,平台采取了数据加密、权限控制等手段,保障了用户数据的安全和隐私。
算法不仅是一种技术工具,还深刻反映了平台的核心理念。微博一直坚持不懈地通过算法的优化,努力打造一个既健康又有序的生态体系。通过优化算法的运作机制,微博增加了正面信息的推荐比重,同时降低了低俗和虚假信息的传播,积极努力地破除“信息茧房”效应。以热搜功能为例,微博通过算法的升级,进一步增强了政务、媒体以及正面信息的推荐力度。
算法并非失控的野马,它实际上是技术领域的一匹优秀骏马。唯有妥善驾驭这匹骏马,我们才能确保前进的道路既稳健又长远。
快手科技联合创始人杨远熙作主旨发言
快手科技联合创始人杨远熙:
算法发展应服务于用户所需
技术发展应以人为核心,算法的提升理应满足用户的实际需求。快手在“知情权、选择权、隐私权”这三个维度上建立了完整的保护体系,确保算法的透明度、可控性和可靠性。
快手公布了热搜排名的具体准则,并通过官方渠道发布了富有娱乐性的短视频,详尽地阐述了个性化推荐等算法的细节,使得信息得以广泛传播至用户群体。同时,公司优化了算法透明度的咨询途径,并促使智能客服全天候提供关于算法问题的解答服务。
用户需熟悉内容推荐的调控工具。快手平台推出了“快速关闭推荐”功能,并设立了“个性化推荐控制界面”,用户能够自主调整内容喜好,进而调整相关内容的推送频率。
阿里巴巴集团安全总裁钱磊作主旨发言
阿里巴巴集团安全总裁钱磊:
算法是数字时代的新质生产力
算法构成了数字时代的新型生产力,它使得众多企业,尤其是中小企业能够共享技术带来的收益,显著提高生产效率。阿里巴巴集团依托数字科技助力中小企业成长,秉持着普遍惠及和开放共享的原则,将算法和云计算打造为中小商户的数字基石,借助算法助力商户挖掘经营规律、增强数字化技能,同时将决策权归还给商户,从而助力商户实现更优发展。
随着生成式人工智能技术的迅猛进步,企业必须主动应对由此引发的安全风险和挑战,并致力于促进人工智能领域的科技创新,确保其发展符合社会责任。首先,“守己”原则要求人工智能始终在人类的掌控之中,以保证其输出的内容与价值观念相契合,并传递积极向上的能量;其次,“利他”理念促使阿里巴巴秉持着惠及大众、服务小微企业的初衷,对通义模型实施了全方位、多模态、全能型的开源策略。
腾讯公司副总裁陈勇作主旨发言
腾讯公司副总裁陈勇:
帮助用户跳出同质化推送内容
微信视频号正尝试通过社交信任机制、去中心化内容分发、全场景式干预打破等方式,助力用户摆脱单一化的推送内容。根据调研结果,超过九成的用户表示愿意将视频号中发现的优质内容分享给身边的朋友和家人。依托微信的社交环境,用户得以广泛接触到来自不同领域、不同地区、不同观点的丰富多元信息。
设立特定的算法“防火墙”,以增强技术辨别功能,特别加强针对“同质化违规”行为的打击力度,从而保障用户所接收的信息更加健康且丰富多样。
重视用户的基本需求,同时亦注重如何助力公众实现健康的生活方式。为此,我们推出了视频号等产品的夜间休息提醒和助眠引导功能,旨在激励用户养成健康的网络使用习惯。不断优化未成年人专属模式及青少年特色内容库,助力青少年戒除网络依赖;迅速传播有益的辟谣资讯,开设防范诈骗等安全知识专区,助力老年人增强安全警惕;为视障、听障等有特殊需求的人群提供无障碍服务,使技术更好地服务于社会大众。
京东集团副总裁王冠之作主旨发言
京东集团副总裁王冠之:
充分保障用户的知情权与选择权
近年来,京东集团积极构建起一个多层次的保障体系,这一体系涵盖了用户隐私的维护、算法的公正性、操作的透明度以及遵守相关法规的严格性,公司正努力为消费者提供更加安全、更加可靠的数字化服务体验。
为确保算法决策的公正性,我们建立了算法合规性审查体系,对算法模型进行全方位的检测,并不断改进训练数据和决策规则。比如,在商品推荐、流量分配等环节,我们通过实时评估和调整,防止数据偏差引发的不公平现象,从而保障各个群体用户都能享有同等的权益。
除此之外,人们可以通过隐私政策、用户协议等途径了解用户信息的收集与运用细节;在享受服务期间,用户有权自行调整标签喜好、权限配置等,从而确保他们的知情权和选择权得到充分尊重与保障。
圆桌对话现场,主题为“算法综合治理的挑战与创新”。
小红书总编辑、副总裁许磊:
平衡用户的长期与短期兴趣
为了提升用户的使用感受,防止用户陷入信息封闭的圈子,小红书采用了多种指数遗忘机制,对用户当前的兴趣进行适度降低,确保兴趣的多元化,减轻用户对单一内容的过度追求,协调用户的长远与短期兴趣,进而推动社区生态的健康发展。
在小红书的权重分配中,对内容标签的重视程度体现在对互动数据的青睐,而非单纯关注阅读量。例如,收藏量被视为内容价值的重要体现,这在平台算法中享有更高的权重。此外,在功能设计上,小红书推出了“内容偏好调节”、“负反馈”以及“一键关闭个性化推荐”等功能,赋予用户调整自身使用体验的自主权。
哔哩哔哩算法安全委员会执行主席张强:
降低重复推荐比例 弱化“信息茧房”
在内容推荐方面,哔哩哔哩致力于提高页面推荐的整体质量,减少了重复推荐的频率。为此,平台特别针对“重复推荐”问题进行了深入的内容去重处理,同时优化了内容的传播路径和流量分配渠道,有效降低了重复内容的曝光率,最终实现了用户体验的显著提升。
在作者推荐方面,需对内容核心的推荐方法进行改进;在相同主题下,提升“UP主”这一维度的多样性调控手段,减少相同主题和作者之间的密集度;以此弱化“信息茧房”效应,避免内容泛娱乐化或同类型内容过度集中推送。
坚守主流价值引领,促进算法向善发展——主题分享会的圆桌讨论环节正在进行中。
知乎CTO孙斌:
构建健康算法生态
知乎作为中国一流的专业内容交流平台,自2014年起便开始运用人工智能技术来甄别信息的真实性。我们拥有一款名为“瓦力”的智能机器人,它通过AI算法来处理诸如网络水军、虚假广告等不良内容。针对网络中涌现的大量问题,我们部署了另一款名为“悟空”的机器人以提供协助。在人工智能的浪潮中,新问题不断涌现,知乎在应对这些问题的策略上也日益丰富多样。以知乎的视角来看,优质的算法环境更具备透明度,更彰显价值观念,并且能更有效地为社会提供服务。
喜马拉雅高级副总裁屠琤:
以算法向善保护声音精神家园
喜马拉雅通过六个主要板块,包括榜单介绍、上榜标准、更新指南、排序准则、内容标签解释以及管理规章,将算法的复杂规则以简洁明了的方式呈现给所有用户。以热播榜为例,它依据专辑在前一天的实际播放完成度来排列顺序,使得用户能够轻松理解。
为满足不同年龄段儿童的阅读需求,喜马拉雅在科技研发上持续发力,同时依据年龄层次对内容进行细致分类,精心挑选适合各年龄段的故事素材,以此手段优化算法,确保声音文化的纯洁与传承。
百度集团总编辑李小鸣:
成立“深度伪造安全防范专项小组”
百度在遏制AI谣言传播方面采取了多项措施:首先,通过提升人工智能的智能水平,例如采用RAG技术(检索增强的生成),这一技术显著降低了大型模型生成内容中的事实性错误,并基本消除了模型的幻觉,从而使人工智能能够在各种应用场景中得到更广泛的使用。
第二点,实施积极的管理措施,比如在百家号的后台增设了人工智能创作声明功能,该功能会提示用户,若内容系AI生成,用户可选择勾选AI创作声明,以便读者能够轻松辨别。
第三,借助技术力量,致力于研究如何运用技术方法来辨别AI生成的内容。为此,百度组建了“深度伪造安全防范专项小组”,整合AI领域中先进的深度伪造识别技术及学术领域的最新进展,构建了一套完善的技术体系,提升了识别能力,以实现对深度合成内容的更精准识别。同时,还尝试通过开发小程序的方式,将这一识别功能向更广泛的用户群体开放,以便更好地辨别AI制造的谣言。
现场嘉宾
重点互联网企业代表集体签署“算法向善”南宁宣言。
“坚持主流价值导向 推动算法向上向善”主题分享会
(光明网记者 宋雅娟 蔡琳 林佳欣)