当前位置:首页 > 数字基础设施 > 网络与信息安全

给算法套上“紧箍咒”——国家网信办近日公布互联网信息服务算法备案信息

2022-09-16 17:10     来源:人民日报海外版
【字体: 打印

点开购物软件搜索某样商品,相关产品就会在首页推荐频频出现;刷一会儿短视频,平台便会接连推送同类视频……在移动互联网时代,算法让人们获取信息变得更容易,却也引发了“信息茧房”等问题。

日前,国家网信办公布互联网信息服务算法备案信息,对微博、手机淘宝、微信等应用产品的共30种算法进行备案。专家认为,此举旨在将算法机制公开透明化,让其更好、更健康地服务于用户。

警觉算法“钳制”

95后赵阳是某短视频平台的资深用户,常常通过观看短视频获取信息、消遣娱乐,“算法能清楚‘记住’我的喜好。比如在短视频平台上搜索‘萌宠’,再打开软件时首页就会推荐很多萌宠类视频,帮我省去了过滤信息的时间。”

伴随大数据、人工智能等技术的广泛应用,用户的行为习惯也作为“数据”被记录下来,借由个性化推荐算法,用户偏好的资讯内容、娱乐信息得以精准推送。然而,算法“过滤”在降低人们获取信息成本的同时,也造成了“信息茧房”“大数据杀熟”等问题。

“总算关掉了!”北京市民李先生最近参照网络上的相关攻略,关闭了手机里多款应用程序的“个性化推荐”服务选项,“我之前在一个社交软件上评论过喜欢某款车型,紧接着就收到手机里各种平台关于该车型的资讯、广告,被算法‘算计’真不舒服。”

中国人民大学新闻学院教授彭兰认为,算法可以看作用计算机程序实现、基于数据分析、面向特定目标的一套指令或方案。与人们生活紧密相关的算法包括个性化推荐算法、决策算法,也有各种平台的算法、各种管理目标下的治理算法等。但个体在享受算法带来便利的同时是否会受到算法的“钳制”,仍需思考和警觉。

加强规范是关键

为了抵御算法服务可能带来的不利影响,相关法律法规纷纷“亮剑”,给算法念起“紧箍咒”。

去年12月,国家网信办、工业和信息化部、公安部、国家市场监管总局联合公布《互联网信息服务算法推荐管理规定》,对算法推荐服务提供者的信息服务规范、用户权益保护等作了规定。

“算法应用日益普及深化,在给经济社会发展等方面注入新动能的同时,算法歧视、‘大数据杀熟’、诱导沉迷等算法不合理应用导致的问题也深刻影响着正常的传播秩序、市场秩序和社会秩序,给维护意识形态安全、社会公平公正和网民合法权益带来挑战。”国家网信办有关负责人说,迫切需要对算法推荐服务建章立制、加强规范,着力提升防范化解算法推荐安全风险的能力,促进算法相关行业健康有序发展。

值得注意的是,上述规定对“算法备案”提出了明确要求:具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。这意味着算法运行机制将公开透明地向用户呈现,帮助用户更清楚地认知相关平台算法服务应用情况,进而规避算法服务可能带来的风险。

打开算法“黑箱”

今年3月,互联网信息服务算法备案系统正式上线。通过该系统,用户可以清楚查询到各备案平台的算法原理和运行机制、应用场景等信息。

算法备案到底“备”了哪些信息?根据国家网信办8月12日公开发布的互联网信息服务算法备案信息,腾讯、百度、抖音、淘宝、美团等各大互联网平台共公示了30条备案;算法类别包括个性化推送类、检索过滤类、排序精选类、调度决策类、生成合成类。其中个性化推送类占比最多,共有18个备案。

以短视频平台抖音为例,记者查询互联网信息服务算法备案系统发现,抖音拟公示的算法机制机理内容包括算法基本原理、运行机制、应用场景、目的意图等。平台主动申明自身为避免算法技术产生不利影响所做的尝试。比如抖音的备案信息中提到,为了避免“信息茧房”,抖音个性化推荐算法专门设计了“兴趣探索”机制。一方面每次推荐都会选择用户过去不常观看的内容类目进行一定比例的推荐;另一方面每次获取推荐内容的过程中会特别增加一条随机内容来保障用户可见内容的多样性。

复旦大学新闻学院教授张志安认为,算法原理备案公开是压实平台责任、保障用户权益的重要一步。不过,用户对算法推荐可能带来的负面影响虽心存担忧,却未必真的关注算法“暗箱”的技术原理。打开算法“黑箱”还需多方共同努力。

专家建议,未来仍需加强政府部门对算法治理的监管作用,推动平台积极落实算法治理责任。同时,引导更多人关注算法问题,让算法服务真正实现趋利避害。

文件下载:

关联文件: