大数据“杀熟”、诱导过度消费、控评影响舆论 算法监管新规 剑指种种乱象
通过大数据“杀熟”对不同群体进行差别定价，利用算法推荐服务诱导未成年人沉迷网络……算法技术在为用户带来一定程度便利的同时，也长期存在传播违法和不良信息、侵害用户权益等问题。
近日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监管总局联合发布《互联网信息服务算法推荐管理规定》（以下简称《规定》），针对这些被诟病已久的问题提出明确要求。
问题
大数据“杀熟”
规定：不得实施不合理差别待遇
同一家外卖平台，送餐时间、地点、订单完全一致，会员却比非会员付的钱更多；同时同地购买同一航班的机票，某订票平台上熟客反而收费更高……当前，越来越多的企业利用大数据分析评估消费者的个人特征用于商业营销，其中一些企业借机利用个人信息搞大数据“杀熟”，对不同群体进行差别化定价，实行“价格歧视”。
对此，《规定》提出，算法推荐服务提供者向消费者销售商品或者提供服务的，应当保护消费者公平交易的权利，不得根据消费者的偏好、交易习惯等特征，利用算法在交易价格等交易条件上实施不合理的差别待遇等违法行为。
中国信息安全研究院副院长左晓栋认为，大数据“杀熟”等顽疾归根结底是滥用用户个人信息导致的。解决这类问题，首先要在治理违法违规收集用户个人信息上下功夫，其次要保障用户的选择权、删除权等权益。例如，要向用户提供不针对其个人特征的选项，或向用户提供便捷的关闭算法推荐服务的选项，并提供选择或删除针对其个人特征的用户标签的功能。
问题
诱导用户过度消费
规定：不得设置含诱导算法模型
设置诱导用户沉迷、过度消费的算法模型，已成为备受诟病的网络消费和娱乐现象。
“有的网络游戏，你玩不过去它就给你放点水，导致你‘中毒’一样欲罢不能；有的购物网站，你反复浏览某件商品，它就显示两件八折、三件七五折这样的优惠，诱导你尽可能多地购买。”中国电子技术标准化研究院网安中心测评实验室副主任何延哲点评说。
对此，《规定》提出，算法推荐服务提供者应当定期审核、评估、验证算法机制机理、模型、数据和应用结果等，不得设置诱导用户沉迷、过度消费等违反法律法规或者违背伦理道德的算法模型。
中国政法大学数据法治研究院教授王立梅认为，算法推荐服务提供者应当坚持主流价值导向、促进算法应用向上向善的基本要求。
“《规定》提出了要防范出现此类情形，需要相关企业切实做好算法的评估工作，从算法推荐的逻辑、面向的用户群体、浏览和消费行为等多个角度出发进行综合分析。”何延哲建议，为防止算法导致的沉迷或过度消费，必要时还应引入第三方进行评价和评议，以保证评估的中立性。
问题
刷量控评影响舆论
规定：算法应遵循公开透明原则
利用算法注册虚假账号、雇佣网络“水军”，实施虚假点赞、转发等流量造假，或者鼓动“饭圈”粉丝互撕谩骂、刷量控评；屏蔽信息、过度推荐，操纵干预热搜、榜单或检索结果排序……一些算法推荐服务提供者在开展个性化推荐、热点榜单、信息发布等活动时，种种影响网络舆论的现象也长期遭到诟病。
对此，根据《规定》，算法推荐服务应遵循公开透明的原则，鼓励算法推荐服务提供者综合运用内容去重、打散干预等策略，优化规则透明度和可解释性。建立健全算法机制机理审核、科技伦理审查、用户注册、信息发布审核等管理制度，不得利用算法操纵榜单、控制热搜等干预信息呈现。
“针对微博存在的刷量、刷榜、控评等干扰、扭曲真实的用户声音和信息传播等问题，我们一直在努力整治。”微博有关负责人坦言，这些问题屡禁难绝的背后，也有真人刷榜行为比较难发现、对已形成完整产业链的相关黑灰产难以从技术上禁绝等困难的存在。
世辉律师事务所合伙人王新锐认为，规定要求网络平台以显著方式告知用户其提供算法推荐服务的情况，同时要求具有舆论属性或者社会动员能力的平台将算法相关情况予以备案，通过这种“普遍公开+部分备案”的方式来解决算法不透明带来的现实问题和普遍忧虑。
不良App损害身心健康
规定：不得利用算法传播不良信息
近年来，一些App接连被曝出传播儿童软色情表情包、利用未成年人性暗示短视频引流等问题，严重损害未成年人身心健康，影响网络传播秩序。
“网络为未成年人带来了崭新的生活方式，也产生了未成年人网络保护问题。”中国社会科学院大学副校长林维认为，未成年人存在认知、判断能力较弱，价值观尚未成型等特点，针对性过强的算法推送内容有可能引发各种不良效果，也可能导致沉迷网络现象。
对此，《规定》提出，算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息，不得利用算法推荐服务诱导未成年人沉迷网络。
此外，针对一些平台未充分考虑老年人适老化需求等问题，《规定》还要求，算法推荐服务提供者向老年人提供服务的，应当保障老年人依法享有的权益，充分考虑老年人出行、就医、消费、办事等需求，按照国家有关规定提供智能化适老服务。
据潇湘晨报、证券时报
律师解读
用户可以关闭算法推荐 对算法将从被动变为主动
“《互联网信息服务算法推荐管理规定》的出台，将使用户对算法推荐机制的接受从被动转变为主动。”上海汉盛律师事务所高级合伙人李旻律师分析说，《规定》提出用户可以关闭算法推荐。在没有算法推荐的情况下，用户未来获取信息的方式可能会回归到社交推荐；原来一屏式的信息流命中效率也会极大降低，甚至会导致信息流展现形式转变。这将对内容平台提出更高要求，或许需要重新设计产品信息流，甚至对原有的内容平台的广告收费进行相应调整，按点击量收费的模式或许不再是主流。
但他也表示，用户的大数据相当于一座矿，算法推荐就相当于24小时自动运转的挖矿机器，不停给运营商带来利润。企业必然会根据新规设置算法关闭按钮，但是关闭意味着利润的减少，企业在未来可能会通过其他模式引导用户继续开启算法推荐，具体方式仍待考究。
据财经网
新闻推荐
本报讯近日，小孙手捧一面写有“行政检察显深情，为民办事树检威”的锦旗来到市检察院，表达对检察机关心系群众、为民办事的感...