算法＝价值观！平台不能一直躺在“避风港”中

roy899

            
. W- F! e/ W+ @            作者丨胡德莉、王文怡
            编辑丨海腰
            图源丨摄图网
            平台上出现盗版、暴力、色情等不良内容，平台有没有责任？
, A1 w* p( m+ [/ u            这个争议曾因“避风港原则”而逐渐平息，即平台无法保证数以亿计的内容都没有问题，但只要被通知，并及时采取了措施，则平台无责任。
) |* J3 U( S6 x0 S& h            但如果是平台的算法主动推荐给用户的内容出现了问题呢？
            2023年2月，美国最高法院受理了“Gozalez诉谷歌案”与“Taamneh诉推特案”，受害者家人主张互联网巨头谷歌和推特公司推送恐怖主义信息，应对惨案的发生负法律责任。
            备受争议的美国《通信规范法》第230条因充当了互联网巨头的“保护盾”受到舆论质疑，该条款为互联网平台提供了“豁免权”——即用户发布的相关内容，不应该被视作平台行为。
            在我国，随着《网络信息内容生态治理规定》《互联网信息服务算法推荐管理规定》等法律法规的颁布完善，意味着算法相关行业乱象告别野蛮生长时代，网络算法综合治理的法治体系正在积极构建，作为算法推荐服务提供者、网络服务提供者的网络平台，亦面临社会责任与商业抱负的协调共建。
            创业邦联合上海锦天城（天津）律师事务所，基于我国算法推荐技术生态治理环境，聊聊算法时代，平台面临哪些法律问题。
7 r8 @0 U* W3 D9 ]. Z            算法推荐技术是否存在价值取向
            算法推荐技术，系以用户画像、用户反馈等用户信息为依据，为用户推送个性化信息的一种信息呈现方式。《互联网信息服务算法推荐管理规定》第二条规定，应用算法推荐技术，是指利用生成合成类（例如游戏、虚拟场景、新闻发布）、个性化推送类（如广告、短视频、“大数据杀熟”场景）、排序精选类（如各类服务和资讯热度榜单、电商平台店铺排序算法）、检索过滤类（如各类公众搜索引擎、电商平台的内部搜索引擎）、调度决策类等算法技术（如网约车平台、外卖平台的订单匹配算法）向用户提供信息。
0 K/ }* R" p0 }! y4 }9 ]+ n5 _5 n            算法技术是否具有价值取向？对用户是否会产生“信息茧房”不利影响呢？
. w/ V5 x) _8 _1 V8 r' e            美国著名智库皮尤研究中心（Pew Research Center）发布《公众对计算机算法的态度》（Public Attitudes Toward Computer Algorithms）调查报告显示，有58%的美国人认为算法和其他计算机程序总是包含某种程度的人类偏见。
            2018年4月，今日头条CEO张一鸣发布公开致歉信表示，“一直以来，我们过分强调技术的作用，却没有意识到，技术必须要用社会主义核心价值观来引导，传播正能量，符合时代要求，尊重公序良俗。”同月，快手CEO宿华发表道歉信称，“社区运行用到的算法是有价值观的，因为算法的背后是人，算法的价值观就是人的价值观，算法的缺陷是价值观上的缺陷。”
            的确，算法技术是具有价值取向的。算法技术的应用创新了信息分发方式，实现了千人千面的传播效果，促进了公司利润增长，但也引发了一系列公司社会责任缺失与“信息茧房”异化问题。对于用户来说，算法技术自动屏蔽了用户自身不了解、不认同的信息，仅呈现碎片定制化的信息，最终用户在不断重复和自我证明中强化了固有偏见和喜好，愈发难以难接受异质化的信息，身处“信息茧房”而不自知。
                        
            我国的算法治理环境
* E& x. E" T% P' p$ {3 e            （一）立法层面
! I% }5 @; \5 o0 S% e6 A            2019年1月9日，中国网络视听节目服务协会制定《网络短视频内容审核标准细则》；
! X" n2 _" q2 J" |            2019年11月18日，国家互联网信息办公室、文化和旅游部、国家广播电视总局发布了《网络音视频信息服务管理规定》；
            2019年12月15日，在国家互联网信息办公室发布《网络信息内容生态治理规定》；
2 X; \5 S+ R. o: s/ c4 e5 w            2021年9月17日，为加强互联网信息服务算法综合治理，促进行业健康有序繁荣发展，国家互联网信息办公室、中央宣传部等九部委制定了《关于加强互联网信息服务算法综合治理的指导意见》；
            2021年12月31日，国家互联网信息办公室审议通过，并经工业和信息化部、公安部、国家市场监督管理总局同意后发布了《互联网信息服务算法推荐管理规定》；
+ m8 \& E- }5 n( J            2022年3月20日，中共中央办公厅。国务院办公厅发布《关于加强科技伦理治理的意见》；
, \$ i& e) E6 Q8 n            2022年9月9日，国家互联网信息办公室,工业和信息化部,国家市场监督管理总局发布《互联网弹窗信息推送服务管理规定》；
            2022年11月3日，国家互联网信息办公室审议通过，并经工业和信息化部、公安部同意，共同发布了《互联网信息服务深度合成管理规定》。
             （二）执法监管层面
            依据《互联网信息服务算法推荐管理规定》对算法推荐技术的分级分类管理、备案、安全评估、监督检查等监管要求，算法领域的监管执法日趋完备。
            2022年3月1日起，互联网信息服务算法备案系统正式上线运行。备案主体通过官网填报备案信息、查看备案状态，普通用户通过官网查询备案信息。
) `2 @9 \% E2 ^: V( I5 |; x            2022年4月8日，中央网信办发布《关于开展“清朗·2022年算法综合治理”专项行动的通知》。此次专项行动开展时间为即日起至2022年12月初，主要包括组织自查自纠、开展现场检查、督促算法备案、压实主体责任、限期问题整改等五方面工作。
            2023年01月19日，中央网信办发文《2022年全国网络执法工作持续发力增效》：2022年，全国网信系统全年累计依法约谈网站平台8608家，警告6767家，罚款处罚512家，暂停功能或更新621家，下架移动应用程序420款，会同电信主管部门取消违法网站许可或备案、关闭违法网站25233家，移送相关案件线索11229件，执法效果赫然。
                        
            网络平台注意义务的边界
            （一）红旗规则之“知道”与“应当知道”
            红旗规则最初由《美国数字千年版权法》（Digital Millennium Copyright Act，DMCA）第13条规定，即网络服务提供者意识到从中能够发现红旗招展般的明显侵权现象，如果不采取措施，就会丧失责任豁免的资格。基于红旗规则，只有特定的过于明显的侵权内容落入网络服务提供者的意识和意志范围时，网络服务提供者对侵权内容的传播才可能具有主观上的过错。《中华人民共和国民法典》第一千一百九十七条亦明确，网络服务提供者承担侵权责任的前提条件之一系“知道或者应当知道”。
( R; b$ n7 V* E& v" g            何为“知道”与“应当知道”？
( G" o5 }/ H; Y4 P# }4 p$ _            《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》第九条、第十条对“应知”的判定标准予以规定，即综合考虑网络服务提供者提供服务的性质、方式；作品的类型、知名度及侵权信息的明显程度；
            网络服务提供者是否主动对作品进行选择、编辑、修改、推荐等因素予以判断。
            另，《互联网信息服务算法推荐管理规定》第七、八、九条及《网络信息内容生态治理规定》第九条规定，算法推荐服务提供者应当落实算法安全主体责任，建立健全算法机制机理审核、科技伦理审查、信息发布审核、实时巡查等管理制度和技术措施；定期审核、评估、验证算法机制机理、模型、数据和应用结果。即在一定程度上释明了网络平台对于用户所发布信息的审核巡查义务。
$ v1 z5 q9 H$ t. v  w            （二）避风港规则之“通知一必要措施”
            “通知一必要措施”规则是避风港规则的核心。“避风港”规则最早产生于美国的司法实践，适用于版权责任， 1998年10月29日《数字千年版权法》（DMCA）正式将“避风港”规则写入到立法中。
7 f# c( S6 K2 @+ [            我国《信息网络传播权保护条例》第十四条、第十五条，《最高人民法院关于审理侵害信息网络传播权民事纠纷案件适用法律若干问题的规定》、《中华人民共和国民法典》第1195条等条款对避风港规则予以借鉴，针对网络服务提供者的行为制定了责任豁免制度。即权利人认为平台上的作品侵犯了其信息网络传播权的，可以向该网络平台提交书面通知；网络平台在接到权利人的通知书后，应当立即删除涉案侵权作品。与此同时，网络平台应当将通知书转送服务对象，或在网络平台予以公告。
/ Z% X5 ~) @! L$ ]* \" F( o, K            《网络信息内容生态治理规定》将信息划分为鼓励传播的信息（第五条）、不得传播的违法信息（第七条，如危害国家安全；歪曲英雄烈士事迹和精神；宣扬恐怖主义；煽动民族仇恨；破坏国家宗教政策等法律、行政法规禁止的其他内容）及抵制防范传播的不良信息（第八条，如使用夸张标题，内容与标题严重不符的；炒作绯闻、丑闻、劣迹等的；不当评述自然灾害、重大事故等灾难等对网络生态造成不良影响的内容），并明确了对于不同类型信息的处置方式。
9 ^( p7 t4 w; ?8 \4 B            对于前文所述“Gozalez诉谷歌案”与“Taamneh诉推特案”的社恐信息，若适用我国法律，应属《网络信息内容生态治理规定》第七条之违法信息，网络平台应当立即停止传输，采取消除等处置措施，防止信息扩散，保存有关记录，并向网信部门和有关部门报告。
0 o7 z2 ^# x6 c7 P            律师建议：从知识产权注意义务角度
            1、依据内容类型设置相应的注意力标准
2 G! I6 P& y; g- B5 C            就作品本身而言，应依据内容类型设置相应的注意力标准。对于入选国家知识产权局版权预警名单中的版权作品、热播影视剧集、具有较高话题度的内容，应当给予更高注意度。另可视情况在版权局等行政机关的协助下，建立版权保护数据库，以便于进行技术对比来防止侵权行为的发生。
            2、对于权利人发出的侵权通知进行分类处理
            对于权利人发出的侵权通知进行分类处理。将视频分类为PGC（Professional Generated Content专业生产内容）和UGC（User Generated Content用户原创内容），并对PGC内容进行重点监测。如侵权通知中涉及账号为MCN机构等专业账号，则需要针对该类专业账号上传内容进行二次筛查，避免其再次上传内容重复侵权。
4 Z; E5 S( }7 G  b            3、技术上引入过滤措施
            2019年欧盟颁布的《数字单一市场版权指令》第17条要求提供在线内容分享服务的网络服务提供者对用户传播的内容应当履行过滤义务。YouTube等平台已引入了Content ID等版权过滤技术，通过相应的反盗版技术可达到99%以上的侵权内容屏蔽。技术上引入过滤措施，亦为加强被推荐内容实质性审查的一种方式。
            （本文来源：上海锦天城（天津）律师事务所)