德国发布AI和数据伦理的75项建议，提出数据和算法协同治理等理念
腾讯研究院发布2019年10-11月网络法专报
作者 | 曹建峰 腾讯研究院高级研究员
熊辰 腾讯研究院法律研究中心助理研究员
《腾讯网络法专报》汇集每月全球互联网法律政策新动态，涉及范围有网络安全、人工智能、数字产业、GDRP等各方面，旨在从法律政策角度，为新兴技术带来的社会问题进行专业解读。2019年10-11月《腾讯网络法专报》涉及知识产权保护、平台责任、未成年人保护、人工智能、隐私保护、数据治理、虚拟财产等主题。
本文为精选Part1《人工智能与平台责任篇》，2019年10-11月《腾讯网络法专报》全部内容将于近期发布，敬请关注腾讯研究院公众号。
//人工智能 //
德国发布AI和数据伦理的75项建议，提出数据和算法协同治理、分级监管等理念
关键词：数据、算法、应用伦理、算法问责
2018年，德国成立了数据伦理委员会，负责为德国联邦政府制定数字社会的道德标准和具体指引。2019年10月10日，委员会发布“针对数据和算法的建议”（以下简称《建议》），旨在回答联邦围绕数据和人工智能算法提出来的系列问题并给出政策建议。[1]《建议》围绕“数据”和“算法系统”展开，包括“一般伦理与法律原则”、“数据”、“算法系统”、“欧洲路径”四部分内容。德国数据伦理委员会认为，人格尊严、自我决策、隐私、安全、民主、正义、团结、可持续发展等应被视为德国不可或缺的数字社会行为准则，这一理念也应在“数据”和“算法系统”的监管中加以贯彻。
数据治理方面，《建议》指出在一般治理标准指导下，对个人数据与非个人数据分别监管，平衡数据保护与数据利用。《建议》提出了治理的一般标准，包括数据质量应符合其用途；信息安全标准与信息风险水平相适应；以利益为导向的透明度义务（Interest-oriented transparency）。因此在数据治理中，必须建立具有预见性的责任分配机制，尊重数据主体以及参与数据生成的各方权利。总体而言，数据伦理委员会认为数据是由各方的贡献生成的，不能基于这种对数据生成的贡献来主张对数据的所有权，但是各方可享有对具体数据生成和利用的参与、共同决定等数据权利，反过来可能导致其他各方承担相应的义务，这意味着承认服务提供者对服务提供活动中产生的各类数据享有法律权益。具体而言，数据监管需要区别个人数据和非个人数据，因为不同类型的数据权利和义务是不同的。就个人数据而言，个人在多大程度上享有权利应取决于如下因素:对数据生成的贡献程度；在数据权益中个人权益所占的比重；与第三方可能存在的利益冲突；公共利益以及当事人利益的平衡。就非个人数据而言，《建议》提出在欧洲改进数据基础设施(例如平台、应用程序接口标准和示范合同等)，防止过度依赖第三方的基础设施，防止欧洲创新型公司外流。此外，《建议》还提出要建立和推广政府数据开放平台（open government data (OGD)），支持私营部门自愿的共享数据安排。同时，委员会认为非个人数据保护在推动数据开放与加强数据保护之间存在紧张关系，因此推动开放数据应审慎评估其对数据保护、商业投资的影响。当两者发生冲突时，国家应优先数据的保护。
数据驱动下，算法治理重点在于“算法监督”以及“算法责任”。委员会认为以人为本，与核心价值观相符合，系统的可持续性、稳健性和安全性，减少偏见和算法歧视等理念是算法系统设计应遵循的基本原则。以上述基本原则为基础，《建议》提出制定算法评估方案，其核心设想在于建立数字服务企业使用数据的5级风险评级制度，对不同风险类型的企业采取不同的监管措施[2]：
（1）对于具有较低潜在危害的系统例如饮料制作机，不应监管；
（2）对于具有潜在危害的系统，例如电子商务平台的动态定价机制应该放宽管制，可以采用事后控制机制，加强披露义务等来降低其潜在危险；
（3）对于具有一般或明显危害的系统，应考虑以发放许可证的方式，促使审批、监管常规化；
（4）对于具有相当潜在风险的系统，例如在信用评估方面具有准垄断地位的公司，应公布其算法细节，包括计算所参考的因素及其权重，算法所使用的数据，以及对算法模型的内在逻辑进行解释；
（5）对于自动化武器等具有潜在不合理危险的系统，则应该“完全或者部分”禁止。
对于二级以上的企业，委员会建议引入强制性标记系统（mandatory labelling scheme），要求运营商明确是否、何时以及在何种程度上使用算法系统。一旦运营商接受该强制性要求，就必须严格遵守该标记，否则其负责人需承担责任。数据伦理委员会将在“可解释人工智能”(旨在提高算法系统，特别是自主学习系统的解释能力)的框架下开展工作，包括编制和发布风险评估建议、解释数据的处理过程、衡量数据质量以及算法模型准确性的方法等。委员会认为，以上机制能成立的前提是细化GDPR第22条中自动化决策的适用范围和法律后果；并在算法规则以外引入外部保护机制，比如加强反歧视立法。此外，《建议》还就政府机构、媒介中介使用算法系统提出了具体的建议。在算法系统的责任方面，委员会建议必要时对《产品责任指令》以及其他责任法进行修订，增加针对数字产品和数字服务的侵权责任规则。最后，《建议》认为，即使是高度自主的算法系统也不能获得法律上的独立地位，经营者使用高度自主的算法技术产生的赔偿责任应当与以往辅助设备的负责人需要承担的替代赔偿责任制度相一致。
《建议》是德国数据伦理委员会设立以来的主要研究成果，为德国下一阶段数据和算法的监管提供了较为清晰的思路。鉴于数据生态系统的复杂性和动态性，《建议》在数据以及算法的监管中突出了协同治理，分级监管，多样化监管的理念。治理手段不仅包括立法和标准化建设，还包括各方利益的协调以及行业自律。此外，数据和算法技术本身也可作为治理工具发挥作用。
《建议》侧重于数据与算法的监管，其所提议的监管举措也引发了对阻碍创新的担忧。如美国数据创新中心认为，该建议将会对人工智能的发展产生寒蝉效应：“德国希望在全球数字经济的发展中更具有竞争力，但不应该以监管来代替创新。这一政策将使在德的外国企业处于不利竞争地位，以这样的方式加强欧洲的数据主权是不可取的。”[3]
德国的立法动议往往影响广泛，此次《建议》中有关数据和算法的监管思路很有可能被纳入欧盟未来的人工智能规则构建之中，并进而影响全球的数据保护政策。德国数据伦理委员会在论及欧洲未来的发展时提出，在未来的全球竞争中，面对技术和商业模式的快速更迭，捍卫数字主权（the digital sovereign-ty）不仅是一种政治上的远见，还是一种必要的道德责任外化（ expression of ethicalresponsibility）。德国乃至全欧盟成员国，应努力成为全球规则的制定者而不是接受者。[4]
AI版权保护成国际社会关注焦点，美国USPTO推进AI知识产权政策的明确化
关键词：人工智能、AI生成作品、人类干预、新型数据权利
随着人工智能（AI）持续影响内容创作、发明创造等人类智力创造领域，开始更多扮演“创作者”“发明者”等角色，国际社会已在着力应对人工智能对版权、专利、商标、商业秘密等知识产权制度的影响。8月27日，美国专利商标局（USPTO）就AI对专利制度的影响，向美国各界公开征求意见。[5]10月30日，USPTO再次发布通知，将公开征求意见的范围扩大到了AI对版权、商标及其他知识产权的影响。[6]此次公开征求意见表明美国在AI知识产权保护立场上的重大转变，因为在此前的猴子自拍案中美国法院认为，美国版权法只保护人类作者的独创性表达。美国版权局此前也明确表示，“机器或纯粹的机械程序在没有人类作者的创造性输入或干预的情况下，随机或自动运行而产生的作品”不具有可版权性。此次公开征求意见对AI创作物的知识产权保护的影响还未可知，但未来USPTO可能就AI知识产权保护问题发布指南，进一步阐明AI知识产权保护规则。在此基础上，USPTO最终可能对美国的IP法律和政策作出调整。
就此次公开征求意见而言，USPTO主要关注以下方面。一是专利方面，如何界定AI发明（包括使用AI的发明和AI开发的发明）；如何认定自然人对AI发明的贡献，如设计、调整算法，组织数据，训练算法等；开发训练用于进行发明创造的AI程序的公司是否可以获得专利权：AI发明相关的可专利性条件、披露条件、据以实施要件、本领域技术人员、现有技术等事项有何特殊变化；AI专利是否需要新形式的知识产权保护，如数据保护。
二是版权方面，最核心的问题即是AI创作物的可版权性：AI算法或程序在没有自然人参与创作情况下产生的作品是否受版权保护？如果需要自然人的输入和参与，需要贡献到何种程度才能获得版权保护？具体可能有哪些贡献，如设计开发AI算法或程序或者为设计开发做出贡献，为训练算法等目的收集、选择数据，训练AI算法或程序的公司是否可以获得版权？此外，还涉及AI的版权侵权问题，即AI算法或程序通过摄入大量的版权内容来精进其功能，是否属于合理使用？作者能否控制其作品的此种使用方式？如果AI算法或程序生产的作品侵犯了他人著作权，如何分配侵权责任？
三、商标、商业秘密、数据保护等方面，AI如何影响商标法和商业秘密法，既有的商标法和商业秘密法是否足以应对在市场中使用AI的风险？AI如何影响数据库、数据集的保护诉求？既有的法律是否足以保护此类数据？
可以看出，美国知识产权界已在全面审视人工智能对知识产权制度的影响，并寻求应对之策。除了美国之外，国际社会也在加速推进AI知识产权保护规则的建立。例如，国际知识产权保护协会（AIPPI）已于今年9月通过“关于AI生成作品版权保护的决议”，其中提出了AI生成作品获得版权保护的标准，核心即是存在人类干预（human intervention）的AI生成作品可以获得版权保护，不存在人类干预的则可获得邻接权保护。[7]12月13日，WIPO也发布了“关于人工智能与知识产权政策的文件”，就AI相关的专利、版权、数据、设计等问题向各界公开征求意见。[8]此外，欧盟、日本等也在制定人工智能相关的知识产权保护规则。
显然，在当前阶段，AI尚不能在脱离人类干预的情况下，完全独立自主地从事文学艺术创作活动。从AI算法或程序的设计开发，到相关数据的选择和输入，再到对输出结果的控制，都离不开人类的实质性参与和贡献。因此现阶段人工智能本质上仍属创作工具或手段。完全可以比照“法人作品”的规定，由设计开发AI算法或程序的公司享有著作权。更进一步，除了版权问题，数据作为AI的核心，未来是否需要针对数据创设新的权利，也需要进一步的探讨。
// 平台责任 //
欧盟法院裁定各成员国可要求Facebook在全球范围内筛选和删除非法内容，《电子商务指令》适用范围引争议
关键词：不法信息、平台监管、Facebook、《电子商务指令》
10月3日，欧盟法院（CJEU）通过了一项裁定：各成员国可要求Facebook在全球范围内筛选和删除被认定为非法的内容。该裁定源于2016年奥地利绿党议会前主席格劳琴向奥地利法院提起的一起诉讼，要求Facebook爱尔兰公司删除其平台用户发布的一条涉及其本人的诽谤性言论。奥地利法院支持了其诉讼请求，随后Facebook删除了该条内容。该案后上诉到海牙法院和奥地利维也纳高等法院，最终双方均向CJEU提起上诉。CJEU被要求裁定，针对社交网络运营商的删除命令是否也可以扩展到具有相同措辞或相似表述的内容，以及这种删除是否在全球范围内适用。由于该问题涉及对欧盟法律的解释，CJEU决定暂停诉讼程序，并分别就以下三个问题做出初步裁决：[9]
一是《欧盟电子商务指令》（Directive2000/31/EC）（下文简称《指令》）第15(1)条是否一般性地排除了所有在线中间服务者（Online Intermediaries）的主动删除非法信息义务；二是此处所指的非法信息是否不仅包括《指令》第14(1)(a)条的情形[10]，还应包括其他相似措辞的等同信息（equivalent meaning）；三是若对等同信息也同样适用，那么一旦平台知晓这些“等同信息”的存在，是否也需要采取删除等措施。
针对前两个问题，CJEU认为，不排除让Facebook等平台在全球范围内删除被法院认定为非法的内容及其等同信息。《指令》第15(1)条规定，提供管道、缓存、主机服务的网络服务提供商不需要承担主动监督信息存储和传输的一般性义务，也不需要主动收集表明违法活动的事实或情况。此条免除了特定在线服务商的主动检测与删除义务。然而本案中，CJEU认为，鉴于当下互联网信息传播速度快，覆盖范围广，各成员国应当及时决策并采取必要措施处理非法信息，减小其传播的负面影响。且《指令》在中间服务提供者责任一章中，要求在线服务商在一定情况下对网站内容承担责任的规定旨在制止任何可能的侵权行为并防止任何可能的进一步利益损害。从文义解释的角度出发，CJEU认为“任何”意味着在遵守国际法的前提下，这些措施不应当有地域范围的适用限制。
根据移交的材料，法院认为原告格劳琴所称的“等同信息”是指传达了同样的内容，但是在措辞上与被法院认定为非法信息略有不同的信息，具体而言，可包括侵权人的姓名、侵权行为的情况以及与宣布为非法内容相同的内容等要素。如上解释，为了防止任何可能的进一步损害，该强制令在内容上也必须扩大到对“等同信息”的监管。否则，此类等同信息很容易逃脱禁令的限制，当事人可能需要启动多个程序去制止这种侵害。
基于对前两个问题的判断，对于最后一个问题——一旦平台知晓这些等同信息的存在，是否也需要采取删除等措施，CJEU的答案是肯定的。同时CJEU进一步解释到，网络平台需要删除的是相对于原始内容而言基本不变的内容，因此不需要Facebook进行独立评估，只需使用自动搜索技术即可筛选。
由于《电子商务指令》规定，对于在线平台侵权责任的豁免，不影响法院对其发布特定的行为禁令，这为本案中禁令适用的扩张提供了正当性。CJEU做出上述裁定后，将就该案件的实体问题继续审理。Facebook对该裁定表示强烈的抗议，其在一份声明中表示，希望法院细化该裁定的具体适用标准，否则这一裁定不仅会加重平台义务，且由于各国在隐私保护和言论自由规则上的出入，还可能面临难以在全球范围内实施的尴尬。
欧盟《电子商务指令》已经实施20余年，重点协调各国关于在线中间服务商就第三方非法内容（包括知识产权侵权、诽谤或者误导性广告等信息）免责的条件，《指令》曾为欧洲电子商务的发展扫除了障碍，营造了较为宽松的产业发展环境。伴随商业模式的更迭以及数字技术的快速发展，欧盟认为需要采取更加严厉的内容监管措施。新一届欧盟委员会正在商议制定《数字服务法案》（The Digital Services Act），根据连任欧委会竞争专员的玛格丽特·维斯塔格在质询会上透露的信息，《数字服务法案》将针对在线内容分享平台设定新的责任，包括强制在线平台删除包含种族主义、仇恨言论等在内的非法内容，否则将面临巨额罚款。该法案如出台将会取代目前的《电子商务指令》，在打击仇恨言论和非法内容方面做出更严厉的规定。[11]从某种程度上来讲，这一系列裁决也是在为《数字服务法案》铺平道路。
无论是《电子商务指令》的再扩张，还是拟制定的《数字服务法案》，或是已经颁布的《单一数字市场版权指令》、GDPR，以及持续推进中的数字税、平台治理规则、互联网反垄断调查等，都是欧盟实施“单一数字市场战略”的重要举措。一直以来，欧盟各成员国国内立法和司法的差异阻碍欧盟的统一运作，尤其是妨碍了跨国界数字服务的发展，导致欧盟在互联网领域长期缺乏竞争力。因此欧盟希望通过立法、法律解释以及司法裁判等方式，来构建欧盟内部统一的互联网监管模式，以此促进内部数字市场的发展，并制衡美国等国际互联网产业力量。欧盟法院此次判决进一步体现了这一趋势，尤其是在涉及假新闻、仇恨言论等非法内容的治理上，欧盟频频给美国大型互联网平台施压。欧盟接下来出台的《数字服务法案》，将可能代表未来一段时间欧盟针对互联网监管的整体思路，值得密切关注。
参考资料
[1]https://www.bmjv.de/SharedDocs/Downloads/DE/Themen/Fokusthemen/Gutachten_DEK_EN.pdf?__blob=publicationFile&v=2
[2]https://algorithmwatch.org/en/germanys-data-ethics-commission-releases-75-recommendations-with-eu-wide-application-in-mind/
[3]https://www.datainnovation.org/2019/10/german-recommendations-for-ai-regulation-will-have-a-chilling-effect-on-ai-adoption/
[4]https://algorithmwatch.org/en/germanys-data-ethics-commission-releases-75-recommendations-with-eu-wide-application-in-mind/
[5]https://www.federalregister.gov/documents/2019/08/27/2019-18443/request-for-comments-on-patenting-artificial-intelligence-inventions。
[6]https://www.federalregister.gov/documents/2019/10/30/2019-23638/request-for-comments-on-intellectual-property-protection-for-artificial-intelligence-innovation。
[7]http://www.aippi.nl/nl/documents/Resolution_Copyright_in_artificially_generated_works_English.pdf
[8]https://www.wipo.int/pressroom/en/articles/2019/article_0017.html
[9]http://curia.europa.eu/juris/document/document.jsf?docid=218621&text=&dir=&doclang=EN&part=1&occ=first&mode=DOC&pageIndex=0&cid=2108884。
[10]《指令》第14(1)(a)条规定，信息存储服务提供商在对违法活动或违法信息不知情的情况下，成员国应确保服务提供者不会因此担责。
[11]https://netzpolitik.org/2019/leaked-document-eu-commission-mulls-new-law-to-regulate-online-platforms/。
--END--
腾讯网络法专报编委会
腾讯网络法专报总编辑：司晓
执行主编：张钦坤
责任编辑：曹建峰 朱开鑫 田小军
编委会：蔡雄山 杜晓宇 王融 柳雁军 彭宏洁 巴洁如 温博欣 乔婷婷
扫描上方二维码，
填写问卷，订阅网络法专报