南财合规周报(第114期):科技伦理审查办法(试行)落地;微软成功收购动视暴雪
21世纪经济报道 记者 郑雪 北京报道
寒露已至,秋意渐浓。本周(10.07-10.14)合规领域动态频频。
数字经济与平台监管方面,科技部会同教育部等十部门联合印发《科技伦理审查办法(试行)》(以下简称《办法》)。工信领域数据安全风险评估细则公开征求意见。生成式AI服务安全基本要求公开征求意见。人事动态方面,沈竹林任国家数据局副局长。
数据安全与个人信息保护方面,App花式求借贷,其中隐私泄露、过度负债等风险暗涌。国家金融监督管理总局提示警惕利用AI新型技术实施诈骗的风险。上海某公司因数据泄露被传输境外后擅自删库,被上海网信办依法处罚。
知识产权保护方面,国务院常务会议审议通过《专利转化运用专项行动方案(2023—2025年)》。孙红雷起诉游戏公司未经同意使用“华强买瓜”声音片段,一审胜诉。
目光转向海外。微软成功收购动视暴雪。谷歌发布视频数据集SANPO。谷歌、微软发力开源。
数字经济与平台监管
1.科技部等十部门联合印发《科技伦理审查办法(试行)》
近日,科技部会同教育部、工业和信息化部、国家卫生健康委等十部门联合印发《科技伦理审查办法(试行)》(以下简称《办法》)。
《办法》要求,利用人类生物样本、个人信息数据等的科技活动等需进行科技伦理审查;从事生命科学、医学、人工智能等科技活动的单位,研究内容涉及科技伦理敏感领域的,应设立科技伦理(审查)委员会。
《办法》要求制定“需要开展伦理审查复核的科技活动清单”,并给出了清单明细:具有舆论社会动员能力和社会意识引导能力的算法模型、应用程序及系统的研发,面向存在安全、人身健康风险等场景的具有高度自主能力的自动化决策系统的研发等。
南财点评:根据《办法》的规定,纳入清单管理的科技活动将面临更加严格的科技伦理审查、动态跟踪和伦理风险防控,且未按照规定通过科技伦理审查和专家复核擅自开展纳入清单管理的科技活动的需要承担一定的法律责任。故对此类科技活动实施清单管理一方面能够明确审查重点,避免对清单范围外的科技活动进行程度不相当的惩罚,以推动审查的规范性。另一方面,能够保证审查更加透明可预期,保障主体开展科技活动的积极性。
2.工信领域数据安全风险评估细则公开征求意见
近日,工信部发布《工业和信息化领域数据安全风险评估实施细则(试行)(征求意见稿)》(以下简称《征求意见稿》),并向社会公开征求意见。
据工信部发布的起草说明介绍,该《征求意见稿》共十七条,确定了部省两级数据安全风险评估工作体系,细化了重要数据和核心数据处理者的评估义务,明确了行业主管部门监督管理评估活动的机制流程。
南财点评:在工信领域,数据资源要素存在数据量大、处理速度快、风险传导快三个主要特征。上述特征要求工信领域的数据安全管理具备智能化、敏捷性与全流程性的治理要求,本次发布的《征求意见稿》可视为在安全风险评估方面对这些要求的具体落实标准。值得关注的是,工业和信息化领域的数据体量往往较大,数据集可达PB(1024TB)乃至EB(1024PB)级别,且往往涉及研发、生产、管理、运维等多个环节的各类数据,因此其安全风险评估工作也较为复杂。
3.生成式AI服务安全基本要求公开征求意见
近日,全国信息安全标准化技术委员会组织(以下简称信安标委)组织制定的《生成式人工智能服务安全基本要求》(征求意见稿)(以下简称“征求意见稿”)公开征求意见,从语料安全、模型安全、 安全措施、安全评估等多方面对生成式人工智能服务在安全方面的基本要求。
征求意见稿提出,要对各来源语料进行安全评估,单一来源语料内容中含违法不良信息超过5%的,应将该来源加入黑名单,而进入黑名单的语料将不会用以训练。同时,明确语料来源的可追溯。对于知识产权、个人信息等使用,也进行了明确约定。
南财点评:《征求意见稿》继承了《互联网信息服务算法推荐管理规定》《生成式人工智能服务管理暂行办法》等规定中的立法逻辑,进一步明晰了AI大模型开发企业提供了内部合规的具体落地建议,具有很强的实操性。针对语料黑名单而言,还需关注如何建立具有广泛覆盖性的语料参照标准,对语料做出准确的识别和认定。
值得关注的是,征求意见稿重申个人信息保护的内容,并且针对生成式人工智能工作原理和产业现状适当扩展。这些可操作的规则能够帮助企业在不侵害个人信息权益的前提下开展业务,降低合规成本,有利于个人信息保护制度在生成式人工智能领域的落地。
4.沈竹林任国家数据局副局长
10月11日,国务院任免国家工作人员,其中任命沈竹林为国家数据局副局长。此前,沈竹林任国家发改委创新和高技术发展司(下称“高技术司”)司长。公开资料显示,沈竹林历任国家发改委高技术司副巡视员、副司长,2020年11月任高技术司党支部书记、司长,致力于“东数西算”工程建设等。
数据安全和个人信息保护
1.App花式“求借钱”套路防不胜防
“买份早饭被分了36期支付”等成为当前各类App花式“求借钱”的写照。通过对20款常用App,涵盖从外卖到购物,从出行到社交等各个品类,经实测发现,这些软件均设置了借贷功能,采取各类措施引导用户开通借贷功能。其中,有的软件还会将借贷服务入口放在明显位置。App诱导式网贷的风险在于金融信贷产品本身,有隐私风险、诱导客户盲目借款的风险,还有虚假宣传、虚假承诺、误导客户的风险。
实测发现,相关平台在诱导用户开通借款额度、使用分期付款方式时,通常对优惠信息及开通按钮作突出展示,如标红、闪动等,但未对服务费做重点说明,服务费相关规定需要点入具体的服务协议中方可查看。用户在开通借贷功能时,“同意协议”的选项往往为一键勾选或一键点击,但实际包含征信授权、信用付款、个人信息授权等多个协议,用户难以快速察觉。
南财点评:相关平台和机构应守好自身底线,做好消费者权益保护工作。相关平台和机构应为用户提供关于贷款风险的教育和资料,同时严格遵守法律法规,做好数据安全保护,避免误导性或过度的营销策略,尊重用户的选择。
对于消费者而言,首先,消费者要提高保护自身的信息安全意识,认真阅读合同条款,不随意签字授权。其次,消费者应注意保管好个人重要证件、账号密码、验证码、人脸识别等信息。此外,合法的网贷平台应该在中国人民银行备案,消费者在申请贷款的时候,可以通过中国人民银行的官方网站查询平台的备案情况。
2.国家金融监管总局:警惕利用AI新型技术实施诈骗的风险
AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务,近日,国家金融监督管理总局发布消费者权益保护风险提示,提醒广大金融消费者警惕新型诈骗手段,维护个人及家庭财产安全。
利用AI新型技术实施诈骗主要有“拟声”“换脸”两种手段,即通过模拟他人声音或形象骗取信任,进而诈骗钱财。此类诈骗手段迷惑性、隐蔽性较强,诈骗金额较高。国家金融监督管理总局提示:网络渠道“眼见”不一定为实。转账汇款务必核验对方身份。保护好照片、声音等个人信息。
3.上海某公司因数据泄露被传输境外后擅自删库,被罚
据网信上海消息,上海某科技公司相关数据库存在未授权访问漏洞,部分数据被窃并传输到境外。经调查核实,该科技公司主要从事为保险类企业提供互联网通信服务,2022年10月,公司安装配置了一台Elasticsearch数据库服务器,用于搜集多个应用系统的业务日志,并存储了包含用户姓名、身份证号码、手机号在内的大量个人信息。
上海市网信办将相关情况通报涉事企业并要求立即核查整改,但该科技公司未进行及时有效整改且擅自将涉事数据库一删了之。上海市网信办依据《数据安全法》第二十七条、第四十五条,对该科技公司作出责令改正,给予警告,并处人民币8万元罚款的行政处罚;对公司直接责任人员作出罚款人民币1万元的行政处罚。
知识产权保护
1.国常会审议通过《专利转化运用专项行动方案(2023—2025年)》
10月10日,国务院总理李强主持召开国务院常务会议,审议通过《专利转化运用专项行动方案(2023-2025年)》。会议强调,推动专利转化运用,充分挖掘专利价值,大力发展专利密集型产业,是推动高质量发展的一项战略任务。要从提升专利成果质量和加强政策激励两方面发力,更加注重从现实需求中凝练科研问题并进行攻关,建立健全有利于专利成果转化运用的制度安排和激励政策,着力打通专利转化运用的关键堵点,进一步优化市场服务、培育良好生态,加快创新成果向现实生产力转化。
2.全国首例影视剧台词声音权纠纷案当庭宣判
10月13日,成都互联网法庭对审理的全国首例影视剧台词声音权纠纷案当庭宣判。
演员孙红雷认为《西瓜摊主大战买瓜人》游戏软件未经同意,以营利为目的开发、设计该款游戏,客观上构成对其声音权益的侵犯。另外,该款游戏中自己的人格元素被塑造成了在社会上打架、寻衅滋事的坏人形象,其人格尊严未被尊重,客观上构成对其一般人格权的侵犯。故对成都睡神飞科技有限公司、北京睡神飞科技有限公司提起诉讼。
成都互联网法庭经审理认为,自然人的声音和肖像作为标表自然人的人格标志,具有人格权属性。二被告未经孙红雷本人同意,也未取得孙红雷许可使用的影视作品著作权人授权同意,在开发、制作、运营的游戏中使用其声音,构成声音权益侵权。
但游戏中人物形象设计来源于影视作品角色设定,在游戏制作中未明显偏离原剧设定。在客观表现上案涉游戏角色指向的是影视剧人物,一般公众的理性认知并未将反派形象的游戏角色识别为孙红雷本人的社会认识和评价,基于识别指向关系的中断,不构成一般人格权侵权。法院判决二被告向原告赔礼道歉并赔偿原告经济损失3万元。
海外动态
1.微软成功收购动视暴雪
当地时间10月13日,在英国市场与竞争管理局(以下简称CMA)宣布批准微软与动视暴雪的交易后,根据微软官方披露的文件,公司完成了对动视暴雪总价约687亿美元(约合人民币5018.9亿元)的收购,动视暴雪正式成为了微软的全资子公司。
此外,随着这笔交易的完成,微软已超越了任天堂,成为收入仅次于腾讯和索尼的世界第三大游戏公司。
由于交易金额巨大,且牵涉多国利益方,微软与动视暴雪双方一直都在为推动这笔天价交易的最终成交奔走与疏通。如何说服CMA为这笔交易放行成为了微软最为头疼的问题。
最终,微软选择在云游戏业务模块进行退让,承诺其不会购买动视暴雪的云游戏版权(包括新游戏),而是会在收购正式完成前,将其出售给独立的第三方游戏公司育碧(Ubisoft)。同时,育碧可以向所有消费者和云游戏服务供应商直接提供动视暴雪旗下产品的云游戏版本。
2.谷歌发布视频数据集SANPO
Google AI发布了一个名为SANPO的数据集。这个多属性视频数据集包括真实世界数据和合成数据,支持各种密集预测任务。发布公告中指出,数据集将在未来用以帮助开发视觉导航系统,帮助视力受损者,并推动视觉场景理解领域的发展。
此次发布的数据集SANPO包括真实数据(SANPO-Real)和合成数据(SANPO-Synthetic)。其中,真实数据集包含701个会话,使用两个立体摄像机录制,总计11.4小时的视频。而合成数据集SANPO-Synthetic则包含使用虚拟化 Zed 摄像机记录的 1961 个会话,所有会话都具有精确的相机姿势轨迹、密集像素精确深度图和时间一致的全景分割掩模以模拟真实场景。
3.谷歌、微软发力开源
近日,谷歌旗下的DeepMind在官网发布了Open X-Embodiment 数据集和 RT-X 模型;微软则与开源模型库公司Hugging Face达成深度技术合作,扩大了ONNX Runtime的支持范围。
谷歌旗下的DeepMind在官网发布了Open X-Embodiment 数据集和 RT-X 模型。据了解,Open X-Embodiment 数据集是迄今为止最大的开源真实机器人数据集,通过汇集 60 个现有机器人数据集构建而成。
微软已与Hugging Face达成深度技术合作,扩大了ONNX Runtime的支持范围,支持90多种架构的大模型,包括Llama、(类ChatGPT大语言模型)、Stable-Diffusion(扩散模型)、BERT、T5、RoBERTa等,当下最流行的11种大模型。
标签:
