找回密码
 立即注册

242

主题

0

好友

748

积分

高级会员

发表于 2021-3-29 12:28:50 |显示全部楼层


央视 "3 · 15" 晚会将人脸识别的商场应用推向了风口浪尖。近日,张家港市场监管局通报称,发现辖区内一家名创优品门店装有 "3 · 15" 晚会曝光的非法采集顾客人脸信息的 " 万店掌 " 监控。执法人员发现,店长手机 APP 中的人脸识别功能仍在使用。3 月 22 日,名创优品工作人员表示,将第一时间整改下架人脸识别监控系统。
如何看待人脸识别在商场、小区等场所应用引发的争议?在数字化转型过程中,如何保持隐私保护与产业发展的平衡?近日举行的上海交通大学计算法学与 AI 伦理研究中心研讨会上,解放日报 · 上观新闻记者采访了学术界、政府智库和产业界的三位专家。
人脸识别监管可采取备案制
上海交通大学中国法与社会研究院院长季卫东、上海市科学学研究所科技与社会研究室主任王迎春指出,人脸属于生物识别信息,具有不可篡改性,在信息采集、传输、存储等管理链上的任何一个环节出现问题,造成的社会危害往往很难逆转。而且与指纹、虹膜等生物识别信息不同,人脸识别是无感采集,就像 "3 · 15" 晚会曝光的场景那样,顾客在不知情的情况下就被采集了人脸。随后," 万店掌 " 能识别顾客的性别和年龄段,并根据人脸数据比对,将顾客打上 " 新顾客第一次到店 "" 熟客,第 11 次到店 "" 会员 " 等标签。" 人脸信息的采集必须遵循知情同意原则,所以商场将人脸识别用于精准营销,是非法采集行为。" 季卫东教授说。
如果被采集者知情并同意,企业是否就不受约束了呢?绝非如此。两位专家表示,人脸数据的传输、储存、运用等环节如果出现信息泄露等问题,潜在的社会危害会很大,如引发利用人脸数据伪造证件的新型犯罪。
对此,王迎春建议国家和地方政府采取人脸识别备案制,并尽早发布人脸数据管理平台标准。" 生物医药领域的临床试验采取备案制,一旦出现问题,政府就能追溯调查。对于人脸识别的商业应用,我们也可采取备案制这种监管模式。" 王迎春解释说。
人脸数据管理平台标准对政府监管也很重要,有了国家、行业或地方标准,就能更科学、严格地评估数据库和云平台的安全性,企业必须达标,才能获得储存人脸数据的资质。" 在人脸识别监管方面,上海可先行探索,比如参照医疗大数据由申康中心管理的做法,将大多数企业采集的人脸数据交由一个可信平台进行统一管理。"


在季卫东看来,上海可在成立市大数据中心的基础上建设 " 数据银行 "。这是一类构建在高速分布式存储网络上的数据中心,作为中立的信托结构,对各类数据进行脱敏和存储。" 个人可以将自己的数据存到‘数据银行’,银行支付给个人利息,并将脱敏数据提供给企业有偿使用。" 建设 " 数据银行 ",有利于在确保数据安全可信的情况下,实现数字经济的利益分配公平,让数据所有人获得经济回报。
企业自律应遵循三个原则
除了加强政府监管,企业自律对人脸识别的安全应用也很重要。商汤科技智能产业研究院院长、上海交通大学计算法学与 AI 伦理研究中心联袂主任田丰认为,人工智能企业应遵循 " 透明、负责、友好 " 三个原则。" 透明,就是要充分保证人脸信息被采集者的知情权,采集前必须获得授权,采集后应有健全的保护机制,防止数据泄露。" 田丰解释," 负责,是指产品开发的所有步骤必须可靠、可追溯,还要有风险防范措施。友好,指人工智能的算法、应用开发和使用都是善意的,把满足人民对美好生活的向往作为科技创新的落脚点。"
企业的健康发展也离不开政府的科学管理。田丰建议政府对数据实施分级分类管理,对生物特征、个人医疗健康等隐私性很强的数据严加保护;对与个人隐私关联度较低的产业数据,可在脱敏后有条件地开放,释放其产业创新价值。
" 在人脸识别应用的一些争议问题上,可由第三方机构开展用户调研,了解公众对各种人脸识别应用场景的具体需求,以及支持、反对比例。" 田丰说。例如在小区门禁使用人脸识别这个问题上,居民的态度到底如何?可开展调研。


在邯郸一个小区,居民通过人脸识别经过出入口。新华社发
相关法律制定要保持平衡
季卫东的观点与田丰有些相仿。他认为,在相关法律制定上,要防止数据权利和隐私保护措施的过激化、僵硬化。" 这方面的法律制定应保持规制与产业发展的平衡,并划出清晰的伦理底线和法律底线。" 个人信息保护固然重要,但也要兼顾大数据、人工智能、互联网等产业的发展。" 现在是人工智能的寒武纪,新的智能物种在大量涌现。为了新兴产业发展,我们要‘硬法’和‘软法’结合,在严格遵守法律原则和规则的基础上,因势利导、综合治理,促使企业加强内部管理和伦理培训。"
据了解,全国人大法工委去年 10 月公开就《中华人民共和国个人信息保护法(草案)》征求意见。草案对处理包括人脸等生物特征在内的敏感个人信息作出规定:只有在具有特定目的和充分必要性的前提下,方可处理敏感个人信息,并要求 " 向个人告知处理敏感个人信息的必要性以及对个人的影响 "。


" 以人为本的数字化转型应遵循三个原则:效率、温度、舒适。" 王迎春说," 在追求创新效率的同时,政府和企业要考虑老年人、残疾人等弱势群体的体验,让数字化转型有温度。还要考虑转型的舒适度,防止人脸识别等技术对个人隐私的侵犯。" 在他看来,温度、舒适与效率并不矛盾,可信安全人工智能孕育着巨大的蓝海市场,有待广大企业开发以人为本的技术解决方案。
栏目主编:黄海华 本文作者:俞陶然 文字编辑:俞陶然 题图来源:图虫 图片编辑:曹立媛

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有帐号?立即注册

x
回复

使用道具 举报

您需要登录后才可以回帖 登录 | 立即注册




返回顶部
友情链接