大会发言材料之八十二
民革广东省委员会的书面发言
——关于规范人脸识别应用 防范伦理与法律风险
促进人工智能产业健康发展的建议
我省当前大力发展人工智能（AI）技术，人脸识别作为重要应用，在交通、治安、疫情防控等方面成为各级政府好帮手，同时可能引发科技伦理、公共安全和法律等方面复杂多元的风险，需要引起高度重视。
一、存在问题
（一）人脸识别技术被大量使用，存在公共安全隐患。人脸识别技术已在房地产、商场、写字楼、游乐园等机构及学校、医院、车站、出租车等场所广泛使用，“黑科技”刷脸机在人们不知不觉间就采集了大量人脸识别生物信息数据。市民去售楼部咨询买房，往往就被摄像头偷拍人脸数据。部分小区物业要求业主录制刷脸信息，否则为其进出小区、使用电梯加设障碍。在商场，人脸及消费特征信息已贯穿注册、到店、跟踪、管理的会员运营管理全流程。对人脸识别的强制使用屡屡成为热点事件，市民诉杭州野生动物园的“人脸识别第一案”，消费者戴头盔看房等事件引发公众对人脸识别技术滥用的忧虑。人工智能具有广泛渗透性和技术颠覆性。人脸识别的无限制使用存在严重的公共安全隐患，一旦被用于不法领域，势必危及公众人身与财产安全。随着海量的人脸数据被收集，人脸数据或将与电话号码、身份证号一样成为不法分子违法犯罪的新手段。近期媒体曝出南宁有不法中介利用政府房地产交易管理平台漏洞，使用“邕e登”APP进行不动产转移登记，将10多套二手房在业主不知情时以其偷录的人脸识别数据“刷脸”成功过户，私自抵押套取资金1000多万元。
（二）人脸识别生物信息无节制使用引发科技伦理问题。人脸识别生物信息具有唯一性、永久性，不可替换，终身无法修改，一旦泄露即终身泄露，即便维权成功也难以恢复原状；公开外露的人脸在无感时就能被采集数据；该技术存在先天不可控性，企业安保水平与能力参差不齐，人脸照片、视频及伪造3D头套等都有可能被机器识别。目前允许任何组织单位可随意收集民众人脸数据生物信息，数据被泄露与滥用可能性急剧上升，引发严重的科技伦理问题，公民隐私权受到威胁，将极大伤害公众安全感。
（三）相关法规和管理体系不健全，行业治理框架尚未形成，不利于产业健康发展。由于法规与管理约束不足，相关开发和应用单位在信息保护、身份认证等技术上明显缺少安保主动性与责任感，一旦出现重大侵害公众隐私或公共安全事故将会导致严重社会与经济后果。业内人士透露，人脸信息泄露事故已比较普遍，犯罪分子通过非法购买个人信息制作“换脸”视频就曾突破支付宝人脸识别认证。面对人工智能迅猛发展，统筹发展和安全，建立科学的行业治理框架，相关立法与管理体系建立刻不容缓。
二、建议
确保安全底线，探索构建新型人工智能治理框架，在发展与安全上取得平衡，保障产业行稳致远。
（一）为技术应用设立行政管理职能。健全相应组织体系和工作机制，建议由公安部门统一承担人脸识别应用的审批与监管职能，设立相应审批标准及程序，加强资源统筹、部门协作、信息共享。除道路、交通工具、银行等法律规定的安防应用以外，涉及对特定及非特定对象的处所，如写字楼、商场、企业等单位及公园、学校、市场等在应用人脸识别技术前都应申报审批，公安部门依法审核其合法、正当和必要性；监控数据安全，要求以必要安保措施限于最小范围使用。
（二）切实维护个人信息主体权益，建立必要性审查。对于如小区管理等特定人群人脸识别应用，须以自愿为原则由个人信息主体进行必要性审查。物业应将其视作新增公共设施建设项目，交由业主按户数及面积2/3以上投票通过后方可申报审批，禁止非授权擅自使用人脸识别。对于如商场等非特定人群的经审批的人脸识别应用，须以显著标识告知相对人。
（三）集中整治不规范的采集与使用。对不合规安装、使用人脸识别技术的要求定期整改，依法打击非法滥用。制定集中整治计划，开展自查、主管核查、公安检查和市民举报等专项整治。同时清理电子政务平台人脸识别认证安全漏洞，不给不法分子以可乘之机。
（四）组织专项立法，完善相关法律法规。2020年12月16日中央经济工作会议提出要依法健全数字规则。《民法典》《信息安全技术 个人信息安全规范》（2020年版）国家标准及《个人信息保护法》（草案）均对处理个人生物识别信息有明确要求。省层面组织专项立法。明确界定设备及数据主管部门职责、技术标准、数据使用、管理权限、资质要求等。规范数据权属、使用、交易、共享机制，明确数据所有、使用与收益权限。明确机构对数据的权限，制定数据摄制、采集、储存、传播、使用、销毁等法定程序及数据分类管理规则。
（五）引导人工智能行业自律，完善相关标准和伦理规范。引导相关行业协会和中介组织制定人工智能产业技术标准、行业自律规范，制定伦理规则，强化保护个人隐私责任。开展宣传教育，强化企业伦理与法律培训。
