近日，一款人工智能（以下简称AI）写真小程序“妙鸭相机”在许多年轻人朋友圈迅速走红。用户在平台限定时间内花费9.9元，上传21张照片就能生成并拥有属于自己的AI写真。有用户体验后发现，该生成式人工智能服务获取个人写真便捷、美观大方，能够在很大程度上生成符合用户审美的写真。 　　 　　实际上，“妙鸭相机”生成AI写真已不是什么新鲜事了。近年来，有不少公司开发的应用程序都推出了类似“AI生成”图片的功能，生成式人工智能技术不断进步提升了用户接受服务时的真切体验感，极大满足了用户获取并使用照片的现实需求。但不可忽视的是，生成式人工智能服务引发的数据安全隐患与信息隐私风险，可能成为悬在用户头上的“达摩克利斯之剑”。 　　 　　生成式人工智能写真服务可能引发的安全风险 　　 　　类似“妙鸭相机”的AI合成应用程序的工作原理在于结合深度学习与计算机视觉技术，获得人脸数据的基本特征，并通过计算机视觉技术进行人脸数据基本特征提取。它的基本工作流程是，AI合成应用程序通过生成式人工智能模型学习用户上传照片的特征，并关联既有数据库所涉海量写真素材。用户付费购买有关生成式人工智能写真服务后，AI合成应用程序利用技术快速获得相应写真照片。可见，生成式人工智能写真服务引发的数据安全与信息隐私风险主要有三个方面。 　　 　　生成式人工智能写真服务可能存在人脸数据过度收集风险。人脸数据作为重要的敏感个人信息，对它的处理应符合必要、最小化等法律原则，避免过度收集。原则上，处理人脸数据需要经过严格的个人明确有效的授权同意，只有符合个人信息保护法中所涉条款的特定事由，并遵从个人信息处理的基本原则，才可进行审慎处理。如果上传较多数量的照片用于数字身份制作，则存在过度收集人脸数据的风险。 　　 　　生成式人工智能写真服务可能存在人脸数据不当留存风险。人脸数据上传互联网后，如果不能严格限定它的用途，并积极采取技术举措实现用途限定，可能会带来诸多应用风险。用户上传于平台的人脸数据留存的目的只能是用于个人数字身份制作，不应用于其他识别与比对等，且根据个人信息保护法有关个人信息删除权的规定，相关人脸数据应及时删除。 　　 　　生成式人工智能写真服务可能存在人脸数据模型训练失范风险。生成式人工智能服务的一个重要特征是通过语言模型进行数据训练处理活动，这一处理活动得以开展的前提是使用大量数据与基础模型。生成式人工智能服务提供者，如果未经信息主体同意或者有未符合法律、行政法规规定的其他情形，就不可避免引发人脸数据模型训练失范风险。 　　 　　推动生成式人工智能写真服务提供者切实有效履行个人信息保护义务的路径 　　 　　为积极落实《中华人民共和国民法典》《中华人民共和国个人信息保护法》《中华人民共和国数据安全法》《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》）等法律法规规章中有关个人信息保护义务规定，建议不断提升生成式人工智能服务质量，推动生成式人工智能提供者切实有效履行个人信息保护义务。 　　 　　生成式人工智能写真服务提供者需建立全生命周期个人信息保护的算法保障机制。在个人信息的收集、储存、训练使用、删除等阶段，算法保障机制需要符合以下两大要求：首先，透明度要求。生成式人工智能服务提供者应告知使用者有关个人信息使用规则及情况，优化隐私政策告知同意的可读性与有效性，强化个人信息处理特定事项的信息披露机制，将算法原理通俗地融入个人信息处理场景，不断契合用户隐私期待。其次，个人信息处理重大事项的通知、提醒、阻止、报告等要求。算法保障机制还要具有敏捷治理的特征。生成式人工智能服务提供者在提供某项服务中，可能由于用户实际需求和自身创新服务等原因，调整甚至改变部分服务内容，如果起初隐私政策没有及时约定相应情形，算法保障机制就需要采取灵活、可感和有效的方式，及时通知、提醒用户，积极阻止某项中高风险个人信息处理活动，并主动向有关主管部门报告相应情况。 　　 　　生成式人工智能写真服务提供者需探索行之有效的个人信息权利行使处理机制。《暂行办法》第十一条规定，生成式人工智能服务提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求；第十五条规定，生成式人工智能服务提供者应当建立健全投诉、举报机制，设置便捷的投诉、举报入口，公布处理流程和反馈时限，及时受理、处理公众投诉举报并反馈处理结果。《个人信息保护法》第五十条规定，个人信息处理者应当建立便捷的个人行使权利的申请受理和处理机制。拒绝个人行使权利的请求的，应当说明理由。具体而言，生成式人工智能服务提供者亟待在以下两点有所作为：第一，设置醒目且有效的申请受理渠道。例如，单独设置页面、窗口（包括常设弹窗）、链接或者端口对个人信息权利行使的步骤说明、受理时间、反馈情况等进行明确展示，并有专门团队或人员进行处理。第二，拒绝个人行使权利的，要提高说明理由的可信度。该问题较常见地发生于缺少明确可操作的个人信息处理规则，生成式人工智能服务提供者在研发新服务“合理使用”个人信息以创建合成训练数据集时，需要提高训练数据质量。例如，在生成式人工智能金融服务领域，生成式人工智能服务提供者大量收集并训练个人信息，用于有效创建合成的训练数据集，提高金融违法犯罪识别模型的及时性与准确性，以保障金融服务的安全与质量。对此，生成式人工智能服务提供者需要说明生成式人工智能金融服务发展与安全的关系，并强调已采取有效技术措施防范个人信息处理可能存在的风险。 　　 　　生成式人工智能写真服务提供者需在个人信息保护执法活动中完善数据报送机制。《个人信息保护法》第六十三条对个人信息保护行政调查中当事人协助、配合义务进行了明确规定。《数据安全法》第三十五条强调，国家机关有权依法调取数据。笔者认为，生成式人工智能服务提供者履行个人信息保护义务，还需建立个人信息保护执法活动中的数据报送机制。一方面，生成式人工智能服务提供者建立的数据报送机制要与行政部门执法权的行使相适应，及时、真实、有效报送相关数据，妥善解决个人信息权益纠纷；另一方面，进一步细化涉及刑事案件的数据报送机制。它既不能因协助司法执法义务的强制性而过度加重生成式人工智能服务提供者的义务负担，也不能忽视协助执法义务具有的维护个人信息安全的现实功效。因此，如何通过数据报送避免法律义务冲突，平衡个人信息有序使用与个人信息安全保障，这是生成式人工智能服务提供者建立数据报送机制必须考虑的问题。笔者认为，对数据报送的范围、程序及条件进行分类分级式梳理与限定。例如，生成式人工智能服务提供者在先期个人信息处理刑事合规方案中，可以区分不同类型个人信息以适配相应的数据报送要求，作出不同场景下数据报送的类型化限定，并按照刑事侦查的要求作敏捷性、适应性调整。 　　 　　（作者单位：南京师范大学中国法治现代化研究院）伊志律师事务所位于北京市朝阳区朝外大街乙6号朝外SOHO-C座1209，优越的地理位置，便利的交通条件，安静、专业的办公环境为需求提供方便。 电话：010-84493343 微信：18401228075 电话：18401228075