3月1日，瑞莱智慧举办主题为“AI时代的‘面子’问题”的沟通会。近日，瑞莱智慧与清华大学人工智能研究院、清华大学智媒研究中心、国家工业信息安全发展研究中心、北京市大数据中心联合发布《深度合成十大趋势报告（2022）》（以下简称“《报告》”）并做详细介绍。
瑞莱智慧CEO田天认为，技术的不断成熟是深度合成内容迎来爆发式增长的重要原因。研究论文的持续增加、开源技术工具和大量代表性方法的涌现，令深度合成内容的效果更加逼真、制作也更加高效，尤其是生成对抗网络等算法的出现，让合成内容达到了“真假难辨”的程度。“新型伪造方法层出不穷、网络传播环境的日趋复杂，加上基于检测算法存在漏洞缺陷等，反深伪检测技术面临‘强对抗性’，需要持续更新与迭代”。
深度合成内容的治理是一项长期的工作，需要社会各方的通力协作。田天表示，瑞莱智慧希望为人工智能和深度合成技术的规范发展出力。对于深度伪造内容，相关的检测工具十分重要，瑞莱智慧研发的深度合成内容检测平台DeepReal，将协助各界、各个机构，让深度合成技术健康发展。
瑞莱智慧CEO田天
近年来，人工智能安全已成为国家政策层面重点关注的领域，国家相关的法律法规的不断完善以及各方对于算法治理、隐私保护等问题的高度关注，人工智能安全已迎来关键窗口期。未来，瑞莱智慧与各界的联系和合作会越来越紧密，共同为人工智能领域的健康发展贡献力量。
中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文
中国社会科学院哲学所研究员、科学技术哲学研究室主任段伟文表示，深度合成技术涉及到认知安全，所以我们要提升社会认知安全意识，将它作为集体责任，提升公众的数字素养，以及每个人对深度合成时代真相的认识和鉴别力，这里面有很多需要去努力的事情。人工智能企业都非常希望政府相关部门和各界积极开展有关法律伦理、治理上的对话和相关规范的制定，以及相关最佳实践的推广，这其实都是为了实现创新和治理之间的动态平衡，实施敏捷、稳健治理，同时使科技更好地服务数字化转型、数字生活。
深度伪造技术持续进化，网络数字内容多变、隐匿性强，监管难度大，因此开展主动技术防范与检测工作是必要的。会上，瑞莱智慧副总裁唐家渝讲解和演示了深度合成内容检测平台DeepReal。他表示，深度伪造技术检测工作当前面临两大难点：一是肉眼难以辨别，传统人工内容审核团队无法应对，二是深度伪造检测面临“强对抗性”，新型伪造方法层出不穷、网络传播环境复杂、深度学习检测算法模型存在结构性缺陷等。
瑞莱智慧副总裁唐家渝
唐家渝表示，除深度合成技术内容检测以外，瑞莱智慧目前也正在做相关研究，探索深度合成技术的正向应用，例如人脸替换技术，包括演员的面部替换、影视本地化配音、后期更换演员台词等等。例如虚拟IP的打造和运营，这样的虚拟资产，相比真人来说更加可控，也更加有想象空间。在谈到深度合成内容制作的发展趋势时，唐家渝认为，目前该技术集中在人脸合成范围内，未来一定会扩展到人体、环境等复杂场景下的合成。与此同时，未来相关的法律法规将更加完善，合法合规的应用边界更加清晰，会进一步促成深度合成相关产品的加速落地。
凭借在人工智能安全领域的深度探索与实践，瑞莱智慧将运用最新科技，发挥技术优势，与优秀的合作伙伴携手，为人工智能安全和企业的转型升级树立更多标杆，推动智慧城市的高质量发展，为人们带来更加美好的生活。
关键词：
责任编辑：Rex_02
