还记得那张在网上疯传的教皇方济各身穿白色羽绒夹克、头戴宝石十字架的照片吗？他看上去就像刚从街头时装秀走出来一样。我们以前也见过深度伪造，但很少有像它这样有影响力的。现在，谷歌发布了一款工具，以防止此类图片不受控制地传播。
SynthID 简介：其工作原理
谷歌收购的人工智能研究实验室 DeepMind 最近宣布推出 合成ID，一种专门用于识别人工智能生成的图像的水印工具。
DeepMind 团队表示：“能够识别人工智能生成的内容对于让人们了解他们何时与生成的媒体进行交互以及帮助防止错误信息的传播至关重要。”与依赖可见水印或元数据的传统水印技术不同，DeepMind 将数字水印直接嵌入图像的像素中，因为这些水印可能会丢失。这意味着即使通过裁剪、调整大小、滤镜或亮度调整更改了图像，水印仍然完好无损。虽然人眼无法检测到它，但检测软件可以识别它。
关于这项技术，目前还没有透露太多信息。首席执行官 Demis Hassabis 向 The Verge 解释道：“你越是透露它的工作原理，黑客和邪恶实体就越容易绕过它。” SynthID 目前处于测试阶段，可供使用 Google Cloud 产品 Imagen 的用户使用。 顶点AI，一个基于云的机器学习平台。客户可以负责任地创建、共享和识别人工智能生成的图像。然而，哈萨比斯指出，这项技术并不能完全抵御“极端图像处理”，但它是朝着正确方向迈出的一步。
SynthID 的下一步是什么？
DeepMind 团队正在努力扩大 SynthID 的访问权限，旨在将其提供给第三方并将其集成到更多 Google 产品中。这一声明是在 Google 和六位顶级 AI 参与者参加白宫峰会后不久发布的，他们在峰会上承诺投资 AI 安全工具和负责任使用的研究。白宫要求采用新的水印技术作为 AI 公司赢得公众信任的一种手段。根据 一触即发，该软件可能会扩展到音频和视频内容。
此次峰会是政府持续打击深度伪造行为的一部分。2021 年，国土安全部和政府事务委员会通过了 Deepfake 特别工作组法案。从好的方面看，深度伪造技术可以让教皇以幽默的方式打扮得更时尚。从坏的方面看，它们可能会导致政治不稳定、欺诈和股票操纵。
2021 年，Adobe 与他人共同创立了非营利组织 内容来源与真实性联盟 (C2PA) 标准化媒体内容标签并打击虚假信息。它们充当着认可印章，向消费者表明资产没有被操纵。由于人工智能的蓬勃发展，C2PA 的会员人数在过去六个月中增长了 56%，正如 科技创业2月下旬，Shutterstock宣布将把CXNUMXPA的技术协议整合到其AI系统和创意工具中，包括AI图像生成器。
外卖
随着政府压力的不断加大，大大小小的人工智能公司都必须优先考虑负责任的人工智能工作。无论您是使用还是创建人工智能工具，未来都会面临更多的监管。
