哈佛商业评论

近来人工智能（AI）的发展，预示着今后伪造文档、图像、录音、视频和网络身份会变得空前地简单。AI会让高精度造假成本低廉，且可由机器完成，可能为民主政体、安全保障和社会带来灾难性的后果。我是一名AI科研人员，现在要敲响警钟，并提出部分解决方案。

二月是AI造假的分水岭。OpenAI研究机构宣布其开发的AI文本生成器GPT-2生成的文本太过逼真，他们认为过于危险，担心被用作不当用途，因此不公开发布。GPT-2生成的文本范例十分接近人类写出的文本。然而即使科研机构决定不发布GPT-2，之后也一定会有居心叵测的人写出更强力的造假工具并图谋不轨。

机器造假在社交媒体上广泛存在，我们已在2016年美国大选时目睹过。据《华盛顿邮报》报道，2016年大选前几个月，Twitter发现了几万个与俄罗斯有关的自动注册账号。Facebook估计，自2015年1月至2017年8月，拥有选举权的2.5亿美国人里约有一半可能接触由俄罗斯暗中操作机器账号散布的假新闻。

我呼吁立法规定机器账号必须标明不是人类用户。加利福尼亚州政府推出了相应的法律，将于2019年7月生效。这一步很重要，然而在全球数字世界里，立法的实际影响力是有限的。

问题远不止机器账号。被篡改的图像比比皆是，前不久图像处理技术的进步已经让视频造假足可乱真。研究者利用AI，仅凭一段音频就合成了美国前总统奥巴马的视频，用来展示这项新功能。还有“深度造假”，AI可将两张脸拼合在一起，为目标对象生成新的面部表情，效果逼真得可怕。这种换脸技术可以轻松实现，已在色情制品中运用，许多名人的脸被放进色情视频。一个在网络上疯传的奥巴马警告大家注意深度造假的视频，本身就是造假。

判断信息真伪时一般会考虑其来源，然而事实证明，网页、邮箱地址乃至电话都可以轻松造假。一次我的电话响了，我一看来电显示，发现好像是我自己给自己打了个电话。“在网络上，没有人知道你是一条狗”，这句谚语说明你无法确定从邮件、社交媒体乃至电话收到的多数信息的作者或来源。这种“网络失明”正是网络钓鱼攻击的基础。网络钓鱼是指对方假冒可信任的来源，引诱你泄露密码、信用卡卡号等私密信息。现今自动生成的钓鱼邮件可以被轻松标记为诈骗，但AI会改变这种现状。

以往社会依靠签章确保本人授权。五千年前苏美尔人在泥板文书上用签章和复杂的印鉴表明自己的身份。随着读写能力的普及，画押、图章和印鉴逐渐演进为手写文字，历史上一直有关于签名文档的记录。

在网络上，我们依靠数字签名。数字签名是一种基于加密技术的计算机方法，确保信息在经过签名后不被篡改。DocuSign等服务用数字签名认证合同。网站之间流动的自动生成信息也可以使用数字签名验证，但数字签名并未广泛用于验证电子邮件、社交媒体发布内容、图像和视频等内容的作者身份。

AI造假的阴影，让我们必须采取行动，普及数字签名，作为验证数字内容的手段。首先，我们要认证签名，这一步可以由中央权威机构或加密技术、区块链等更民主的计算机方法完成。其次，我们要让签名和验证签名的过程尽量无缝衔接。电子邮箱软件、文字处理器和智能手机摄像头等各种数字内容产品都应当预设签名。网络浏览器、社交媒体应用和其他媒体阅读软件必须鲜明标注当前内容是否有签名认证，以及签名者的身份。最后，也许是最难的一步，我们要传播一种认知：没有签名的一切内容都可能是伪造。我们不接受没有签名的支票，对电子内容也应该有这种意识。

当然，我们希望保留匿名选项，不要让数字签名成为打压异议者、阻拦揭发者的工具。而且我们还希望允许使用化名，让作者自行选择是否隐藏身份，但仍然保有个人或组织认证。

数字签名无法阻止机器账号伪装成普通用户，但可以阻止机器冒充你，冒名发布虚假内容。目前已有支持可靠数字签名的计算机方法，但无缝衔接的程度还不足以普遍应用。趁现在还来得及，我们要迅速推广普及“无需点击”就带有数字签名的邮件、社交媒体内容、文档、图像、视频乃至电话。

奥伦·埃齐奥尼是艾伦人工智能研究所（Allen Institute for Artificial Intelligence）CEO，华盛顿大学计算机科学系教授，Madrona Venture Group投资合伙人。