如何避免被AI生成的错误信息欺骗

一种新兴的深度伪造视频类型基于扩散模型——这也是许多图像生成器所依赖的AI技术——能够根据文本提示生成完全由AI创造的视频片段。企业已经开始测试并推出商业版AI视频生成器，这些工具使得无需专业知识的人也能轻松制作视频。目前，这些生成的视频常常出现面部扭曲或身体动作不自然的情况。

“这些由AI生成的视频可能比图像更容易被识破，因为它们包含大量动作，AI产生的瑕疵和不合理之处也更容易被察觉，”Kamali指出。

如何识别AI机器人

由计算机控制的机器人账号在众多社交媒体和消息平台上变得越来越常见。自2022年起，越来越多的机器人开始利用GenAI技术，例如大型语言模型。这些技术使得通过成千上万的机器人轻松且低成本地生成语法正确、根据不同情境定制的AI撰写内容成为可能。

“为特定受众定制这些大型语言模型以传递特定信息已经变得更加容易，”印第安纳州圣母大学的Paul Brenner表示。

Brenner及其同事在研究中发现，即使参与者被告知他们可能在与机器人互动，他们也只能在大约42%的情况下区分出AI驱动的机器人和人类。你可以在这里测试自己的机器人识别技能。

Brenner表示，一些策略可以帮助识别技术较低的AI机器人。

判断社交媒体账号是否为AI机器人的五种方法：

• 表情符号和标签：过度使用这些元素可能是一个信号。

• 不常见的措辞、词汇选择或比喻：不寻常的措辞可能表明是AI机器人。

• 重复性和结构：机器人可能会使用重复的措辞，遵循类似或僵硬的形式，并可能过度使用某些俚语。

• 提问：提问可以揭示机器人对某个话题缺乏知识，尤其是涉及本地地点和情况时。

• 假设最坏情况：如果某个社交媒体账号不是个人联系人，且其身份没有被明确验证或认证，那么很可能是AI机器人。

如何检测语音克隆和语音深度伪造

语音克隆AI工具使得生成可以模仿几乎任何人的新语音音频变得容易。这导致了语音深度伪造骗局的兴起，这些骗局克隆了家庭成员、公司高管和政治领导人的声音。与AI生成的视频或图像相比，这些语音深度伪造更难以识别。

“语音克隆特别难以区分真假，因为没有视觉组件来帮助我们的大脑做出判断，”白帽黑客组织SocialProof Security的联合创始人Rachel Tobac说道。

识别这些AI生成的音频深度伪造尤其困难，特别是在视频和电话通话中使用时。但你可以采取一些常识性的步骤来区分真人与AI生成的声音。

识别音频是否被AI克隆或伪造的四个步骤：

• 公众人物：如果音频片段涉及一位民选官员或名人，检查他们所说的内容是否与已公开报道或分享的他们的观点和行为一致。

• 寻找不一致性：将音频片段与之前经过验证的视频或音频片段进行比较，看看他们的声音或说话方式是否有任何不一致之处。

• 尴尬的停顿：如果你在听电话或语音信箱时，发现说话者在讲话时有异常长的停顿，可能是在使用AI驱动的语音克隆技术。

• 奇怪且啰嗦：任何机械化的语音模式或异常冗长的说话方式都可能表明有人在使用语音克隆技术来模仿某人的声音，并使用大型语言模型来生成精确的措辞。

技术只会越来越先进

目前，还没有一套统一的规则可以始终区分AI生成的内容与真实人类内容。能够生成文本、图像、视频和音频的AI模型无疑将继续改进，它们通常可以快速生成看似真实的内容，而没有明显的瑕疵或错误。Rachel Tobac表示：“保持适度的怀疑意识，并意识到AI正在快速地操控和伪造图片、视频和音频——我们说的是在30秒或更短时间内完成。”这使得那些想要欺骗他人的恶意人士能够快速生成AI生成的虚假信息，并在新闻爆发后几分钟内就发布到社交媒体上。

尽管培养识别AI生成虚假信息的眼光并学会对你所读、所见、所听的内容提出更多问题是重要的，但这最终还不足以阻止伤害，识别虚假的责任也不能完全落在个人身上。Farid和其他研究人员认为，政府监管机构必须追究那些开发出大量充斥互联网的虚假AI生成内容工具的大型科技公司和由知名硅谷投资者支持的初创公司的责任。Farid表示：“技术不是中立的。科技行业向我们兜售的这一观点，即他们不需要承担像其他行业那样的责任，我完全不接受。”