AI技术迅猛发展的当下,传统的在线身份验证方法,如验证码,正逐渐失去其区分AI机器人与真实用户的能力。最近,一些研究者提出了一种名为“人格证书”的新概念,旨在替代现行的在线“真人”验证技术。


这篇题为《人格证书:人工智能时代保护隐私的真人验证工具》的研究论文,由来自OpenAI、哈佛大学、微软、牛津大学等机构的多位作者共同撰写。论文介绍了一种新的在线身份验证工具——人格证书(Personhood Credentials,简称PHCs),这是一种数字证书,它允许用户向在线服务证明自己是真人,而无需透露任何个人信息。

“人格证书”主要针对的是由AI驱动的在线欺诈行为,例如自动化欺诈和虚假信息的传播。论文指出,尽管网络空间的匿名性是一个基本原则,但恶意行为者经常利用虚假身份进行欺诈和散布虚假信息。随着AI技术的发展,这些行为者能够扩大其操作的规模和效率,使得在保护匿名性和确保可信度之间找到平衡变得更加困难。

论文提出,人格证书可以由政府或其他受信任的组织发行,并且可以是本地的或全球性的,且不依赖于生物特征。论文强调,当前AI技术的两个趋势使得这一挑战变得更加紧迫:一是AI在网上越来越难以与人类区分;二是AI的可扩展性越来越强。论文借鉴了匿名证书和“人格证明”系统的研究历史,提出人格证书不仅可以帮助人们在网络平台上证明自己是真人,而且为服务提供商提供了一种有效减少恶意行为者滥用AI的新工具。

与现有的对抗自动化欺骗的措施(如CAPTCHA)相比,人格证书更能抵御复杂的AI攻击,同时比严格的身份证验证解决方案更加注重隐私保护。论文还探讨了人格证书的潜在好处,包括减少“木偶账户”(sockpuppets)的影响、缓解机器人攻击(bot attacks)以及验证对AI代理的合法委托。此外,论文也审视了部署风险和设计挑战,并提出了政策制定者、技术专家和标准机构的可操作下一步行动,强调了与公众协商的重要性。

最后,论文呼吁政府、技术专家和标准机构投资于人格证书系统的研发、试点和采用,并重新审视远程身份验证和认证的标准,研究主流通信平台上欺骗账户的影响和普遍性,以及建立规范和标准来管理互联网上的代理AI用户。

综上所述,论文提出了一种创新的解决方案来应对AI时代在线身份验证的挑战,强调在保护用户隐私的同时确保网络交互的可信度和安全性。与传统的身份验证方案不同,“人格证书”专注于解决AI机器人的在线身份验证问题,不会记录或绑定任何用户隐私信息。尽管人格证书在保护隐私方面具有优势,但它并不能解决互联网上普遍存在的跟踪和分析等监控行为的问题。

点赞(145)

评论列表 共有 0 条评论

暂无评论
立即
投稿
发表
评论
返回
顶部