AI的回报何时会超过其风险？

该数据库囊括了超过700种人工智能（AI）相关的风险，揭示了AI系统所面临的风险（51%）超过了人为风险（34%），并且这些风险更倾向于在AI部署后显现（65%），而非在开发阶段（10%）。即便如此，即便是最全面的AI框架也未能涵盖数据库中约30%的风险

最常被提及的风险领域包括：

• “AI系统的安全性、故障和局限性”（76%）

• “社会经济和环境危害”（73%）

• “歧视和有害影响”（71%）

此外，MIT数据库还提到了其他风险，如“隐私和安全”（68%）以及“恶意行为者和滥用”（68%），而“人机交互”（41%）和“错误信息”（44%）的关注度相对较低。

这些基准风险有助于更深入地理解AI在商业领域中风险与收益之间的平衡，但关键问题在于如何准确判断收益何时超过了风险。行业专家认为，我们尚未达到这一临界点。

Fordham大学Gabelli商学院的教授W. Raghupathi指出，引入新技术对任何企业而言都是一项重大挑战，尤其是复杂的AI技术。规模、复杂性以及实施和部署的难度、升级、支持等方面都是技术相关的问题。此外，隐私、安全、信任、用户和客户接受度也是关键挑战。缺乏有效的成本衡量模型，使得挑战更加严峻。

另一个挑战是AI的采用速度极快，甚至在任何已知和不可预见的风险浮现之前。“我们需要迅速行动，并更快地思考，回答如何展示AI给企业带来的价值，以及这是否值得冒险的问题，”LogicGate的产品和技术总裁Jay Jamison表示，“有许多AI解决方案可能能够提高效率，但它们应如何与法规指南、安全风险和额外的治理需求等因素进行权衡？”

Raghupathi指出，目前判断AI的收益是否超过风险可能还为时过早。“应用程序的部署与其对业务的影响之间存在滞后。像低级自动化这样的特定应用程序取得了成功，但支持战略的高级应用程序尚未转化为实质性利益。”

他还提到，评估复杂应用程序与简单自动化任务的影响和收益可能需要数年时间，因为我们还没有评估这些好处的基准或定量模型。

尽管AI目前受到业界的广泛关注，但这种热度将不可避免地随着新技术和新方法的出现而减退。随着AI热潮的消退，企业将更加审慎地评估其风险与收益。

Jamison指出，随着技术变得更加强大，AI将消耗更多的能源，成本将不可避免地上升。“目前，AI既具有很高的价值又相对廉价，使许多企业能够享受其带来的好处，但这种情况不会永远持续下去，最终账单将到来。”

他还强调，需要更强的AI治理来进行更有意义的风险评估。“企业必须考虑他们计划如何以及为什么使用AI，并识别其使用中可能带来的潜在风险。忽视这些问题将是不可行的，必须有一个计划来确保这些AI解决方案既安全又有效地使用。