想象一下，您接到孙子打来的求救电话；他描述了一场可怕的车祸，声音充满了恐惧。这就是发生在加拿大里贾纳一名 75 岁老人 Jane 身上的事情。
由于情况紧急，她几小时后就赶到银行，为孙子取保释金。后来，她才发现自己是 AI 生成骗局的受害者。
到 2030 年，GenAI 预计将使全球 70% 的业务现自动化运营，这令许多领导者既兴奋又着迷。但是，GenAI 也有其阴暗面，它的欺骗性也会变成攻击人的武器。
Jane 的故事并非个例。情感操控型诈骗也会对企业构成严重威胁，使其面临财务和声誉风险。
检测 AI 生成的内容仍是一个难题。要验证数字内容，我们首先还是会寻求技术帮助。虽然许多工具都自诩能够检测 AI 生成的内容，其准确性却并不稳定。
尤其是随着一些能够绕过检测的工具出现，比如移除图像中的 AI 水印工具，我们离成功实现 AI 生成内容的自动标记还很遥远。
尽管一些工具表现出良好的前景，如英特尔的 FakeCatcher，但它们尚未实现大规模应用。在各组织努力追赶 GenAI 发展步伐的同时，人类的怀疑态度仍然是最佳防线。
情商，即识别、理解和管理自己的情绪，是识别 AI 操控的有利武器。
GenAI 带来的三大风险可以通过情商来应对：
要管理 GenAI 威胁的影响，个人必须能够识别涉及到的情绪，反思其影响，并以明智的、有同理心的行动来应对。以下三种方法能够做到这一点。
1. 帮助团队识别情绪被操控的情况
GenAI 只需分析员工数据或公司特定内容，就能制定个性化的骗局。威胁行为者甚至可以利用个人的数字足迹来创建深度伪造视频。
员工需要了解 GenAI 如何利用情感战胜理性决策。一家网络安全公司的高级经理分享了一段令人大开眼界的经历。
最近，他收到一条 WhatsApp 消息和一段语音录音，诈骗者冒充其首席执行官，讨论一项紧急商业交易的细节。
最初，来自上级领导的情绪压力引起了反应。然而，骗子对标准化的组织沟通方式的熟悉程度暴露了破绽：不应通过非正式沟通渠道传递敏感数据或进行后续联系。
领导者必须投资提高情商的培训。通过以识别情绪触发因素为重点的讲习班，以及以创造性思维和灵活策略而非严格遵守规则为重点的模拟训练，可以帮助员工更快发现操控行为。
2. 让反思成为团队的默认模式
个人还应考虑他们在情绪驱使下采取的行动会可能会导致的意外后果。反思可以帮助我们意识到情绪会如何无意识地影响我们的行为。
最近一起缺乏道德监督的案例来自一家德国杂志，其未经一级方程式赛车传奇人物迈克尔 · 舒马赫（Michael Schumacher）的同意，发表了一篇由 AI 生成的采访。采访内容包括一些虚假引述，涉及舒马赫自 2013 年以来的健康状况和家庭生活。
受能够发表 “独家新闻” 的兴奋驱使，记者没有考虑到该新闻对舒马赫及其家人情感上的影响，最终杂志社遭受了巨大的声誉损失。
工作中的批判性反思可以鼓励我们考虑不同的视角和影响我们选择的因素。领导者可以引入小组反思练习来促进这一点。
一个很好的例子是 “旁观者”（fly on the wall）技术：一名团队成员展示 GenAI 的输出结果，然后静静地观察其他人讨论其伦理考虑因素和偏见。
最后，分享从讨论中获得的启示。经过反思，熟悉的情况可能会呈现出新的含义，揭示潜在的假设，并警告对 AI 产生依赖性的风险。
3. 将快速反应转化为深思熟虑的应对
最后一步是将认识和思考转化为深思熟虑的行动。即使考虑到风险，“AI 的影响” 也可能会压倒正确的判断。让员工有权设定界限，重新掌控决策过程。
鼓励他们表达不安或推迟行动，直到最终核实，比如说 “我需要书面确认才能继续”，这样可以减缓操控的势头。
这种反应之所以能够实现，是因为一种开放对话的文化，即鼓励员工无需畏惧对指示提出质疑或表达担忧。
在一起最新案例中，一位法拉利高管接到了 CEO 贝内代托 · 维尼亚（Benedetto Vigna）的电话。一开始这看起来很可信。但随着谈话内容逐渐涉及机密，这位高管开始怀疑。
他不愿冒险，提出了一个只有真正的 CEO 才能回答的问题。结果骗局暴露，对方突然挂断了电话。通过过度依赖、拟人化和模糊虚拟与现实之间的界限，我们可以考到 “情感纠葛” 可能性的增加。
只有真正的人类才会受到情绪影响。但我们也可以调节情绪，做出更好的决策。最终，一个自动化的世界可以从这些策略体现出的人类感知力、人情味和敏感性中受益。
本文作者：
Öykü Işık，瑞士洛桑国际管理发展学院数字战略与网络安全教授
Ankita Goswami，瑞士洛桑国际管理发展学院外部研究员
本文原载于世界经济论坛 Agenda 博客
新浪科技公众号 “掌”握科技鲜闻 （微信搜索techsina或扫描左侧二维码关注）
相关新闻 