AI的情商课程
你有没有遇到过AI产品不够“好用”的情况，这常常是因为它还未能真正理解你的需求和感受。例如，在使用 ChatGPT 生成想要的内容时，你可能需要精准的提示条件，因为它很难抓住真正的需求和认知状态。如果一个AI售货员不懂得顾客抱怨的真正含义，那么它可能无法成功地卖出商品。
情商的重要性
情感智力，即“情商”，是指理解和管理自己和他人的情感的能力。对于零售场景，一个有情商的AI能够理解顾客的抱怨实际上可能只是寻求折扣或购买支持的信号，而缺乏情商的AI可能会做出W很局外的回答。
心理理解的测试
在这里我们有一个小游戏来测试你的心理理论能力，每次当你看到小明把苹果从桌子上移到冰箱中，小红不在场，在这一过程中如果你被问及小红会到哪里去找苹果，多数人会马上回答说是桌子上，这是因为我们知道小红并不知道苹果被移动了。
心智理论
这种理解他人认知状态的能力在心理学中被称为“心智理论”是AI社会理解的重要能力之一：AI能够理解话语背后的意思，而非简单的文字意思。要让AI从一个只能背诵答案的机器转变为了解人的交流伙伴。
AI是否拥有心智理论
尽管用户期望AI能够变得像人一样理解情感和意图，但即便是最先进的AI系统也很少具有真正的情商。近期的研究报告《Explore Theory-of-Mind: Program-Guided Adversarial Data Generation for Theory of Mind Reasoning》中展示了如何通过一个系统——ExploreToM——来改造AI以增强它的心智理论能力。
ExploreToM系统
ExploreToM通过A*Search算法来生成社交场景从而测试AI的理解能力。其目标是创造那些需要深刻理解人类认知的场景，考察点分为三组不同复杂度的情况。
- 基础认知追踪：测试AI是否理解人的行为基于他们所知道的信息；
- 信息传递理解：测试AI是否能理解信息传递的内容；
- 非对称认知关系：测试AI是否能理解多人的不同认知状态及信息获取的间接性；
每一层的设计都在不同程度上增加了问题的复杂性。
测试结果
测试的结果显示，即便是目前最具代表性的AI模型，如OpenAI 的GPT-4o，其在面对复杂问题的准确率较低，而在故事中出现的动作越多，模型的准确率都会显著下降。这表明，在动态的信息和认知状态下，AI追踪状态的能力是有限的。
训练提高AI的情商
人类情商是通过社会互动逐渐培养而成的，AI是否也能被培养呢？研究人员把ExploreToM改造成专门的培养AI社交认知能力的工具，并收集了近8万个特制的练习题以训练Llama-3.1 8B模型，其效果证明训练的猜测：AI模型在多个标准测试中的分数有所提升。
解开AI情商之结
AI为何都没有情商？研究人员进行了一系列讨论，并得出结论：过去AI的训练往往是依赖于网络上现成的大量数据，这些数据中真正需要换位思考的内容可能相对较少。未来如果要培养出真正懂得换位思考的AI，我们需要重新考虑训练数据的收集方式，有意识地增加那些包含认知差异、信息不对称的场景。
结论
这项研究揭示了AI在情商方面仍有很大的提升空间。通过训练和学习，AI可以增进其社交认知能力，但在处理更为复杂的心理和情感情境时仍需进一步研究和训练。
相关文章
