AI时代人机协同的新特征、信任挑战与未来方向

AI快讯2周前发布 niko
0 0
AiPPT - 一键生成ppt

在当今时代,人机之间的界限愈发模糊。人机协同,这一人类与智能系统互动协作完成任务的过程和方式,涵盖人机融合、共存、协作等多种交互形式。其中,“机”不仅包括传统设备,更有AI赋能的智能设备。

AI性能不断优化,应用场景拓展,在多领域辅助人类工作,提升生产效率。如chatgpt在医疗、金融等领域的成功案例,展示了人机协同的巨大潜力。同时,人的能力在人机协作中不可或缺,人与AI相互补充,共同创造价值。

然而,现实中AI与人类协作常不尽人意。用户抵制、员工拒绝合作现象频发,原因在于AI技术不完善,且初期忽视人类因素。为此,建立人与AI系统的互信与有效协作,成为管理关键课题。

AI的发展为人机协同带来新特征。主动协同方面,AI系统基于对用户的综合识别,主动满足需求,提升用户生活品质。情感协同上,机器的情感识别能力增强,多种设备已具备基本情感交互能力。多场景衔接协同促使AI系统从单一走向融合,实现线上线下、虚拟现实的无缝连接。

基于这些新特征,学者对人机协同模式进行分类。马卡努斯等人开发分类模型,索瓦、李等人也提出不同模式。李忆和余良如则从AI技术整合方式和协作主导者两个维度分类。

用户与技术的信任是人机协同的前提。AI系统的复杂性增加了人机信任挑战,初期用户可能因偏见缺乏信任,随着普及,提升长期合作体验和双向协同创新成为重点。提升认知信任可通过增强AI产品的可靠性等手段,而AI的机器身份能增强情感信任。但人们对机器的道德决策存在抵触,用户对AI缺乏情感信任会抑制其使用。

技术在促进人机协同中作用重大。通过改进算法,如叠加隐私保护算法、融入专业知识,可提升AI系统内在互信保障。优化运作机制,如提升算法透明度、及时恢复错误,也能增强用户信任。“AI版囚徒困境”实验表明,建立有效激励和惩罚机制,有助于AI学会诚信合作。

展望未来,AI系统可从用户持续使用、协作、技术层面、组织层面的信任保障设计四个方向开展研究,以形成用户和AI系统在认知、情感和组织上的持续互信,推动人机协作的动态持续改进与创新。

© 版权声明
Trea - 国内首个原生AI IDE