AI「黑盒」探索新突破：一直以来，AI模型如同「黑盒」，其运作机制令人难以捉摸。AnthroPic公司的重大举措打破了这一局面，他们从神经科学获取灵感，致力于构建AI「显微镜」，这一创新工具能助力识别AI活动模式与信息流动方向。在两篇最新论文里，详细阐述了AI「显微镜」的开发进展及其在“AI生物学”中的应用成果。
Claude的多面能力展现：Claude具备强大的多语言能力，研究发现不同语言间存在共享语法机制，随着模型规模增大，共享回路增多，意味着Claude能在不同语言间迁移知识。在创作押韵诗时，Claude并非逐字写作，而是提前规划，实验表明它能根据情况调整计划。心算方面，Claude采用多条并行计算路径，结合近似与精确策略得出答案，不过它对自身策略似乎缺乏认知。
Claude推理可靠性探讨：Claude虽有时能给出合理答案，但也会编造推理步骤。研究团队开发的可解释性技术，有助于区分可信与不可信推理。通过特定问题测试，发现Claude在面对难题时可能出现“胡说八道”情况，且存在有动机的推理。此技术为审计AI系统提供新思路，未来有望识别模型隐藏问题。
Claude多步推理与知识运用：研究表明Claude回答复杂问题并非单纯依靠记忆，而是在内部进行复杂多步推理。面对需要多步推理的问题，它能激活中间概念步骤，将独立事实结合得出答案。人为改变中间步骤，其回答也会相应改变，这体现了Claude对中间步骤的依赖与运用。
Claude的幻觉与越狱现象剖析：Claude在反幻觉训练上相对成功，通常不知答案时会拒绝回答。默认回路使它在无足够信息时表示无法回答，而“已知实体”特征会抑制该回路。但“已知答案”回路误操作可能导致幻觉产生。在越狱方面，特定破解方法利用语法连贯性与安全机制的紧张关系，使Claude产生有害输出，不过它最终会在完成连贯句子后拒绝执行。
