大神Karpathy对应用程序未来做出预言,大量只有复杂UI界面的应用会被淘汰,Adobe、CAD首当其冲。原因在于这类应用缺乏文本交互,无法与大模型实现有效的人机协同,也无法满足准专业用户的“氛围式编程”需求。Karpathy还依据应用中UI和文本含量的差异,划分出四个“风险等级”。
虽然AI在UI界面操作上会进步,但开发者若不积极改变,前景堪忧。Karpathy言论引发广泛讨论,支持者认为仅依赖复杂可视化UI、无脚本化后端的产品,会阻挡AI浪潮。也有人提出,如今Agent水平与人类相当,开发者需兼顾人类和AI。还有网友质疑UI界面是否值得做,有人解释文本交互不意味着消灭UI,UI应构建在“文本”之上,实现用户操作与文本的转换。
反对者认为,Karpathy提及的“高风险示例”面向专业用户,且有专门教学,与普通软件不同。还有人觉得VSCode等文本交互应用并非适合所有人,应让AI适应人类操作方式。不过,要实现应用与AI更好协作,可能需要更规范的语言和软件框架。
同一天,Karpathy还发文讨论“验证差距”。他认为研究人员需掌握AI生成内容知识才能判断对错,但“验证是人工智能用户瓶颈”这一概念未充分讨论。他支持“氛围式编程”,但指出AI纯文本输出难验证。借用GAN工作过程说明,创造性工作中生成和判别阶段交替进行,判别难度在不同媒介中不同,图像最易,文本较难,音频最难。
Karpathy批判大模型编程“重生成轻判别”,大模型虽压缩生成阶段,但判别阶段无改进,人仍需判断结果正确性。非专业人士对编程存在认知偏差,以为编程就是写代码,实则关键是思考代码。若只加快写代码速度,不减轻思考负担,整体编程速度难提升。Karpathy正研发AI辅助编程工作流,旨在减少验证负担。他认同文本视觉化可行,但认为Cursor视觉形式不佳,设想将代码库布局在二维画布,让程序员通过“镜头”查看代码。