在AI快速发展的当下，其未来走向备受关注。Epoch AI高级研究员Ege Erdil对AI能力预测展开深入探讨，为我们理解AI的发展前景提供了新视角。
预测AI系统未来能力及影响，通常有两种方法。一是外推预测，通过回顾过去及变化速度，将当前情况外推至未来，依赖历史数据和趋势分析，受经济学家青睐。例如，2013年Frey和Osborne估算不同职业对计算机化的敏感程度，但随着深度学习进步，此预测被证明有误。另一种是第一性原理推理，考虑人脑能力、训练数据可用性等因素，估计自动化任务难度，更具理论性，能洞察AI发展的技术障碍。
AI从监督学习到GenAI的转变显著。过去，监督学习主导，部分人简单假设AI未来仅提升预测能力，后被无监督学习及生成式AI的兴起推翻。如今，LLM能执行复杂任务，内部原理却难以被人类完全理解。
外推预测在AI领域存在风险。仅依赖此方法，易过度依赖AI过去和当前能力，低估未来突破。如将AI发展局限于生成式AI框架，会忽视其未来可能的新能力。对比2016年与如今AI的能力，许多当时未预料到的能力因技术进步而出现。此外，Acemoglu在研究AI对经济影响时过度依赖外推法，其估计可能未充分考虑AI未来的新发展。
对于难以外推的任务，参考人类大脑预测AI能力是一种途径。构建类似人类任务的AI系统，需满足运行时计算能力、训练计算量、训练算法、训练数据量等条件。目前部分条件已满足，但算法方面仍逊色于人类大脑。
EgeErdil保守估计，到2030年实现人类水平AI的可能性至少10%，乐观估计为20%。这一结论基于对算法搜索算力需求的分析，且未考虑人类在算法搜索、训练和推理间的权衡等因素。结合Moravec悖论，AI可能在数据优势大、算法劣势小的任务上先达到人类水平。
总之，预测AI未来发展不能仅着眼于当前能力，应从任务内在难度出发，采用更具前瞻性的方法，以获得更准确的预测。
