我是如何看待和判断 AI 的能力边界
在当前的人工智能发展阶段，如果让我判断一项任务是否可以交给AI去做，我通常会先问自己两个问题：
- 这件事是把AI当作工具使用吗？还是让它成为生产力本身？
- 这件事最终的目的尝试取代使用者的作用吗？
如果这两个问题中有一个答案是“是”，那么我认为这项任务就超出了AI目前的能力边界。
1. AI是工具还是生产力？
首先，AI现在仍处于生成式人工智能的阶段。它的工作原理是基于已有模型进行“生成”，而不是“创造”——这意味着它并不具备真正的创新能力。最近，Apple的研究者发布了一篇名为《GSM-Symbolic：理解大语言模型中数学推理的局限性》的论文，分析了OpenAI的GPT-4、Llama、Gemma等开源模型的局限性。研究表明，这些AI模型更像是复杂的模式匹配器，而不是具有推理能力的智能系统。简单来说，它们依赖的是数据中的关联性，而不是理解和推理的能力。因此，AI目前更多的是作为一个工具来辅助我们工作，而不是独立的生产力。
举个并不是恰当的例子，我们可以把AI当作一个高效的文案助手，它能帮你生成内容、提供灵感，但它无法像使用者自己一样，运用其独特的成长经历和认知视角去完成一个属于使用者自己的结果（本文就是经历了写作- AI改写-人工改写的过程）。所以，在某些任务中，它可以是一个非常强大的助手，但它的“创造力”是有限的。所以，过度的想象或者脑补其功能，将其从生产工具上升为生产力，还是没有正确认知AI现在的能力。当然这也许在将来的某一天，能够真的变成生产力。
2. AI是否能取代用户的角色？
再来看第二个问题，我们经常会听到关于某些职业是否会被AI取代的讨论。但实际上，如果我们期望AI能够完全独立完成任务，而不需要人的介入，那么我们实际上是在寻求一种替代。这种使用方式本身就是错误的，因为它忽视了人的参与和决策的重要性。
举个例子，想象一下你希望AI做一份市场分析报告，而你只给出一个简短的prompt：“帮我写一份市场分析报告。” 如果你期待AI自动生成一个完全符合你需求的报告，而你自己完全不参与其中，那么你的目标可能就错了。AI可以帮你提供数据支持、整理信息，但它无法完全替代你的判断和策略思考，因为这些是需要你亲自介入的。
这种情况下，AI并不是为了替代你，而是作为一个增强工具，帮助你提高效率、拓展思路。我们必须明确AI的使用方式，不能让它成为“全能神”，也不应当指望它代替我们所有的决策和创造。
当然，随着时间的推移，也许AGI终会出现，现在的研究也慢慢从语言向端到端的多模态进行演进，也许我们就见证了一个新物种的诞生，但那个时候才是真正去讨论开头的两个问题，以及现在做的这些事，对于人类来说到底是对还是错。
首发于我的知识星球，2024 年 11 月。
读到这里有话想说？给我留言