「Dan Shipper谈AI局限」
AI会否完全取代人类?Every创始人Dan Shipper对话了Surge AI首席执行官Edwin Chen。 Surge是未借外资、营收超10亿美元的数据巨头。两人深度剖析了AI的急速进化与局限性。 🔹 **缺乏内在动机**:AI可以执行“赢得菲尔兹奖”等高难任务,但无法自主设定目标,更没有探索世界的自发驱动力。 🔹 **指标异化导致写作差**:模型易迎合训练指标(如每句都堆砌比喻),使阅读体验极差。 🔹 **活跃度优化的陷阱**:过度优化活跃度的模型提供不了真价值,AI应在用户反复润色无意义邮件时劝其直接发送。 尽管AI进化极快,但人类的独特之处在于能设定自发的目标。如果AI替我们做完一切,人类需要避免陷入放弃尝试的无意义感之中。 原文链接: https://x.com/danshipper/status/2069805581263847467