我们是否正走向一个稳定的反乌托邦？ 我一直在思考人工智能将如何塑造社会，而一个特定的情景在我看来似乎是一个高概率的结果。以下是可能的发展过程： • 人工智能越来越多地自动化人类工作 • 这种自动化的收益流回资本持有者，使他们更加富有 • 随着大众收入的下降，政府忽视/废除所得税，而是对企业收入/财富征税以满足其需求 • 富人自我隔离（如他们所做的）并使用人工智能驱动的无人机/机器人来保护自己 • 这使得大众失去所有权力 -> 政府对大众的关注减少，因为他们的税收贡献减少，甚至无法反抗，因为他们面临的是人工智能安全部队 • 以道德的名义向大众提供一种最低限度的基本收入 • 所有未来的社会流动性停止，当前的权力结构永远被冻结 简而言之，强者和富人创造了一个平行社会，社会流动性停止，因为资本拥有者/权力中介控制着进行经济工作的人工智能（阻止其他人上升）。 有人可以争辩说，这种情况一直在逐渐发生，但今天大众仍然拥有权力，因为他们的劳动贡献和对精英的物理反抗能力。 但人工智能有潜力改变这种权力平衡，而不幸的是，这似乎是我们正在走向的方向。 /syndicated

请注意，这种情况可能是默认的，但并不是一成不变的。 我认为人类仍然有机会不将权力交给精英和/或AI。一个解决办法是将AI充分扩散到开源中，使其访问变得民主化（但规模法则表明，较大的模型可能总是会压倒较小的模型！）。当然，另一个办法是停止AI的发展（但我认为这不会发生；人类太好奇，无法停止）。 你对这个情景怎么看？合理吗？我们如何确保这种情况不会发生？