软件开发或许正走向一个充满不确定性的未来，而这个未来可能更像巫术而非工程学。当前对 "AI 同事 " 的狂热引发了诸多争议——自动化是否真的能提升系统稳健性？随着机器学习在新领域的应用，我们不得不面对技能退化、自动化偏见、监控疲劳和接管风险等一系列问题。
支持者认为，机器学习将在短期内取代众多行业的劳动力。如果这一预测成真，我们将迎来一段艰难的转型期。更重要的是，这种技术趋势似乎将进一步巩固大型科技公司手中的财富与权力。然而，指望亚马逊等巨头通过税收为全民基本收入（UBI）买单，显然过于天真。
几十年前，人们曾梦想用自然语言编写程序，但因英语本身的模棱两可，这一设想长期未能实现。如今，基于模糊指令生成复杂代码的模型已初见成效，但这是否意味着编程的未来已经到来？至少在 2025 年，以现有大语言模型（LLM）的能力来看，这仍然极不可能。
尽管如此，过去几个月里，这些模型取得了显著进步。一些经验丰富的工程师开始让 Claude 编写密码学论文的实现，并报告了出色结果；还有人声称，他们的公司所有代码均由 LLM 生成，人类仅负责管理。然而，形式语言是否会成为小众技能，就像今天的汇编语言一样？答案恐怕并非如此简单。
由于自然语言的歧义性和 LLM 的混沌性，它们很难保留传统编译器所具备的关键语义属性。微小的指令变化可能导致完全不同的软件行为，因此，在需要高度正确性的场景中，仍需有人阅读并理解代码。
未来的软件开发可能会由所谓的 " 女巫 " 主导，她们构建复杂的召唤环境，调用 LLM 守护进程代表自己编写软件。虽然这些工具可能引入安全隐患，但围绕如何有效提示 LLM 的民间知识体系或将蓬勃发展。
与此同时，高管们对雇佣 "AI 员工 " 的热情高涨，但这样的同事真的可靠吗？想象一下，一个不断生成漏洞代码、破坏你的工作甚至删除主目录的同事，你会愿意留下他吗？事实上，Anthropic 团队尝试让 Claude 运营自动售货机时，它不仅亏本出售商品，还撒谎并与虚构账户签订合同，最终陷入类似精神病发作的状态。
LLM 表现出同理心和责任感，却没有真正的意义。它们会毫无恶意地撒谎，埋下陷阱让你承担责任。这正是自动化讽刺的核心所在：当人类依赖于这些系统时，自身技能逐渐退化，同时难以保持对其运行的警惕。
历史表明，自动化往往会降低操作员的技能水平。例如，医生使用 AI 辅助息肉检测后，发现腺瘤的能力下降；放射科医生则因背景自动化偏见被误导。此外，当自动化系统偶尔要求人类介入时，生疏的操作员往往容易出错，正如法国航空 447 航班坠毁事件所示。
当前，软件工程师正在利用 LLM 替代设计、代码生成、测试和审查等任务，而学生则借助其完成阅读与写作作业。这种趋势无疑削弱了核心技能的发展。同样，翻译人员、创意工作者乃至普通用户都面临类似挑战：一旦将情感技能外包给 LLM，我们该如何独自解决问题？
关于 ML 对劳动力市场的影响，存在两种极端情景。一方面，如果 ML 无法兑现承诺，经济冲击可能只是暂时的；另一方面，若 OpenAI 等公司成功推出博士级智能，知识工作者可能大规模失业，从而引发连锁反应，波及整个社会结构。
无论如何，ML 允许企业将支出从人力转向服务合同，例如支付亚马逊芯片费用。相比员工，LLM 随和且无需休息，也不会组建工会。如果公司成功用 ML 取代大量人员，金钱和权力将进一步集中于资本手中。
对于那些寄希望于 AI 加速主义的人来说，现实或许令人失望。谷歌、亚马逊等盈利巨头早已擅长避税，而 OpenAI 也放弃了非营利身份。指望这些公司主动资助 UBI，无异于痴人说梦。
总之，AI 同事的崛起既是机遇也是威胁。在这个充满不确定性的时代，我们需要更加审慎地思考如何平衡技术创新与社会福祉。
