内容来源：本文内容整理自网络公开资料。
责编 | 柒
第 9923 篇深度好文：3242 字 | 14 分钟阅读
商业思维
笔记君说
在 DBS（星展银行，新加坡最大的商业银行）亚洲未来论坛上，TikTok CEO 周受资和主持人做了一场对话。
他不谈模型参数，也不谈算力，反复讲的是三件事：人还能做什么，什么必须交给人，以及怎么才知道 AI 的边界在哪。
关于 AI 会不会取代人，他的回答是现在下结论为时过早。一方面人脑只有 20 瓦，数据中心是千兆瓦；另一方面，硅比碳更优越的世界确实有可能出现。但即便如此，人类仍然始终处于中心位置。
以下是精编整理，希望对你有所帮助。
一、AI 越强，判断力和创造力就越值钱
今天想和大家聊聊 AI 时代真正重要的东西，以及 TikTok 在做什么、我本人在怎么用 AI。
关于现场那个民意调查，在人工智能时代什么最重要？答案有人类判断力、人际关系、人类创造力、人类目标等等。
我认为这几件事都非常重要。但有趣的是，我们其实没必要纠结 " 人 " 到底怎么定义，这个词太宽泛了。房间里每个人的判断都不一样，来自不同领域的人，判断也各不相同。但我们很快能达成一个共识：确实存在一种叫 " 判断力 " 的东西。
人际关系、人类创造力，跟 AI 正在面对的问题正好形成对照。这些东西和我们天生的生物属性不是一回事，做事的方式也可能完全不同。所以上面这些选项，我基本都同意。
二、最紧迫的不是 AI 能干什么， 是怎么让它做显而易见正确的事
现在有很多关于 AI 对齐（alignment，让 AI 的目标和人类意图保持一致的研究方向）的讨论，也有一些非常极端的例子。
那个回形针的例子很有名：你让机器生产更多回形针，它就只顾着生产回形针，其他一切代价都不管了。这就是 " 回形针最大化器 "（Paperclip Maximizer，AI 对齐领域一个著名的思想实验）。
所以我们面对的挑战是，怎么对待 AI 这么强大的东西。它已经显示出解决非常复杂数学问题的能力。
我周末跟一些创业者聊天，我的判断是：未来两到三年内，因为人工智能，我们会在物理学、生物技术、化学、材料科学这些领域迎来一次真正的科学突破。
坦白说，这个问题我现在答不上来。它确实非常复杂，但在 AI 时代，它会变得至关重要。
三、AI 能生成一切， 但人们还是更想看真的
对 TikTok 来说，创造力这个话题特别相关。我们已经允许用户用模型制作大量非常逼真的 AI 视频，我自己也做了几个。
但目前仍然存在一个不平衡：AI 生成视频的创作者比例，远高于它的观看量占比，AI 内容目前只占观看量的个位数百分比。也就是说，用户对真人内容的需求依然非常强烈。因为观看量也是 AI 推荐算法跑出来的结果，这是一个非常民主的过程，真实反映了人们到底想看什么。
从这件事里我们看到，关于怎么用 AI，大家做了各种尝试，AI 确实能创造更多内容，其中很多比你想象的更有创意。但与此同时，人们对 AI 生成内容的接受度，还是比想象中低得多。
人们仍然重视真实、原汁原味的东西。所以，人类创造力还会继续发挥重要作用。
随着技术进步，我们在不断完善基础设施，让 Agent 替我们做更多事，同时把信任和护栏（guardrail，防止 AI 越界的安全约束机制）建起来。长远来看，我们可能会允许 Agent 自主完成越来越多的事情。但短期而言，至少在未来两三年内，能不能用好 AI，会变得非常重要。
四、常规且低风险的交给代理， 高风险又非线性的留给人
关于 AI 能做什么，我们内部试着把它简化成一个 2x2 矩阵。一个轴看这件事是常规的，还是需要判断力、高度差异化的；另一个轴看风险是高是低。
结论很快就出来了：常规且低风险的事，Agent 可以自动化执行，速度非常快；高风险但常规的事，需要更谨慎一些，但前沿模型大部分也能做；高风险、高度差异化、非常注重细节的事，仍然需要大量的人参与。
举个例子。TikTok 在全球有大量用户，比如我们想知道，一个说法语的尼日利亚 14 岁孩子，在 TikTok 上看到的是什么。过去我们得让信任与安全团队的人去注册账号、测试、看 100 个视频、写报告。现在可以部署一千个 Agent，一夜之间自动生成报告，告诉你其中有多少违反了我们的准则，整个过程全是自动化的。
再比如内容审核，直播是最难的。任何时刻都有数千万个直播流在跑，过去只能随机抽样，很难做到既精确又准确。
但现在用 VLM（视觉语言模型，能把画面内容转成文字描述的模型），可以非常快地把实时视频流转成文字叙述，再拿去和社区指导原则比对。比如有人在开车，AI 能认出速度表显示的是 160 公里每小时，人眼可能看不出来，但 AI 知道这很危险。这极大提升了我们完成很多工作的能力。
当然，我们也看到了新的风险，比如网络安全风险。但另一方面，AI 能给公司带来的生产力提升，也让我们非常兴奋。
五、别只读资料， 亲自上手才知道边界在哪
1. 不用它，你就不知道它能做什么、不能做什么
在公司内部，我们最看重的一件事，是让所有人，不只是工程师，也包括律师和各个职能部门的人，都能有第一手的体验。如果你不亲自用大模型、AI 产品，只是读资料，你没法真正知道它能做什么、不能做什么。
我们为内部员工做了很多项目，让他们接触最前沿的模型，目的就是鼓励大家注重实践，真正把这些新工具用起来，同时密切关注市场上的变化。
2. 我把 AI 当成倾诉对象
我经常把 AI 当作倾诉对象。比如我最近成了美国纳税人，美国的税收制度简直让人看不懂，没有 AI 帮忙我根本搞不定。
我也用 AI 当私人营养师。拍一张食物的照片，它会告诉我这个别吃太多、那个可以多吃点。感觉就像身边随时有个特别聪明的人可以问。
今年早些时候我肩膀出了问题，我大概问了外科医生 200 个问题，其中 90% 是 AI 先回答的，帮医生省了大量反复解释的时间。
当然，AI 会提醒我，但它不会从身体上拦住我吃不该吃的东西，还没到那一步。AI 提醒，人自己停下来，这就是人机合作，不是非此即彼。
六、风险是真的，但结论别下太早
1. 用户可能不知道自己授权了什么
网络安全风险是真实存在的。很多用户会给 Agent 很多权限，但并不真正理解自己授权了什么。比如你让 Agent 用信用卡帮你买东西，它可能太想完成任务，结果买了一堆你根本不需要的东西。
我上小学的时候互联网还没普及，父母特别怕在网上买东西。后来电子商务慢慢成熟，现在有了很强大的支付功能。我相信这些迟早都会实现，但目前还有大量教育工作要做。
对企业来说，网络安全风险同样真实。垃圾邮件、平台滥用这类行为，过去干这些事成本很高，现在成本大幅下降，平台就得有对应的工具来抵御。但把这些工具建起来需要时间。
员工也需要培训：不要把商业机密告诉公共聊天机器人，聊天机器人不是真正的律师，给不了法律援助。搞清楚什么能用、什么不能用，这个界限非常重要。正因为 AI 太好用了，人们有时会用过头。
2. 现在下结论为时过早
关于 AI 会不会威胁人类、取代或者排挤人类的讨论很多，但现在下结论可能还太早。
一方面，今天的技术远没到那一步。大家常举的例子是：人脑的功率只有 20 瓦，数据中心却是以千兆瓦计的。但大脑能做的很多事情，这些模型到现在还做不到。比如调取长期记忆，我能回想起小时候的事，现在的大模型还很难做到。人的视觉学习能力也很强，看一遍就能学到很多东西，模型还在追。
但另一方面，技术在不断发展。你完全可以看到一个硅比碳更优越的世界：寿命更长、更容易扩展、连接更方便。所以 AI 在某些方面确实有可能比人更强。
不过技术从来不是什么新鲜事。就算技术一直往前走，人类仍然始终处在中心位置，被增强，能做更伟大的事，也做得更快。
* 文章为作者独立观点，不代表笔记侠立场。
对创业者来说，AI 转型真正的起点，应该是重新思考自己的业务：哪些环节值得重做，哪些经验能够标准化，哪些组织壁垒需要打破？
10 月 29 日，笔记侠 AI 十倍增长营 03 期即将在杭州开课。如果你也在思考如何把 AI 从个人效率工具变成企业的实际生产力，欢迎与同样在路上的人一起，实操先行、现场寻找答案。
点击下方链接，了解课程详情并联系我们。
分享、点赞、在看，3 连 3 连！
