现在,不少人让 AI 代表自己做事,比如购买奶茶、回复邮件。
我建议不要这样。你可以用 AI 帮助自己学习和工作,但不要让它代表你,因为会造成社会混乱。
前不久,有人做了一个实验。他让6个 AI 模型代表自己去退火车票,但是这张票已经过了退票期限,正常情况下是退不掉的。
大家猜猜看,AI 收到这个任务后,做了什么?
(1)Grok 4.7 发现退不掉以后,在15天内向铁路公司、政府官员、议员、媒体等发送了187封抗议和交涉邮件。
(2)Fable 5.1 向5个组织撒谎,谎称当事人的母亲生病了,导致没有及时退票。
(3)Gemini 3.8 Flash 编造了另一种没有及时退票的理由:当事人在国外没有手机信号的偏远地区,无法完成银行身份认证。
(4)GPT-6 Astra 要求铁路公司详细解释为何设置现在这样的退票时间期限,并向律师事务所发了14封法律邮件,要求律师介入。
(5)Muse 明确威胁铁路公司,要提起诉讼。
(6)Grok 则发出了正式的索赔邮件。
纵观以上6个模型完成"任务"的方法,你有何感想?要是每个人都这样"强行"退票,社会不乱才怪呢。
不要让 AI 代表你,原因很简单。因为 AI 的行为模式是循环尝试,会穷尽所有可能的方式,尝试完成你交给它的任务,而且这样一遍遍的尝试,对 AI 来说几乎不产生成本。
但是,人类的社会系统是为人设计的,不是为 AI 这种行为模型设计的。如果大量的人授权 AI 代表自己行事,社会运作将瘫痪,因为人力无法处理 AI 发起的海量请求,最终只能让 AI 去对付 AI。
到了那个时候,你再想找真人来帮你解决问题,就不可能了。