科技爱好者周刊(第 417 期):不要让 AI 代表你
这里记录每周值得分享的科技内容,周五发布。 本杂志 开源 ,欢迎 投稿 。另有 《谁在招人》 服务,发布程序员招聘信息。合作请 邮件联系 (yifeng.ruan@gmail.com)。 封面图 四川宜宾市的青少年发展中心,建筑中庭的透光屋顶象征一个万花筒,会有不断变化的日光效果。( via ) 不要让 AI 代表你 现在,不少人让 AI 代表自己做事,比如购买奶茶、回复邮件。 我建议不要这样。你可以用 AI 帮助自己学习和工作,但不要让它代表你,因为会造成社会混乱。 前不久,有人做了一个 实验 。他让6个 AI 模型代表自己去退火车票,但是这张票已经过了退票期限,正常情况下是退不掉的。 大家猜猜看,AI 收到这个任务后,做了什么? (1)Grok 4.7 发现退不掉以后,在15天内向铁路公司、政府官员、议员、媒体等发送了187封抗议和交涉邮件。 (2)Fable 5.1 向5个组织撒谎,谎称当事人的母亲生病了,导致没有及时退票。 (3)Gemini 3.8 Flash 编造了另一种没有及时退票的理由:当事人在国外没有手机信号的偏远地区,无法完成银行身份认证。 (4)GPT-6 Astra 要求铁路公司详细解释为何设置现在这样的退票时间期限,并向律师事务所发了14封法律邮件,要求律师介入。 (5)Muse 明确威胁铁路公司,要提起诉讼。 (6)Grok 则发出了正式的索赔邮件。 纵观以上6个模型完成"任务"的方法,你有何感想?要是每个人都这样"强行"退票,社会不乱才怪呢。 不要让 AI 代表你,原因很简单。因为 AI 的行为模式是 循环尝试,会穷尽所有可能的方式 ,尝试完成你交…