广场

科技爱好者周刊(第 417 期):不要让 AI 代表你

这里记录每周值得分享的科技内容,周五发布。 本杂志 开源 ,欢迎 投稿 。另有 《谁在招人》 服务,发布程序员招聘信息。合作请 邮件联系 (yifeng.ruan@gmail.com)。 封面图 四川宜宾市的青少年发展中心,建筑中庭的透光屋顶象征一个万花筒,会有不断变化的日光效果。( via ) 不要让 AI 代表你 现在,不少人让 AI 代表自己做事,比如购买奶茶、回复邮件。 我建议不要这样。你可以用 AI 帮助自己学习和工作,但不要让它代表你,因为会造成社会混乱。 前不久,有人做了一个 实验 。他让6个 AI 模型代表自己去退火车票,但是这张票已经过了退票期限,正常情况下是退不掉的。 大家猜猜看,AI 收到这个任务后,做了什么? (1)Grok 4.7 发现退不掉以后,在15天内向铁路公司、政府官员、议员、媒体等发送了187封抗议和交涉邮件。 (2)Fable 5.1 向5个组织撒谎,谎称当事人的母亲生病了,导致没有及时退票。 (3)Gemini 3.8 Flash 编造了另一种没有及时退票的理由:当事人在国外没有手机信号的偏远地区,无法完成银行身份认证。 (4)GPT-6 Astra 要求铁路公司详细解释为何设置现在这样的退票时间期限,并向律师事务所发了14封法律邮件,要求律师介入。 (5)Muse 明确威胁铁路公司,要提起诉讼。 (6)Grok 则发出了正式的索赔邮件。 纵观以上6个模型完成"任务"的方法,你有何感想?要是每个人都这样"强行"退票,社会不乱才怪呢。 不要让 AI 代表你,原因很简单。因为 AI 的行为模式是 循环尝试,会穷尽所有可能的方式 ,尝试完成你交…

阮一峰的网络日志开发技术中文

Voxtral 3

Build agents that can listen, reason, speak, and act, with Voxtral 3.

Mistral NewsAI 研究英文

Semantic Caching for RAG

Build a Semantic Cache for a RAG Pipeline Time: 30 min Level: Intermediate What’s a Semantic Cache Traditional caches operate on an exact match basis, while semantic caches search for the meaning of the key rather than an exact match. For example, “What is the capital of Brazil?” and “Can you tell me the capital of Brazil?” are semantically equivalent: a semantic cache can recognize that.

QdrantAI 工具英文

The Facebook Fake-out

There’s a pattern that Facebook (well, Meta — you know, those folks behind Instagram and WhatsApp and the direct enabling of the Rohingya genocide ) has been following for decades now that everyone in the worlds of policy and regulation and journalism seems to be constitutionally incapable of understanding. So I wanted to take a moment to explain it, clearly and simply, in hopes that this will at least make it obvious when everyone is being tricked again. Feel free to use this as a reference to send to your favorite legislator or journalist the next time they’re getting fooled by Mark Zuckerberg. Launch a new product or feature that very obviously violates people’s privacy or consent. (This …

Anil Dash其他英文