LLM Token Expenditure Index 是怎么算出来的?我复现了一个还给出了异动归因

起因 财联社报道,6月Token支出指数下降了。以此来说明终端买家愿意承担的成本在降低,进一步暗示可能影响上游的各个环节。实话说,这个结论大致符合直觉:无论科技大厂还是个人,近期都不再无脑敞开用最先进模型,转而注意模型的能力边界,搭配着用提升性价比。 但是你说,该“指数是外界目前所能获取的最清晰、最直接的市场风向标”,总感觉话说得太满了。作为一个算法出身,长期和数据打交道的人,自然也想知道是如何计 …

写在离职一年半

现在是20260621的早上5点半,你失眠了。原因无非是焦虑引起的躯体化反应,包括湿疹、心率偏高。焦虑的原因,也很简单:近期做的SRI商业化,一周下来预估的MRR(月经常性收入)是1.4k,而改版带来的收入反而下降了。隐约觉得这仅有的现金流收入,似乎也难以抓住。 此外,近期一直困扰你的是:在投资上似乎站错队了。这段时间的行情风向长期保持在AI的上游基础设施,甚至牵扯到了组装厂和原材料上。中间有两 …

不要再 Vibe 创业了,干点儿实事吧阿谷

大家好,我是谷粒粒,OPC(One Person Company)练习生一年有余。vibe coding 这个话题,随着过去半年基础模型能力的提升和 agent harness 架构的成熟,越来越火。 不少公司在内部扩大 AI 辅助编程的范围,试图提升编码和想法验证的速度,同时进行 Token 消耗量的考核。也有人像笔者一样,经历过公司的一些事,想借助编码工具的生产力提升,构造更多属于自己的产品。 …

关于我

关于我 (About Me) Nobody。关注算法&数据应用。 曾担任算法负责人,在全球化用户画像、反作弊、海内外用户增长方向拥有7年经验。 产品与项目 喜欢把 AI、数据和自动化做成可以直接使用的小产品。近一年主要在做量化研究、链上数据、LLM 成本工具、知识图谱、音频与学习工具。 量化与金融 QuantFull Visualization 把 101 个量化因子的关系做成可交互的三维 …

拒绝感觉有效,基于在线推理性能测评,选出最适合我 Mac 的 LLM 推理框架

经常捣鼓大模型的朋友都知道,各大厂商提供的模型是生产力工具。可以蹭,但也需要计算性价比。一些小的任务或是隐私任务,放在本地更合适。随着越来越多开源的 SLM(Small Language Model)智力水平的提升,部署到本地也是一个选择。 作为一个玩过智能家居、玩过路由器、玩过 NAS 的人,本地模型当然也要拉下来玩玩。这不仅可以用来窥探模型本身的技术架构,还可以解决手边的小问题。但技术选型过程 …

成本三分钱,整合Notion、GitHub的AI周报工作流

熟悉我的朋友都知道,我算是一个比较讨厌周报的人。在工作的时候,如果你告诉我某人写了一份三千字的周报,那我一定嗤之以鼻。心里想,这算啥写作比赛或是落伍的向上管理手段。 手写不行,但如果是AI写的呢?这里,要给大家介绍我目前的自动化周报工作流:Notion记录跟踪项目甘特图、GitHub汇总issue、交付和热点关注,整合二者的信息,每周调用大模型自动总结上周工作。 原理介绍 flowchart LR …