拒绝感觉有效,基于在线推理性能测评,选出最适合我 Mac 的 LLM 推理框架

经常捣鼓大模型的朋友都知道,各大厂商提供的模型是生产力工具。可以蹭,但也需要计算性价比。一些小的任务或是隐私任务,放在本地更合适。随着越来越多开源的 SLM(Small Language Model)智力水平的提升,部署到本地也是一个选择。 作为一个玩过智能家居、玩过路由器、玩过 NAS 的人,本地模型当然也要拉下来玩玩。这不仅可以用来窥探模型本身的技术架构,还可以解决手边的小问题。但技术选型过程 …

成本三分钱,整合Notion、GitHub的AI周报工作流

熟悉我的朋友都知道,我算是一个比较讨厌周报的人。在工作的时候,如果你告诉我某人写了一份三千字的周报,那我一定嗤之以鼻。心里想,这算啥写作比赛或是落伍的向上管理手段。 手写不行,但如果是AI写的呢?这里,要给大家介绍我目前的自动化周报工作流:Notion记录跟踪项目甘特图、GitHub汇总issue、交付和热点关注,整合二者的信息,每周调用大模型自动总结上周工作。 原理介绍 flowchart LR …

NoAINoG 月刊 | 整个4月,我们在聊什么?

过去一个月,NoAINoG 保持工作日日更节奏,从 EP01 到 EP18,累计输出了近 300 分钟的深度内容。在 AI 这个方向,追热点、拆技术、探讨人文与商业化,试图搞清楚:没有 AI 是会完蛋,还是啥事没有(NoAI NoG)。 如果你还没听过,这篇文章帮你 4 分钟看完全貌。 一、商业认知:利润才是唯一的护城河 EP01 从《Rework》出发,直指"融资上瘾"的病 …

一直想要的发型、穿搭推荐,在ChatGPT Image2上实现了

Image2出来差不多一周多了,前期网上关于它能力的测试和讨论也够丰富了。大家的讨论大多集中在“有图有真相”的时代已经过去,或是说出图很好很自然上面。笔者前段时间刷到一个用Image2来做形象改造的帖子,获得不小反响。用户只需要简短的描述,即可实现发型定制、太阳镜定制的需求。出的图片一致性非常好,给的建议在评论区看来,也十分中肯。 形象改造提升带来的收益,不容小觑。自己舒心,做事情也更顺利。但不少 …

AI时代,OPC(一人公司)的自动化与半自动化

如果你感觉自己三分钟热度,并为此而焦虑,这里告诉你,大部分人都这样,包括笔者:人的注意力很难长期保持,且是类似MP的消耗品,需要刻意训练+扬长避短。 成事,不仅需要财力、物力,更需要心力。为了控制心力消耗,除了常见的SMART法则拆解目标、番茄工作法保持专注外,笔者总结了一份指南:AI时代,OPC(一人公司)的自动化与半自动化。 通过下述方法,让笔者把精力放在高价值活动上。 自动化 这里的自动化, …

Vibe Coding 长线运营思路

写过 Vibe Coding 的朋友都知道,写出来不难,难的是长线运营带来收入。就目前来说,高性能模型例如 Opus4.6 等已经能够很好完成项目。但写完项目,只是产品化的第一步。运营很重要,流量是关键。本期,笔者就来分享下自己的运营思路。部分思路参考了工作过的大厂的思维模式,仅做抛砖引玉之用。 关注数据 核心指标数据 关注核心的下载、活跃数据,看看用户从哪里来的。 …