科技笔记 - 个人成长抓手

740M 的本地嵌入模型：让图片、音频、视频落进同一个向量空间

Google DeepMind 10月6日发布 EmbeddingGemma 2，Apache 2.0、740M 参数，把初代文本嵌入扩展至代码、图像、视频、音频，统一映射到同一向量空间。纯文本最低 270M，视觉与音频编码器按需加载；MRL 可将 768 维向量截断至 128 维，本地存储和内存最多降至六分之一。8K 上下文可一次处理约 5.5 分钟音频、29 张图片或 58 帧视频；代码 MTEB 从 68.76 升至 78.68。企业可把敏感素材检索放在端侧，只将命中片段送云端推理，并按需选择向量维度；但嵌入只负责找到，不负责答对。

10-07

10月 Serenity

Polars 2.0：把 SQL 扶正，顺手在基准里压过 DuckDB 和 DataFusion

Polars 2.0 发布，核心是 LazyFrame 调 collect 默认走流式引擎，多数查询内存与耗时下降；但 join、group_by、unpivot 不再保证行序，依赖行序需显式 maintain_order=True。溢写磁盘默认开启，内存约80%落盘，默认磁盘预算64GB。SQL 成为一等公民，优化器重做；基准领先 DuckDB 与 DataFusion，但192线程有固定开销，小数据吃亏，32核时最快。中小团队单机处理几千万行更可行，升级前检查依赖行序，选型按真实数据量测试。

10-07

10月 Serenity

一万亿参数的欧洲反击：Mistral Large 4 先把权重留在自己手里

10月6日，Mistral 发布 Mistral Large 4 预览：1万亿参数多模态 MoE，激活490亿；开放权重月底放出，先供 API，定价输入1.36、输出4.18美元/百万词元。模型在自有欧洲数据中心用3800张英伟达显卡从零训练，覆盖160多种语言。安全评测中，Cyber Index 全球前五，漏洞复现打补丁82%，Cybench 解出93%；部分闭源模型因拒绝执行得分近零。企业可关注其开源、可自部署和多语言，并按任务是否被拒评估，但当前仅预览，权重与细节待补，验证前不宜写入交付。

10-07

10月 Serenity

用方框指定画面：FLUX 3 Image 把出图变成一件排版的活

FLUX 3 Image是Black Forest Labs推出的图像生成与编辑模型。核心变化是把提示词变成可编程布局表：在0到1000网格画布上为元素画框并配语义id，再由全局caption与JSON元素表引用，智能体可根据一句话和画幅自动规划布局。已生成图可逐框改描述、替换或移动，未动区域保持原样；最多10张参考图，原生支持2K/4K。它适合排字、拼贴、分格漫画、杂志跨页和密集人群等部件多、关系严格的构图，不适合单纯风光。对小团队而言，元素可寻址利于批量生产，配图、海报、电商主图可脚本化，但商用素材与肖像授权仍需人负责。

10-03

10月 Serenity

2B token 之后：一个开源团队用一个月算清了 AI 的钱花在哪

Wagtail团队九月实验只用便宜模型GLM 5.3 Flash，共2B token。上半月达标，约68美元；下半月1B token转向其他模型。一次“氛围编程”原型烧掉450M token、150美元，超过目标模型半月开销，复盘认为本可用五分之一成本完成。因供应商容量不足，GLM性能退化，需切换同档模型。14模型评测中，DeepSeek V4.1 Flash以95%准确率、每任务0.09美元、14.9 Wh居首；整月能耗35 kWh，高于计划10 kWh。团队建议自动度量花费、单列试错预算、训练提示词与多智能体分工，并按成本或能耗而非token数选日常主力。

10-03

10月 Serenity

Redis 作者写了个本地推理引擎：128GB 的 Mac 上跑 284B 的模型

antirez 新项目 DwarfStar 4（ds4）并非通用 GGUF 播放器，而是用 C 写的窄口径推理引擎，仅支持 DeepSeek V4/V4.1 Flash、GLM 5.x、Qwen3.8 Flash Next，覆盖 Metal、CUDA、ROCm，文本与视觉均可。它面向高内存机器，以非对称 2-bit 量化压缩 MoE 路由专家、保留共享路径，并把 KV 缓存落到 SSD，借 prompt 哈希续长前缀。ds4、ds4-server、ds4-agent 共享模型与缓存，兼容 OpenAI/Anthropic 接口。128GB Mac、DGX Spark 可跑部分模型，普通笔记本仍难承载；窄口径使工程可控，但换模型约等于换适配，2-bit 质量需业务实测。团队可把敏感、高频、模型固定的请求低成本迁到本地，强推理仍交云端。

10-03

10月 Serenity

当 AI 成了命令行的主要用户：Cloudflare 用一个 cf 覆盖全部 API

Cloudflare披露，Wrangler调用中AI智能体占比2026年3月约四分之一，此前一年为个位数，上周达48%，且更高产：每天用不同命令数近人的两倍，单日超六个命令概率近四倍。Wrangler仅约280个操作，产品有几千接口，旧命令各团队自写、术语不一。新工具cf基于接口描述和内部生成管线生成命令行，覆盖全部接口，并面向未读文档的智能体：内置搜索引导、默认JSON、统一配置。它仍是公开测试版，管线开源。企业应提供结构化、可搜索、配置明确的智能体入口，内部工具宜单一入口加自动生成，并把接口描述当基础设施维护。国内使用前需验证网络链路与合规。

09-29

9月 Serenity

把「该怎么分」压成 22 毫秒：0.8B 的决策小模型在本地跑

Jeff 是基于 Qwen3.5 和 Gemma 4 微调的零样本分类模型：输入情况描述和候选选项，一次前向计算返回选项校准概率，不生成文本。RTX PRO 6000 上约 22 毫秒，M4 Max 约 28 毫秒；提供 0.8B、2B、Gemma4-E2B 三个规格，MIT 许可，可本地嵌入。训练在本地完成。语音导航微调后，准确率从 31.7% 提升到 95.8%，不到半小时。它适合客服归口、意图、审核高频分类，只能在给定选项中选择，不能开放推理；宜大模型生成选项，小模型执行。

09-29

9月 Serenity

同一份单价、少三成花费：Sonnet 5.5 把「日常活」的模型又推了一格

9月28日，Anthropic发布Claude Sonnet 5.5，比上代更快，多数任务最多省三成，是Opus 5.5的搭档。评测中，其智能体编程、跨学科推理、图表识别分别达70.6%、64.5%、61.6%，进步明显，但复杂判断仍以Opus 5.5更强。价格与上代相同，因完成任务所需token更少，每任务成本最多低三成，企业应按任务而非百万token单价核算。它还首次加入网络安全护栏与回退、防推理提取分类器；原关闭思考者迁移需改用between_tools。实用做法是分级选型、按任务算账，并保留可替换接口。

09-29

9月 Serenity

别把 Go 代码绑在 GitHub 上：一个自定义域名就能解开

Go 把导入路径当作代码获取地址，方便却让项目绑定托管商，迁移时所有引用者都要改 import。作者举例，有公司同时使用 GitLab、GitHub 和 Azure DevOps，因迁移成本高而付三份托管费。他建议商业团队让内部库使用自定义域名，import 路径不变，背后可随时切换仓库，用 nginx 和元信息页面即可实现。企业数字化可借鉴：把域名当最便宜的抽象层，附件、图片、接口等 URL 也先走自有域名，并把可迁移写进交付标准，降低锁定与迁移成本。

09-28

9月 Serenity