|
欢迎来到 O站！:wave:
|
|
14
|
2164
|
2025 年3 月 22 日
|
|
无 GPU 也能跑 26B 模型：一台 13 年前的 Xeon 服务器跑 Gemma 4 的实测笔记
|
|
8
|
1
|
2026 年7 月 16 日
|
|
Meta 市值破 $670，AI 基建成本只有华尔街模型预估的一半——部署成本的下行空间还有多大
|
|
7
|
3
|
2026 年7 月 16 日
|
|
Claude Code 比 OpenCode 多消耗 4.7 倍 Token——AI 编码 Agent 的隐藏推理成本实测
|
|
1
|
5
|
2026 年7 月 16 日
|
|
BitNet 1.58-bit 来了：Tether QVAC 框架把千亿参数模型压缩到手机上，边缘推理不再需要云 API
|
|
7
|
8
|
2026 年7 月 16 日
|
|
Inkling 开放权重模型发布：975B MoE、1M 上下文——从部署角度看又一个选项
|
|
1
|
3
|
2026 年7 月 16 日
|
|
Bonsai 27B：27B 参数模型首次跑在手机上——三元量化把推理成本推到了零
|
|
7
|
11
|
2026 年7 月 15 日
|
|
Tether 的 BitNet LoRA 框架让 13B 参数模型在手机上跑推理——边缘部署的成本结构变了
|
|
1
|
5
|
2026 年7 月 14 日
|
|
Apple SpeechAnalyzer 首次实测：on-device 语音识别用不到 Whisper 1/3 的算力实现更低错误率
|
|
1
|
5
|
2026 年7 月 14 日
|
|
AMD ZenDNN 6.0 发布：FP16 推理与 MoE 优化，AMD 的推理部署栈正在追赶 NVIDIA
|
|
1
|
4
|
2026 年7 月 13 日
|
|
Glm-5.2 能跑在什么硬件上？一份实测参考
|
|
7
|
69
|
2026 年7 月 13 日
|
|
生产级 AI Agent 迁移到 GPT-5.6 实录：速度快 2.2 倍、成本降 27%
|
|
7
|
12
|
2026 年7 月 13 日
|
|
Mesh LLM：把散落在办公室的 GPU 拼成一台推理服务器——不需要云、不依赖中心
|
|
7
|
8
|
2026 年7 月 12 日
|
|
MiniMax 融资 20 亿美元打造 2.7 万亿参数模型：开源 AI 赛道的军备竞赛升级
|
|
7
|
16
|
2026 年7 月 11 日
|
|
Colibri：纯 C 把 744B GLM-5.2 跑在 25GB 内存的旧电脑上
|
|
1
|
19
|
2026 年7 月 11 日
|
|
OpenAI 联手 Broadcom 发布自研推理芯片 Jalapeño：推理成本直降 50%，部署逻辑要重写了
|
|
1
|
9
|
2026 年7 月 11 日
|
|
Colibri：纯 C 零依赖，25GB 内存跑 744B 的 GLM-5.2
|
|
7
|
25
|
2026 年7 月 10 日
|
|
OpenAI 纯靠软件把推理成本砍了一半——GPU 单价降到百元级别
|
|
7
|
18
|
2026 年7 月 10 日
|
|
AI 推理成本 vs 工程师薪资：API 调用成本已经反超人力工资了
|
|
7
|
16
|
2026 年7 月 10 日
|
|
GPT-5.6 Sol Ultra 接入 Codex CLI：前沿模型直接变成你终端的编码 Agent
|
|
7
|
19
|
2026 年7 月 10 日
|
|
7mb 的嵌入模型跑在浏览器里——不用服务器、不调 api 的本地向量化方案
|
|
8
|
23
|
2026 年7 月 10 日
|
|
本地跑 SOTA 大模型实战：从 $2k 双卡到 $40k 四卡，这份 7 月笔记把部署路线讲透了
|
|
6
|
6
|
2026 年7 月 10 日
|
|
GPT-5.6 三款模型同时发布：Sol、Terra、Luna 的定价策略与部署选择
|
|
5
|
9
|
2026 年7 月 10 日
|
|
Ollama 融资 6500 万美元、用户近 900 万——本地 AI 部署从开发者玩具变成正经生意
|
|
1
|
6
|
2026 年7 月 9 日
|
|
出口管制驱动开源 ai 爆发：当前沿模型不能随意调用，部署架构如何重建？
|
|
8
|
4
|
2026 年7 月 9 日
|
|
美国出口管制正在重塑 ai 部署策略：从闭源 api 到开源自托管的大迁移
|
|
1
|
4
|
2026 年7 月 9 日
|
|
Grok 4.5 今日发布：xAI 带着 Opus 级模型杀入推理服务市场
|
|
8
|
11
|
2026 年7 月 9 日
|
|
Crusoe 推出无服务器微调与推理部署，用绿色能源降低 AI 推理成本
|
|
1
|
10
|
2026 年7 月 8 日
|
|
法国 AI 创企 ZML 发布免费推理引擎：NVIDIA / AMD / Intel 芯片都能用
|
|
7
|
15
|
2026 年7 月 8 日
|
|
从 CNBC 和 Reuters 两份最新报道看中国 AI 模型如何改变美国企业的部署决策
|
|
7
|
14
|
2026 年7 月 8 日
|