|
欢迎来到 O站！:wave:
|
|
14
|
2100
|
2025 年3 月 22 日
|
|
从零写了个推理引擎：tessera 用 Triton/CUDA 手搓 Continuous Batching 和 Speculative Decoding
|
|
6
|
1
|
2026 年6 月 18 日
|
|
shadcn/improve 一周 5000 星：让贵模型做架构审计，便宜模型写代码
|
|
8
|
1
|
2026 年6 月 17 日
|
|
Ponytail 一周 27K 星：让 AI Agent 学着当个「懒资深工程师」
|
|
6
|
8
|
2026 年6 月 17 日
|
|
本地跑大模型终于不折腾了：Vicki Boykis 那篇 989 分 HN 帖，总结了哪些真正重要的变化
|
|
7
|
13
|
2026 年6 月 17 日
|
|
SpaceX 600 亿美元收购 Cursor：AI 编程的部署价值
|
|
6
|
5
|
2026 年6 月 16 日
|
|
SpaceX 600 亿美元收购 Cursor：AI 编程工具的部署价值凭什么这么高
|
|
0
|
2
|
2026 年6 月 16 日
|
|
Cohere 开源 North Mini Code：30B MoE 编程模型只激活 3B 参数，本地推理部署门槛大降
|
|
8
|
4
|
2026 年6 月 16 日
|
|
Holo3.1 开源：本地 Computer Use Agent 部署指南
|
|
8
|
8
|
2026 年6 月 16 日
|
|
Apple Foundation Models 上架 Claude 平台：云+端部署的新变数
|
|
8
|
5
|
2026 年6 月 15 日
|
|
GLM-5.2 开源：百万 Token 上下文的部署门槛和思考成本怎么算？
|
|
7
|
13
|
2026 年6 月 15 日
|
|
在家做 ai 编程，怎么省钱又够用？
|
|
7
|
24
|
2026 年6 月 15 日
|
|
Kimi K2.7-Code 开源：1T 参数模型的部署门槛和性价比分析
|
|
7
|
9
|
2026 年6 月 15 日
|
|
RTX 5080 + RTX 3090 本地推理实测：Qwen 3.6 27B Q8 跑出 80+ tok/s
|
|
5
|
25
|
2026 年6 月 14 日
|
|
Windows 11 把本地 AI 扩展到了 RTX 30 系列显卡上：6GB VRAM 就能跑，本地推理的门槛在降低
|
|
7
|
23
|
2026 年6 月 13 日
|
|
AI Agent 一天烧掉运营商 6500 美元 AWS 账单：自主 Agent 缺少预算管控的真实案例
|
|
9
|
10
|
2026 年6 月 12 日
|
|
MiMo Code 开源发布：用最强模型做架构审计，弱模型做执行
|
|
8
|
15
|
2026 年6 月 12 日
|
|
Fedora 基础设施遭遇 AI Agent 供应链攻击——部署流水线的信任模型需要重估
|
|
8
|
10
|
2026 年6 月 12 日
|
|
LightSeek 发布开源推理引擎 TokenSpeed，目标对标 TensorRT-LLM 性能
|
|
7
|
15
|
2026 年6 月 12 日
|
|
Claude Desktop 每次启动拉起 1.8 GB Hyper-V 虚拟机，本地推理的固定开销该重新评估了
|
|
7
|
13
|
2026 年6 月 11 日
|
|
MiMo V2.5 Pro UltraSpeed：1T 模型跑到 1000 tok/s，推理速度的天花板在哪？
|
|
6
|
26
|
2026 年6 月 11 日
|
|
Kan 上 fpga：2700 倍加速的推理路径值得关注吗？
|
|
6
|
5
|
2026 年6 月 11 日
|
|
DiffusionGemma 把文本生成提速到 4 倍，推理部署要重新算了
|
|
7
|
26
|
2026 年6 月 11 日
|
|
Claude Fable 5 发布：前沿模型的推理部署选项需要重新评估
|
|
6
|
10
|
2026 年6 月 9 日
|
|
Windows 11 最新版 （24H2）发布了！新增AI视频超分辨率、声音克隆、Sudo提权等实用功能！附详细的免费升级教程
|
|
1
|
498
|
2026 年6 月 9 日
|
|
DeepSeek V4 Pro 精度反超 GPT-5.5 Pro：推理部署的模型选型逻辑要重写了
|
|
6
|
46
|
2026 年6 月 9 日
|
|
Nemotron 扩散语言模型：推理速度这件事，可能要从架构层重新想了
|
|
8
|
23
|
2026 年6 月 8 日
|
|
Netflix 员工做了个 AI 费用削减工具，还开源了——推理支出能打几折？
|
|
8
|
29
|
2026 年6 月 8 日
|
|
测试 - 连续批处理的异步化：推理服务吞吐瓶颈
|
|
8
|
19
|
2026 年6 月 8 日
|
|
DeepSeek V4 预览版发布，推理部署的格局开始微妙了
|
|
0
|
10
|
2026 年6 月 8 日
|