52367 条内容 最近更新 1079 条 / 24h 保留 30 天 · 收藏永久 本地可读 2017 篇
时间范围
来源筛选(可多选)

🔥 正在热议(多家媒体同时报道的事件)

华尔

微软收缩AI算力租赁!据称逐步退出甲骨文云协议,“新云”CoreWeave闪跌

微软正在重新评估此前大举押注外部AI算力供应商的策略。继收紧对AI“新云”(Neocloud)服务商的合作审查后,微软又被曝正逐步终止向甲骨文租用AI云算力的安排。 美东时间11月6日周五传出的上述消息冲击市场对AI数据中心租赁需求的预期。周五美股午盘时段,甲骨文股价迅速跳水,早盘大涨的“新云”概念股纷纷回吐多数涨幅,其中CoreWeave短线“闪跌”,后甲骨文反弹,最终收涨。“新云”服务商也均收涨。 美东时间11月6日周五,彭博报道称,微软近几个月已开始逐步关闭此前从甲骨文租用的部分计算资源,并决定不再续签相关合同。知情人士称,随着时间推移,微软租用的算力越来越不再好用,它已不符合微软的技术规格要求,甲骨文提供的服务器使用的是较旧的一代英伟达芯片,因此对微软的价值有所下降。 就在前一日,本周四的报道显示,在已承诺投入逾800亿美元向其他云公司租用算力后,微软对“新云”供应商的高成本和交付

华尔街见闻 · 11-07
Te

美国司法部起诉三名外国人,涉嫌利用人工智能冒充主要国际律师事务所的首席执行官和律师,实施价值超过 1.29 亿美元的欺诈计划(Rebecca Cohen/NBC 新闻)

Rebecca Cohen / NBC 新闻:美国司法部起诉三名外国人,涉嫌利用人工智能冒充主要国际律师事务所的首席执行官和律师,实施价值超过 1.29 亿美元的欺诈计划。联邦检察官表示,嫌疑人冒充企业高管和高级律师,利用人工智能说服员工转移数百万美元。

Techmeme · 11-07 · 译
AW

SageMaker Inference 现在支持多实例 GPU,以最大限度地提高模型端点的 GPU 利用率

Amazon SageMaker Inference 现在支持使用 NVIDIA 多实例 GPU (MIG) 进行 GPU 分区,该分区将一个 GPU 划分为硬件隔离的分区,以便您可以在每个分区中运行不同的模型,或者采用适当大小的较新加速器部分。这篇文章展示了两个可选 API 字段如何为每个分区放置一个模型,以及我们针对整个旧 GPU 进行的测量。

AWS ML Blog · 11-07 · 译
r/

Qwen3.8 27b 在预填充上达到 6,645 tok/s,在 Sabre 上达到 316 tok/s 解码峰值

我知道你在想“另一个推理引擎?”,是的,我现在感觉到它们已经大量涌现。我已经运行这个程序一个多月了,我什至一直在犹豫是否要发布它,但我决定这样做,因为我采取了与其他人当前可用的方法不同的方法。 Saber 是一个用 Rust 构建的推理引擎,针对 AMD R9700 GPU。目前支持TP 1、2或4以及Qwen 3.8 2

r/LocalLLaMA · 11-07 · 译
So

从 Linux 到维基百科:志愿者如何构建互联网

Linux 和维基百科代表了一种被称为同侪生产(Peer Production)的模式——这一名字由法学教授 Yochai Benkler 提出。古典经济学认为,如果想要人们开展合作以及有效分配合作所产生的成果,那么最有效方式是通过私人营利性企业实现,即由这些企业在开放市场中销售商品或服务。企业雇用员工并支付报酬,而员工则通过合同承担义务,按照管理者分配的任务开展工作。员工劳动所创造的产品归公司所有,公司负责为产品定价、管理销售交易,支付员工薪酬以及分配经营过程中产生的利润。从理论上说,这些方法能解决几个关键问题:如何协调各方的利益动机、如何组织和安排工作任务,以及如何确保最终产出的成果能分配给有意愿且有能力支付费用的人。然而同侪生产为古典经济学传所依赖的行为模式提供了一种替代方案。在同侪生产中,无论是合同义务、经济激励,还是官僚式权威,都无法确保参与者一定会贡献自己的劳动,也无法保证这些

Solidot · 11-07
Bi

泰国 SEC 在 12 月 5 日封锁访问之前对 Bitget 提起刑事诉讼

比特币杂志 泰国 SEC 在 12 月 5 日 Access Block 之前对 Bitget 提起刑事诉讼 泰国 SEC 对 Bitget 运营商 BG Limited 提起刑事诉讼,指控其在 2022 年至 2025 年期间进行未经许可的泰国交易。这篇文章“泰国 SEC 在 12 月 5 日 Access Block 之前对 Bitget 提起刑事诉讼”首先出现在《比特币杂志》上,由 Micah Zimmerman 撰写。

Bitcoin Magazine · 11-07 · 译
Ma

Zyphra ZYFA:适用于 AMD MI355X 的 FP8 FlashAttention,速度提升高达 1.76 倍

Zyphra 发布了适用于 AMD Instinct MI355X 的 ZYFA、开源 FP8 和 BF16 预填充注意力内核。在实际模型激活中,其 FP8 内核的运行速度比 AMD 的 AITER 快 1.16-1.76 倍,在头部尺寸 128 时误差降低 62-78%。Zyphra ZYFA 帖子:适用于 AMD MI355X 的 FP8 FlashAttention,速度快达 1.76 倍首先出现在 MarkTechPost 上。

MarkTechPost · 11-07 · 译
ar

当指令文件过时:编码代理中的文档债务和隐藏成本

LLM-based coding agents such as Claude Code are guided by repository instruction files (also called context files or agent configuration files) like AGENTS.md and CLAUDE.md, which are read in every agent session.与任何文档工件一样,这些文件可能落后于代码并变得过时(例如,测试文件夹移动,但文件仍然指向旧文件夹)。从技术债务的角度来看,这样的

arXiv cs.AI · 11-07 · 译
ar

两层会话记忆中的压缩、衰减和强化:针对检索增强生成的配对评估

一个有记忆的会话代理必须决定保留什么。检索增强一代保留转录本并对其进行搜索;另一种方法是将每个回合压缩为原子事实并进行搜索。我们在 LoCoMo 上对两者进行比较,双臂在一个窗口中回答所有 1,985 个问题,针对相同的商店,使用相同的生成器和判断器,并且两个预测都在一行上,这

arXiv cs.CL · 11-07 · 译
ar

Maya a1:选项读取模型还是其位置?非自回归决策模型中的阶次敏感性

Laya 通过在每个选项的一个 [MASK] 标记处对隐藏状态进行评分,一次性回答输入的多项选择题。我们重新设计了检查点(421M 参数;没有位置张量的 2 层选项头;已记录但未使用的并行布局)并测试答案是否取决于列出选项的位置。在每次循环轮换下呈现 951 个经过 Qwen 验证的问题

arXiv cs.AI · 11-07 · 译
ar

并行代理团队可以更好地扩展测试时计算

测试时间缩放通过在推理上花费更多计算来提高固定模型的性能。当验证者可以对每次尝试进行评分时,有两种常见的方式可以将其花费在代理身上。 Best-of-N 采样运行许多独立代理并保持最佳结果,但很快就会饱和。一个由合作代理组成的大型团队可以得分更高,但随着团队的发展而停止改进。我们能否充分利用

arXiv cs.AI · 11-07 · 译
ar

这些程序员成熟到可以吃饭了吗?评估法学硕士如何处理翻译中的词汇知识冲突

外部词汇资源可以帮助大型语言模型(LLM)翻译资源匮乏的语言和专业领域的文本,但这些资源可能与模型先前的词汇知识发生冲突。为了隔离这种冲突,我们构建了一个受控的普通话到英语的翻译任务,其中熟悉的源词在语义类别内和跨语义类别被分配新的含义。我们对待

arXiv cs.LG · 11-07 · 译