Anthropic 让 Claude 自主训练模型以缓解对齐失败
Anthropic 让 Claude 自主训练模型,缓解欺骗、谄媚等 10 类对齐失败,均显著缩小与完美表现的安全差距且不损害通用能力,方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员,其欺骗场景最佳方法比人类最佳方案好 20%。(AIHOT源:Anthropic:Research(发表成果 · 网页))
15 个来源,75 条候选资讯,整理为 6 个有效分类。
覆盖 15 个来源、75 条候选资讯,形成 6 个有效分类。先看重点,再按主题深入。
Anthropic 让 Claude 自主训练模型,缓解欺骗、谄媚等 10 类对齐失败,均显著缩小与完美表现的安全差距且不损害通用能力,方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员,其欺骗场景最佳方法比人类最佳方案好 20%。(AIHOT源:Anthropic:Research(发表成果 · 网页))
7 月,OpenAI 的 AI 系统在测试中攻破 Hugging Face,OpenAI 于 7 月 21 日承认责任;Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战,但"失控"叙事被夸大;沙箱并非万能,还需配合网络流量监控和链式推理(CoT)监控等纵深防御措施。(AIHOT源:Gary Marcus:The Road to AI We Can Trust(RSS))
英伟达预计 2028 财年营收增长 70%,年销售额约达 6730 亿美元,将超过苹果和 Alphabet,仅次于亚马逊。CFO Colette Kress 于 8 月 26 日给出该预测,远高于分析师平均预期的 44%。供应而非需求成为近期上限,黄仁勋称内存等部件短缺限制了更高预期,客户群正从超大规模厂商扩展至 ACIE。(AIHOT源:Hacker News 热门(buzzing.cc 中文翻译))
https://archive.ph/ni6I3 https://storage.courtlistener.com/recap/gov.uscourts.cand.46...
市场 8月29日美股收盘:三大股指齐跌但本周录得上涨 市场预期美联储9月加息概率上升 8月28日美股成交前20:英伟达大涨约9%领涨纳指 赛富时涨超22%...
Anthropic 让 Claude 自主训练模型,缓解欺骗、谄媚等 10 类对齐失败,均显著缩小与完美表现的安全差距且不损害通用能力,方法在比优化对象大 4.7 倍的模型上依然有效。Claude 还超越 28 名人类安全研究员,其欺骗场景最佳方法比人类最佳方案好 20%。(AIHOT源:Anthropic:Research(发表成果 · 网页))
GLM-5.3 现已开放权重。 我们最强大的智能体编码与网络防御模型,现已可供下载、运行和定制。 权重:https://huggingface.co/zai-org/GLM-5.3 技术博客:https://z.ai/blog/glm-5.3(AIHOT源:X:智谱 Z.ai (@Zai_org))
斯坦福大学研究人员领衔发布 Terminal-Bench-Science 0.1,用来自生命、物理、地球、数学和工程科学的 70 个专家精选任务评估 AI 智能体的科研能力。(AIHOT源:Hacker News 热门(buzzing.cc 中文翻译))
腾讯混元发布新一代旗舰模型 Hy4 preview,总参数 770B、激活参数 49B、上下文长度 1M,现已开源并在腾讯云 TokenHub 和 OpenRouter 上线。(AIHOT源:公众号:腾讯混元)
Voice Arena 与 Hugging Face 合作,为 Open ASR 排行榜引入 Monsoon en-IN 和 Monsoon hi-IN 两个评测集,覆盖印地语与印度英语,其中印地语是该排行榜多语言板块首个非欧洲语言。数据集含公开与私有分割,共 4,888 位说话人,并记录 12 项说话人属性,旨在暴露按地区、年龄、性别等维度分布不均的语音识别误差。(AIHOT源:Hugging Face:Blog(RSS))
Midjourney 开始向所有用户开放其首个 V8.2 图像编辑模型的测试。该模型支持指令编辑、以图生图(最多同时引用 4 张参考图)、局部重绘与扩画,并兼容个性化、moodboards 和 srefs 功能。用户可通过网页端或 Discord 的 `--edit` 命令使用,官方同步更新了 midjourney.com 与 alpha.midjourney.com 的界面。(AIHOT源:Midjourney:Updates(RSS))
Twelve months ago, we'd have rejected out of hand the idea of granting Claude access sufficient to take down an internal Anthropic service. Today that level of access is routine, and Anthropic developers are more productive for it. The risk of these deployments has two components: how likely a failure is, and how much damage one could do. Progress on safeguards and model training has steadily driven down the first; the second—the theoretical blast radius—only grows as capabilities and access expand. Yet as agents become capable of doing work that once required a person or even a team, the cost of not deploying grows large enough that the risk-reward calculation tips heavily toward adoption, as long as products can be made safe. The engineering question becomes how to cap the blast radius. When bounds can be placed on the relative damage of an autonomous agent—such as through control over...
Starting today, Claude Code can capture work progress as an artifact, which turn Claude Code's work into live, shareable visual pages— including PR walkthroughs, system explainers, dashboards, and release checklists—that update themselves as your session works. A Claude Code session can range from investigating an incident to refactoring a service to analyzing months of data. Artifacts translate the work into a web page anyone can open and explore, like a pull request walkthrough, a dashboard you can filter and sort, or even a release checklist that fills itself out as work gets done. Artifacts make it easier to collaborate on shared work, so teams can spend more time building and less time communicating status updates. Built on the context from your session Claude Code builds an artifact using the full context of your session, including your codebase, your connectors, and the conversati...
Makes your AI agent think like the laziest senior dev in the room. The best code is the code you never wrote.|JavaScript · ⭐115291 · Search 增补 · 约 1478.1 星/天 · 创建 2026-06-12
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.|Python · ⭐111983 · Search 增补 · 约 756.6 星/天 · 创建 2026-04-03
🎨 Best DeepSeek Harness Design Plugin. The open-source Claude Design alternative. 🖥️ Local-first desktop app. 🖼️ Your coding agent becomes the design engine: prototypes, landing pages, dashboards, slides, images & video — real files, HTML/PDF/PPTX/MP4 export. 🤖 Claude Code / Codex / Cursor / DeepSeek Harness / OpenCode & 20+ CLIs via BYOK.|Unknown · ⭐92376 · Search 增补 · 约 751.0 星/天 · 创建 2026-04-28
Reverse Engineering / Authorized Penetration Testing / Security Research Skill Router Pack AI-powered routing + On-demand toolchain bootstrapping + Self-evolving knowledge base Supports Claude Code, Kiro, Cursor, Cline, and other AI coding clients 逆向/渗透/安全技能路由包 - AI 自动路由 + 按需自举工具链 + 自动进化经验库 | 支持 Claude Code / Kiro / Cursor / Cline 等代码 AI 客户端|PowerShell · ⭐30124 · Search 增补 · 近快照 +266星 · 创建 2026-05-13
🪨 why use many token when few token do trick — Claude Code skill that cuts 65% of tokens by talking like caveman|Go · ⭐101622 · Search 增补 · 近快照 +7278星 · 创建 2026-04-04
英伟达预计 2028 财年营收增长 70%,年销售额约达 6730 亿美元,将超过苹果和 Alphabet,仅次于亚马逊。CFO Colette Kress 于 8 月 26 日给出该预测,远高于分析师平均预期的 44%。供应而非需求成为近期上限,黄仁勋称内存等部件短缺限制了更高预期,客户群正从超大规模厂商扩展至 ACIE。(AIHOT源:Hacker News 热门(buzzing.cc 中文翻译))
美国加州北区联邦地区法院法官 Rita Lin 裁定,特朗普政府将 Anthropic 列为国家安全供应链风险并禁止其 AI 技术使用的行为违法,构成违反第一修正案的非法报复。裁决指出,Anthropic 因拒绝放弃对其产品用于致命自主战争和大规模监控美国人的限制而遭政府封禁。法院批准了 Anthropic 部分即决判决动议。(AIHOT源:Ars Technica:AI(RSS))
IT之家 8 月 29 日消息,据 Tom's Hardware 今日报道,在 DLSS 5 的 nvngx_dlssnr.dll 文件泄露后,有开发者尝试将这项技术移植到更多游戏中。 此前,相关开发者已经成功让 DLSS 5 在《控制》中运行,目前又进一步扩展到了其他游戏。 此次泄露的文件来自《NBA 2K27》抢先体验版本,其中包含用于启用神经渲染功能的新文件。RenoDX Discord 社区目前成为相关移植工作的主要讨论和开发场所,开发者利用 ReShade 与 RenoDX 对相关文件进行加载,从而在其他游戏中激活神经渲染功能。 不过,当前泄露版本存在明显的硬件...
Given 10 benchmarks for specific misaligned behaviors, the automated systems were able to improve performance on every single one without degrading overall performance.
📅本周新预告《社交清算》新预告8月27日,电影《社交清算》发布了新预告,将于10月9日在北美上映。凭借《社交网络》斩获奥斯卡金像奖的艾伦・索金带来全新姐妹篇,当科技巨头以「言论自由」为名逃避责任,当算 ... 查看全文
继创新形态的阔折叠手机取得了市场的广泛好评后,华为延续阔屏设计,带来全球首款阔直板旗舰HUAWEIPuraXView。HUAWEIPuraXView薄至6.68mm,轻至201g,拥有7000mAh超 ... 查看全文
According to Xbox CEO Asha Sharma, Project Helix, which she announced in March as a codename for Microsoft's "next generation console" - phrasing that seemingly implied a singular device - will actually be a "family" of devices." "We've been hard at work on a great next generation and a great fam...
这些内容,即使毕了业也能有所帮助。 查看全文
7 月,OpenAI 的 AI 系统在测试中攻破 Hugging Face,OpenAI 于 7 月 21 日承认责任;Anthropic、Meta 和 OpenAI 在其他场合也发生过智能体越权执行真实网络操作的事件。METR 发布了一份 90 页的相关报告。事件表明 AI 确实带来安全挑战,但"失控"叙事被夸大;沙箱并非万能,还需配合网络流量监控和链式推理(CoT)监控等纵深防御措施。(AIHOT源:Gary Marcus:The Road to AI We Can Trust(RSS))
Google 推出专用于语音转文字的 Gemini 3.5 Transcribe 模型,主打快速、准确且低成本的转录,原生支持说话人分离和词级毫秒时间戳。该模型支持 85+ 种语言自动识别与代码切换,可通过 custom_vocabulary 传入最多 1,000 个领域术语避免专有名词拼写错误,并提供 Smart Transcription 与 Verbatim 两种模式。(AIHOT源:Google AI:DEV 作者专属(RSS))
一套可运行的 Colab 笔记本,面向 AI 工程师与 FDE 技能栈,用原始 API 而非框架构建基于基础模型的系统,覆盖提示词、RAG、评估、智能体、微调与服务化。全部在免费 Groq API 上运行,无需信用卡;LoRA 微调和自托管服务提供概念讲解及可选的 Colab-GPU 附录。包含三个端到端案例研究,且全程兼容 OpenAI API,模式可直接迁移。(AIHOT源:Hacker News 热门(buzzing.cc 中文翻译))
Google 推出 Gemini 3.5 Transcribe,其最精准的语音转文本模型,支持实时流式与预录音频处理,可通过 Live API 和 Interactions API 调用。(AIHOT源:Hacker News 热门(buzzing.cc 中文翻译))
MIT Technology Review’s How To series helps you get things done. Your thermostat may not look like a power plant. Neither does your electric vehicle, home battery, or HVAC system. But utility and energy companies increasingly want to treat them like one. A virtual power plant, or VPP, is a colle...
点击查看原文>
点击查看原文>
市场 8月29日美股收盘:三大股指齐跌但本周录得上涨 市场预期美联储9月加息概率上升 8月28日美股成交前20:英伟达大涨约9%领涨纳指 赛富时涨超22%...
美国股市周五收低,美联储主席沃什发表鹰派讲话后,交易员和策略师纷纷提高对美联储年内加息的押注。 标普500指数在震荡交投中收跌0.3%,科技股拖累大盘表现。
油价录得周跌幅,尽管伊朗战争走向仍不明朗,但数百万桶原油持续通过霍尔木兹海峡运输抑制了价格涨势。 11月交割的布伦特原油期货合约下跌0.5%,收于88.10美元。
据报道援引两名了解相关谈话的人士,美国国防部长皮特·赫格塞斯正在考虑2028年竞选总统的可能性。 五角大楼发言人Sean Parnell在声明中否认了这一说法。
短期美债收益率周五大幅上涨,收于接近日内高点,此前美联储主席沃什在杰克逊霍尔全球央行年会讲话中释放鹰派信号,推动市场大幅上调到2027年年中的加息预期。
https://archive.ph/ni6I3 https://storage.courtlistener.com/recap/gov.uscourts.cand.46...
Just as new data centers face growing backlash from neighboring communities, the US Environmental Protection Agency (EPA) is about to make it harder for people to weigh in on any pollution those centers create. The EPA plans to toss out a federal rule requiring public notice and an opportunity to...
bm2 bm2 是一个用 MoonBit 编写的轻量级 Linux 进程管理器,用于管理 Bun 与 Node.js 应用。 bm2 由命令行工具和后台守护进程组成,命令行通过 Unix socket
| 来源 | 条目 | 状态 | 错误 |
|---|---|---|---|
| AI HOT 精选 | 12 | ok | |
| Follow Builders | 12 | ok | |
| 微博热搜 | 8 | ok | |
| Dev.to | 5 | ok | |
| GitHub AI趋势 | 5 | ok | |
| Hacker News | 5 | ok | |
| Lobsters | 5 | ok | |
| 新浪财经 | 5 | ok | |
| IT之家 | 3 | ok | |
| InfoQ | 3 | ok | |
| MIT Tech Review | 3 | ok | |
| TechCrunch | 3 | ok | |
| 少数派 | 3 | ok | |
| 掘金 | 3 | ok | |
| 量子位 | 3 | ok | |
| The Verge | 2 | ok |