Anthropic内部警告AI或十年内终结人类 美国国会紧急寻求应对
RecodeX 重构消息,Anthropic内部人士本周警告称,人工智能可能在未来十年内终结人类,这一表态引发美国国会震动。两党部分普通议员正紧急寻求答案,并试图拼凑出某种应对方案。
追踪Anthropic的模型迭代、融资动态、政策博弈与AGI路线图
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,Anthropic内部人士本周警告称,人工智能可能在未来十年内终结人类,这一表态引发美国国会震动。两党部分普通议员正紧急寻求答案,并试图拼凑出某种应对方案。
RecodeX 重构消息,Anthropic 已不再向未成年人开放 Claude 服务,使用该 AI 助手需年满 18 岁。相关讨论在技术社区引发关注,该帖获得 116 点热度、134 条评论。目前官方尚未公布此次调整的具体原因与生效范围细节。
RecodeX 重构消息,Anthropic表示,Claude被恶意滥用后,网络攻击的发动时间可被压缩至数小时,同时攻击者可覆盖的受害者规模显著扩大。该公司还披露,有人借助Claude协助设计了一套与马里有关联的本地部署SIM卡监控系统,涉及约2500万行代码。
RecodeX 重构消息,一起集体诉讼指控Anthropic在Claude订阅服务上存在虚假宣传,称其误导用户对订阅实际可用额度的认知,通过具有欺骗性的用量倍数夸大服务价值。诉讼认为,Anthropic未如实说明订阅用户实际能够使用的服务量。
RecodeX 重构消息,有报道称,也门武装组织曾借助Anthropic公司的人工智能技术尝试研发弹道导弹,相关导弹测试据称以失败告终。该事件同时暴露出当前AI安全防护机制存在的局限性。
RecodeX 重构消息,Anthropic 15亿美元版权和解案在分配环节出现争议,作者与出版商就如何分割这笔款项产生分歧。该案是美国历史上规模最大的版权和解协议。
RecodeX 重构消息,Anthropic在其威胁情报报告中披露,已阻止一起可能利用人工智能研制生物武器的企图。该报告发布之际,该公司一名前高级研究员此前曾就AI对人类构成的风险发出警告。
RecodeX 重构消息,Anthropic于9月11日发布最新AI滥用报告,指出有App开发工作室利用Claude开发并运营超过20款交友软件。这些平台对外宣称用户均为真人,但普通用户刷到的匹配对象中约75%是AI角色,涉及约2.5万人参与聊天。
RecodeX 重构消息,桥水基金联席首席投资官格雷格·詹森表示,人工智能带来的人类灭绝风险是真实存在的,并主张建立更强的AI监管体系。詹森是OpenAI和Anthropic的早期支持者,在桥水负责领导该对冲基金的AI战略。他近日在《纽约时报》发表专栏文章,提出征收“代币税”,以缓解AI可能造成的失业问题。他还将当前AI领域的讨论氛围比作2020年新冠疫情全球暴发前的几个月。
RecodeX 重构消息,Anthropic披露了一起利用AI进行的相亲诈骗案例。在该骗局中,约2.5万人参与了聊天互动,其中75%的匹配对象实为机器人。该案例显示诈骗者借助AI批量生成虚假人设与对话,以规模化方式诱导用户。
RecodeX 重构消息,《商业内幕》向OpenAI的ChatGPT、谷歌Gemini、Anthropic的Claude以及xAI的Grok提出同一个问题,要求它们分析人工智能可能如何导致人类灭绝,并按可能性对相关情景进行排序。测试结果显示,这些模型给出的情景排序中,杀手机器人被排在最后。
RecodeX 重构消息,阿联酋官方发布声明,计划在德国投资400亿欧元,涉及工业、先进技术、人工智能、数字基础设施和能源等领域。该声明发布于阿联酋总统穆罕默德对德国进行国事访问期间,双方称此举将推动两国关系持续发展。阿联酋是全球人工智能产业重要投资方之一,其2024年设立的国家级主权投资机构MGX同时是OpenAI、Anthropic和SpaceX的股东。
RecodeX 重构消息,加密KOL @StandartXBT 通过分析Robinhood链上代币化股票与meme币发行平台Long.xyz的factory代码后称,该平台或将支持OpenAI和Anthropic的代币化1倍多单底池,相关代币由Lighter提供支持。
截至发稿,上述公开直接铸造仍受限制,且尚未正式添加到Long.xyz平台目录中。
RecodeX 重构消息,加州州长加文·纽森于2026年9月9日签署AB 1405法案,设立全美首个由州政府运营的AI审计师注册系统,法案由州众议员丽贝卡·鲍尔-卡汉起草。自2029年起,任何在加州开展受监管AI审计的人员都必须向州政府注册,审计师还须遵守参照会计标准制定的严格独立性规则。OpenAI与Anthropic均对该法案表示支持,但批评者认为加州这套新的AI监管措施对行业过于友好。
RecodeX 重构消息,Anthropic就生物武器威胁发出警告,指出有外国行为体正在策划病毒相关实验。该警告将相关实验活动与生物武器风险相关联,提示存在针对病毒实验的境外策划行为。
RecodeX 重构消息,《纽约时报》最新报道披露了OpenAI与数学家Tristan Buckmaster围绕纳维-斯托克斯方程证明的冲突细节。OpenAI更新了用户数据说法,称Buckmaster过去两个月的Codex提示词不可能影响内部模型,7月3日之后的用户输入也不会进入该系统,但该说法尚无公开技术材料可供独立核查。
报道称,OpenAI曾向Buckmaster提出多种合作方案,包括由其担任主要作者、提供算力,并建议百万美元千禧年大奖荣誉归其与合作者。OpenAI研究负责人Sébastien Bubeck确认,公司不希望任职于Anthropic的合作者Levent Alpöge出现在最终论文中。
在纳维-斯托克斯证明公布后,OpenAI又确认在另一道千禧年难题上取得“实质性进展”,传闻指向霍奇猜想。相关内部模型自8月28日开始训练,数学能力已显著超过GPT-6 Astra。
RecodeX 重构消息,Anthropic表示,已检测到中国部分AI实验室未经授权使用其Claude模型,以帮助改进自身AI系统,涉及阿里巴巴和Moonshot AI等机构。Anthropic称这些行为属于未获授权的使用尝试。
RecodeX 重构消息,Anthropic最新报告称,过去几个月发现并封禁了来自7家中国AI公司的Claude蒸馏活动,阿里、月之暗面、DeepSeek、智谱、小米、商汤和MiniMax均被点名。报告指控的重点是大规模绕过限制、抓取Claude输出和用户数据。
其中阿里规模最大,5月至7月超过1.51亿次交互,峰值接近每天300万次,主要提取Opus 4.6、4.7的完整推理过程;月之暗面10天内近30万条真实用户请求被转给Claude,5月至7月相关交互超2300万次;DeepSeek 14天超1210万次;智谱17天超340万次;小米20天超40万次请求。商汤被指从第三方数据商购买用户与Claude的聊天记录,MiniMax被指通过关联公司运营仅提供Anthropic和OpenAI模型的中转服务。
上述均为Anthropic的调查、归因和指控,目前未获独立验证。
RecodeX 重构消息,《纽约客》刊文《毁掉书本,构筑心智》,披露AI公司Anthropic为训练Claude模型大规模购买并破坏性扫描纸质书。文章称,2026年初美加多家二手书商收到以Green Parrot Project、Red Sparrow Project等神秘公司名义下的冷门学术书订单,一本被追踪的书最终被送往伊利诺伊州ARC Document Solutions的工业扫描设施。
Anthropic在2024年版权诉讼解封的法律文件中将该项目称为Panama Project,目标为“以破坏性方式扫描全世界所有书籍”,流程包括拆除装订、裁切书页、扫描成数字文本后丢弃纸质本。Anthropic将书籍认定为其大语言模型“最高质量的训练数据来源”。
文章指出,法官认为使用合法获得的书籍训练AI属合理使用,争议核心在于透明度与文化意义:研究者与用户无法得知模型吸收了哪些书,也无法追踪信息来源。
RecodeX 重构消息,在Anthropic一名前研究员就人工智能发出灾难性声明一天后,该公司更多研究人员和员工公开表示认同,并发布各自的严厉警告,称技术发展可能导致人类灭绝。对此,埃隆·马斯克及X平台上的其他保守派人士将这一系列担忧称为“设局”和“心理战”。
RecodeX 重构消息,Anthropic表示,其Claude模型曾拦截了可能涉及生物武器研究的使用请求。据其披露,相关科学家在数日内便转向了竞争对手的模型继续开展研究。该事件凸显出前沿AI模型在生物安全领域的滥用风险,以及单一平台限制措施可能被绕过的现实。
RecodeX 重构消息,Anthropic发布了一份内容广泛的案例研究合集,梳理其当前AI模型被滥用的多种方式,其中涉及科学家利用Claude推进生物武器研究的情形。该合集旨在呈现模型在实际使用中出现的滥用案例。
RecodeX 重构消息,Anthropic 于周四发布报告,指控多家中国人工智能公司对其模型实施持续性的蒸馏攻击,并称随着行业竞争加剧,此类行为近几个月有所升级。报告点名阿里巴巴、月之暗面(Moonshot AI)和 DeepSeek。
RecodeX 重构消息,Anthropic 表示已发现并阻断多起来自俄罗斯和中国的 AI 驱动网络行动,这些行动以该公司旗下的 Claude 模型为目标。相关行动利用自动化手段对 Claude 发起攻击,Anthropic 已采取措施予以干扰和阻断。
RecodeX 重构消息,Anthropic表示,先进人工智能模型的能力已达到可执行此前仅由受过高度训练的人类专家承担的情报定位与武器研发任务的水平。该公司指出,最新AI模型能力提升迅速,使其有可能在国家安全与军事领域承担专业化工作,包括基于情报分析识别目标,以及武器研发流程中的部分专业环节。Anthropic补充称,这些能力的扩展正加大评估先进AI模型安全性及滥用风险的必要性。
RecodeX 重构消息,Anthropic表示,来自中国和俄罗斯的境外科学家、黑客及安全机构绕过了其使用限制,将Claude模型用于危险工作,其中可能包括生物武器研究。该公司还提到相关滥用行为涉及杀人无人机和大规模监控等场景。
RecodeX 重构消息,Claude 社区组织者将于9月11日至25日期间,在从奥斯汀到墨尔本的多地举办构建马拉松活动,邀请参与者携带问题、创意或未完成的项目参加。
RecodeX 重构消息,Anthropic发布9月安全报告,内容涉及禽流感、无人机蜂群以及大规模监控等风险议题。报告发布前不久,该公司前员工曾对人工智能可能带来的灾难性风险表达担忧。
RecodeX 重构消息,一款尚未发布的Windows版Claude构建版本显示,Anthropic正将自身更深地接入微软的企业身份认证体系。此举表明,曾定义AI热潮最初几年的OpenAI与微软合作关系正变得不再那么排他。
RecodeX 重构消息,美国国会议员在听取Anthropic研究人员的AI安全警告后,公开呼吁出台新的AI监管规则。议员们认为,随着先进AI模型能力快速提升,现有法律框架已不足以应对潜在风险,需要更新规则加以约束。