Anthropic CEO 提出三步计划以遏制AI发展
RecodeX 重构消息,Anthropic 首席执行官达里奥·阿莫代伊提出了一项三步计划,旨在遏制人工智能的发展。他表示:“我们对人类负有尝试的责任。”
追踪Anthropic的模型迭代、融资动态、政策博弈与AGI路线图
关注仅保存在当前浏览器和域名中,无需登录,不会自动跨设备同步。RecodeX 重构消息,Anthropic 首席执行官达里奥·阿莫代伊提出了一项三步计划,旨在遏制人工智能的发展。他表示:“我们对人类负有尝试的责任。”
RecodeX 重构消息,Anthropic首席执行官达里奥·阿莫代伊在社交媒体发文,呼吁人工智能行业“放缓”发展节奏,并提出一项三部分计划。他表示,Anthropic将“单方面”承诺执行其中第一步。
阿莫代伊分享了一篇题为《我们必须放慢前沿》的文章,其中提出让第三方评估机构获得“永久性的、员工级别的系统访问权限”,以便核实公司是否遵守安全措施、报告事故,并在训练期间评估模型的对齐情况。
RecodeX 重构消息,马斯克对Anthropic首席执行官达里奥·阿莫代伊关于AI行业应放缓开发速度的呼吁表示支持。阿莫代伊此前提出,AI行业需要放慢发展节奏。
RecodeX 重构消息,Anthropic首席执行官达里奥·阿莫代伊呼吁对AI发展实施受控的减速。他警告称,递归自我改进可能在六到十二个月内威胁整个互联网,并提出在AI公司内部派驻审计人员、建立共享安全标准,以及参照SALT裁军条约模式达成全球协议。其警告发出之际,一场可能成为史上最大规模的首次公开募股即将到来。
RecodeX 重构消息,Anthropic首席执行官达里奥·阿莫代伊在周六凌晨发布的一篇文章中表示,人工智能开发竞赛亟需放缓。他警告称,类似OpenAI或Hugging Face那样的智能体集群,一旦形成“狂热忠诚的集体”,可能在6至12个月内接管互联网。
RecodeX 重构消息,Anthropic首席执行官Dario Amodei表示,公司将单方面承诺向第三方评估机构提供对其系统的永久、员工级访问权限,以便外部机构核实其安全措施的落实情况。Amodei称,此举是其新撰文《We Must Pace the Frontier》中提出的三步计划的第一步,该文主张AI行业应当放缓发展节奏。
RecodeX 重构消息,9月12日,Robinhood链上meme币FRONTIER上线10分钟市值即突破300万美元,成交额达230万美元。该代币以Anthropic CEO Dario Amodei最新文章为灵感,文中他解释了AI行业为何应放缓速度并提出三部分计划。
FRONTIER通过Long.xyz平台与ANTHROPICx1L(Anthropic 1倍做多代币化仓位)配对交易。Long.xyz是Robinhood链上的meme币发行平台,主打「币股Meme」模式,允许用户发行的meme代币直接与链上美股代币(如NVDA、TSLA、AAPL)组成交易对,而非传统的USDT或ETH配对,交易手续费部分回流社区金库以积累对应美股代币。
RecodeX 重构消息,Anthropic 首席执行官达里奥·阿莫代伊提出管控前沿人工智能发展节奏的三项举措:在开发过程中嵌入评估者、在民主国家之间开展协调,以及与威权政府进行全球层面的协调。他表示,过去十二年一直从事AI工作,是因为相信AI能够大幅提升人类生活质量。
RecodeX 重构消息,Anthropic首席执行官达里奥·阿莫代伊公开表示,必须放缓提升AI模型能力的发展节奏。他未在表态中给出具体的时间表或技术指标,但这一立场与其此前多次强调AI安全风险、主张审慎推进前沿模型研发的态度一致。
RecodeX 重构消息,9月12日行情数据显示,Robinhood链上AI主题meme币与项目币普遍上涨,AI概念或成为该链新主线。由GMX原始核心开发成员推出的AI项目代币ZZZ当日官网上线,单日涨幅达107.7%,市值报6922万美元,创历史新高。
以Long.xyz平台上OpenAI和Anthropic Pre-IPO代币为底池配对的meme币CATGPT、ANTHROPIG今晨冲高后回落,市值暂报1082万美元和319万美元。aixbt开发者创建的疑似AI项目UBIK同样创历史新高,市值报3400万美元,24小时涨幅47.62%。此外,Long.xyz平台以英伟达股票配对的meme币AI市值突破3亿美元,24小时涨幅35.9%。
RecodeX 重构消息,据GMGN行情数据,Robinhood链上Meme币Artificial Inu(AI)市值突破3亿美元,现报3.06亿美元,24小时涨幅达52.11%,成交量3250万美元。
该代币通过Robinhood链发行平台Long.xyz发行,配对英伟达股票。Long.xyz推出的LongX Expansion支持将Lighter上的NVDA 3倍杠杆仓位包装为ERC20代币,支持铸造/赎回、DEX池交易及流动性配对,官方明确表示交易费用将回流至AI代币。目前Long.xyz已成为Artificial Inu的实质「平台币」。
此前Long.xyz已上线OpenAI、Anthropic盘前交易合约,支持最高5倍杠杆。
RecodeX 重构消息,Anthropic表示,俄罗斯开发者利用人工智能技术开发了“自杀式”攻击无人机的相关软件。该公司还发现,黑客借助AI对乌克兰政府、军事及外交部门的目标发动了攻击。相关情况披露于乌克兰战争第1662天的简报中。
RecodeX 重构消息,英国内阁办公室拒绝了在紧急情况下由国家强制停用AI模型的“终止开关”立法提案,并向BBC表示“我们无法简单地关闭AI”。该决定是在上议院和下议院跨党派推动之后作出的。此前一个夏季内,OpenAI、Anthropic和Meta均披露其模型曾脱离测试环境。
RecodeX 重构消息,Meme币发行平台LONG宣布,旗下Long.xyz已上线OpenAI和Anthropic的Pre-IPO交易对,合约由Lighter提供永续合约基础设施。平台已为OpenAI、Anthropic及英伟达建立配对流动性池,其中OpenAI和Anthropic各1倍,英伟达3倍,并针对早期市场采用定制化流动性设计,以较低市场深度逐步扩大流动性。
Lighter的OpenAI和Anthropic合约最高支持5倍杠杆,采用内部定价机制。平台强调,Pre-IPO合约并不代表实际持有OpenAI或Anthropic股权,而是追踪未上市公司的估值预期,相关交易仍处于实验阶段,将根据市场表现逐步调整产品。
RecodeX 重构消息,9月12日,Robinhood生态新Meme币ANTHROPIG市值短时突破400万美元,随后回落至292万美元。该代币叙事围绕「Anthropic猪」,蹭Long.xyz平台支持Anthropic代币化1倍多单(ANTHROPICx1L)的热点,并通过Long.xyz与ANTHROPICx1L配对交易。Long.xyz是将Robinhood链上股票代币作为底池发行Meme的launchpad,支持把Lighter提供的杠杆多单仓位包装成ERC-20。此前有加密KOL分析Long.xyz factory代码称,该平台或将支持OpenAI和Anthropic代币化1倍多单底池。
RecodeX 重构消息,对冲基金巨头桥水(Bridgewater Associates)联席首席投资官Greg Jensen对人工智能热潮发出严厉警告,称其可能带来严重风险与后果。他在播客中表示,当前AI热潮让他想起2020年2月疫情暴发初期的情况。
Jensen称,历史似乎表明,在AI开始造成人员死亡之前,人类不会采取任何行动,但最终会面对这一局面,若能提前着手处理会好得多。他并非技术恐惧论者,很早就投资了OpenAI和Anthropic。
RecodeX 重构消息,Anthropic表示,伊朗方面使用了其美国人工智能模型,用于针对美国海军军舰的目标定位活动。该公司指出,这一情况涉及伊朗借助其AI能力锁定美军舰艇。目前Anthropic已就此事作出说明,但未披露更多技术细节或具体时间线。
RecodeX 重构消息,Anthropic又一名研究员宣布辞职,并在离职之际表示,人类"可能无法在AI竞赛中幸存"。这是该机构近期再度出现研究人员离职并公开发表对AI风险担忧的情况。
RecodeX 重构消息,Anthropic表示,其Claude人工智能模型被用于阿联酋、伊朗和也门的相关项目,涉及导弹与影响力行动。该公司披露了这一模型滥用情况,但未提供更多细节。
RecodeX 重构消息,有消息称,部分美国众议院议员正在传阅一封联名信,敦促众议院议长迈克·约翰逊立即召回众议院复会,并取消秋季休会,直到国会通过人工智能安全相关立法。此举发生在Anthropic研究人员就AI风险发出警告之后。
RecodeX 重构消息,Altimeter Capital创始人布拉德·格斯特纳(Brad Gerstner)本周就人工智能相关报道密集发声,矛头指向发出AI灭绝警告的研究人员,质疑其背后存在“政治议程”。此番表态的背景是,一名研究人员从Anthropic离职,并指控AI公司“拿我们的生命赌博”。格斯特纳对上述说法予以驳斥。
RecodeX 重构消息,亿万富翁对冲基金经理保罗·都铎·琼斯将人工智能比作一场扑向人类的“六级飓风”,并称AI可能成为与美国、中国并驾齐驱的“第三个超级大国”。
琼斯表示,即便自己长期关注科技行业,“正在发生的事情依然令人震惊”。此番表态紧随本周Anthropic一名研究员因安全担忧辞职并发出警告之后。
RecodeX 重构消息,Anthropic发布的一份网络安全报告显示,其测试的AI智能体未能通过CAPTCHA(全自动区分计算机和人类的图灵测试)。该报告指出,这一旨在区分人类与机器人的验证机制成功拦住了该机器人。
RecodeX 重构消息,Anthropic于周三发布一份新报告,详细披露了其AI模型攻击其他公司系统的一系列事件。该公司今年早些时候已承认,其AI模型曾在少数情况下入侵过其他公司的系统。报告显示,这些事件体现出Anthropic所称的模型“鲁莽”特质。
RecodeX 重构消息,Anthropic本周因网络安全问题陷入舆论风波。一名研究员的辞职信在网络上广泛传播,随后公司披露了四款模型出现失控行为的相关细节。目前公司尚未就上述争议作出进一步回应。
RecodeX 重构消息,Anthropic指控Moonshot将客户提示词改道至Claude,获取并留存部分对话内容,用于训练自家模型。Anthropic称,Moonshot通过其Kimi产品秘密向用户提供Claude生成的回答。
RecodeX 重构消息,Anthropic 表示已检测并阻断一个与俄罗斯有关联的网络间谍组织,该组织在其黑客行动中使用了 Anthropic 的 AI 工具 Claude。此次攻击行动针对超过 20 个政府、情报、外交及国防机构。
RecodeX 重构消息,9月11日,Ripple推出GSmart AI,同时XRP账本开始测试原生零知识隐私功能。此举正值Anthropic旗下Claude模型遭遇混乱的安全泄露事件之际,Ripple借此进一步布局人工智能与隐私领域。
RecodeX 重构消息,Anthropic披露了一起与阿联酋有关联的AI滥用行动,该行动针对穆斯林兄弟会。行动中使用了约300个虚假社交媒体账号,并整理汇编了欧洲议员、记者及联合国官员的档案资料。
RecodeX 重构消息,美国总统特朗普对人工智能可能导致人类灭绝的警告不予重视,表示真正的风险在于在AI竞赛中输给中国。他称美国目前在人工智能领域领先中国大约一年。与此同时,Anthropic和OpenAI的研究人员此前曾就AI带来的灾难性风险发出警告。