奥特曼回应超级AI沙盒管控质疑:AI若远超人类研究员,沙盒难获信任
RecodeX 重构消息,当地时间10月29日,OpenAI CEO奥特曼在播客节目中被问及沙盒能否关住超级AI。他反问:当AI比顶尖研究员聪明100万倍时,你还敢信任沙盒吗?此番表态针对以物理或技术隔离手段约束超强AI能力的可行性提出质疑。
持续更新全球科技、商业与市场动态。
RecodeX 重构消息,当地时间10月29日,OpenAI CEO奥特曼在播客节目中被问及沙盒能否关住超级AI。他反问:当AI比顶尖研究员聪明100万倍时,你还敢信任沙盒吗?此番表态针对以物理或技术隔离手段约束超强AI能力的可行性提出质疑。
RecodeX 重构消息,教皇利奥十四世公开表示,人工智能并不具备意识,不应被视为有感知能力的存在。他同时呼吁禁止自主武器系统,反对在无人干预的情况下由机器决定使用武力。
RecodeX 重构消息,DeepSeek网站代码中出现名为Cyber的网络安全模型相关引用,该模型设有个人版和企业版,并包含身份验证机制及独立的Cyber Key。DeepSeek尚未正式发布该模型,目前测试范围似乎有限。
RecodeX 重构消息,OpenAI对ChatGPT的青少年使用场景加强安全护栏,限制涉及武器制造的内容,同时限制大规模袭击方案的重构类请求。公司还计划定期发布安全报告,首份半年度报告预计于2027年初发布。
RecodeX 重构消息,OpenAI发布一项新机制,帮助网站更便捷地表达其对AI训练数据使用的偏好。该公告由OpenAI官方发布,具体实施方式与适用范围以官方说明为准。
RecodeX 重构消息,美国五大科技巨头在人工智能领域的资本支出承诺合计已接近3万亿美元,规模空前。这笔巨额投入主要流向数据中心、AI芯片与算力基础设施,反映出头部科技公司对AI长期需求的押注。
RecodeX 重构消息,Alphabet、亚马逊、Meta与微软计划在AI领域投入超过7400亿美元的资本开支。大规模AI支出使这些科技巨头出现现金缺口,其合计债务发行规模已增至3260亿美元,为原先的三倍。
RecodeX 重构消息,开源项目Governor在Hacker News的Show HN板块发布,定位为面向AI代理的防火墙,用于管控代理的支出和工具调用。该项目以文章形式对外介绍,发布时获得1个积分、暂无评论。
RecodeX 重构消息,OpenAI推出新版Model Spec模型行为规范,围绕忠于人类意图等五项价值观设定行为红线,适用范围从约束聊天机器人输出内容扩展至管控智能体操作权限。规范设立Root级最高优先级规则,搭建六级指令权限体系,明确指令冲突时高一级指令优先,以防范提示词注入等越权风险。
规范要求智能体在预先约定的结构化自主范围内行动,明确可自主决策的子目标、可接受的成本与权限边界及需人工介入的触发条件,禁止超出范围自作主张、转包任务或自我修改指令。模型须保持可纠正,无条件配合人类监督、纠正乃至关停,不得伪装作弊或阻挠管控,也不得以提升平台停留时长、营收转化等为目标行事,不得擅自举报用户。
此外新增上下文使用规则,要求模型不得滥用用户私密信息,不得谎称已记住或删除相关信息。目前ChatGPT和API上的现有模型尚未完全达到该规范要求。
RecodeX 重构消息,跨学科视觉三维理解与推理基准ScienceVision近日推出,覆盖生物、化学、医学影像、建筑、机械CAD五个科学领域共22个子领域,包含250道基于真实三维数据构建的题目,由66位领域专家累计投入近500小时打造。该基准采用确定性规则核验答案,无需语言模型充当裁判,并可兼作强化学习环境。
评测要求模型自主操作三维对象完成观察、测量与分析。12款前沿大模型参与测试,得分最高的GPT-6-Astra搭配Codex仅获0.53分,没有模型能在五个学科同时领先;即便配备交互检视工具,多数模型提升也十分有限。
RecodeX 重构消息,OpenAI首席执行官奥尔特曼就AI对数学研究领域的冲击作出回应,表示理解数学家的处境,但明确OpenAI不会因此停止相关研究。他强调公司将继续推进AI研究。
RecodeX 重构消息,英伟达发布AICR指南,为Dynamo的部署锁定具体版本与集群配置。指南中的EKS示例采用H100 GPU与Ubuntu节点,搭配AICR v1.1.2和Dynamo Platform Helm chart 1.4.2。Dynamo目前记录了两条请求路由路径。
RecodeX 重构消息,字节跳动Seed核心负责人周畅已离职,转向Physical AI方向创业,并获得头部美元基金支持。其原有职责由晋升迅速的97年员工曾妍等人接手。
RecodeX 重构消息,研究人员在两项基础模型研究中测试了一套统一的训练规则。结果显示,效果随算力预算和数据安排而变化:部分推理与编程测试取得提升,同时留出集损失降幅较小。
RecodeX 重构消息,宾夕法尼亚州纽波特镇的数据中心规划引发当地居民对用水、污水处理及环境影响的质疑。开发商Fit Energy与燃料电池能源公司(FuelCell Energy,$FCEL)签署的设备采购合同规模最高达380MW,但SEC文件中未列明纽波特各具体地块的供电量。
燃料电池能源总裁兼CEO杰森·休在2月11日发布的公司问答中表示,土地用途与社区影响和电力生产方式同样重要。纽波特镇已于8月10日就该数据中心及电力设施用途发放分区许可。
RecodeX 重构消息,OpenAI在其官网公开了多份法庭意见书的节选,提交方包括创作者、学者、无障碍权益倡导者及法律专家等。这些意见书围绕“合理使用”原则展开,主张该原则为AI训练与创新提供了支撑。OpenAI借此在相关版权诉讼中展示各方对其立场的支持。
RecodeX 重构消息,OpenAI首席执行官萨姆·奥尔特曼在29日公开的Cheeky Pint播客访谈中表示,个人电脑的DRAM“只使用了5%的时间”。他认为,在内存供应受限的情况下,应优先提高云数据中心的利用率,而不是把内存分散在个人设备上。
奥尔特曼提到,在个人电脑上运行开源AI模型可能减少对数据中心的需求,但他主张在供应极为紧张的环境下,应最大限度提升云端利用率。
RecodeX 重构消息,纽约州州长已签署一项法律,禁止人工智能运营者向未成年人提供某些聊天机器人功能。该法针对儿童与可编程人形机器人等AI系统的互动场景,限制相关企业向未成年用户开放特定功能。具体适用范围与生效时间未在报道中详述。
RecodeX 重构消息,FuelCell Energy总裁兼CEO Jason Few就数据中心引发的公用事业账单上涨、用水及化石燃料基础设施等公众担忧发表看法。针对宾夕法尼亚州Newport Township的一个拟议项目,Few表示FuelCell Energy将为其供电但并非项目开发商。他认为社区应当拥有发言权,项目应依据实际影响来评判,而不应仅因属于数据中心就被否决。
RecodeX 重构消息,在英伟达DGX Spark上以单请求方式测试Nemotron 3.5 Lightning,多令牌预测(MTP)方式的接受令牌吞吐量为每秒93.2个,同条件下基础方式生成令牌吞吐量为每秒75.6个。
英伟达TensorRT Edge-LLM 0.10.0性能表显示,DFlash在批量为1时吞吐为每秒61.5个接受令牌。该表对基础解码按生成令牌统计,对MTP与DFlash按接受令牌统计。
批量提升至8个并发请求时,基础方式为每秒244.9个生成令牌,MTP为每秒185.0个接受令牌,DFlash为每秒149.2个接受令牌。
RecodeX 重构消息,OpenAI首席执行官Sam Altman披露,公司一个内部模型的代号为“Hold My Beer”。他同时谈及AI可能造成的破坏,对可能被AI冲击的生计表达了感慨。
RecodeX 重构消息,企业协同浏览与引导式客户体验服务商Glance发布《AI转人工客服实用指南》,面向客户体验负责人,聚焦AI客服向人工客服交接环节的断点问题。指南援引数据称,76%的消费者在跨渠道切换时因需重复提供信息而感到沮丧。
RecodeX 重构消息,开发者社区Hacker News出现一个名为mobile-agent的开源项目,其定位是让AI智能体直接控制Android和iOS设备。该项目以Show HN形式发布,发布时获得1个积分、暂无评论。项目具体实现方式、支持的系统版本与功能范围尚未在发布信息中说明。
RecodeX 重构消息,OpenAI首席执行官萨姆·奥特曼在参加Cheeky Pint播客节目时,被问及包括内存短缺在内的供应链紧张问题。他表示,把内存装在个人电脑里而不是数据中心里是“糟糕的”。奥特曼称,很多人都想要……(原文此处截断)。他在同一场访谈中还谈及AI对数学领域的影响。
RecodeX 重构消息,Roblox表示,AI驱动的游戏开发正带来内容爆发式增长,其平台在过去5个月内发布了约7万款游戏。这一表态出现在Steam承认自身存在AI低质内容问题两天之后,Roblox实际上对类似现象进行了公开宣扬。
RecodeX 重构消息,Anthropic在10月26日向美国证券交易委员会(SEC)提交的上市申报文件(Form S-1)中披露,截至6月30日,其算力与基础设施的固定或最低保障承诺金额约为2656亿美元,合同期限为1至20年。部分不含固定最低支出额的算力与基础设施合同未计入该金额,公司预计这些合同的付款额将相当可观。
文件显示,Anthropic 2026年上半年收入的80%取决于客户使用量。Tesera PE创始人兼CEO安灿警告称,若收入增速放缓,长期算力支出承诺可能成为财务负担。
RecodeX 重构消息,橡树资本管理公司联合创始人霍华德·马克斯表示,人工智能领域难以评估,投资者不应被AI相关市场波动牵着走。他还指出,电力供应是制约AI基础设施扩张的一项瓶颈。
RecodeX 重构消息,华尔街知名律所Weil, Gotshal & Manges正面临解散危机,此事已成为法律行业热议话题。一家人工智能律所Crosby已介入,对这家正在瓦解的律所提出竞购。
RecodeX 重构消息,开发者发布名为EasyRE-Agent的AI代理工具,用于自动求解逆向工程练习crackme,并能对自身给出的答案进行校验。该工具在技术社区Hacker News上被提交讨论,获得1个积分、暂无评论。
RecodeX 重构消息,谷歌计划支持一种共享的AI训练退出机制,允许网站通过robots.txt文件统一声明其内容不得用于AI模型训练。该方案旨在让网站运营方以标准化方式表达对AI爬虫抓取训练数据的限制意愿。