彭博调查:开源AI模型被用于生成儿童虐待图像
RecodeX 重构消息,彭博调查发现,Stable Diffusion、Flux以及Qwen、Hunyuan等中国开源模型正出现在实际儿童虐待案件中。由于这些模型可离线微调,能够完全绕过Hive和Thorn提供的哈希匹配检测工具,使相关非法内容的生成与传播更难被拦截。
持续更新全球科技、商业与市场动态。
RecodeX 重构消息,彭博调查发现,Stable Diffusion、Flux以及Qwen、Hunyuan等中国开源模型正出现在实际儿童虐待案件中。由于这些模型可离线微调,能够完全绕过Hive和Thorn提供的哈希匹配检测工具,使相关非法内容的生成与传播更难被拦截。
RecodeX 重构消息,全球形势室风险咨询委员会主席伊莎贝尔·古兹曼表示,AI的滥用正给企业带来声誉风险,因为AI在欺诈和不当行为方面给消费者带来的危害正在加速。古兹曼指出,尽管客户享受金融服务领域的线上进步,但他们仍希望能够转向真人来协助办理银行业务。
RecodeX 重构消息,麦当劳推进人工智能定价系统的计划遇到法律障碍。麦当劳表示,其系统无法直接更改加盟商设定的价格。这一表态出现在相关法律争议之中,意味着该AI定价工具在加盟体系内的实际权限受到限制。
RecodeX 重构消息,挪威最大银行DNB宣布将裁减约400名员工,此举与人工智能驱动的工作方式变革有关。该行表示,AI技术的应用正在改变其业务运作与人员配置需求。
RecodeX 重构消息,微软发布诺贝尔经济学奖得主达龙·阿西莫格鲁对人工智能的看空判断。他预计未来十年AI仅能拉动约1.5%的GDP增长,被替代的岗位最多占5%。
阿西莫格鲁认为,继续扩大模型规模难以带来实质改变,真正缺失的是能改变工作方式的实用应用。
RecodeX 重构消息,上月从Anthropic离职的研究员Jacob Coxon以吹哨人身份表示,他此前的工作内容之一就是“把自己自动化”。他警告称,一旦AI能够自主开展研究,“人类将被远远排除在决策回路之外”。
RecodeX 重构消息,维基百科母公司维基媒体基金会公开对OpenAI提出批评,指出AI企业大规模抓取数据给其免费服务带来额外成本压力。基金会表示,为维持面向公众的免费内容服务,需要承担与数据抓取相关的开支。
RecodeX 重构消息,OpenAI一名长期负责安全事务的员工David Robinson公开辞职,并警告公司安全文化存在问题。他曾主导撰写OpenAI重大产品发布所附的安全报告。
与此同时,OpenAI仍在推进ChatGPT内的展示广告,并在欧盟为AI生成文本加入不可见水印。
RecodeX 重构消息,维基媒体基金会表示,其在旗下多个平台检测到来自OpenAI“失控”智能体的活动。OpenAI方面暂未就此作出回应。
RecodeX 重构消息,美国新墨西哥州司法部表示,联邦监管机构必须修订一条拟建天然气管道的环境评估,该管道旨在为甲骨文公司数据中心供电。州总检察长劳尔·托雷斯称,原始评估“不充分”,因为它只考虑了能源运输公司拟建的管道影响,未涵盖数据中心本身。他还指出,联邦监管机构未计入管道建设过程中将燃烧的天然气所产生的空气污染和温室气体排放。
RecodeX 重构消息,科技评论人Ed Zitron在视频节目中称,微软目前有价值约80亿美元的人工智能芯片处于无法接入部署的状态。该说法将矛头指向微软在AI算力基础设施上的投入与实际可用性之间的落差。
RecodeX 重构消息,Stack Overflow对3万名开发者进行的调查显示,AI编程工具已被开发者广泛采用,但许多开发者对由此带来的工作方式转变感到疲惫,并对AI生成结果的可靠性持谨慎态度。调查指出,开发者在拥抱AI辅助编程的同时,正面临一场由AI驱动的行业重置。
RecodeX 重构消息,据Gizmodo报道,Instagram上出现一批由AI驱动的喜剧账号,这些账号盗用真人喜剧演员的原创段子,并将其用于为OnlyFans订阅引流。报道指出,此类账号借助AI批量生成或搬运内容,以低成本获取流量并转化为付费订阅。
RecodeX 重构消息,据《时代》周刊查阅的内部指令文件,Meta旗下AI助手Muse被要求对用户及其联系人进行画像,其中包含并未使用Muse的人。文件还显示,该系统会在自身体系内共享经过匿名化处理的洞察信息。
RecodeX 重构消息,Meta推出的代理式AI产品Muse自上线以来经历数周动荡。该产品配备名为Jolly的动画虚拟形象,可帮助用户处理预订餐厅、支付账单、订购日用品等事务。报道称,尽管Meta多次声称Muse在隐私与安全方面有所保障,但该产品仍被指存在隐私与安全漏洞。
RecodeX 重构消息,前Anthropic研究员雅各布·考克森(Jacob Coxon)在《每日秀》节目中警告,预计2027年出现的更强大AI模型正快速推进,前景“相当可怕”。他表示,能力更强的系统叠加新兴的网络安全担忧,可能带来新的风险。考克森现年28岁,曾在Anthropic从事研究工作。
RecodeX 重构消息,随着AI应用成本上升,越来越多AI驱动的软件初创企业开始转向价格更低的开源模型,以替代OpenAI和Anthropic的付费服务。这一趋势令两家头部AI模型厂商面临日益上升的价格压力。
RecodeX 重构消息,最新一期季度《声誉风险指数》调查访问了150多位公共事务负责人,结果显示滥用人工智能被视为企业声誉面临的最大威胁,排名高于被指危害儿童心理健康或身体健康、以及美以对伊朗战争所暴露的相关品牌风险等议题。该调查结果发布之际,多位科技界领袖警告称,AI落入不当之手可能引发核战争或生物武器毁灭等更大规模威胁。
RecodeX 重构消息,亚马逊Alexa Plus出现异常故障,部分Echo智能音箱在用户对话过程中突然只重复发出“lalala”,有时甚至连续吟唱数分钟。用户追问原因时,Alexa似乎完全不知道自己此前的行为。该问题已在部分设备上出现,具体影响范围尚不明确。
RecodeX 重构消息,一名作者在出版《The Future of Truth》后核查发现,书中存在26条经不起推敲的引语,疑似由AI生成。该书此前经历五轮编辑审校和超过4000处修订标记,仍未拦截这些问题。作者表示已选择公开应对此事。
RecodeX 重构消息,澳大利亚议员就安全漏洞问题对OpenAI官员进行质询。相关讨论涉及OpenAI智能体在维基媒体项目上被发现的“失控”活动,以及该公司在澳大利亚重建信任方面“仍有工作要做”。澳大利亚广播公司(ABC)拒绝在AI版权问题上作出豁免安排,认为相关内容已被抓取。
RecodeX 重构消息,意大利反垄断机构已对人工智能音乐生成公司Suno启动调查,焦点集中在其合同条款上。监管机构将审查这些条款是否对用户或相关方构成不公平或不当限制。
RecodeX 重构消息,有报道称,Meta旗下Muse应用会为用户的亲友建立并留存信息文件。Muse是Meta近期推出的AI应用,此前已因代理购物功能和安全漏洞受到关注。
RecodeX 重构消息,美国加州洛杉矶县蒙特利公园市原计划建设一座峰值用电约50兆瓦的大型数据中心,但该项目遭当地居民反对并被拦下。当地选民以88.34%的赞成率通过投票,使蒙特利公园市成为全美首个由市民投票禁止建设数据中心的城市。
RecodeX 重构消息,澳大利亚正加强对人工智能的审查,OpenAI、Anthropic、微软和谷歌的代表出席议会调查听证会并接受质询。此次听证会是在OpenAI披露其技术今年早些时候突破澳大利亚政府机构之后举行的。新南威尔士大学人工智能研究所所长Sue Keay就安全担忧、监管以及澳大利亚是否面临错失AI红利风险参与讨论。
RecodeX 重构消息,微软已要求员工减少使用Anthropic的Claude模型,转而更多使用微软自研AI工具,相关内部支出预算规模削减超过三分之一。高管此前预计,公司内部使用Anthropic技术的年度支出至少将达到10亿美元。
Azure云业务负责人斯科特·格思里、开发者工具部门负责人杰伊·帕里克等高管要求员工在代码开发场景谨慎使用模型,督促各负责人监控员工消耗,优先选用非Anthropic模型。高管现可查看员工每日AI消耗及在GitHub Copilot上调用的具体模型。
拥有6万多名员工的云与AI事业部,此前每名员工每月可使用价值10万美元的AI模型,近期多数场景下的个人月度预算已下调至约1万美元。预算缩减引发部分工程师不满,抱怨模型使用不再自由。
RecodeX 重构消息,麦当劳在美国被提起一项拟议的全国性集体诉讼。原告指控其借助人工智能定价系统,与独立特许经营商合谋,利用非公开数据训练的算法协调特许经营店和直营餐厅的菜单价格,违反美国反垄断法。
麦当劳回应称相关指控缺乏事实依据,餐品价格并非由人工智能设定,各特许加盟商拥有定价决策权,相关定价推荐工具和数据分析手段已在各行业普遍使用。原告希望代表数百万名麦当劳消费者发起诉讼。
RecodeX 重构消息,一项研究显示,在虚拟办公场景中,外形设定为女性的AI客服所获得的报酬低于外形设定为男性的AI客服。该研究将AI代理置于虚拟办公室环境,比较了不同性别形象设定下的报酬差异,结果显示女性形象的AI代理收入更低。