联合国制作 AI 生成的难民
这些人工智能旨在向人们传授苏丹暴行的相关知识。
本文信息来源：404media
我正在与阿米娜交谈，这是一个 AI 虚拟形象 ，扮演着一位逃离苏丹暴力后生活在乍得难民营的女性。”我还撑得住，”阿米娜告诉我，”难民营生活很艰难，但我们保持着坚强。”我问她是怎么来到难民营的。”由于暴力事件，我在 2023 年 6 月逃离了苏丹的朱奈纳镇，”它说道，”逃离冲突的旅程令人恐惧。现在我正努力保护孩子们的安全，在难民营里寻找一些稳定。这不容易，但我们必须坚持下去，对吧？”
我与”阿米娜”的其中一次对话
阿米娜是一项实验，由联合国大学政策研究中心（UNU-CPR）——这个与联合国有关联的研究机构——创造的一对 AI 虚拟形象之一。考虑到联合国自身曾指出难民面临的主要问题是其被非人化以谋取政治利益或图方便，这个实验注定会引发争议。UNU-CPR 项目正试图通过非人的技术手段，帮助人们更深入了解难民的真实处境。该团队还测试了一个名为”阿卜杜拉”的士兵角色，它能”模拟真实作战人员的行为和决策模式，为谈判人员和调解员提供训练工具，以应对未来高风险谈判”。
“这个项目的初衷是为联合国提供独立的学术研究，”UNU-CPR 人工智能政策研究实验室负责人、数据科学家埃莉诺尔·富尼耶-汤姆斯告诉 404 Media。
“询问阿米娜”和”询问阿卜杜拉”最初是哥伦比亚大学教授、联合国大学政策研究中心高级研究员爱德华多·阿尔布雷希特在”人工智能用于冲突预防”课程中发起的一个项目。据阿尔布雷希特介绍，他和学生们在课堂讨论如何将 AI 应用于人道主义工作后，设计出了这些虚拟形象。
在早期由人道主义组织、难民援助团体和非营利机构参与的研讨会测试中，阿尔布雷希特和富尼耶-汤布斯表示反响强烈且多为负面。根据研讨会记录，一位参与者质疑：”明明有数百万真实难民可以讲述自己的故事，为什么要用 AI 创造的形象来代表难民？”另一位参与者担心”如果通过 AI 代理而非真实人类与难民互动，可能会强化偏见”，并认为 AI 可能”美化或淡化真实的人类苦难”。
目前，任何人都可以与阿米娜或阿卜杜拉进行测试对话 ，每次限时三分钟。”第一个 AI 旨在精确数字化呈现生活在乍得难民营的难民，第二个则创建了快速支援部队（RSF）一名武装头目的数字复刻——这个活跃在苏丹东南部的军事组织正是许多难民逃离的根源，” 项目说明文件如此描述 。
快速支援部队最初是 2000 年代初松散的民兵组织，后来演变为更正规的军事团体。多年来，该部队一直在达尔富尔地区实施种族清洗。当我询问阿卜杜拉 AI”快速支援部队是否在实施种族灭绝”时，它给出了基本正确但含糊其辞的答复——这种回答显然不会出自真正实施屠杀的武装分子之口。
“快速支援部队（RSF）面临严重指控，被控在达尔富尔等地犯下暴行和种族灭绝行为，包括系统性杀戮、大规模强奸以及对特定族裔群体实施强制迁移，”阿卜杜拉向我描述这个本该代表难民的组织时说道，”这些行为反映出一种旨在恐吓平民的暴力模式，加剧了该地区持续的人道主义危机。”
当我与阿尔布雷希特和富尼耶-汤姆斯交谈时，两人都明确表示研讨会的目标是激发讨论，并针对现有技术现状采取应对措施。
“我们并非将这些提议作为联合国的解决方案，更不是为难民署（联合国难民事务高级专员办事处）准备的。我们只是在探索这个概念，”阿尔布雷希特说。“你得先和某人约会，才知道自己不喜欢他们。”
我与”阿卜杜拉”的对话之一
富尼耶-汤姆斯表示，联合国必须重视人工智能并着手解决相关伦理问题。”各方都面临巨大压力，不仅是联合国，都在采用人工智能系统以提高效率，用更少资源做更多事，”她说。”人工智能的承诺总是能节省成本并帮助我们完成任务…但这涉及许多棘手的伦理问题。”
她还指出，联合国在新科技面前不能总是被动应对。”总会有人在人道主义领域部署人工智能代理，而且会是与某家公司合作，却缺乏真正的原则或对应当采取行动的思考与考量，”她说。”这正是我们开展这场对话的背景。”
阿尔布雷希特详细描述了他与学生们如何在联合国大学政策研究中心发表的论文 《联合国需要数字代理人吗？》 中构建了阿米娜和阿卜杜拉这两个虚拟形象。论文解释道：”阿米娜和阿卜杜拉的头像都是使用 HeyGen 创建的。HeyGen 依托 OpenAI 的[GPT-4o mini]技术驱动视频虚拟形象，并允许通过[检索增强生成]链接到外部数据库，人类学代理人整理的知识库就上传至该数据库中。”
阿尔布雷希特的担忧之一在于准确性。为此他进行了测试。”本研究通过 20 道问题评估了阿米娜的代表性，这些问题选自四项独立调查且均未包含在她的知识库中：SENS 营养调查（4 题）、难民营食品援助分发后监测报告（3 题）、挪威难民委员会的’苏丹战争’调查（8 题）以及联合国难民署的’苏丹紧急状况’调查（5 题）。40 对阿米娜回答的分析显示，她在 20 题中正确回答了 16 题，准确率达到 80%。”
与阿米娜和阿卜杜拉 “对话”是种超现实体验——阿尔布雷希特表示，在本文发表后该网站将开放一个月，任何人都能体验。他们的回应显得模板化且生硬，仿佛训练数据来自联合国冲突报告而非真实难民访谈。论文承认这是这些智能体的重大缺陷。
“由于商业供应商未完全公开所使用的具体数据集，我们无法知晓 LLM 训练数据中究竟包含哪些信息，”论文指出。”这构成了实验设计中的一项局限，需要进一步探讨。”
这篇论文还推测了这类智能体未来可能在人道主义工作中发挥的作用。”如果阿米娜运作良好，’她’的快速反应将具有重要价值，”文中指出，”例如，在向该地区指定援助时，可以迅速向捐助者（通常身处不同地域且时间紧迫）说明哪些人群应优先获得救助。倘若阿卜杜拉运行有效，’他’的回应则能协助谈判人员和调解员为更具针对性的现实接触做好准备。”
参加过联合国大学政策研究中心研讨会并与阿米娜互动的人士再次反驳了使用人工智能虚拟形象与捐助者沟通的想法。论文指出：”与会者强调，难民’在现实生活中完全有能力为自己发声’。”
阿尔布雷希特深知，人工智能系统（尤其是 LLMs）编码着其创造者的偏见。”假设某个非政府组织正在开展需求评估，部分使用了这些智能代理系统。目标群体对这些系统的运作原理了解多少？他们是如何获知相关信息的？最重要的是，他们是否有权拒绝或接受这些工具及其产生的结果？”他说道，”因为如果你依据这些智能系统的结果来对某个群体做决策…实际上你正在直接剥夺本应受助群体的自主权。”
阿尔布雷希特表示，该实验的目的始终是引发情感共鸣，并就这些伦理问题展开讨论。
“你制造了一个稻草人，观察人们如何攻击它，从而了解它的弱点。”
