主题：以色列的心腹之患 -- 燕人

审度同学谈到以色列军的AI操作。这个消息是令人震惊的。我查到一篇英国媒体《卫报》4月3日关于此事的报道。

【“机器做得很冷酷”:以色列使用人工智能识别了3.7万个哈马斯目标

以色列在对哈马斯的战争中使用强大的人工智能系统“薰衣草”，进入了先进战争的未知领域，引发了一系列法律和道德问题，并改变了军事人员与机器之间的关系。

“在我的记忆中，这是前所未有的，”一名使用过“薰衣草”的情报官员说，并补充说，（对如何判断对方是否恐怖分子）他们更相信“统计机制”而不是一个悲伤士兵的证词。“那里的每个人，包括我在内，都在10月7日失去了亲人。机器冷冰冰地做了这件事。这让事情变得容易了。”

另一位“薰衣草”用户质疑人类在选择过程中的作用是否有意义。“在这个阶段，我会为每个目标投入20秒，每天做几十个目标。作为一个人，我没有任何附加价值，除了加盖一个认可的印章。这节省了很多时间。”

六名情报官员的证词都参与了使用人工智能系统识别哈马斯和巴勒斯坦伊斯兰圣战组织(PIJ)在战争中的目标，这些证词被交给了记者尤瓦尔·亚伯拉罕(Yuval Abraham)，用于以色列-巴勒斯坦出版物《+972》杂志和希伯来语媒体Local Call《本地电话》发表的一篇报道。

在文章发表之前，《卫报》独家分享了他们的说法。这六人都表示，“薰衣草”在战争中发挥了核心作用，处理大量数据，迅速识别潜在的“初级”特工作为目标。其中四名消息人士称，在战争早期的一个阶段，“薰衣草”列出了多达3.7万名巴勒斯坦男子，他们被人工智能系统判断为与哈马斯或巴勒斯坦伊斯兰圣战组织有联系。

“薰衣草”是由以色列国防军的精英情报部门8200部队(Unit 8200)开发的，该部队相当于美国国家安全局NSA或英国政府通信总部(GCHQ)。

一些消息来源描述了以色列国防军如何对某些类别的目标适用预先批准的程序，以估计在批准发动袭击之前可能被杀害的平民人数。

两名消息人士称，在战争的最初几周，他们被允许在对低级武装分子的空袭中杀死15或20名平民。消息人士称，对这些目标的攻击通常使用被称为“哑弹”的非制导弹药，摧毁整个房屋并杀死所有居住者。

一名情报官员表示:“你不想把昂贵的炸弹浪费在不重要的人身上——这对国家来说非常昂贵，而且(这些炸弹)短缺。”另一名官员表示，他们面临的主要问题是，对平民的“附带损害”是否影响攻击的决定。

“因为我们通常用哑弹进行袭击，这意味着把整个房子砸向居住者。但即使攻击被避免了，你也不在乎——你会立即转移到下一个目标。因为这个系统，目标永远不会结束。还有36000人在等着呢。”

根据冲突专家的说法，如果以色列一直在使用哑弹来夷平数千名被人工智能推断为与加沙的激进组织有联系的巴勒斯坦人的家园，这可能有助于解释战争中令人震惊的高死亡人数。

在哈马斯控制的领土上，卫生部表示，在过去六个月的冲突中，有3.3万名巴勒斯坦人被杀。联合国的数据显示，仅在战争的第一个月，就有1340个家庭遭受了多重损失，312个家庭失去了10名以上的成员。

以色列国防军在一份声明中回应了《+972》和《本地电话》中公布的证词，称其行动是按照国际法规定的比例原则进行的。它说，哑弹是以色列国防军飞行员使用的“标准武器”，并确保打击“高度精确”。

声明将“薰衣草”描述为一个数据库，用于“交叉参考情报来源，以获得有关恐怖组织军事行动人员的最新信息。”而不是一份已确认有资格对之发动袭击的军事人员名单。

“以色列国防军不使用人工智能系统来识别恐怖分子或试图预测一个人是否是恐怖分子，”它补充说。“信息系统只是分析人员在目标识别过程中的工具。”

在以色列国防军进行的早期军事行动中，确认袭击目标往往是一个劳动密集的过程。多位向《卫报》描述了前几次战争中目标发展情况的消息人士表示，决定“定罪”一个人，或将其确定为合法目标，将由法律顾问进行讨论，然后签署。

据消息来源说，在10月7日之后的几个星期和几个月里，这种批准袭击人类目标的模式大大加快了。他们说，随着以色列国防军对加沙地带的轰炸力度加大，指挥官们要求建立一个连续的目标管道。

“我们不断受到压力:‘给我们更多目标。‘他们真的对我们大喊大叫。”一名情报官员表示:“我们被告知:现在我们必须搞垮哈马斯，不管付出什么代价。不管你能发现什么目标，轰炸就得。”

为了满足这一需求，以色列国防军开始严重依赖“薰衣草”来建立一个数据库，其中包括被认为具有PIJ或哈马斯武装分子特征的个人。

《+972》或《Local Call》公布的账目中不包括用于训练“薰衣草”算法的具体数据种类，以及该程序如何得出结论的细节。然而，消息人士说，在战争的头几个星期，8200部队改进了“薰衣草”的算法，调整了搜索参数。

消息人士称，在随机抽样和交叉检查其预测后，该部门得出结论，“薰衣草”的准确率达到了90%，这导致以色列国防军批准将其广泛用作目标推荐工具。

他们补充说，“薰衣草”创建了一个数据库，其中有成千上万的人被标记为哈马斯军事派别中主要是低级别的成员。这与另一个被称为“福音”的基于人工智能的决策支持系统一起使用。该系统推荐建筑物和结构作为目标，而不是个人。

这些描述包括情报官员如何与“薰衣草”合作以及如何调整其拉网范围的第一手证词。其中一名消息人士说:“在高峰期，该系统成功地产生了3.7万人作为潜在的人类目标。”“但是这个数字一直在变化，因为这取决于你把哈马斯特工的标准定在哪里。”

他们补充说:“有时候，哈马斯特工的定义更宽泛，然后机器开始给我们带来各种各样的治安人员，警察，对他们浪费炸弹是可耻的。他们帮助哈马斯政府，但不会真正危及以色列士兵。”

战前，美国和以色列估计哈马斯军事派别的成员大约有2.5-3万人。在哈马斯领导的10月7日对以色列南部的袭击中，哈马斯杀死了近1200名以色列人，绑架了大约240人。消息人士称，在袭击发生后的几周内，政府决定将与哈马斯军事派别有关的巴勒斯坦人视为潜在目标，无论他们的级别或重要性如何。

他们说，以色列国防军在轰炸最密集阶段的瞄准过程也放松了控制。一名消息人士说:“对于(轰炸)行动造成的伤亡，政府是完全允许的。”“这一政策过于宽松，在我看来带有报复的成分。”

另一名消息人士认为，使用“薰衣草”来帮助识别低级别目标是合理的，他说:“当涉及到一个低级武装分子时，你不会想在这上面投入人力和时间。”他们说，在战时，没有足够的时间仔细地“指控每一个目标”。

“所以你愿意承担使用人工智能的误差范围，冒着附带损害和平民死亡的风险，冒着错误攻击的风险，并接受它，”他们补充说。

《+972》和《Local Call》公布的证词可能解释了这样一支拥有如此先进能力的西方军队，以及可以进行高度外科手术式打击的武器，是如何进行一场造成如此巨大人员伤亡的战争的。

他们说，在针对级别较低的哈马斯和PIJ嫌疑人时，他们更倾向于在他们被认为在家的时候进行攻击。“只有当(哈马斯)特工在军事大楼里或从事军事活动时，我们才有兴趣杀死他们，”其中一人表示。“炸毁一个家庭的房子要容易得多。这个系统就是为了在这些情况下寻找他们而建立的。”

这样的策略冒着平民伤亡人数增加的风险，消息人士称，以色列国防军对其认为在针对一名哈马斯武装分子的袭击中可接受的平民人数设定了预先授权的限制。据说这一比率随着时间的推移而变化，并根据目标的资历而变化。

据《+972》和《Local Call》报道，以色列国防军认为，在袭击一名哈马斯高级官员时，100多名平民的附带伤亡是允许的。一位消息人士说:“我们有计算数字，（杀死一个）旅长可以（附带）杀死多少平民，营长可以杀死多少平民，等等。”

“有规定，但非常宽松，”另一位补充道。他说:“我们造成的附带伤害即使不是低三位数，也是高两位数。这些都是以前从未发生过的事情。”军事指挥官在战争的不同阶段所能容忍的数字似乎有很大的波动。

一名消息人士称，随着时间的推移，允许的平民伤亡人数上限“上下浮动”，一度低至5人。消息人士说，在冲突的第一个星期，为了消灭加沙地带的初级武装分子，以色列允许杀死15名非战斗人员。然而，他们表示，对平民伤亡的估计并不准确，因为不可能确切地知道一栋楼里有多少人。

另一名情报官员表示，在最近的冲突中，允许的附带伤害率再次下降。但在战争早期的一个阶段，他们被授权为一名特工杀死最多“20名无关平民”，无论他们的军衔、军事重要性或年龄。

他们说:“你不仅可以杀死任何哈马斯士兵，这显然是国际法所允许和合法的。”“但他们直接告诉你:‘你可以杀死他们和许多平民。’……在实践中，比例标准并不存在。”

以色列国防军的声明说，其程序“要求对预期的军事优势和预期的附带损害进行单独评估……当预期的附带损害与军事优势相比过大时，以色列国防军不会进行打击。”它补充说:“以色列国防军完全否认任何在其家园里杀害数万人的政策。”

国际人道主义法专家在接受《卫报》采访时表示，以色列国防军接受并预先授权的附带伤害比例高达20名平民，特别是对低级武装分子，这是令人震惊的。他们说，军队必须评估每次打击的合理伤亡程度。

美国国务院的一位国际法专家表示，他们“从未听说过1：15的附带伤亡比例被认为是可以接受的，尤其是对较低级别的战斗人员而言。有很多余地，但这对我来说太极端了。”

曾任美国国防部律师、现为危机集团(Crisis Group)分析师的莎拉•哈里森(Sarah Harrison)表示:“虽然在某些情况下，15名平民附带死亡可能是相称的，但在其他情况下，这绝对不是相称的。”你不能只是为一类目标设定一个可容忍的数字，然后说它在每种情况下都是合法的。”

无论以色列的轰炸策略在法律上或道德上是否合理，一些情报官员现在似乎在质疑他们的指挥官制定的方法。“没有人想过战争结束后该怎么做，也没有人想过如何在加沙生活，”其中一人说。

另一个人说，在哈马斯10月7日的袭击之后，以色列国防军的气氛是“痛苦和报复的”。“有一种不和谐:一方面，这里的人们对我们的进攻不够感到沮丧。另一方面，你看到一天结束时又有1000名加沙人死亡，其中大多数是平民。”

---------------------------------------------------------------------------

和巴勒斯坦阿拉伯人一样，以色列冤冤相报，陷在仇恨的网里不能自拔了。