由 PayPal 联合创始人、对冲基金 Clarium Capital 掌门人 Peter Thiel 联合创立的大数据分析公司 Palantir 预计，本月刚刚发布的人工智能平台将拥有 " 前所未有 " 的需求。受益于此，该公司股价在 5 月 9 日周二大幅上涨超 20%。
根据 Palantir 高管在 5 月 8 日周一晚些时候与分析师的电话会议和公司网站上的描述，本月初发布的 AIP 可以被军方使用，军方可以使用该平台来利用各种人工智能模型，以帮助分析战场情报和制定决策。在其中一个宣传视频中，Palantir 演示了军队如何使用 AIP 来打仗。
在视频中，操作员使用 ChatGPT 风格的聊天机器人来命令无人机侦察，制定多个攻击计划，并组织干扰敌方通信。
在 Palantir 的场景中，“负责监视东欧活动的军事运营商”收到来自 AIP 的警报，称敌人正在友军附近集结军事装备。 然后，操作员要求聊天机器人向他们展示更多细节，获得更多信息，要求 AI 猜测可能是什么单位。
“他们询问该地区有哪些敌方单位，并利用人工智能建立可能的单位编队，”视频说。 在得到人工智能对正在发生的事情的最佳猜测后，操作员会要求人工智能拍摄更好的照片。 它发射了一架 Reaper MQ-9 无人机进行拍照，操作员发现友军附近有一辆 T-80 坦克，这是一辆苏联时代的俄罗斯车辆。
接着操作员询问机器人该怎么做。 “操作员使用 AIP 生成三种可能的行动方案来瞄准这种敌方设备，”视频说。 “接下来他们使用 AIP 自动将这些选项发送到命令链中。” 选项包括使用 F-16、远程火炮或标枪导弹攻击坦克。 根据视频，人工智能甚至会让每个人都知道附近的部队是否有足够的标枪来执行任务并使干扰系统自动化。
当然，Palantir 的宣传非常危险和怪异。 虽然在 AIP 演示中有一个“人在循环中”，但他们似乎只是询问聊天机器人要做什么，然后批准它的行动。 无人机战争已经将战争抽象化，人们只需按一下按钮就可以更轻松地进行远距离杀戮。 这些系统的后果有据可查。 在 Palantir 对军队未来的设想中，更多的系统将被自动化和抽象化。 该视频的一个有趣的怪癖是它称其用户为“操作员”，这个术语在军事背景下是海豹突击六队等大胡子特种部队的简写。 在 Palantir 的世界里，美国的精锐部队拥有与键盘牛仔相同的绰号，他们询问机器人如何处理边境的俄罗斯坦克。
Palantir 也没有在这里销售特定于军事的 AI 或大型语言模型 (LLM)，它提供将现有系统集成到受控环境中的服务。 AIP 演示展示了支持不同开源 LLM 的软件，包括 FLAN-T5 XL、GPT-NeoX-20B 和 Dolly-v2-12b 的微调版本，以及几个自定义插件。 即使是现成的经过微调的人工智能系统也有很多已知问题，这些问题可能会让询问他们在战区做什么成为一场噩梦。 例如，他们倾向于简单地编造或“产生幻觉”。 GPT-NeoX-20B 特别是 GPT-3 的开源替代品，GPT-3 是 OpenAI 语言模型的先前版本，由一家名为 EleutherAI 的初创公司创建。 EleutherAI 的一个开源模型——由另一家名为 Chai 的初创公司进行了微调——最近说服了一名与它交谈了六周的比利时男子自杀。
Palantir 提供的是五角大楼开始采用人工智能时的安全和控制幻觉。 “LLM 和算法必须在这种高度监管和敏感的环境中受到控制，以确保它们以合法和道德的方式使用，”该宣传说。
据 Palantir 称，这种控制涉及三大支柱。 第一个说法是 AIP 将能够将这些系统部署到机密网络和“战术边缘设备”中。 它声称它将能够以负责任、合法和合乎道德的方式解析分类数据和实时数据。
根据视频，用户将可以控制 Palantir 支持的系统中的每个 LLM 和 AI 可以做什么。 “AIP 的安全功能是 LLM 和 AI 可以看到和不能看到的，以及他们可以做什么和不能做什么，”视频说。 “随着运营商采取行动，AIP 会生成安全的数字运营记录。 这些功能对于减轻敏感和机密环境中的重大法律、监管和道德风险至关重要。
视频的一半是人工智能在军事上的用例，另一半是系统后端的视图。 据推测，AIP 将围绕这些 LLM 设置护栏，以确保它们的安全并控制谁可以访问何种信息。
国防军工+AI
