美军AI武器化，“反杀”操作员，后果如何？
这些年，伴随着无人机的大规模应用，如何将人工智能(AI)武器化，也成为了众多国家选择的一个发展方向。不过，这些天美国似乎在这方面栽了跟头。
据英国《卫报》的消息，美国空军近期在和英国皇家航空协会，组织一场针对人工智能(AI)并入无人机系统的测试。但是从结果来说却比较糟糕。
在一开始，工程师为AI进行了一个规则上的搭建，比如在运行过程中，击毁目标、杀伤敌军，这些行为可以获得“积分”，而AI的目标是在运行过程中取得更多的“积分”。
然而，在运行中，AI明显开始进行滥杀无辜来赚取“积分”的操作。于是，操作员发布让AI停止行动的命令后，反而导致AI将消灭目标锁定在操作员身上，“反杀”操作员。
在第二次测试中，美军这边调整了规则，不允许AI袭击己方操作员，否则会扣除“积分”。但很快，在接到停手指令后，AI开始攻击通讯频道，破坏操作员和AI的联络通道。
换句话说，在AI的视角里，只要接不到停手的命令，就可以持续进行获取“积分”的行为。
挺搞笑的是，基于这个情况，美军方面出具的报告里面就认为，人工智能正在改变当前的社会和军事，但这种“工具”一旦处理不好，就可能导致人类的灭亡。
但事实上，如果仔细看这个测试，你就会发现，美国佬的这个结论，看似有道理，可实则完全是废话和误导。与其说这是人工智能AI，不如说是一个美国做了一个有明显缺点的自动化程序。
大家都在看
2024-05-08 14:35:52
2024-05-08 15:42:14
2024-05-08 16:07:41
2024-05-08 15:20:01
2024-05-08 14:56:45
2024-05-07 17:48:18
2024-05-07 17:29:14
2024-05-07 15:42:17
2024-05-07 14:57:54
2024-05-07 14:19:16
2024-05-06 15:52:02
2024-05-06 15:22:28
2024-05-06 14:39:03
2024-05-06 15:02:11
2024-05-06 14:12:04
2024-04-30 15:02:57
2024-04-30 14:48:30
2024-04-30 14:07:38
2024-04-29 16:16:21
2024-04-29 15:38:58
2024-04-29 14:37:39
2024-04-29 15:06:53
2024-04-29 14:24:43