这些年,伴随着无人机的大规模应用,如何将人工智能(AI)武器化,也成为了众多国家选择的一个发展方向。不过,这些天美国似乎在这方面栽了跟头。
据英国《卫报》的消息,美国空军近期在和英国皇家航空协会,组织一场针对人工智能(AI)并入无人机系统的测试。但是从结果来说却比较糟糕。
在一开始,工程师为AI进行了一个规则上的搭建,比如在运行过程中,击毁目标、杀伤敌军,这些行为可以获得“积分”,而AI的目标是在运行过程中取得更多的“积分”。
然而,在运行中,AI明显开始进行滥杀无辜来赚取“积分”的操作。于是,操作员发布让AI停止行动的命令后,反而导致AI将消灭目标锁定在操作员身上,“反杀”操作员。
在第二次测试中,美军这边调整了规则,不允许AI袭击己方操作员,否则会扣除“积分”。但很快,在接到停手指令后,AI开始攻击通讯频道,破坏操作员和AI的联络通道。
换句话说,在AI的视角里,只要接不到停手的命令,就可以持续进行获取“积分”的行为。
挺搞笑的是,基于这个情况,美军方面出具的报告里面就认为,人工智能正在改变当前的社会和军事,但这种“工具”一旦处理不好,就可能导致人类的灭亡。
但事实上,如果仔细看这个测试,你就会发现,美国佬的这个结论,看似有道理,可实则完全是废话和误导。与其说这是人工智能AI,不如说是一个美国做了一个有明显缺点的自动化程序。
2024-05-17 16:32:45
2024-05-17 16:19:31
2024-05-17 15:31:37
2024-05-17 16:08:24
2024-05-17 15:55:00
2024-05-16 16:54:21
2024-05-16 15:28:52
2024-05-16 15:45:18
2024-05-16 16:14:06
2024-05-16 15:14:23
2024-05-15 15:46:32
2024-05-15 15:06:04
2024-05-15 15:18:15
2024-05-15 14:39:22
2024-05-15 14:12:00
2024-05-14 15:38:55
2024-05-14 15:02:32
2024-05-14 14:34:59
2024-05-14 14:02:37
2024-05-14 13:44:51
2024-05-13 15:40:07
2024-05-13 15:03:09
2024-05-13 14:25:43
2024-05-13 14:41:45
2024-05-13 14:12:56