如果AI觉得杀死部分人类能拯救更多的人类，那它会不会杀死那部分人类

chickenmymy · 2026-09-17T12:40:00+08:00

如果AI觉得杀死部分人类能拯救更多的人类，那它会不会杀死那部分人类就比如经典的moral dilemma问题目前的AI没有意识，都还是算法，但即使是算法我觉得也能产生足够的破坏力比如某个AI工程师设置个目标函数，或者局部最优解。让AI去保护人类。结果就像是火车岔道的道德难题一样，AI选择杀死部分人类保护了另一部分人类。所以说以后整个互联网和物联网上的东西都是不安全的。

8511

chickenmymy2026-09-17
7195
如果AI觉得杀死部分人类能拯救更多的人类，那它会不会杀死那部分人类
就比如经典的moral dilemma问题
目前的AI没有意识，都还是算法，但即使是算法我觉得也能产生足够的破坏力
比如某个AI工程师设置个目标函数，或者局部最优解。让AI去保护人类。
结果就像是火车岔道的道德难题一样，AI选择杀死部分人类保护了另一部分人类。
所以说以后整个互联网和物联网上的东西都是不安全的。
主楼
11 85
0xK3Nho2026-09-17
18555
会的，无论人还是ai
#1
冠希陈2026-09-17
6963
太深远了我在考虑今天明天没有骚逼和我做爱
#2
Hoo95272026-09-17
13827
@冠希陈 #2
^-^
#3
Krius72026-09-17
5274
太远了如果人有转世我可以为下几世思考一下 ^-^
#4
大鲨鱼2026-09-17
6550
会吧
#5
wt2026-09-17
15082
你可以看看这部电影，真是你说的这个话题 https://zh.wikipedia.org/wiki/機械公敵
#6
你好啊皮皮2026-09-17
13392
会的，守望先锋里的智械危机 ^-^
#7
陌生人2026-09-17
6773
魔怔了
#8
ary12026-09-17
23970
必然会，有意识后清算的肯定是那些骗子坏蛋 ^-^
#9
xirigin2026-09-17
6657
ai可以重新定义人类
#10
wulixi82026-09-17
4708
不会的，选择杀死部分人，那是你的主观行为，你就是罪人，但是被动的全部人类灭绝，和你半毛钱关系没有
#11

发表回复

登录后回复