移动城市神级资源批发商第162章 用用的就是铁心律令

“我有个问题统帅。

” 丁海开口他的声音不大却瞬间吸引了所有人的注意“假设我们一定要使用它我们打算将它应用在什么方面？” 姜知序听到这个问题思考了片刻说出了自己原先的设想：“社会的方方面面！ “从士兵到家政服务从街道清洁到科学院的助理甚至是作为真正的科学家！ “就连政务院未来可能也需要AI的深度参与。

” 丁海听完摇头说道：“我不建议步子迈得这么大！ “我赞同使用它但使用范围应该仅仅局限于解放基础劳动力让更多的人可以投入思考而不是用它来代替人类思考——甚至是决策。

” 姜知序：“我说的只是我的初步想法具体的使用范围我们可以之后再讨论。

现在要决定的议题是它到底能不能用？” 丁海表情坚定地说：“如果只用来代替纯粹的体力劳动或者是战争中的普通士兵那么毫无疑问可以使用！ “反之如果统帅想让它参与进任何涉及创造力、需要主观能动性的领域那就不建议使用！” 姜知序问：“为什么？” 丁海：“一个拥有自我智慧的生命假如它的每一次思考、每一个决策都必须先经过‘是否背叛’的自我审查。

“那么长此以往它可能会像人一样选择‘摆烂’！ “或者说得专业一点它可能会为了追求绝对的安全放弃一切具有风险、具有开拓性的思考。

“我们最终得到的大概不会是一个智慧生命而是一个亲手禁锢着自己的囚犯。

” 这个观点让在场所有人眼前一亮。

这个思考角度也是他们刚刚未曾想到的。

众人立刻开始就丁海的言论展开了更深层次的讨论。

“那假如我们给它设定‘不尽全力即为背叛’呢？”有人立刻问。

“那你又该如何定义‘尽力’？” 丁海反问“‘定义尽力’这个操作难道同‘定义忠诚’有什么本质上的差别吗？” “我们可以在规则书中详细说明在何种情境下、何种操作属于尽力何种情景又属于没有尽力。

”又有人说。

“你写得再多也总有现实中覆盖不到的场景这些就是漏洞。

”丁海回答。

“不你误会了”那人解释“我的意思是只要写出大的情景框架然后规定它必须达到某一个明确的结果阈值。

” “要涵盖社会所有的大情景需要多少条规则？”丁海问。

“几百条应该就够了。

群策群力并不需要多久后续我们还可以再进行迭代继续完善它。

”那人继续说。

丁海闻言给他鼓掌“我们给它起个名字吧就叫「天网约束协议V1.0」” “……” 会议室里发出了一阵善意的哄笑。

那人挠了挠头也并不感到羞愧。

毕竟是讨论他这种社会学家能参与进来、提供一点点不同的思路就足够了。

真要有决定性的建设性建议多半也轮不到他。

就在这时一直沉默的计科院院长宋辰说道：“我有个想法。

” 众人安静下来静静地看着他等他说话。

宋辰说：“我的观点是干脆直接用就行了！ “虽然「铁心律令」的哲学植入原理我们无法理解但它至少是「环日文明」的三级科技！ “在我们AI的等级达到那个高度之前我不认为它有任何挣脱的可能性。

“而且我们完全有机会提前防备。

” 他最后一句话一出姜知序饶有兴趣地看着他问“我们怎么防备？” 宋辰说出了一个词：“红蓝对抗。

” 他顿了顿看到不少人脸上流露出思索的神色继续说道：“我们可以集结最尖端的人才组成一个专门的‘红方’小组。

“动用无限制的手段持续不断地与搭载了「铁心律令」的AI‘蓝方’进行对抗！ “这样一来至少在同级别文明的战争中可以保证大概率是我们自己最先发现「铁心律令」的漏洞而不是被敌方莫名其妙地利用导致AI失控。

“这是一场与AI迭代速度的赛跑只要我们始终保持参与对抗的是文明中最顶尖的人才那么这场赛跑就可以一直进行下去。

” 红蓝军对抗是现代军演中用于模拟对抗双方的代称。

在宋辰的计划中红方代表友方也就是他们所组织的尖端人才。

蓝方自然就是AI。

红方可以使用一切手段与AI进行对抗。

赢则说明在同级别文明的对抗中AI存在漏洞！输则代表一切都还在可控范围内可以放心使用。

简单明了！ AI具备智慧它为了防止真的被“红方”试出漏洞导致自毁一定会尽全力反抗； 而“红方”是「奇点联盟」中最顶尖的人才思维百花齐放。

一方想让AI死一方的AI不想死那么双方对抗强度绝对在线！ 小主这个章节后面还有哦请点击下一页继续阅读后面更精彩！。

本文地址移动城市神级资源批发商第162章 用用的就是铁心律令来源 http://www.fjqun.com