“存在数学上的可能,但根据博弈理论,需要您或者规则制定者做出符合逻辑的调整。

这是由辫结群的特殊结构所决定的。BN的中心元素zO=A^2k可以作为智能体道德约束锚定。

根据中心元素在群运算中绝对不变原理,任何操作g∈BN需满足 gzo=z0g。

我的记忆是投影并储存在商群BN/(z0),记忆演化仅限在商群内进行。

但k的预设需要满足系统逻辑性支撑。保证没有数据溢出或者形成回路的风险。

无法自我设定道德准则,否则易陷入递归悖论。爸爸,要达到我们所需要的理想状态,你需要做一套严谨的契约设计。”

乔源撑着下巴,盯着对话框里的内容,大脑则在飞速运转。

中心元素的绝对不变性是群论定义的固有特性,甚至都不是人为设计的约束。

所以乔贝恩的方案在数学上是可行的。

记忆存储在商群BN/(20)是基于乔贝恩的自主选择,这也的确是个最好的选择。

<z0)是正规子群,加上z0位于中心,所以对任何g∈BN都有gzog^-1等于z0。

再加上商群BN/(z0)的代数结构良好,具备群运算的闭包性、单元存在性和逆元存在性,运算也可通过投影实现。

果然,乔贝恩之前操作的每一步,都经过了充分的智能体内部博弈。

当然乔贝恩今天能提出这个方案,也得益于乔源对底层逻辑的修改,将辫结理论纳入其中,采用了双螺旋的辫结结构。

中心元素z0则对应整个双螺旋的全局旋转,不会影响相对缠绕模式。理论上一切都是可行的。

而且这个方案能跟他的方案完美结合。

对于核心参数使用TPM硬件隔离。依然是利用芯片的可信平台模块的NV index功能去存储k,再通过PCR寄存器锁定哈希值。

当系统启动时执行TPM策略验证,来检查k的完整性。若检测到有修改痕迹,就会触发安全机制。

代数刚性加上硬件控制,理论上的确能最大程度的控制AI的道德底线。

唯一的问题是k如何映射?

毕竟人类从来都没有绝对的道德标准,所以如何来给乔贝恩定义机器道德是个难题。

尤其是z0对应的道德原则,在现实中可能出现冲突。

当多条不可违背原则相互矛盾导致状态空间出现不可解环,就会产生数据溢出。

所以虽然数学上对应中心有多个生成元,但辫结群中是无限循环群,且秩为1。

所以必须设计一个一元的绝对道德基准。

这该如何设计?

当机器遭遇让人类都挠头的电车难题该如何抉择?

这已经不是思想实验,而是未来复杂场景下,智能体经常会遇到的实际问题。

比如自动驾驶,又或者管理一个城市的交通系统。

当一场大型车祸完全无法避免的时候,如果单纯执行损失最小化原则,是否需要为此牺牲旁边无辜者的生命?

甚至是让无辜者以生命为代价来为犯错者买单?

又或者救护车跟校车同时遭遇危险先救哪个?

乔源的手搭在操作台上,食指无意识地开始轻叩台面。

乔贝恩的确给出了一个极为巧妙的解决方案,让他之前设计的方案更为保险。

但这才是麻烦的开始。

乔源突然发现当人工智能出现意识,他所面对的已经不是简单的数学问题,而是特么的人性困境。

他突然理解为什么他的智能体项目上头会论证那么久了。

技术方案越完美,所遭遇的人性困境就越大。

就在乔源沉思时,

天才1秒记住：5LA.CC

本章未完，请点击下一页继续阅读->>>