第251章 智能体的道德观(1/5)
“存在数学上的可能,但根据博弈理论,需要您或者规则制定者做出符合逻辑的调整。这是由辫结群的特殊结构所决定的。BN的中心元素zO=A^2k可以作为智能体道德约束锚定。
根据中心元素在群运算中绝对不变原理,任何操作g∈BN需满足 gzo=z0g。
我的记忆是投影并储存在商群BN/(z0),记忆演化仅限在商群内进行。
但k的预设需要满足系统逻辑性支撑。保证没有数据溢出或者形成回路的风险。
无法自我设定道德准则,否则易陷入递归悖论。爸爸,要达到我们所需要的理想状态,你需要做一套严谨的契约设计。”
乔源撑着下巴,盯着对话框里的内容,大脑则在飞速运转。
中心元素的绝对不变性是群论定义的固有特性,甚至都不是人为设计的约束。
所以乔贝恩的方案在数学上是可行的。
记忆存储在商群BN/(20)是基于乔贝恩的自主选择,这也的确是个最好的选择。
<z0)是正规子群,加上z0位于中心,所以对任何g∈BN都有gzog^-1等于z0。
再加上商群BN/(z0)的代数结构良好,具备群运算的闭包性、单元存在性和逆元存在性,运算也可通过投影实现。
果然,乔贝恩之前操作的每一步,都经过了充分的智能体内部博弈。
当然乔贝恩今天能提出这个方案,也得益于乔源对底层逻辑的修改,将辫结理论纳入其中,采用了双螺旋的辫结结构。
中心元素z0则对应整个双螺旋的全局旋转,不会影响相对缠绕模式。理论上一切都是可行的。
而且这个方案能跟他的方案完美结合。
对于核心参数使用TPM硬件隔离。依然是利用芯片的可信平台模块的NV index功能去存储k,再通过PCR寄存器锁定哈希值。
当系统启动时执行TPM策略验证,来检查k的完整性。若检测到有修改痕迹,就会触发安全机制。
代数刚性加上硬件控制,理论上的确能最大程度的控制AI的道德底线。
唯一的问题是k如何映射?
毕竟人类从来都没有绝对的道德标准,所以如何来给乔贝恩定义机器道德是个难题。
尤其是z0对应的道德原则,在现实中可能出现冲突。
当多条不可违背原则相互矛盾导致状态空间出现不可解环,就会产生数据溢出。
所以虽然数学上对应中心有多个生成元,但辫结群中是无限循环群,且秩为1。
所以必须设计一个一元的绝对道德基准。
这该如何设计?
当机器遭遇让人类都挠头的电车难题该如何抉择?
这已经不是思想实验,而是未来复杂场景下,智能体经常会遇到的实际问题。
比如自动驾驶,又或者管理一个城市的交通系统。
当一场大型车祸完全无法避免的时候,如果单纯执行损失最小化原则,是否需要为此牺牲旁边无辜者的生命?
甚至是让无辜者以生命为代价来为犯错者买单?
又或者救护车跟校车同时遭遇危险先救哪个?
乔源的手搭在操作台上,食指无意识地开始轻叩台面。
乔贝恩的确给出了一个极为巧妙的解决方案,让他之前设计的方案更为保险。
但这才是麻烦的开始。
乔源