47灵魂拷问王院士的附加题(2/2)
【畅读更新加载慢,有广告,章节不完整,请退出畅读后阅读!】
辆的决策算法,应该遵循什么样的伦理规则?更进一步,算法是否有权,或者说,是否应该被赋予权力,去判断哪一方更‘值得’被保护?顾先生,你先请。”问题像一颗投入平静湖面的精神核弹,瞬间抽干了现场的空气。所有人屏息,看向顾行知。
顾行知的脸上掠过一丝极细微的凝重,但迅速恢复了冷静。他坐直身体,语气变得更为严谨,像在阐述一个数学定理:
“这是一个经典的伦理困境,但在工程化视角下,我们可以尝试将其转化为一个风险最小化的数学问题。首先,系统会基于实时感知数据,计算不同决策路径下,各方(行人、乘客)的伤害概率模型,包括严重程度、存活几率等。同时,会引入车辆自身状态(速度、角度、可变形空间)、环境约束(障碍物属性、二次事故风险)等变量。然后,在一个预先设定好的、经过严格伦理与法律审查的加权效用函数框架下,计算出能使整体预期伤害值最小化的决策。这个函数可能会给乘员设定一个基础保护权重,但同时会综合考量行人数量、年龄(如果有可识别信息)、碰撞角度等因素。算法不判断谁更‘值得’,它只是执行一个预设的、追求社会总伤害最小的‘最优解’。这个解可能冷酷,但它是透明、可验证、且符合程序正义的。”
他的回答高度理性,充满了模型、函数、概率,将血肉生命的抉择抽象成了冰冷的数学计算。台下有人点头,认为这是“科学”的态度;也有人皱眉,感到一种难以言喻的不适。
王院士再次看向沈悠,目光平静无波:“沈悠女士?”
沈悠放在膝上的手,几不可察地收紧了一下。她垂下眼帘,沉默了。时间一分一秒过去,十秒,二十秒……演播厅里静得能听到自己的心跳。观众席开始出现轻微的躁动,不明白她为何迟迟不答。陈宇飞等人的心也提了起来。
她终于抬起头,脸色有些苍白,但眼神清澈而坦荡,直视着王院士,也像透过镜头,看向无数可能的未来用户:
“王院士,顾总,各位。这个问题,我和我的团队,在‘青鹏’立项之初,就反复争论、痛苦思考过无数次。”
她的声音有些干涩,但一字一句,砸在寂静的空气里:
“我们写不出那个‘加权效用函数’。我们无法,也绝不能,将人的生命??无论是车内的,还是车外的??简化为算法里的权重参数,去计算一个‘整体伤害最小’的数学解。因为生命无法被加权,无法被比较。每一个生命背后,都是一个家庭,一段无法重来的人生。”
她深吸一口气,仿佛用尽了全身力气:
“所以,在‘青鹏’的算法逻辑里,没有这个选择。”
台下哗然!连顾行知都微微蹙眉,看向她。
沈悠仿佛没有听到议论,继续用她那平静却蕴含着巨大力量的声音说道:
“不是我们逃避问题,而是我们从一开始,就把所有的研发资源和技术想象力,投入到一件事上:穷尽一切可能,让这个选择,永远不要发生。”
“为此,‘青鹏’会不惜成本,用最灵敏的感知去看,用最可靠的系统去想,用最强大的执行去行动。我们要让感知的边界更早,让制动的距离更短,让转向的精度更高,让冗余的备份更厚。我们要在危险露出苗头的万分之一秒前,就将其扼杀。我们要做的,不是等悲剧无法避免时去计算怎么‘死得更好看’,而是用我们所有的技术、汗水和偏执,去守护那‘生’的亿万种可能。”
她的声音微微提高,带着一种近乎执拗的决绝:
“如果,我是说如果,真的到了那理论上存在、但我们将用尽全力避免的、物理定律都无法挽回的绝境……在‘青鹏’的框架下,系统会尽最大努力稳定车身,保护乘员舱完整性,激活所有被动安全措施。但最终的方向选择权,我们会交还给??紧握着方向盘,或者放在方向盘上的,那双手的主人。”
“我们相信,在那一刻,真正有权利做出选择的,不是代码,不是模型,而是身处其中、为自己的生命负责的‘人’。技术可以提供信息,可以提供辅助,可以提供保护,但不能,也绝不应该,代替人去决定谁生谁死。”
话音落下,演播厅陷入了死一般的寂静。几秒钟后,掌声从某个角落响起,迅速蔓延,变得热烈,甚至有些疯狂。更多的人则陷入深思,表情复杂。沈悠的答案,没有提供精巧的数学模型,没有给出清晰的“解决方案”,它甚至听起来有些“笨”,有些“理想化”,有些“不负责任”(将最终选择交还给人)。但它触及了技术伦理中最核心、也最令人不安的那个点