无人驾驶与算法伦理:一种后果主义的算法设计伦理框架

无人驾驶技术的发展将把"电车难题"带入现实。为解决此类伦理难题,必须预先设定好事故应急算法。那么由谁来设定算法?如何设定?如果由制造商和购买者来设定,可能会导致利己主义自动车的泛滥,陷入"囚徒困境"。统一的功利主义设定更具有道德合理性,因为它倾向于增加每个人的安全预期,所以化解了"牺牲少数人"的反驳。但是为避免各种不良社会后果,政府不宜强制推行功利主义算法,提议用非强制性措施来鼓励人们选择这种算法。最后考虑几种纯功利主义算法函数中没有计算的因素:较不利者的优先性、风险与不确定性、应得与无辜等,并探讨如何将这些因素纳入一个广义的后果主义算法伦理框架中。