疫苗限供,斯坦福用算法分配:四千多支给高级教职员,一线医护人员只有七支

“fxck the algorithm”人工智能大火这些年,有反对情绪的人不在少数,但这次,大声喊出这句“算法去死”的是斯坦福大学医学院的医师们。
怎么回事?这还得从5000支新冠疫苗说起。
几天前,斯坦福大学的医院称有疫苗可用,并且会给员工优先注射,这给日夜照顾新冠患者的医师们带来了一丝希望。但是,第一批疫苗毕竟数量少,因此斯坦福医院设置了一个疫苗注射计划。
不过根据上周公布的这个计划,5000支珍贵的新冠疫苗,只有7支分配给了直接接触新冠患者的医护人员。
这可惹恼了一线医护人员,在当周周五早上,大约100多位相关居民和医护人员一起发起了抗议活动,手持标语并要求斯坦福大学领导层回答,为何在斯坦福医院的1300多名一线医护人员中,只有七人被选中接种疫苗。
由主要居民组成的理事会向斯坦福领导层致信,表示愤怒和失望。“我们认识许多高级教职人员,他们自从2020年3月大流行开始以来一直在家工作,根本没有亲自照顾患者,却在这轮接种中被选为疫苗接种人。”
斯坦福公开道歉,本意是用算法开发更公平的分配机制
根据一位抗议人代表发给其他医护人员的电子邮件,斯坦福大学的相关发言人已经公开道歉,并且解释说,这个问题是因为使用了一种算法来分配疫苗的首次分配。据公开的斯坦福大学相关管理人员回复,该算法优先考量了那些感染新冠病毒风险最高的医护人员特征,比如年龄较大、目前在医院工作、距离疫情高风险地区距离近等因素。
但是,一线医护人员一般是较年轻员工,还没有固定的房产地址,而且他们通常年龄较小,因此在优先事项列表中排名较低。这次分发的疫苗来自辉瑞公司(Pfizer),其生产的冠状病毒疫苗已于上周获得FDA紧急批准,从而在全国范围内匆忙开展了推广,以便向医护人员提供尽可能多的剂量。回复信函中还指出,更多疫苗很快会分配下来,下一周会有15000支疫苗到达,因此会有更多医护人员可以接种疫苗。
不过,对于算法的具体流程和内容,斯坦福大学尚未提供。
在给《福布斯》的一份声明中,斯坦福大学也公开表达了歉意,为“执行我们的疫苗分配计划时出错”承担责任,并表示他们将修订疫苗分配顺序。
“我们的目的是开发一种更合理的疫苗分发程序。”斯坦福医药在一份声明中说:“我们向我们的整个社区道歉,包括我们的居民、同胞和其他前线护理提供者,他们在新冠疫情中表现出色。”
“我们谨在此感谢社区人士对疫苗分配计划的制定和执行所表达的关切。我们承担全部责任,并向所有人道歉。我们充分认识到,我们应该更加迅速地采取行动,以解决存在以下问题的错误:结果导致了我们无法预期的结果。”斯坦福表示。
算法有缺陷还是替人祸背锅?
一位参与计划抗议活动的神经病学研究者说,算法有缺陷不是借口。她在写给媒体NPR的电子邮件中写道:“算法是人为创造的,结果也是经过了管理层多次审查的。”
“最终批准该决定的人是要负责任的。这也反映出决策过程中没有部门管理者或主要社区参与人。”      
的确,稍微懂点技术的人都知道,算法再智能还是人写的,即便存在黑箱,但是在看到输出结果后,还是可以立即意识到问题。管理层应该考量到相关结果,并返回重新考量设计算法模型。
对此,NYU教授Yann Lecun也在推特上表示,这里所谓的“算法”很可能就是人搞出来的一张数据表,绝不可能是所说的人工智能。
用算法解决社会问题,任重而道远
疫情下,人工智能似乎在承担了更多的期待,也在社会问题中有了更多的发挥空间,但是,也因此收获了不少问题。
除了这次的“fxck the algorithm”风波,今年还有另一个经典算法争议事件:因为新冠疫情的暴发,学生无法参加考试,英国政府因此决定依据过往成绩数据,用算法评分,结果全国范围内,算法给出的A-Level成绩数量,比之前降低了约40%。
为了确定每个学生的成绩,英国决定使用一种算法,该算法可以查看学生模拟考试的成绩以及他们在学校以往考试中被记录的成绩。立法者表示,由于教师可能会试图提高学生的成绩,所以这种算法软件将会帮助提供一个“更公平”的结果。
但是最终结果显示,该模型对来自私立学校和富裕地区的学生具有优待,使得来自免费公立学校的但具有高成绩的学生受到的影响尤为严重。由于考试成绩被降低,许多学生的大学入学资格被撤销,结果引起了抗议。
英国政府最终承诺将对用于授予2020年考试成绩的统计模型的研发进行审查,但这批学生和家庭承受的成果已经不可逆转。
同样,除了那7位被算法选中的幸运儿,斯坦福医院的其他一线医护人员,还需要继续照顾新冠患者并与新冠病毒作战,并继续带着希望等待新疫苗的分配……