决策环内部:人工智能实际做了什么,又没做什么
在Nolla的人工智能能够开具任何处方之前,它必须处理两个输入:一张面部扫描图像和一份耗时10至15分钟完成的患者问卷。基于这些信息,它生成一个数值化的痤疮严重程度评分,并从一组固定的事先批准的局部用药清单中进行选择——它无权自行设计治疗方案[1]。Nolla首席医疗顾问扎伊德·法杜尔博士(Dr. Zaid Fadul)将这种限制视为整个项目的核心:“人工智能不能即兴发挥,只能从医生事先批准的一小部分局部治疗方案中进行选择”[2]。异维A酸(一种具有严重副作用风险的强效口服抗痘药)以及所有其他口服药物都被明确排除在外,任何看起来严重的病例、涉及怀孕或超出试点狭窄范围的情况都将被转交给持证医师或线下诊疗[3]。真正起作用的安全网是时间性的:前100张处方中的每一张都必须经过两名独立医生的签字确认后才能送达患者手中,只有当这一群体通过后,监督才会放宽为事后审查[1]。所有这些服务均通过一项面向年满18岁的犹他州居民开放的每月4.99美元订阅服务提供[4]。


