年,时任阿根廷萨尔塔省省长胡安·曼努埃尔·乌尔图比 (Juan Manuel Urtubey) 在就自愿中断妊娠合法化进行全国辩论时宣布,这一情况变得明显并在媒体上引起了反响。通过人工智能系统可以预测女孩和青少年的怀孕情况9. 由于这一公告,布宜诺斯艾利斯大学精确科学学院应用人工智能实验室警告说,这是一个基于偏见的算法决定:“方法问题和不可靠的数据都构成了采取对公共政策负责人的错误措施»10.另一方面,这并不新鲜,技术可能会失败。
这些做出自动决策的系统 购买批量短信服务 失败的问题在于,在某些情况下,它们不允许我们轻松检测决策是如何做出的或故障发生在哪里。例如,人工智能技术的应用不仅限于诊断和治疗,还延伸到自动轮班分配系统,或者如2018 年The Verge发表的一篇文章报道的那样,用于分配护理人员对于老年人或各种残疾的人十一. 在记者 Colin Lecher 报道的例子中,一种医疗保健算法已经开始减少护理人员对老年人的分配,而没有人知道或无法解释系统做出的决定是由于什么,它是什么数据基于或它使用什么标准。
通过对提供它们的数据的分析和处理,系统可能能够找到推理模式,尽管这些模式的存在和相关性并不意味着它们之间总是存在因果关系。这就是必须要有人为干预和系统来研究他们以了解他们是如何做出决策的,他们是如何编程的以及他们接受了哪些数据的培训。