hull university

赫尔商学院专家撰文:算法已经取代了人类的决策

时间:2019-03-15来源:HullChina

当进化生物学家彼得·劳伦斯(PeterLawrence)写的一本名为《造出一只苍蝇》(The Making of a Fly)的书在亚马逊(Amazon)上的定价为23698655.93美元(外加3.99美元的运费)时,我仍然记得我的惊讶。虽然我在世界各地的同事们对于一本学术著作能取得如此辉煌的成就一定感到非常沮丧,但高昂的价格实际上是算法相互反馈和失控的结果。事实证明,这不仅仅是销售人员的创造性:运算法则决定一切。

这个引人注目的例子被发现并改正了。但是,如果这种算法干扰总是发生,包括我们甚至没有注意到的方式,怎么办?如果我们的现实越来越被算法所建构,这会把我们人类带往哪里?

在这些例子的启发下,我和我的同事Allen Lee教授最近在《信息系统协会杂志》上的一篇论文中着手探索算法技术的深层次影响。我们的探索使我们得出这样的结论:随着时间的推移,信息技术和人类的作用已经被逆转。在过去,我们人类使用技术作为工具。现在,技术已经发展到可以使用甚至控制我们的程度。

我们人类不仅与机器为我们所做的决定断绝了联系,而且以不可预知的方式深受这些决定的影响。我们没有成为影响我们的决策系统的核心,而是被抛弃在它的环境中。我们逐步限制了自己的决策能力,允许算法接管。我们已经变成了人工的人,或者人工制品,它们是由技术创造、塑造和使用的。

例子很多。在法律上,法律分析师正逐渐被人工智能所取代,这意味着一个案件的成功辩护或起诉可以部分依赖于算法。软件甚至被允许预测未来的罪犯,最终通过塑造如何拒绝或给予囚犯假释来控制人类自由。通过这种方式,法官的头脑被他们无法理解的决策机制所塑造,因为这个过程有多复杂,涉及多少数据。

在就业市场,对技术的过度依赖导致一些世界上最大的公司通过软件过滤简历,这意味着人力招聘人员将永远不会看到一些潜在候选人的详细信息。这不仅使人们的生计受制于机器,而且还可能增加公司不想实施的招聘偏见,就像亚马逊公司所发生的那样。

在新闻中,我们称之为“自动情绪分析”,它分析基于不同网络来源的公司的正面和负面观点。反过来,这些都被交易算法所使用,这些算法可以自动做出财务决策,而无需人类真正阅读新闻。

意外后果

事实上,没有人为干预的算法现在在金融市场中发挥着重要作用。例如,85%的外汇市场交易都是通过算法进行的。越来越多的算法军备竞赛是为了开发更复杂的系统来在这些市场上竞争,这意味着根据机器的决定分配了大量的资金。

在小范围内,创建这些算法的人员和公司能够影响他们做什么以及如何做。但是,由于许多人工智能都涉及到编程软件来自行完成一项任务,因此我们通常不知道决策背后到底是什么。与所有技术一样,这可能会导致意想不到的后果,可能远远超出设计师所设想的范围。

 

道琼斯工业平均指数的“闪电崩盘”

以2010年道琼斯工业平均指数的“闪电崩盘”为例。算法的作用帮助指数创下历史上最大的单日跌幅,在几分钟内将其价值抹去近9%(尽管到今天结束时,指数已恢复了大部分)。五个月的调查只能说明是什么导致了经济衰退(以及其他各种理论的提出)。

但是那些扩大了最初问题的算法并没有犯错误。程序中没有错误。这种行为源于数以百万计的算法决策以不可预测的方式相互作用,遵循自己的逻辑,从而为市场创造了一个向下螺旋。

使这成为可能的条件是,多年来,操作交易系统的人开始把人为决策视为市场效率的障碍。早在1987年,当美国股市下跌22.61%时,一些华尔街经纪商只是停止拿起电话,以避免收到客户出售股票的指令。这开始了一个过程,正如作者迈克尔·刘易斯在他的书《闪族男孩》中所说,“最终电脑完全取代了人们”。

金融界已经在超高速电缆和微波通信上投入了数百万美元,使算法传输指令的速度降低了几毫秒。当速度如此重要时,一个需要215毫秒才能点击按钮的人几乎是完全多余的。我们唯一剩下的目的是在每次技术决策系统失败时重新配置算法。

随着人类和技术之间的新边界被划分,我们需要仔细考虑我们对软件的极端依赖将把我们带向何处。当人类的决策被算法所取代,我们成为工具,它们的生命被机器所塑造,它们的意想不到的后果,我们正在建立自己的技术控制。我们需要决定,虽然我们仍然可以,这对我们个人和社会意味着什么。

 

作者: Dionysios Demetis迪奥尼索斯·德米蒂斯博士是赫尔大学商学院的管理系统讲师

 

迪奥尼索斯·德米蒂斯博士是赫尔大学商学院的管理系统讲师

 

最新推荐
接机申请表 下载专区 入学条件 住宿与申请 学费/奖学金 语言课程 常见问题 放假时间表