Can We Trust AI (二) 人工智能的诞生和发展 2

Can We Trust AI (二) 人工智能的诞生和发展 2

佛罗里达州的"老大哥"

与大多数技术一样，不受监管的人工智能也有阴暗的一面。一些批评家担心它快速收集和分析大量数据的能力会将权力集中在政府手中。这就是当佛罗里达州一名警长决定使用人工智能“预测”社区犯罪的可能性时发生的事情。 2011年，帕斯科县警长克里斯·诺科制定了一项计划，利用情报收集、人工智能和机器学习的尖端工具，在犯罪发生之前在社区内减少犯罪。这些工具被用来开发一个由警长办公室在私人顾问的帮助下设计的软件程序，该程序根据逮捕记录、未指明的情报和警察分析师的任意决定，汇编了一份该县可能犯罪的人的名单。警长指示副手询问任何出现在计算机生成名单上的人，通常没有合理的理由、搜查令或具体犯罪的证据。据坦帕湾时报报道，名单上的人被视为有罪，直到证明无罪为止，该报因对此问题的报道而获得了2021年的普利策奖。尽管受到被针对的家庭的投诉，诺科还是扩大了该项目，包括在学校实施类似的预防犯罪项目。家庭已经起诉了该县，称预测警务系统违宪。帕斯科县的预测警务的命运仍在法庭上。

然后是中国，它在2014年推出了一个“社会信用评分”算法，收集大量关于公民的数据，并根据他们的行为对其进行排名，如糟糕的驾驶、在无烟区吸烟、购买太多视频游戏和在线发布假新闻，特别是关于恐怖袭击或机场安全的假新闻。例如，低分可以阻止人们乘坐飞机或购买某些奢侈品。乔治·奥威尔在他的1949年的反乌托邦小说《1984》中预测了这种使用大数据追踪其公民的政府努力。据《外交政策》杂志报道，社会信用体系已经将1000万人和公司列入黑名单——这些公司忽视法院命令、违反食品安全或环境法律或未能支付员工工资。10 我将研究人工智能面部识别分支的一些安全应用，以及当有适当的防护措施时，它是如何帮助社会的。例如，随着数字相机变得更清晰，数据处理能力更强大，面部识别算法正在识别商店扒手和美国国会暴动者。2018年，马里兰州州警察官员使用面部识别技术抓住了一名没有在犯罪现场留下任何指纹的大规模枪击嫌疑人。与此同时，总部位于匹兹堡的Marinus Analytics（由卡内基梅隆大学机器人研究所的研究人员于2014年创立的初创公司）开发了一个名为Traffic Jam的机器学习AI工具，该工具跟踪并识别了几千名性贩卖受害者。该程序搜索各种在线平台上的商业成人服务广告，并寻找潜在的脆弱性指标，如药物使用的迹象或可能失踪儿童或未成年人的照片。

面部识别的缺陷 与此同时，人工智能工具在识别违法者方面发挥着越来越大的作用，研究人员正在发现一些面部识别工具构建方式及其产生的结果中存在的缺陷。旧金山、西雅图、巴尔的摩和其他几个美国城市的民选官员禁止当地警察使用这些算法，因为许多研究表明，一些面部识别程序对有色人种有偏见，这导致了错误的逮捕。亚马逊、微软和IBM在过去几年中因种族定性问题而撤回或暂停了他们的面部识别系统，尽管其他科技公司已经帮助填补了这些大公司留下的空白。联邦执法官员继续部署面部识别技术，同时研究如何提高其准确性。 从零售购物到社交媒体再到战场，人工智能现在是一个巨大的行业——2020年的估值估计为625亿美元，预计每年增长40%11——充满了炒作和真正的前景，但同时也根深蒂固。随着这个魔术师从瓶子里出来，了解它是如何工作的以及利害关系是有意义的。

机器学习 关于人工智能的讨论通常涉及基于机器学习的计算机程序，这是一种关注使用数据和算法模仿人类学习方式的人工智能分支，逐渐提高其准确性。12 想想Netflix用来帮助你做出下一个电影选择的算法：如果你喜欢《银翼杀手》，也许你会喜欢另一部科幻电影。如果你在亚马逊上购买了一种特殊的洗发水，它会推荐另外五种护发产品。机器学习是IBM的沃森计算机在Jeopardy成功的基础；它有助于像Uber这样的汽车共享服务预测乘客需求；它使Facebook能够为你的新闻提要提供建议。13 可供使用的数据越多，人工智能做出的决策就越好。 但机器学习需要人类程序员设置任务参数，然后通过随着时间的推移做出正确的选择或重复任务直到得到正确答案来改进决策。因此，人工智能是一种创造可以做正常需要人类智慧的事情的机器的能力；由此产生的技术可以推理、学习、计划，并且经常做出被证明是准确的预测。在《人工智能：现代方法》中，加州大学伯克利分校的Stuart J. Russell和谷歌的Peter Norvig将人工智能描述为一个“智能代理”，如果提供了正确的信息，总是会做出正确的决定。在他们的介绍中，他们说：“我们采用的观点是，智力主要与理性行动有关。理想情况下，一个智能代理会在一种情况下采取最好的可能行动。”

人工智能的黎明 人工智能的概念出现在第二次世界大战即将结束时，当时曼哈顿项目的负责人、第一位总统科学顾问Vannevar Bush在《大西洋月刊》上发表了一篇文章，“正如我们可能思考的那样”。1945年初，Bush预测了一个由人类和机器一起处理数据的数字未来，这要归功于“一个廉价复杂设备可靠性的时代”。事实上，Bush最敏锐的预测之一是一个被称为memex的假设性设备，这是一个类似于互联网的知识数据库，或者至少是维基百科。Bush写道：“考虑一个未来的设备……在这个设备中，一个人存储了他所有的书籍、记录和通信，并且被机械化以便可以以极快的速度和灵活性进行咨询。它是他的记忆的一种扩大和亲密的补充。”Bush还指出了今天AI的一个秘密：它是由编写代码、标记图像和解释数据的人类驱动的。至于细节，他写道：未来的先进算术机将是电性质的，它们将以现在的速度运行100倍或更多……它们将由控制卡或胶片控制，它们将根据这样插入的指令选择自己的数据并对其进行操作，它们将以非常高的速度执行复杂的算术计算，并将以易于分发或稍后进一步操作的形式记录结果。这样的机器会有巨大的胃口。其中一台机器将从一整个房间的女孩那里接受指令和数据，她们都配备了简单的键盘打孔器，每隔几分钟就会提供一张计算结果表。在数百万人做复杂事情的详细事务中，总是有很多东西需要计算。15 Bush在那个时候写这篇文章的时候，美国每五个人就有一部电话，一些农村美国人仍然没有电。16 出生于1890年的Bush对今天的数字世界有着先知般的看法。英国数学家、密码学家和计算机科学家艾伦·图灵也是如此，他在第二次世界大战中帮助打破德国人的恩尼格玛密码，从而改变了战斗的潮流。

图灵测试 1950年，继他在恩尼格玛上取得突破性的敌对工作之后，当时曼彻斯特大学的教授图灵设计了一个旨在确定机器是否具有人工智能的测试。它被称为图灵测试。“我打算考虑这样一个问题：‘机器能思考吗？’”图灵在《心灵》杂志上发表的论文“计算机械与智能”中写道。图灵设计了一个涉及一名男子、一名女子和一名审讯者的“模仿游戏”，审讯者将分别向每个人提出一系列问题。然后，一台机器将取代一个人的位置，并且当审讯者不再能够判断答案是来自人还是机器时，“通过”测试。图灵和布什一样，能够预见机器和人类可以一起工作的时代，也能预见需要计算机传感器，使机器能够“看到”和“听到”。以下是图灵在他的文章中得出的结论： 我们希望机器最终能在所有纯粹的智力领域与人类竞争。但是从哪些开始最好呢？甚至这是一个困难的决定。许多人认为像下棋这样的非常抽象的活动会是最好的。也可以认为，最好是给机器提供用金钱所能买到的最好的感觉器官，然后教它理解和说英语。这个过程可以遵循对孩子的正常教育。事物会被指出并命名等。再次强调，我不知道正确的答案是什么，但我认为两种方法都应该尝试。我们只能看到前方的一小段距离，但我们能看到有很多事情需要去做。

图灵预见了人工智能如何发展和许多计算机科学家如何学习的儿童-机器模型。事实上，一些研究人员认为，人工智能要真正变得“智能”并在自己的道路上学习的唯一方法是如果它有其他AI代理帮助它。图灵关于只能看到“前方一小段距离”的最后一句话在今天仍然正确。他在70多年前的原始论文中提出的概念仍然是当前人工智能的子领域。根据Russell和Norvig的说法，一个AI计算机需要具备自然语言处理能力来用英语交流；知识表示来存储它所知道或听到的信息；自动推理使用存储的信息来回答问题、得出新的结论并做出决定；以及机器学习以适应新情况，并检测和推断模式。要成为一个真正的AI机器人，成功的AI计算机还需要计算机视觉来感知物体，以及机器人技术来操纵物体和移动。 20世纪50年代诞生了人工智能的概念。该术语首次出现在1956年在新罕布什尔州达特茅斯大学举行的为期八周的夏季会议上。这个小组由10名计算机科学家组成，其中包括John McCarthy，他将在1960年发明第一种计算机语言；Marvin Minsky，他在1970年代成立了麻省理工学院的AI实验室；以及Nathaniel Rochester，他是IBM 701的第一台大规模生产的科学计算机的开发者，于1952年推出。McCarthy在他的会议提案中创造了人工智能这个词。从那时起，制造一台思考机器的比赛就开始了。