凯特·克劳福德（Kate Crawford）是现代人为智能与社会酌量范围的着名学者。她是洛杉矶南加州大学的酌量教员、纽约微软酌量院的高级首席酌量员，仍是巴黎上等师范学院首任人为智能与公法客座教员。她的酌量鸠合正在人为智能的社会和政事影响，涉及范围网罗数据伦理、算法平允、隐私护卫智能、以及技巧正在社会中的权利动态。

　　除学术酌量表，凯特·克劳福德还筑造艺术安装和视觉考查作品，这些作品已正在环球一百多家博物馆和双年展上展出。

　　凯特·克劳福德2021年公告著述《Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence》，周详钻探了人为智能技巧从开辟到安顿的通盘人命周期，并剖判了其渊博的社会、经济和情况影响智能。她正在书中指出，人为智能不光是一个技巧题目，仍是一个政事题目，它涉及资源的分拨、权利的鸠合以及情况的价格。彭湃消息正在该书中文版《技巧除表：社会连结中的人为智能》本年出书之际采访了凯特·克劳福德。

　　彭湃消息：你正在书中提到“人为智能是权利的注册表（AI is a registry of power）”，“registry”往往指的是一个注册、注册或者纪录的体例或列表，它代表一个包括了某些种别音讯的官方或正式纪录。你能周详疏解一下这个观点吗？正在你看来，人为智能若何正在根基上是政事的？

　　凯特·克劳福德：即使你有一份“registry of power”，这可以意味着一个纪录或数据库，个中列出了与权利相干的某些音讯，如操纵权利的个体或机构、权利的起源和分拨、权利的演变等。

　　人为智能体例并不是中立的技巧。它们嵌入了现有的权利机闭，而且往往会深化或放大社会不服等。人为智能的成长反应了那些造造和限度这些技巧的人的优先事项和意见。比如，选取用哪些数据来练习人为智能体例黑白常主观的——而这些数据集塑造了人为智能模子。闭于搜聚哪些数据、若何对其实行分类以及摒除哪些数据的选取都涉及少少确定，这些确定塑造了人为智能将巩固的权利类型。咱们只需问一句：“谁是好汉？科学家是什么样式？”就能看出哪些政事主张占主导名望。

　　人为智能正在经管和分拨资源的体例上也是一种权利的操纵者。人为智能须要大方的能源、水和枢纽原原料。掌控人为智能的公司和当局会为自身谋取好处而榨取（extract）这些资源，而为其供应资源的社区往往会蒙刻灾荒。同样的景况也显示正在人为智能成长中往往被“隐身”的劳动中，网罗数据符号和实质经管，这往往会榨取低收入国度的工人。分解和办理权利是若何被人为智能所鸠合的，对成长越发公宁静正理的技巧来日至闭紧急。

　　彭湃消息：你提到人为智能是由西方少数主导公司驱动的一种非民主政事（non-democratic politics）的大局，这会对本钱主义社会的经济差异和民主历程发作什么影响？

　　凯特·克劳福德：人为智能举动一种技巧，正在暂时的成长轨迹下，存正在着明显加剧社会中仍然存正在的不服等和权利失衡的危害。它接连将权利鸠合正在少数大型科技公司手中——这些公司被称为人为智能范围的“大户”（Great Houses of AI），由于它们具有获取生态、阴谋、数据和劳动力资源的技能，这些资源是修建和保护环球人为智能体例所需的。跟着经济和当局的其他部分变得依赖人为智能，要胀励拟定越发均衡的执法和律例变得越发清贫。

　　彭湃消息：本书剖判了正在西方社会中看守是若何扩张、私家承包商、司法部分和科技行业之间范畴若何日益笼统。这是否意味着缺乏监视的国度更易于安顿用于看守的人为智能技巧？

　　凯特·克劳福德：操纵人为智能的看守扩张正在很多国度中都很一般，网罗西方民主国度。人为智能对威权限度体例很有吸引力，无论是技巧上仍是政事上。少少人以为人为智能是一种健壮的用具，能够压造反对，经管大多成见，并戒备性地消逝对他们巨擘的吓唬。

　　当科技行业、当局和司法部分之间的范畴变得笼统，会导致一个一般存正在的看守基本措施。国度往往与具有开辟庞大人为智能体例技巧专业常识的私营科技公司互帮。这些体例随后被整合到司法和谍报举动中，变成了一套完好的看守安装。这种互帮使国度或许得回优秀的看守技能，并让公司通过有利可图的当局合同以及试验和完满他们技巧的机缘而受益。这便是为什么咱们殷切须要正在人为智能维持历程中增进透后度和问责造，同时须要签署强有力的国际和讲来典范人为智能的合理操纵。

　　彭湃消息：人为智能行使往往向用户映现简陋的界面，同时障翳庞大的实行细节，你以为这种空洞水准若何影响用户对人为智能体例的领会和交互？实在而言，这种简陋性是否可以隐没人为智能运作的紧急方面，这对人为智能体例的透后度和问责造可以会发作什么影响？

　　凯特·克劳福德：人为智能界面的干脆性是一种当真的打算选取。这使得这些体例看起来简陋、灵便，本质上它们是宏壮的环球基本措施。人们越来越闭心人为智能对情况和劳动力的本钱，即为胀励这些环球人为智能体例所需的能源、水、枢纽原料和低工资劳动力。干脆的界面空洞掉了用于让这些体例作事的练习数据——全盘由艺术家、作者和成千上万其他个体孝敬者筑造的文本和图像，他们的数据往往正在未经准许的景况下纵。这种空洞化使得酌量职员、记者和拘押者很难深究义务，由于他们往往能接触到的只要界面。

　　彭湃消息：“榨取”（extraction）是你书中的一个枢纽观点，书中钻探了大方案例，揭示了接济人为智能技巧的环球收集是若何变成情况作怪的。这种作怪影响有多大？人们正正在选取哪些手段来减轻这些影响（即使有的话）？

　　凯特·克劳福德：最终，人为智能体例所提取资源的厉重受益者是开辟和限度这些技巧的科技精英和企业。他们得回了壮大的经济气力、数据驱动的洞察力和市集主导权，但往往以殉国社区、更渊博的社会好处和情况为价格。

　　正如我正在这本书中所陈说的，咱们仍然看到人为智能的情况本钱对寰宇各地的社区变成了作怪。咱们看到，用于人为智能的超大范围数据核心的能源和用水量快速增进。咱们还看到，正在加纳的阿格博格洛希（Agbogbloshie）等地，电子垃圾聚集如山，销毁的电子产物被倾倒正在那里。

　　全盘这些做法的总体影响很难评估，由于很多公司将其对情况的全盘影响视为企业机要智能。咱们须要更多激动透后度的勤勉，比方美国参议院的《2024年人为智能情况影响法案》。

　　彭湃消息：美国阴谋机科学和人为智能范围的前驱Woody Bledsoe曾说过“从永久来看，人为智能是独一的科学 ”，为什么科学家和技巧专家对人为智能的来日如斯充满信仰？

　　凯特·克劳福德：起首，并非全盘科学家和技巧专家都对人为智能举动一个主导范围赢得永恒胜利充满信仰。很多人对人为智能的限度性和现有架构可以存正在的无法办理的题目吐露猜忌。关于那些最十分的科技笑观主义者来说，往往是出于经济好处或政事好处的驱动。目前的科学申辩正在人为智能财富应若何成长方面存正在着相当大的差别，咱们中的很多人都正在闭心若何使这些技巧正在社会上越发公宁静可接连。

　　彭湃消息：书里提到“魔幻确定论”（enchanted determinism）征象，即人为智能体例被视为有魔力的、超越已知寰宇的，但其发明形式——用以切实预测平居糊口的形式——的技能又是确定性的。这种为切实预测而低落庞大性的痴迷源于哪里？

　　凯特·克劳福德：对低落庞大性以实行切实预测的痴迷，源于人们正在不行预测的寰宇中对限度和确定性的企望。正在很多方面，它延续了20世纪对科学经管的重溺，以及对数据和算法能够简化工业和优化临蓐的决心。目前，正在美国，咱们看到人为智能被用来削减劳动力。正在一项针对美国450名高管的考查中，“45%的人吐露，他们正正在将做事主动化，以削减职员和劳动力本钱”。

　　彭湃消息：那么咱们能够选取哪些手段来办理太甚简化和榨取咱们庞大、私密和区别体验的题目？咱们若何智力确保人为智能技巧推重并保存人类感情体验的细幼分歧，而不是为了阴谋和贸易主意将其简化为 “卡通素描”？

　　凯特·克劳福德：我不信任咱们能够信任人为智能技巧会保存人类感情表达的细幼分歧，纵使咱们能够，我也不以为咱们会生机糊口正在一个让人为智能体例扫描咱们的脸和身体，依照咱们的微脸色对咱们实行分类的寰宇里。渺视、骚扰隐私和权利滥用的潜正在可以性将是灭亡性的。

　　彭湃消息：虽然从看似无害的匿名数据鸠合可以会显示意念不到的高度个体音讯，图像和文本的搜聚却有增无减。为什么人为智能行业会给与这种做法，虽然它存正在伦理、政事和领悟论题目及潜正在伤害？

　　凯特·克劳福德：我和我的合著者Will Orr迩来就这一话题实行了一项酌量，酌量叙述即将公告正在《新媒体与社会》（New Media and Society）杂志上。咱们正在酌量中发明，很多人为智能工程师面对着壮大的比赛和经济压力，况且正在数据集筑造方面缺乏精确的执法指点。这是一个至闭紧急的范围，须要更精确的行业模范和律例。

　　彭湃消息：早期少少号称操纵人为智能技巧的虚拟帮手被曝光雇仆人类员工来管造庞大题目，比方x.ai的Amy和Facebook的M等。自ChatGPT等更优秀的模子显示今后，人为智能体例对人为过问的依赖是否有所削减？

　　凯特·克劳福德：纵使有了ChatGPT，人为智能体例中的人为过问是否仍然削减还不知晓。通过考查叙述和审计，咱们越来越多地分解到，像 OpenAI 如许的公司正正在分包数千名工人，以供应他们所谓的 “通过人类反应深化研习”（RLHF）。正在一个案例中，OpenAI分包给一家名为 Sama 的公司，每幼时付出肯尼亚数据工人2美元，让他们从 ChatGPT 中删除有毒结果，网罗大方涉及暴力、摧残和痛恨群情的输出。

　　彭湃消息：2023岁终你正在米兰举办一个名为“阴谋帝国”（Calculating Empires）的展览，这是一个什么样的展览？你念传递的音讯是什么？

　　凯特·克劳福德：“阴谋帝国”是一个大型可视化酌量项目，旨正在研究五个世纪今后技巧和社会机闭是若何协同演变的。它映现了现代是若何从思念、装备、基本措施和权利系统的漫长轨迹中成长出来的。它追溯了自1500 年今后殖民主义、军事化、主动化和封锁化的技巧形式，映现了这些气力若何仍正在实行驯服，以及若何可以被破除。通过追踪这些帝国之途，“阴谋帝国”供应了一种正在更深方针的史册配景下审视咱们的技巧近况的格式。通过酌量过去的帝国事若何阴谋的，咱们能够看到它们是若何造造了此日帝国的条款。这是一件大型安装作品，长达 27 米——所以它讲述的是一个庞大的故事！目前它正正在柏林展出，生机有一天它也能正在中国巡行展出。访路｜凯特·克劳福德：人为智能正在环球限度拥有明显加剧权利失衡的危急