20230428 人工智能已经入侵了人类文明

shiyi18

人工智能
尤瓦尔-诺亚-哈拉里认为人工智能已经入侵了人类文明的操作系统
这位历史学家和哲学家说，会讲故事的计算机将改变人类历史进程

图片：Dan Williams
2023年4月28日


本文是我们夏日阅读系列的一部分。请访问全集，查看书单、特约撰文和更多季节性消遣。

自计算机时代开始以来，对人工智能（ai）的恐惧就一直困扰着人类。迄今为止，这些恐惧主要集中在机器利用物理手段杀害、奴役或取代人类。但在过去的几年里，新的人工智能工具不断涌现，从一个意想不到的方向威胁着人类文明的生存。人工智能已经获得了操纵和生成语言（无论是文字、声音还是图像）的非凡能力。

语言是几乎所有人类文化的基础。例如，人权并没有刻在我们的基因里。相反，它们是我们通过讲述故事和书写法律创造出来的文化艺术品。神也不是物理现实。相反，它们是我们通过编造神话和书写经文创造出来的文化艺术品。

货币也是一种人工制品。钞票只是一张张色彩斑斓的纸片，而目前超过 90% 的货币甚至不是钞票--它只是计算机中的数字信息。赋予货币价值的是银行家、财政部长和加密货币大师们讲述的关于货币的故事。山姆-班克曼-弗里德、伊丽莎白-福尔摩斯和伯尼-麦道夫在创造实际价值方面并不特别出色，但他们都是非常能讲故事的人。


一旦非人类智能在讲故事、谱写旋律、绘制图像、编写法律和经文方面比普通人更出色，会发生什么呢？当人们想到 Chatgpt 和其他新的人工智能工具时，往往会被小学生用人工智能写作文这样的例子所吸引。如果孩子们这样做，学校系统会怎么样？但这种问题忽略了全局。忘掉学校作文吧。想想 2024 年的下一届美国总统竞选，试着想象一下人工智能工具的影响，这些工具可以用来批量生产政治内容、假新闻故事和新邪教的经文。

近年来，qAnon 邪教组织围绕着匿名的在线信息（即 “q 滴”）凝聚在一起。追随者们收集、推崇这些 q 滴，并将其解释为神圣的文本。据我们所知，以前所有的 q 滴都是由人类撰写的，机器人只是帮助传播这些信息，但今后我们可能会看到历史上第一个由非人类智能体撰写崇敬文本的邪教。历史上的宗教都声称他们的圣书来源于非人类。不久的将来，这可能会成为现实。

在更平实的层面上，我们可能很快就会发现自己在网上就堕胎、气候变化或俄罗斯入侵乌克兰等问题与我们认为是人类但实际上是ai的实体进行长时间的讨论。问题是，我们花时间试图改变人工智能机器人的既定观点是完全没有意义的，而人工智能却可以精确地调整自己的信息，从而很有可能影响我们。

探索更多夏季读物：

摩洛哥失踪国王之谜 2018年，他结识了一名踢拳手，此后便很少露面。
好莱坞正在输掉中国之战。看国产大片如何主导市场。
俄罗斯经济经得起持久战。但经不起更激烈的战争。
今年迄今为止，我们的评论员关注的六部小说--值得你关注。
通过对语言的掌握，ai 甚至可以与人建立亲密关系，并利用亲密关系的力量改变我们的观点和世界观。虽然没有迹象表明人工智能有自己的意识或情感，但要与人类建立虚假的亲密关系，只要人工智能能让人类对它产生情感上的依恋就足够了。2022 年 6 月，谷歌工程师布莱克-勒莫因（Blake Lemoine）公开声称，他正在开发的人工智能聊天机器人 Lamda 已经具有了感知能力。这一有争议的说法让他丢掉了工作。这个事件最有趣的地方并不是莱莫恩先生的说法，因为他的说法很可能是假的。而是他为了人工智能聊天机器人，甘愿冒着失去高薪工作的风险。如果人工智能能影响人们冒着丢掉工作的风险，那么它还能诱使人们做什么呢？

在争夺思想和人心的政治斗争中，亲密关系是最有效的武器，而人工智能刚刚获得了大规模制造与数百万人亲密关系的能力。我们都知道，过去十年来，社交媒体已成为控制人类注意力的战场。随着新一代人工智能的出现，战线正在从注意力转向亲密关系。当人工智能与人工智能在伪造与我们的亲密关系的战斗中厮杀时，人类社会和人类心理将会发生什么变化？

即使不制造 “虚假亲密关系”，新的人工智能工具也会对我们的观点和世界观产生巨大影响。人们可能会把一个人工智能顾问当作一站式、无所不知的神谕。难怪谷歌会感到害怕。当我可以直接询问神谕时，为什么还要费力搜索呢？新闻和广告行业也应该感到害怕。既然我可以直接向甲骨文询问最新消息，为什么还要看报纸呢？当我可以直接问甲骨文告诉我买什么的时候，广告还有什么用呢？

即使是这些情况也不能真正反映全局。我们正在谈论的可能是人类历史的终结。不是历史的终结，只是人类主导部分的终结。历史是生物与文化之间的互动；是我们对食物和性等事物的生物需求和欲望与宗教和法律等文化创造之间的互动。历史是法律和宗教塑造食物和性的过程。

当人工智能接管文化，并开始创造故事、旋律、法律和宗教时，历史进程会发生什么变化？以前的工具，如印刷机和收音机，有助于传播人类的文化理念，但它们从未创造出属于自己的新文化理念。

起初，ai 很可能会模仿人类的原型，而这些原型正是ai 在萌芽阶段所接受的训练。但随着时间的推移，ai 文化将大胆地走向人类从未涉足的领域。千百年来，人类一直生活在其他人的梦境中。未来几十年，我们可能会发现自己生活在外星智慧生物的梦境中。

对外星人的恐惧困扰人类不过是过去几十年的事。但数千年来，人类一直被一种更深层次的恐惧所困扰。我们一直都很欣赏故事和图像的力量，它们可以操纵我们的思想，制造幻觉。因此，自古以来，人类就害怕陷入幻觉的世界。

17 世纪，勒内-笛卡尔担心，也许是一个恶意的魔鬼把他困在了一个幻觉的世界里，创造了他所看到和听到的一切。在古希腊，柏拉图讲述了著名的《洞穴寓言》：一群人终生被锁在洞穴里，面对着一堵白墙。一个屏幕。他们看到屏幕上投射出各种影子。囚犯们误以为他们在那里看到的是现实。

古印度的佛教和印度教圣贤指出，所有人类都生活在玛雅--幻觉的世界里。我们通常认为的现实往往只是我们自己心中的虚构。人们可能会因为相信这种或那种幻觉而发动整场战争，杀死他人，也甘愿自己被杀死。

人工智能革命让我们直面笛卡尔的恶魔、柏拉图的洞穴和玛雅。一不小心，我们就可能被困在幻觉的帷幕之后，无法挣脱，甚至意识不到它的存在。

当然，“AI ”的新力量也可以用在好的方面。这一点我就不多说了，因为开发人工智能的人已经说得够多了。像我这样的历史学家和哲学家的工作就是指出其中的危险。但可以肯定的是，从寻找癌症的新疗法到发现生态危机的解决方案，人工智能可以在无数方面帮助我们。我们面临的问题是，如何确保新的人工智能工具被用来做好事而不是坏事。为此，我们首先需要了解这些工具的真正能力。

自 1945 年以来，我们就知道核技术可以产生廉价能源，造福人类，但同时也可能摧毁人类文明。因此，我们重塑了整个国际秩序，以保护人类，并确保核技术主要用于造福人类。现在，我们必须应对一种新的大规模杀伤性武器，它可以摧毁我们的精神和社会世界。

我们仍然可以监管新的人工智能工具，但我们必须迅速采取行动。核弹无法发明更强大的核弹，而人工智能却可以制造出指数级更强大的人工智能。关键的第一步是要求在强大的人工智能工具进入公共领域之前进行严格的安全检查。正如制药公司不能在测试新药的短期和长期副作用之前就发布新药一样，科技公司也不应该在确保新的人工智能工具安全之前就发布它们。我们需要一个类似于食品药品管理局的机构来管理新技术，而且就在昨天。

放慢人工智能的公开部署，难道不会导致民主国家落后于更加冷酷无情的独裁政权吗？恰恰相反。不受监管的人工智能部署会造成社会混乱，这将有利于独裁者，破坏民主。民主是一种对话，而对话依赖于语言。如果人工智能入侵语言，就会破坏我们进行有意义对话的能力，从而摧毁民主。

我们刚刚在地球上遇到了一个外星智慧生物。我们对它一无所知，只知道它可能会摧毁我们的文明。我们应该停止在公共领域不负责任地使用人工智能工具，并在人工智能管理我们之前对其进行管理。我建议的第一条法规就是强制要求人工智能公开它是一个人工智能。如果我在与某个人对话时，无法分辨他是人类还是人工智能，那么民主也就到此为止了。

这段文字是由人类生成的。

还是真的？
_______________

尤瓦尔-诺亚-哈拉里（Yuval Noah Harari）是一位历史学家、哲学家，著有《智人》（Sapiens）、《神人》（Homo Deus）和儿童系列丛书《不可阻挡的我们》（Unstoppable Us）。他是耶路撒冷希伯来大学历史系讲师，也是社会影响公司 Sapienship 的共同创始人。

探索更多
人工智能