20240729 两位企业家说：保持人工智能背后代码的开放性

shiyi18

人工智能
两位企业家说：保持人工智能背后代码的开放性
马丁-卡萨多（Martin Casado）和扬-斯托伊卡（Ion Stoica）认为，开源模式将在不影响安全性的前提下推动创新。

插图：Dan Williams
2024 年 7 月 29 日


没有人怀疑人工智能（ai）将改变世界。但是，关于人工智能模型设计的理论争议仍在继续，即软件应该是 “闭源 ”还是 “开源”--换句话说，代码是专有的，还是公开的、任何人都可以修改的。

一些人认为，开源人工智能是一条死胡同，甚至会威胁国家安全。西方的批评者长期以来一直认为，开源模式通过泄露机密，让中国等国家能够识别和利用漏洞，从而加强了这些国家的实力。我们认为事实恰恰相反：开源将推动人工智能领域的创新，并将继续成为最安全的软件开发方式。


这并不是美国科技行业及其标准制定者和监管者第一次从国家安全的角度考虑开源软件和开放标准。围绕操作系统、互联网和密码学也进行过类似的讨论。在每一种情况下，压倒性的共识都是开放才是正确的前进方向。

原因有几个。其一，监管会损害创新。美国在科技领域领先世界。在公平竞争的环境中，它将胜出。如果一只手被绑在背后，它很可能会输。这正是限制开源 Ai 开发的后果。一个曾经遍布全球的潜在人才库，将被缩减到开发模型的机构或公司的四面围墙之内。与此同时，世界其他地方，包括美国的对手，将继续从开源及其带来的创新中获益。

第二个原因是，开源使系统更安全这一观点已被广泛接受。更多的用户--来自政府、工业界、学术界以及业余爱好者--意味着有更多的人在分析代码、在生产中对代码进行压力测试，并修复他们发现的任何问题。

在国家安全领域，安全增强型 Linux（seLinux）就是一个很好的例子。它最初由美国国家安全局开发，是开源 Linux 操作系统的安全补丁集，20 多年来一直是官方 Linux 发行版的一部分。这种 “向他人学习 ”的方法比基于专有操作系统的方法要强大得多，因为专有操作系统只能由其供应商按照他们所能控制的时间表进行修复。


西方国家安全界对防止其他国家获得最先进的人工智能技术进行了大量讨论。但限制开源并不能实现这一目标。就中国而言，这是因为马已经跑了。中国已经站在了人工智能的最前沿：中国的人工智能研究人员可能比美国还多，而且中国已经在生产极具竞争力的模型。根据一个流行的大型语言模型排名系统，在全球七大开源模型中，中国就占了三个。

一些中国公司还在想方设法绕过图形处理器（gpus）的出口管制，这种专用电路擅长代数。即使是美国公司也不会轻易被说服而忽略数十亿美元的收入。此前，中国曾试图禁止出口高端英特尔芯片，结果利用内部开发的新型计算架构，开发出了世界上速度最快的超级计算机。

美国公司无法保证专有、基础设施关键 IP 的安全由来已久。例如，华为就曾公开承认抄袭了思科的专有代码。就在今年 3 月，联邦调查局逮捕了一名中国籍前谷歌工程师，指控他从以安全著称的谷歌公司窃取了 AI 商业机密。

我们要问的一个问题是，我们是想生活在一个我们了解其他国家人工智能能力基本性质的世界--因为它们部分基于开源技术--还是一个我们试图弄清它们如何运作的世界。没有第三种选择，例如中国就不具备先进的人工智能能力。

支持开源的最后一个原因是它能推动创新。有人认为，开源模式在性能或成本上无法与专有模式竞争，因此我们应该放弃开源模式，这种观点是完全错误的。基础模型正在成为应用基础架构的重要组成部分。至少从 20 世纪 90 年代中期开始，大多数有影响力的新基础架构技术都是开源的。

没有明确的理由证明人工智能模式会有所不同。今天的人工智能植根于开源和开放研究，过去两年中，随着 Openai、Mistral、Anthropic 等公司的崛起，生成式人工智能取得了惊人的进步，这在很大程度上归功于过去十年的开放性。如今，许多最先进的人工智能应用都是开发人员运行和微调开源模型的产物。许多最先进的人工智能用户所在的社区都是围绕开源而有机发展起来的。大势已定。

当然，不同的商业和开发模式都有蓬勃发展的空间，任何人都不能轻视国家安全。但如果限制开源，就会束缚这种既能保证安全又能推动三十年创新的方法。■

马丁-卡萨多（Martin Casado）是安德森-霍洛维茨公司（Andreessen Horowitz）的普通合伙人。Ion Stoica 是加州大学伯克利分校计算机科学教授，也是 Databricks 和 Anyscale 的联合创始人和执行主席。

关于开放式与封闭式人工智能之争的不同观点，请参阅劳伦斯-莱西格（Lawrence Lessig）的这篇文章。

探索更多
人工智能