埃里克：大卫，感谢您今天参加我的播客。

大卫：没问题，埃里克。我很高兴和你以及你的听众在一起。

Erik：是的，我很高兴我们找到了这次谈话的机会。我知道我们的团队已经联系了一段时间，现在这是我们第一次见面。我期待着就人工智能的发展趋势与您交流。

David：是的。我很期待。

埃里克：在我们讨论当前话题之前，我想进一步了解一下芭芭拉，你为什么决定经营和创立这家公司。我的意思是，你在相当成熟的公司有着非常丰富的经验：西班牙电信、华为、SEVEN Networks、Silent Circle、Bayshore Networks。所以当有人在事业上非常成功，然后决定创立一家新公司时，我总是很感兴趣。那么为什么是现在呢？为什么是芭芭拉？

David：嗯，历史有点长。正如你所说，我开始为西班牙电信和华为等大公司工作。但后来，在 2010 年，我开始与一些初创公司合作。然后我们得到了美国国家安全局的曝光。你可能还记得它什么时候告诉我们的。然后我非常关注这个话题。然后我决定在那里创办我的第一家公司。这家公司叫 Blackphone。我们生产最安全的智能手机。所以，我开始大量从事网络安全工作。然后，当我们在 2016 年出售 Blackphone 时，我意识到网络安全在许多其他市场（如物联网）也存在空白。我真的想把我以前在智能手机网络安全工作中学到的一切应用到物联网这样一个真正爆炸式增长的市场中。所以这对我来说是一种自然而然的职业，但一切都试图填补一些我认为重要的市场空白。对我来说，网络安全一直是一个重要的话题。因为我认为它确实影响着世界的发展。这就是我一直关注这个话题的原因。就这样，我在 2017 年创办了 Barbara。

Erik：至少在今天，Barbara 已经远远超出了网络安全的范围。所以您在 2017 年就建立了这个平台。当然，那时的边缘计算远不如今天成熟。但无论如何，您还是要选择自己的战场，对吧？边缘计算几乎可以应用于任何行业，解决许多不同的问题。您如何定义您希望在哪些领域取胜？

David：是的，所以我们早在 2017 年就开始开发安全的物联网操作系统。我们从网络安全入手，为物联网设备开发了网络安全操作系统。但正如您所说，边缘计算开始变得越来越成熟。所以我们的一些客户问我们：“好的。你们的操作系统上也可以运行一些远程工作负载吗？”我们说可以。所以我们就开发了网络安全的边缘计算系统。几年前，人工智能浪潮已经到来。这是我们以后肯定会谈到的。但在过去两年里，我们已经成为了一个边缘人工智能管理平台。我们是市场上最安全的边缘人工智能管理平台。因此，网络安全仍然是我们价值差异化的核心。但就价值主张而言，我们今天提供的是专注于协调人工智能模型的边缘管理和协调工具。

Erik：这很有趣。好的。所以安全是第一位的，然后随着技术堆栈的这一特定部分的成熟，您添加了 AI 处理功能。如果我看看您关注的行业，我可以看到数字电网、智能水务和智能制造。但可以肯定的是，这些行业的网络安全是其采用数字技术能力的关键决定因素，否则可能是一个瓶颈。如果他们无法保证安全，在许多情况下，他们宁愿保持不联网。所以这些都是大行业。我想制造业是其中定义不太明确的一个。在制造业中，您是否发现某些特定行业的安全性更能引起客户的共鸣？

David：是的，在进入行业之前，让我们先解决我们正在解决的问题。正如我所说，Barbara 是一种边缘管理和编排工具，专注于编排 AI 模型。这个说法有点复杂。但对于我们的观众来说，我们可以把它说得非常简单。截至目前，AI 模型、数据科学非常习惯于在云端工作，好吗？它们收集数据。它们将数据放在云端。它们训练模型进行预测分析，做任何 AI 能够做的事情。它们在云端完成这些工作。问题是，对于许多行业，比如您描述的行业，云不起作用。它不起作用的原因有很多。有时是因为延迟、数据延迟。他们需要算法和预测的实时响应。云无法做出这种实时响应。有时是因为可扩展性和成本。如果他们管理大量数据，在云端的成本将非常高。最后但并非最不重要的一点是隐私和安全。有时他们不希望将数据托管在他们无法控制的环境中，例如云端。

因此，我们所做的更多适用于那些云计算不太适合的行业。这些行业的共同要求是资产分布非常分散。因此，当资产分布非常分散时，人工智能云计算就行不通了。那么这些行业是什么呢？正如你所说，能源。例如，你可以想象在能源变电站中，一个能源分销商可以在全国各地分布 90 或 100,000 个能源变电站。你能想象将它们全部连接到云端进行人工智能密集型数据分析吗？不，这不能在云端完成。还有，正如你所说，水管理。你的水处理厂分布在全国各地。因此，分布式资产意味着云计算不起作用，然后你需要边缘计算。

对于制造业来说，它显然不适用于任何制造业领域，但我们在分布式处理的制造环境中更成功。这更多的是流程制造。这包括，例如，化学公司。这包括制药公司和那些制造过程更加分散而不是集中的制造领域。例如，汽车制造相对集中在一个工厂内。但是如果你谈论的是流程制造，化学过程在一个地方，包装过程在另一个地方，质量可能在另一个地方，那么在网络安全中使用边缘计算更有意义。

Erik：您已经列出了这些特定行业更适合边缘计算的一些原因，以及为什么它们有云计算无法满足的要求。现在边缘计算有一定的限制。您如何定义哪些是在边缘计算中可行的，哪些是无法完成的，哪些必须在云端完成？我想您已经将某些需要在那里完成的工作负载与云端对接。但您如何定义这些界限呢？

David：是的，通常，当谈到人工智能时，为了简化起见，我们将人工智能过程分为三个大阶段。第一阶段是数据收集。第二阶段是算法训练或模型训练。第三阶段是模型部署，模型部署是指模型已经在运行并进行这些预测。我认为边缘计算对于数据收集和模型部署非常有用。但是，它对模型训练没有那么有用。因为模型训练通常需要大量的计算能力。通常，在云端训练模型效率更高。边缘计算的问题通常是资源，因为这些资源是公司需要预先支付的。而且它不像云那样灵活。所以当你需要大量资源消耗时，比如在模型训练中，也许云计算更好。

通常，我们的工作是从工厂收集数据，帮助公司收集数据。然后我们将这些数据发送到他们的云系统。然后他们在那里训练模型。然后使用我们的平台，他们可以获得模型来训练该模型。然后他们可以将模型部署到数百甚至数千个网关的边缘计算节点上。因此，我们的平台将数据科学家从与传感器、执行器集成以收集数据以及与硬件集成以部署模型的复杂性中解放出来。

埃里克：好的。

David：但对于训练来说，它们通常可以在云端使用。不过，有些用例是在本地进行训练，然后在边缘进行。

Erik：对于哪些类型的模型能够在边缘部署，哪些模型由于硬件无法处理而无法部署，是否存在特殊限制？或者这通常只是成本问题，即我们想要投入多少硬件？我的意思是，在某种程度上，你可以在边缘完成所有事情。在部署边缘计算时，什么可以定义一个可以大规模、以合理成本进行的案例研究？

David：是的，我们有几个最佳方案。第一个方案与公司想要使用的模型类型有关。通常有两种类型的人工智能。一种是非实时人工智能或批量人工智能。这些典型的模型是，例如，你每晚都会运行一次预测，获取当天的所有数据，比如这个项目的财务，我不知道，财务模型等等。所以非实时人工智能，然后是实时推理人工智能。

边缘计算更适合实时推理 AI。因此，如果你想获取实时数据并进行预测，例如，如果你想获取传感器、振动传感器的值，并判断这家公司是否会在未来 10 分钟内破产，那么边缘计算是完美的选择。因为如果你将数据发送到云端，并在云端进行所有数据清理和数据时间序列分析等，你可能会遇到几分钟甚至几小时的延迟。但如果你在边缘进行这些操作，那么你将拥有实时性。因此，边缘计算更适合实时 AI，而不是批量 AI。

然后谈到技术，AI 堆栈中仍然存在相当多的碎片化。在 Barbara，目前我们一直专注于两个特定的堆栈，即 TensorFlow 和 Keras。但我们全年也在建立与另外三个最大堆栈的兼容性。我们的目标是到 2024 年底与所有主要的 AI 堆栈兼容。但这很有挑战性。目前，我们在技术上也有点受限。所以我们与 TensorFlow 和 Keras 堆栈兼容。

Erik：继续讨论什么是可能的，我认为这是一个有趣的问题。因为技术发展非常迅速，所以两年前可能发生的事情和两年后可能发生的事情截然不同。因此，如果我们看一个简单的案例，假设我们定义了一个模型，并且我们正在跟踪一个特定的温度变量。因此，当温度超过这个阈值时，这可能是两年前或四年前可以非常有效地完成的事情。如果我们试图模拟一个有 500 个不同数据点的化学过程，那么在边缘上进行模拟就会变得更加复杂。今天可以完成的复杂性的阈值在哪里，然后你能否分享一下你对这一进程速度的看法？目前只能在云端完成的事情，你认为 1、2、3、5 年后可以迁移到边缘吗？路线图是什么样的？

David：我认为这很复杂，因为主要的瓶颈始终是硬件。只要硬件允许数据存储，并且 CPU 处理或 GPU 处理允许在毫秒时间内使用复杂算法和复杂 AI 模型处理大量数据点，那么就可以完成。这取决于硬件和在此设备中运行的固件。硬件容量正在惊人地增长。我的意思是，您拥有 Jetson Nano，它是一款非常小巧但功能非常强大的设备，能够处理大量工作负载。然后您现在有了 Jetson Nano Orin 或 Jetson Orin Nano。我不记得顺序了。但无论它是什么，它都比 Jetson Nano 强大 80 倍，而且价格相同。我们正在运行他们的算法，每秒获取 4,000 个数据点，并执行预测算法，例如，针对他们的化学工艺的水处理厂。因此，它获取 4,000 个数据点，并预测客户需要在该工艺中添加的化学品数量。两年前我还不敢说会有这样的事情发生。但一年前，这甚至是不可能的。所以，事情进展得非常非常快。

现在，在 Barbara，我们还在研究操作系统的实时响应，也就是确定性响应，这是过去只有 PLC，工业 PLC 才能处理的事情。现在，我们还在努力回答模型是否会在特定时间范围内回答。所有这些发展都使世界和行业发展得非常非常快。我认为可能在三到五年内，我们甚至可以在现场训练模型。最终，云可能非常适合媒体或金融等特定行业，这些行业具有巨大的全球区域分布。但对于工业用例等，我认为几乎所有事情都可以在本地完成，而无需使用云。所以我认为边缘计算将快速发展。是的，我们可以看到很多关于云回流的预测，以及许多使边缘计算获得越来越多市场的因素。因此，我相信在三到五年内，边缘计算可能会占该行业所有 AI 用例的 50% 以上。

Erik：是的，这很有趣。所以如果我们比较云和边缘，我想，传统上，关键的制约因素只是边缘处理的能力。随着硬件和固件的发展，这种制约正在减少。我想然后你会转向安全性与成本结构。然后，还有一个性能因素。所以你的假设是——我认为从长远来看，成本结构在某种程度上仍会有利于云，但性能和安全性可能会有利于边缘。或者，如果我们展望五年或更长时间，你是否也认为边缘计算的成本结构会与云计算持平？

David：我不知道超大规模企业会怎么做。但现实情况是，截至今天，我听到一个统计数据，例如，在英国，超过 20% 的公司已经将一半的工作负载转移到边缘。而首要原因是成本。因此，其中 43% 的公司转向边缘是因为成本，而 33% 的公司转向边缘是因为隐私和安全限制。因此，这 43% 已经将一半工作负载转移到边缘的公司确实收到了来自云端超大规模企业的账单。所以我认为，云端 10 年前就对许多事情做出了承诺，但他们没有对成本做出任何承诺。如果你在云端处理大量工作负载——例如，我告诉你的，使用 4,000 个数据点——这是无法管理的。无法管理。

首先，边缘计算的硬件非常便宜。它正在变得非常便宜。而且它的资本支出。我的意思是，这是一次性投资，然后可以持续一生。此外，对于像 Barbara 这样的公司和产品，你可以使用非常简单的工具、集中式的工具、非常简单的用户体验和用户界面来操作这种复杂的部署，总运营成本也变得越来越低。所以我认为云在未来无法在成本上与边缘计算竞争。我认为当你拥有非常多的单向部署时，它绝对可以竞争。让我们以 Netflix 为例。Netflix 永远不会去 CNET，对吧？所以它会去大型数据中心等等。但同样，对于工业公司来说，我认为它与云相比有很多优势。这还包括成本节省。

Erik：好的。是的，很有趣。然后是连接成本，它也会转换为资本支出。但无论如何，如果你想连接到云，你必须支付资本支出。因此，这将直接降低成本。最近也取得了很多进展，或者至少，我想你可以争论一下有多少进展，但就边缘的连接解决方案而言，它支持更多的无线环境，我认为这在某些情况下也是一个制约因素。所以我知道这可能与你的核心产品有点相似。但这对启用用例有多大影响？例如，5g 在边缘启用更高的带宽或一些更轻量级的解决方案。它们真的对客户采用你的解决方案的能力产生重大影响吗？还是它们在决策中更不相关且不那么重要？

David：对于工业客户来说，5g 尚未成为关键驱动因素。我认为它肯定需要进一步发展。我认为 5g 的承诺，包括超低延迟和其他一些承诺，仍有待在行业中巩固。蜂窝网络发布时总会遇到这种情况。我认为有 2g 和 3g，这些标准的性能并不是很好。然后是 4g，很完美，对吧？现在有了 5g。但 5g 仍然存在一些供应商之间的互操作性挑战等。我认为，至少从我们所看到的情况来看，5g 的承诺在很多时候还没有进入真正的市场和领域。我认为我们非常期待 6g 的到来。

但是，也有一些其他发展产生了影响。例如 LoRa。我认为我们有这些不受监管的网络标准，如 LoRa 或 Sigfox。不幸的是，我认为 Sigfox 越来越不受欢迎。但例如 LoRa，它是一种无线连接标准，在许多工厂和农业领域都在使用。这是我们支持的东西，它为我们提供了大量的用例。许多工业客户仍在使用以太网电缆的有线环境中。但就无线而言，我会在比 5g 更有影响力的状态下将更多的 LoRa 放在主权网络上。我认为 5g 最终将引领该领域走向 6g。可能，这将是具有更大吸引力的版本。

Erik：是的，这也是我们的发现。不久前，我们与西门子就此进行了一项研究。我们试图找到 5g 真正解锁的用例，这很有挑战性。因为这些用例——它们只是人们实际上并不经常使用的用例，对吧？车间增强现实之类的东西，无论如何采用率都很低。它基本上可能不是噱头，但它非常小众。

David：但他们没有采用这种技术的原因并不是因为用例不合理。用例确实合理。但现实是网络还不能实现其承诺。所以我认为每个人都在谈论实时手术，对吧？因此，医生为患者做手术，患者在亚洲，医生在欧洲。这很好。我的意思是，为什么不呢？但这显然非常非常关键。网络不能失败。如果网络要求 100 毫秒延迟，那么它就需要 100 毫秒延迟。有很多东西，比如网络切片和网络服务质量，在论文和标准中看起来都很好，但当你需要实现设备、供应商和大型漫游网络之间的互操作性时，它就行不通了。所以用例是有意义的。然而，我认为，尽管标准这么说，但技术还没有达到那个水平。我的意思是，现实世界非常不同。

Erik：回到硬件话题，在您的企业版网站上，您可以访问自定义固件和硬件。它们是什么样子的？这是您开发的自定义解决方案，还是您与每个企业单独合作，根据他们的要求进行定制？

David：我们的产品分为几层。上面一层是我们的管理平台。管理平台允许您编排和管理设备上分布的设备、模型和数据应用程序。产品的第二部分是设备中的固件。设备中的固件显然为您提供了编排能力，也为您提供了一层安全性。该固件与许多设备和架构兼容。它与英特尔、ARM 和其他一些大牌兼容。对吧？凭借我们的商业许可证，我们出售标准固件。凭借我们的企业许可证，我们允许客户自定义该固件。我们可以为大型企业定制固件，包括他们的模型、网络配置、代理配置以及所需的一切，以便他们可以将此固件放在设备或运营的工厂中。但安装和部署时间缩短到几分钟。

而如果您没有定制固件，则需要部署，然后进行定制。这样更容易出错。这就是为什么对于拥有大量设备（例如数千台设备）的大型企业，我们总是要求定制自己的固件。因为这将帮助您在配置过程中减少错误，并确保您可以非常快速地配置新设备，因为固件已经根据您的需要进行了定制。

埃里克：是的。

David：这就是我们所说的定制。但在硬件支持方面，我们支持大多数基于英特尔或 ARM 的边缘计算节点。顺便说一句，我们还有一个虚拟固件。因此，如果客户在现场有内置机器服务器，我们也可以将固件放在那里。然后他们可以在虚拟设备上进行边缘 AI 管理和编排。它们并不 100% 需要硬件。

Erik：我想，看待这两个层次的另一种方式是，业务（比如说较低层次）也可能适合运行试点或验证解决方案，而您则负责定制工作。我很好奇。我知道公司对试点项目的价值有完全不同的看法，对吧？它真的能验证吗？它是否可能给您一种不一定能扩展的错觉？您的理念是什么？您是否认为试点在预测成功方面非常有效？

David：我们试图区分客户所说的试用和试点。试用是指您想在桌面上试用该工具，旁边有一个边缘计算节点。这根本没用。我的意思是，当您将此设备带到现场时，问题就出现了。然后您进入工厂，然后您意识到您应该收集的数据并没有收集到，因为中间有一个防火墙。然后物联网人员告诉您他们无法打开这个防火墙。所以这是一个试点。如果试点是在真实环境中完成的 — 您可以称之为试点。但归根结底，这只是一个小规模的部署 — 那么它就很有用。

对于试验，如果客户想要试用我们的产品，这是可以的。但是这个回答说这在现场会很有用。如果你想确保这在现场有用，就把这个边缘计算节点带到工厂、变电站，然后在那里运行你的模型。这可能需要一两个月的时间。我的意思是，时间不会太长。但如果你这样做了，而且成功了，这将为你带来投资回报和一切。我要说的是，我们进行的 75% 以上的试点，说到这种类型的试点，最终都会在生产效率较低的环境中进行。但我们说的不是试验。试验是另一回事。但是如果你把我们的技术和你的模型带到现场，75% 的时间，这将成为一个大规模部署的真实用例，带来大量的投资回报。但你需要在现场进行试点。如果不这样做，那它根本没用。

埃里克：明白了。是的，说得好。因此，试点需要适当的部署才能真正发挥作用。您提到时间可能为一两个月。我想其中大部分时间都在收集数据、处理数据和评估结果。所涉及的工作量是多少？如果有人说，“我有一个概念。我想验证一下，”——您不必在这里分享价格——但就人工工时而言，所涉及的工作量是多少？也许可以给我们一个大致的成本范围，让一个人真正经历这一到两个月的过程？

David：是的，所以这显然取决于他们在流程上的成熟度。有些公司已经拥有数据。他们已经有了模型。他们甚至已经训练了模型。他们面临的问题是他们无法在云端运行这个模型。因为，例如，他们无法将工厂连接到云端。然后他们正在考虑在边缘部署这个模型。如果他们有模型，他们就有数据和一切准备就绪，他们想要解决的问题只是他们想将这个应用程序或这个模型部署到边缘，我们说的是一名工程师一到两周的时间。所以时间很短。非常短。

如果公司不太成熟，他们需要从一个或几个传感器、数据库或 SCADA 获取数据，然后他们必须训练模型并开发模型，微调模型，这就是我所说的。可能需要两个月的时间，可能涉及一两个人。但在 Barbara，我们非常注重可用性和使用体验。我们的工具使用起来非常简单，非常直观，只需单击一两次即可完成许多操作。与其他一些具有命令行界面、非常复杂的集成、代码存储库和非常复杂的东西的工具相比，我认为 Barbara 可以将模型投入生产的速度提高三到四倍。因此，使用其他一些边缘 AI 计算工具，可能需要六到八个月的时间。使用 Barbara，只需要一两个人，一两个月的时间。我们一直有一个客户成功团队，全天候帮助这些客户，使他们的故事取得成功。

Erik：好的。让我在这里问最后一个问题，这也是我今年在每次播客中都会提到的内容。今年是法学硕士年。这是一种完全不同的数据。但我从客户那里听说，他们非常不愿意将大量数据转移到云端。所以现在要处理的是 PDF 和其他类型的数据，而这些数据通常不会成为边缘计算的因素。但您是否看到客户使用边缘计算在其设施中处理这些类型的解决方案，以避免迁移到云端？您对此有何看法？

David：不，我认为如果您说的是边缘，我会区分 VNet 和 VKet，或者可能是设备边缘和数据中心边缘。我认为 LLM 的大型模型处理更多地是在数据中心边缘完成的。我的意思是，您可以说它是边缘计算，因为它不是 — — 超大规模是数据中心的机架。但它接近边缘计算。因此，当人们说他们不想将 LLM 的数据移动到云中时，他们会将其移动到其他数据中心，这是常态。但是当我们提到边缘计算时，我们更多地谈论的是设备边缘计算。我们没有看到客户在那种边缘计算上处理 LLM。但话虽如此，显然，LLM 将是一个巨大的市场。但它更多地与服务器或数据中心边缘计算有关，而 Barbara 没有参与其中。也就是说，Barbara 更多地参与了实时工业数据的预测分析。

Erik：是的，明白了。太好了。好吧，David，我认为您已经为我们很好地概述了边缘计算的现状。还有什么我们没有谈到的，您想和大家分享一下吗？或者还有什么想说的吗？

David：不，我很享受这次谈话。我希望我们的听众也一样。我希望我们的时间和资源能够帮助任何想要深入研究用例和技术的人。我认为我们需要共同构建边缘计算世界。

Erik：是的，太棒了。听众朋友们，网站是 barbara.tech。人们联系你们的最佳方式就是通过网站联系你们吗？你们还有什么其他建议吗？

David：是的，我们确实有一个聊天机器人。聊天机器人背后有一点人工智能，但也有人类。进入 barbara.tech 并使用聊天机器人，您将立即得到我们团队的回复。

埃里克：太棒了。大卫，谢谢你。

大卫：非常感谢，埃里克。