Netskope 推出 NewEdge AI 快速通道以降低延迟

Netskope 已在其 NewEdge 基础设施中添加了网络路径优化功能,旨在提高广泛使用的 AI 服务和平台的业务流量性能。

这款名为 NewEdge AI Fast Path 的产品面向 Netskope 的现有客户开放。它旨在改善企业用户与托管在公有云、私有云和“新云”环境中的 AI 应用之间的路由。

Netskope 推出 NewEdge AI 快速通道以降低延迟

Netskope 将此次发布视为对 IT 领导者担忧 AI 应用给网络性能和安全控制带来压力的回应。该公司援引最近的一项调查,其中 18% 的基础设施和运维领导者表示,他们完全有信心其团队和预算能够满足 AI 应用带来的日益增长的性能、弹性和安全性需求。

该公司表示,员工在使用 AI 服务时,企业往往需要在安全检查和用户体验之间做出权衡。在某些情况下,这种矛盾会导致连接速度变慢、检查出现漏洞或出现绕过控制的变通方法。

关注延迟

AI Fast Path 强调降低常见 AI 工作流程的端到端延迟。Netskope 将“首次令牌响应时间”作为对话式 AI 的关键指标,用于衡量用户提示到模型开始响应之间的延迟。

Netskope 还指出,针对智能体 AI 工作流程的优化至关重要,在这种工作流程中,系统会发出一系列请求来执行多步骤任务。这些模式可能会增加企业与外部 AI 服务之间的网络往返次数。

其他关注领域包括大型语言模型访问分布式数据以及组织使用检索增强生成时的性能。在这些设置中,模型会查询外部数据源并将结果整合到输出中,这使得模型与数据存储之间的连接性变得至关重要。

网络机制

这种方法与NewEdge网络的构建方式及其与主要互联网目的地的连接方式密切相关。Netskope运营着自己的数据中心,该数据中心作为其Netskope One平台(包括安全和连接产品)服务的交付层。

据Netskope称,NewEdge覆盖超过75个地区的120多个数据中心。每个数据中心都运行全套边缘服务,使流量能够更靠近用户和站点进入NewEdge网络。

AI快速通道的关键要素是互联互通,这使得NewEdge能够更紧密地与大型云和AI服务提供商建立联系。Netskope表示,NewEdge拥有超过11,000个网络邻接点,并连接到超过750个不同的自治系统编号,其中过去12个月新增了1,000多个邻接点。

Netskope 表示,这些连接涵盖了常见的 AI 目的地和底层云平台,包括亚马逊网络服务、微软、谷歌、Anthropic 和 OpenAI。

Netskope 还使用了一种名为 NewEdge Route Control 的路由系统。该公司表示,该系统利用来自网络和应用程序监控的遥测数据,每天进行数万次路由更改,以找到到达 AI 目的地的更快路径,并绕过拥塞和运营商连接问题。

安全和路由

Netskope表示,该架构旨在避免在检测速度和性能之间做出取舍。此外,它还强调了涵盖可用性、流量处理和安全有效性的服务级别协议。

AI Fast Path 与 Netskope 的其他安全和连接产品(包括安全服务边缘 (Security Service Edge)、安全访问服务边缘 (Secure Access Service Edge) 和 AI 安全控制产品)并驾齐驱。Netskope 将该平台推向管理和维护 SaaS、Web、私有应用程序和 AI 服务访问权限的安全和网络团队。

Netskope 首席平台官 Joe DePalo 在一份声明中将该产品与用户期望的转变联系起来。

“随着企业以人工智能的速度发展,任何在安全性和性能之间的权衡都是不可接受的,也是不必要的,”DePalo说道。“Netskope之所以被公认为市场领导者,是因为我们能够将强大的安全性与网络性能完美结合,达到甚至超越直接连接网络的水平,几乎可以满足所有用户的需求。这包括优化关键业务人工智能的用户体验。我们很高兴能够帮助客户在不增加不必要风险的前提下,满足他们对人工智能速度的需求。”

随着对外部 AI 服务的托管访问需求不断增长,以及企业在各个部门和工作流程中增加 AI 的生产使用,他们将继续扩大其 NewEdge 的覆盖范围和互连覆盖范围。

本文来自作者投稿,版权归原作者所有。如需转载,请注明出处:https://www.nxrte.com/zixun/65088.html

(0)

相关推荐

发表回复

登录后才能评论