随着 AI 的发展和人们对各种用例的探索，推理位置成为他们最关心的问题之一。AI 的决策、预测或其他输出都发生在这些位置。需要确定的主要问题是，边缘还是云端更适合作为推理位置。
延迟要求
专家们在评估推理位置时，应考虑他们计划中的应用是否需要实时或类似的快速响应。这将为他们关于延迟的一些决策提供参考，延迟是指 AI 接收输入并通过提供输出做出响应的时间。
选择边缘作为推理位置是降低延迟的绝佳方法，因为处理直接在支持 AI 的设备上进行。另一种选择是将输入发送到云端进行处理，这需要更长的时间。当人们需要尽可能快的功能时，边缘 AI是理想的解决方案，但如果他们不介意稍长的延迟，基于云端的处理可能更适合他们。
边缘计算也适用于网络连接受限的区域。采矿、石油和天然气等行业的行业领导者发现，AI 可以简化工作流程并解决问题。然而，网络连接问题可能会限制数据无缝传输到云端。如果直接在设备上进行处理，则可以绕过这个问题。
预算和带宽
将大量数据传输到云端进行处理可能会非常昂贵。对于拥有决策能力的人来说，如果预算是他们关心的问题，那么边缘计算可能更具成本效益，因为处理是在本地进行的。
相反，云端AI应用需要数据往返于处理位置，这需要大量的带宽。从长远来看，这种方法通常成本更高，因此领导者应该将预期成本计入总体预算中。一个值得注意的统计数据是，他们在云服务上的支出有32%被浪费了。
这并不意味着他们应该放弃云AI。然而，相关方应该明智地确定他们将定期在特定服务上投入多少资金。然后，他们应该评估这些资金是否物有所值。
边缘设备的一个潜在缺点是其处理能力有限。云端则提供了强大的处理能力和存储空间。此外，如果公司已经依赖云端来处理许多其他应用，并且领导者熟悉其基础设施，那么专注于云端可能更有意义。
例如，德意志银行领导层将260个应用程序迁移到云端，这是将生成式 AI 融入其业务各个方面的计划的一部分。决策者认为，该提供商在云计算和 AI 技术领域的成熟地位将为该银行提供支持，使其能够推进其计划。然而，供应商锁定是一个潜在的缺点，可能会影响灵活性。
安全问题
关于安全性的讨论也促使一些人选择边缘或云端的 AI 推理位置。云端的处理位置比边缘设备更远，但这也意味着在传输过程中或由于提供商的疏忽，可能会出现网络安全问题。同时，如果用户了解云端内置的安全功能，它们可以创建安全的推理位置。
一份2025年的报告估计，到2028年，边缘计算支出将达到3800亿美元，分析师指出 AI 是驱动因素之一。他们将1000个潜在的企业用例划分为六个技术领域，发现 AI 是继增强现实之后增长速度第二快的技术。研究人员还提到，安全性的提高使得边缘 AI 机会对各方都具有吸引力。
在边缘设备上本地处理AI数据，赋予专业人员更多控制和监督，从而确保安全。此外，它还能更轻松地验证信息的使用是否符合必要的法规。另一方面，边缘设备也扩大了潜在的攻击面，要求使用它们的组织优先考虑网络安全。
审视个体情况
对于企业应该使用云 AI 还是边缘技术，并没有一个普遍接受的答案，因此决策者应该考虑到自身情况和目标的独特性。这种个性化的方法鼓励他们在采取行动前仔细研究具体细节。
本文来自作者投稿，版权归原作者所有。如需转载，请注明出处：https://www.nxrte.com/zixun/57565.html
