文章探讨AI时代开发者和企业挑战。AI向边缘发展、GPU高成本、数据主权及领导层护栏至关重要。开发者面临快速变化、新型攻击面与严格安全可观测性需求。
译自：Developers are coding to a moving target, and nobody knows where AI lands next
作者：Adrian Bridgwater
本周在巴塞罗那，一年一度的 Mobile World Congress 上，一些与会者感到一丝紧张：随着人工智能的发展，科技公司如何在当下最大程度地利用人工智能，同时保持足够灵活以应对任何突发情况？
在 MWC 大会上，主题为“重塑商业：新的人工智能驱动的企业生态系统”，演讲者探讨了如何应对这一新挑战。
其中包括 Shahid Ahmed，他是 NTT Data 全球边缘服务负责人。
“我认为电信行业尤其在人工智能时代面临着重塑的良机。如果你看看旧系统，它们都可以由一个大语言模型来管理，” Ahmed 在讲话中说。“如今，每个电信网络都有成千上万的人管理。这是一个必然会改变的现实……这对开发者和企业都有启示。”
电信作为公共事业的最后残余
这里的讨论核心是，随着企业努力将人工智能应用于计费系统、网络互连以及一直到命令行的人工智能服务，我们正在摆脱“电信作为公共事业的最后残余”。
但这并非简单的点击式迁移；电信行业及其他行业需要认识到，这不再是如何快速传输数据包的问题；更多的是关于利用人工智能服务来监督日益分布式的系统，这些系统需要复杂的编排。
“前沿模型将取代某些工作流程，但还有很长的路要走，也就是说，如果人工智能要处理运行关键任务服务的组织的计费系统，就需要有坚实的治理基础，” Ahmed 说。
智能走向边缘——但代价是什么？
Ahmed 还警告说，这一转变的下一阶段将付出代价，这可能会削弱其自身的潜力。
“此外，就趋势而言，我们都同意智能现在正从核心走向边缘，但图形处理器（GPU）成本有可能飙升，因此软件工程团队需要考虑使用小型人工智能模型来提高效率。”
“当使用基于物理（而非基于语言）的模型时，在安全性、延迟和主权方面会有关键优势。电信公司现在有机会做对，并在客户面前真正实现差异化。”
开发者，“不要试图包罗万象。”
Ahmed 的同事 Parm Sandhu 是 NTT Data 企业 5G 和边缘计算产品与服务集团副总裁。谈到该行业对平衡的需求时，Sandhu 告诉《The New Stack》，在为人工智能原生重构时，并非所有事情都需要是运行数亿参数的庞大公共云项目。
“假设我们正在为工厂开发人工智能应用，部署只需要学习其特定环境中存在的流程和工作流，因此人工智能模型将能够在较小的基础设施上运行，” Sandhu 说。
“给开发者的信息是，他们不必试图包罗万象，他们可以帮助他们的部门比其他部署更快地实现投资回报率。”
“这里有主权优势，因为数据永远不需要离开工厂，而且这带来的地缘政治影响从未像现在这样巨大。因此，给开发者的信息是，他们不必试图包罗万象，他们可以帮助他们的部门比其他部署更快地实现投资回报率。”
Sandhu 补充说，软件工程团队仍需考虑如何在这种环境中进行编排；他们需要涵盖从库存控制到跨多个模型的模型安全的一切，每个模型都有自己的安全要求。
NTT Data 表示，其编排技术在此级别运行，以分析流量模式，提供数据在机器之间如何移动的可观测性，并在必要时在私有网络级别实现网络切片（在共享基础设施上运行虚拟子网络）。
新栈面临的新威胁
随着以人工智能原生技术为核心的新代码库世界的不断变化，支持软件开发生命周期的辅助学科将出现关键问题。网络安全将发生变化，渗透测试必须改进，站点可靠性工程将发展，可观测性也必须变得更加严格。
Noam Levy，Groundcover 的创始工程师兼现场首席技术官，本周告诉《The New Stack》，企业领导者被迫进行实验——可能比他们希望的要快。
“从可观测性架构的角度来看，企业在此背景下面临的不确定性要求它们快速采用和试验人工智能，同时在动态中不断修正其发展轨迹，” Levy 说。
Levy 告诉《The New Stack》，组织需要采用缩短反馈循环、提供更高保真度且对集成依赖最小的软件工程工具。这样，软件工程师就可以专注于这个要求很高的新前沿，以通过加速试错来实现真正的人工智能自主模型。
David Girvin，Sumo Logic 的人工智能安全研究员，告诉《The New Stack》，开发者们正感到压力。
“人工智能的发展速度超过任何传统的软件开发周期，因此指望开发者‘跟上’是一种错误的定位，” Girvin 解释说。“一些开发者已经采用了人工智能工具，但他们却在一个每季度都在变化的格局中挣扎。他们不负责重塑业务，但他们是第一个感受到公司做出的每一个战略性人工智能决策影响的群体。”
功能之前先设护栏
Girvin 建议，当领导层提供稳定的护栏时，开发者才能成功：清晰的数据边界、明确的模型控制策略以及关于允许什么、衡量什么、禁止什么的具体期望。没有这些，每一个人工智能功能都将成为能力和风险的实验。
“人工智能引入了[开发者]从未考虑过需要围绕其进行设计的攻击面。”
“在安全方面，‘第二天’思维对于大多数团队来说仍然不自然。这并非因为开发者不在乎，大多数人都很关心，而是因为人工智能引入了他们从未考虑过需要围绕其进行设计的攻击面。在代码库的这一侧，这是一套全新的问题：提示注入、模型漂移、影子数据管道和不安全的代理行为都不是传统威胁，也不会出现在传统的软件开发生命周期检查表中。反正那些检查表也都被忽略了。我知道，因为我就是写这些检查表的人，” Girvin 说。
接下来，人工智能原生软件应用开发将成为事实标准，量子加速的承诺也紧随其后。可能塑造下一阶段的将是专有闭源模型和开源技术能走多远。
