1.2　AI原生应用开发面临的机遇与挑战

我们在为大语言模型的巨大应用潜力兴奋之余，也不得不正视一个问题：AI原生应用的开发面临着前所未有的机遇与挑战。一方面，大语言模型技术的快速发展为软件开发带来了革命性的变化，极大地提高了开发效率和产品创新能力；另一方面，这些变化也带来了新的挑战，如技术标准的缺失、模型生成效果的不确定性、安全问题的复杂性，以及测试评估的困难等。

1.2.1　开发模式的华丽变身

在AI原生应用的浪潮下，传统的软件开发模式正在经历一场深刻的变革。这场变革不仅是技术层面的革新，更是对编码方式、岗位角色和工作协同模式的重塑。

（1）编码方式的革新。传统的算法开发如同一段精心编排的古典舞蹈，每一步都遵循严格的规范。从准备训练数据、精细编码，到模型训练，再到结果观测与调优，每个环节都如舞步般精准而不可或缺。但在大语言模型引领的AI新浪潮中，这一传统模式正在经历深刻的变革，“提示工程”时代已然揭幕。

在提示工程时代下，开发者无须耗费大量时间准备训练数据，也不必经历漫长的模型训练和调试过程，他们可以在更为自由、灵活的“playground”环境中进行实时调试与迭代优化。凭借大语言模型的即时反馈，开发者能够迅速验证思路，大幅减少原型制作与测试所需的时间，从而显著缩短整个项目的开发周期。

在这场转变中，提示不仅被视作一项技术工具，它更像是应用开发中的核心要素，与代码并肩而行，共同描绘出未来应用的新图景。

（2）岗位角色的演变。后端工程师和算法工程师之间的界限变得越来越模糊。曾经需要算法工程师花费大量时间和数据标注成本才能完成的NLP训练任务，现在可以通过大语言模型和提示工程由后端工程师轻松完成。这种角色的融合与重塑，不仅提高了工作效率，还降低了成本，为AI原生应用的落地提供了有力支持。

（3）工作协同的新模式。在传统的软件开发流程中，从想法提出到需求分析、设计编码、测试，再到最终部署，每一个环节都紧密相连，需要研发人员的紧密协作。然而，在以AI原生为主的新研发范式下，这一经典流程发生了变化。

借助现有的AI工具链和提示工程技术，产品经理和开发者可以更加轻松地验证想法，甚至可以在想法提出阶段就进行初步的验证而不必等到开发完毕才能看到效果。这种创意驱动的研发模式，不仅显著提升了研发效能，更赋予了整个开发流程更高的灵活性与自主性。

这一系列的变革，为AI原生应用的广泛实施带来了前所未有的机遇。

1.2.2　技术落地的荆棘之路

虽然制作一个令人印象深刻的演示程序（demo）并不困难，但是要让大语言模型在实际产业中落地并发挥作用，仍面临着诸多技术挑战。

（1）提示风格大相径庭。目前，大语言模型技术及其相关应用领域正在迅猛发展，提示已然成为AI原生应用开发中不可或缺的关键要素，但提示的编写尚缺乏统一的规范标准。在实际应用中，一个系统可能需要与多个大语言模型协同工作，不同模型对提示风格的要求不尽相同，因此在不同的大语言模型中输入相同的提示可能会产生差异较大的输出。这不仅增强了开发协作的复杂性，也对系统的持续迭代和维护构成了不小的挑战。

（2）生成效果难以控制。如果大语言模型的性能并不理想，那么它在理解任务的深层语义时，往往会捉襟见肘。设想一下，当你向大语言模型下达清晰明确的指令时，它可能像一个只知皮毛的“翻译官”，仅凭自己有限的理解生成相关却偏离实际需求的内容。这种“指令遵循问题”实际上揭示了大语言模型在深入理解语言方面的短板。

尽管大语言模型在NLP领域取得了令人瞩目的成果，但是这种出色的表现背后却隐藏着不确定性。在某些情况下，大语言模型的输出可能与用户的期望相去甚远，甚至可能出现幻觉问题、违背指令或产生内容安全上的隐患。这些问题不仅降低了大语言模型的效能和可信度，还可能对用户乃至社会产生意料之外的负面影响。因此，我们在不断探索大语言模型的创新能力与表现力的同时，更需要直面并解决这些潜在问题，从而确保大语言模型在实际运用中既稳定又可靠。

（3）安全问题暗流涌动。传统安全问题多源于软件代码或参数的缺陷，而提示安全问题则是由大语言模型的生成能力和可塑性引发的。攻击者可以通过精心设计的输入提示来操控模型的输出，这种攻击方式更加隐蔽和灵活，因此也更加难以防范。随着基于大语言模型的AI原生应用的快速发展，需要在数据泄露、注入攻击、越权攻击等多个方面加强安全防范。

（4）测试和评估迷雾重重。大语言模型的生成机制为其效果评估带来了不小的挑战。以往用于判别式模型的评估体系和指标可能并不适用于大语言模型。由于大语言模型的能力强且能处理各种任务，因此评估变得更加复杂。例如，判断一篇总结是否比另一篇更好，这本身就是一个巨大的挑战。如何快速、低成本且准确地评估不同提示下的模型效果，是摆在我们面前的一大难题。

除上述问题外，大语言模型的落地还面临其他一系列问题，如模型的内容生成速率、token长度的限制、多阶段提示的编排，以及大语言模型与现有系统的融合等。为了解决这些问题，软件行业的每一位从业者都需要对自己的知识体系进行审视，并深入掌握与提示工程相关的技术。只有这样我们才能在这个瞬息万变的时代中稳固地位，确保立于不败之地。