对话Dify.AI延君晨：如何让大模型真正成为生产力

沧州雄狮的生存问题引发中国足坛关注。12月28日，沧州官方宣布已经解决了资金问题，并和球员达成和解。沧州的资金比足协要求的时间晚了1天。放还是不放？足协陷入了两难。

每个人都知道AI有用，但如何真正把AI投入生产，并确保它稳定，现在仍是一个巨大的挑战。

挑战在于：企业AI系统的有效部署受制于现有信息孤岛与异构系统环境。研究表明，超过60%的企业AI项目在系统对接阶段陷入技术泥潭，严重延缓价值实现。企业AI应用从原型阶段迁移至生产环境时面临根本性的架构挑战。根据调研，77%的概念验证项目无法成功迁移至规模化部署，在性能、稳定性和可维护性方面面临严峻挑战。其三，AI 领域专业人才稀缺且竞争激烈。

针对这些痛点议题， 科技等媒体近日与Dify.AI联合创始人延君晨进行了交流，他认为AI 正逐步从“内容生成”进化到“复杂推理”、“自主执行”，即AI 未来将不仅限于文本、图像的内容生成，而是逐步走向执行复杂任务，帮助企业自动化业务流程。

Dify.AI要做的，就是 AI落地的痛点，让大模型成为真正可用的生产力。

这家公司成立于2023年3月，提供了一个开源的AI应用开发 ，使企业和开发者能够快速构建、部署、运营和管理大语言模型应用。这个 具有用户友好的界面和强大的功能，降低了AI应用的开发门槛。现阶段，他们的企业客户来自各个行业，主要包括金融、零售和医疗等领域。

Dify.AI联合创始人延君晨表示：“如今，企业对于生成式AI应用已经不是‘是或否’的问题了，而是考虑如何将生成式AI跟业务做深度集成。”他告诉 科技，随着基础设施的逐渐成熟、模型能力的不断提升、以及企业业务场景的深度挖掘，企业有望基于生成式AI实现正向的投入产出比，推动商业模式革新。

据介绍，Dify.AI作为全栈AI应用开发 ，通过其开放架构、全生命周期管理和 化设计理念，为企业提供了一条克服这些挑战的可行路径。

在开放架构层面，Dify 采用后端即服务（Backend as a Service, BaaS）的设计理念，构建开放 API 框架和可扩展插件市场。这种架构支持即插即用的各类跨系统集成，实测可将企业AI应用的系统整合周期从平均12周缩短至3-4周，集成效率提升70%，大幅加速从概念到生产的转化速度。

在全管理层面，Dify提供完整的AI应用生命周期管理工具链，从开发、 到部署、监控一站式覆盖，简化了企业级 AI 应用的运维复杂度，帮助团队有效识别并 生产环境中的潜在问题，使 AI 应用稳定性显著提升。

与此还有效降低了操作门槛，Dify 通过交互友好的可视化界面降低门槛，使业务人员能够直接参与 AI 应用构建，大幅提升研发人员调试 AI 应用的效率，促进跨职能团队 协作。

一个实践案例是，某世界500强生物技术和医疗器械公司利用 Dify.AI基于亚马逊云科技构建的生成式 AI 方案，实现多语言工单处理工作流。此 方案可将客户服务请求的语音实时转录为文本（支持多语言），结合 LLM 进行语义优化、上下文分析以及智能分类，并实时检索相关的产品文档、历史案例和知识库，最终生成建议 方案并交付给支持团队。工单生成与验证时间从传统的10-20分钟缩短至不到3分钟，平均每天自动生成约300个工单。以每单节省10分钟计算，每月约节省60人/天的工时。

延君晨还谈到，这些方案的背后，都有亚马逊云科技的支持。2023年6月，Dify.AI成为了亚马逊云科技初创成员，获得了云计算资源支持，为早期阶段优化成本结构提供了很大帮助。在应用过程中，亚马逊云科技工程师还帮助Dify.AI 了向量数据库业务主机架构切换问题，实现了超过30%的成本削减。

亚马逊云科技从多个维度为Dify.AI提供了良好的技术服务与全球商业拓展支持。比如，Dify.AI产品原生支持在Amazon Bedrock上调用Claude、Cohere等大型语言模型和嵌入模型，以及Amazon SageMaker微调定制模型，适配不同业务场景，确保模型灵活性与 推理，从而降低开发和运维成本，提升模型性能与稳定性，同时支持私有化模型的快速上线。

2024年5月，Dify.AI还正式上线亚马逊云科技Marketplace（海外区），将新产品迅速导入全球市场。延君晨表示，在未来，Dify.AI还将继续与亚马逊云科技深耕合作，为开发者与各行各业的企业提供从模型访问、应用构建到部署的一站式工具链，大幅简化多模型应用开发流程，加速业务创新。（文/定西）

本文来自 科技报道，更多资讯和深度内容，关注我们。