产品经理的AI基础：浅谈大模型的局限性（中）

最近，85花杨幂正在拍摄新剧《生万物》，相关路透也引发了热议。该剧是一部农村题材大戏，也是杨幂的转型之作，备受关注。由于杨幂今年上半年三部作品都遭遇不同程度的差评，杨幂能否翻身成功，似乎就看这部戏。

本文深入探讨了这些限制及其可能的 方案，提供了对AI产品化进程中遇到的实际问题的深刻洞察。通过合作与创新，我们有望打破这些壁垒，推动人工智能技术的进一步发展和应用。

在大模型产品化的过程中，AI产品经理需要探索大模型的边界。其中包含大模型本身无法被 的能力边界、工程化过程中的限制、以及将来随着模型迭代逐渐可能被 的问题。

这次探讨第二部分，关于大模型工程化过程中的限制。

人工智能模型转化为实际可用产品的过程中，涉及到多个方面的挑战和限制。这些限制是否能够 ，需要产品经理、工程师、设计师、各个厂商间的合作，共同克服这些限制。

数据质量、多样性和覆盖范围；模型的算法设计和优化程度；模型否能及时获取和学习新的信息；对用户问题的理解和上下文处理能力。

其中数据是至关重要的，也是具有模型回答质量的决定性的因素，不同的信息来源和引用标准造成的。

“花园围墙”是指一些大型科技公司通过构建封闭的生态系统来控制用户的数据和体验，这种做法在一定程度上限制了数据的开放性和可访问性。苹果公司是这种模式的典型代表之一，它通过iOS操作系统、App Store等构建了一个相对封闭的生态系统。

尽管在移动互联网时代，这种封闭的生态系统确实为用户带来了一定程度的便利和安全性，例如保证了用户体验的一致性和更高级别的安全与隐私保护，但限制了外部开发者的接入，同时用户可能会变得依赖于特定的 和设备，这可能会限制他们的选择和灵活性。难以迁移到其他服务。大型科技公司通过花园围墙可以控制市场，这可能会对小型开发者和竞争对手构成挑战。同时也引发了一些争议，比如数据隐私、市场竞争等问题。对于AI和搜索引擎来说，封闭的生态系统意味着它们获取数据的难度增加，这些服务和内容通常受到限制，并且与外部互联网的其他部分隔离。

这也就是为什么针对同一问题，不同的Ch Bot产品给出的 会不同。

为了 互联网不在互联的问题，Apple 希望从操作系统层面把 UI 打造的面向大模型更友好，随着人工智能和机器学习技术的进步，用户界面（UI）设计也在逐渐适应这些技术，以提供更自然、更直观的用户体验。Apple发布了一篇名为《Ferret-UI：基于多模态大语言模型的移动 UI 理解》的文章，论文的重点在于开发一个能够更有效地理解和与移动 UI 屏幕交互的模型，通过特定的技术改进和数据集训练，使得 Ferret-UI 在 UI 理解任务上取得了显著的性能提升。这种研究可以帮助开发出能够更好地理解和预测用户行为的系统。

但“更加开放的 API 和内容”确实才是实现更广泛互联互通的关键。开放的 API 允许不同 和服务之间的数据和功能共享，这有助于打破信息孤岛，促进创新和协作。苹果公司虽然在 iOS 生态系统中提供了一定程度的互联互通，但开放性仍然是整个互联网生态系统中的一个重要议题。

大模型的安全机制是人工智能领域中一个 重要的话题。许多大型AI模型都内置了一定程度的安全和道德约束，以确保它们在与用户交互时不会生成或促进有害、不道德或违法的内容。这些安全机制通常是为了保护用户和遵守法律法规而设计的。

这些内置的安全机制是为了防止AI被用于不当目的，如制造仇恨言论、暴力内容、 内容等。它们有助于维护社会秩序和道德标准。

安全机制的调整：虽然安全机制通常是固定的，但有些系统可能允许用户在一定范围内调整安全级别，以适应不同的使用场景和需求。

当然市面上会有很多突破安全机制的方法，这些都算是漏洞，被厂商发现之后会立即被封堵。所以很多本地部署模型可能没有这些安全机制，这也成为了它的卖点，这确实可能吸引一些寻求不受限制内容的用户。

同样的内容，在不同的语言下面安全的阈值是不一样的。

语言和文化差异：不同语言和文化对内容的接受度不同，这可能导致同一内容在不同语言下的安全性评估结果不同。这需要AI模型在处理多语言内容时更加细致和敏感。

针对本期提到的大模型局限，AI产品经理能做什么？以下是一些值得思考和实践的方面：

技术跟踪：持续关注 AI 和 LM 领域的 研究和进展。

另外，还可以关注安全机制与安全阈值调整的存在的机会。

本文由 @wanee 原创发布于人人都是产品经理，未经许可，禁止转载

题图来自Unsplash，基于 CC0 协议