本地管理用例开发和运营
Posted: Sun Feb 16, 2025 4:52 am
实际的 GenAI 用例是我们所有人这样做的关键,应该在业务部门内完成——牢记生命周期管理,这意味着明确的LLMOps / DataOps 流程。虽然中央 IT 中心将定义一般治理和合规性实践,但业务线团队必须拥有实施负责任的 GenAI 的所有权和责任针对个别用例制定流程。因此,让团队中的所有成员都接受培训并了解将 GenAI 集成到现有业务流程中的治理方面是一种很好的做法。
GenAI 系统的通用基础设施推动者
因此,将所有这些结合起来,统领所有业务团队的是一致的战略和治理——现在我们正在讨论实现这一点的公司治理!现在想象一下,您建立了自助服务数据基础设施——任何业务团队都可以使用它并利用其优势。
GenAI 系统的通用基础设施
这种方法利用Dataiku LLM Mesh,通过提供交钥匙 GenAI 平台避免了重复劳动,该平台可使业务部门能够大规模、轻松地提供 GenAI 用例,同时确保合规性。它有效地隐藏(并统一)了其下方的内容 — 无论是数据存储的位置(云还是本地)还是计算发生的位置。对于构建 GenAI 用例的业务部门用户来说,这真的不重要!此外,重要的是,自助服务结构应与市场上的其他关键技术参与者高度互操作,以适应和扩展技术格局的变化(这即将发生)。
大型系统集成商进行了多项研究,证明目前企业有 超过3000 亿美元 沙特阿拉伯 电话号码数据 的未使用云承诺。对于 CDO/CIO 来说,重要的是确保他们在技术上的投资得到充分利用,并解决多个用例的积压问题。这种设计还有助于提取云和数据供应商提供的每一分计算。现在,通过投资 Dataiku 作为中间自助服务平台层,您的企业中的数百名用户,乃至数千名用户都可以构建他们的 GenAI 用例,从而开始利用计算和数据层投资。
使用 Dataiku、AWS、Databricks 和 NVIDIA 的 GenAI 企业技术架构示例
下面的示例企业 GenAI 架构展示了我们可以向采用 AWS 和 Databricks 的 Dataiku 客户提出什么建议。我们可以使用此蓝图使用 AWS/GCP/Azure、Databricks/Snowflake 和 NVIDIA 构建参考架构。
企业 GenAI 架构示例
构建强大且可扩展的 GenAI 平台需要将集中式技术与治理以及分散式执行进行精心组合。通过将您的技术堆栈与明确的 AI 战略相结合,您可以让业务部门充分利用 GenAI 用例,同时保持合规性和效率。
关键在于提供自助式基础设施,支持从低代码开发人员到高级程序员等各种用户,确保整个组织广泛采用。有了正确的架构,公司就可以充分利用其云和数据投资,通过 GenAI 推动有意义的业务成果。
GenAI 系统的通用基础设施推动者
因此,将所有这些结合起来,统领所有业务团队的是一致的战略和治理——现在我们正在讨论实现这一点的公司治理!现在想象一下,您建立了自助服务数据基础设施——任何业务团队都可以使用它并利用其优势。
GenAI 系统的通用基础设施
这种方法利用Dataiku LLM Mesh,通过提供交钥匙 GenAI 平台避免了重复劳动,该平台可使业务部门能够大规模、轻松地提供 GenAI 用例,同时确保合规性。它有效地隐藏(并统一)了其下方的内容 — 无论是数据存储的位置(云还是本地)还是计算发生的位置。对于构建 GenAI 用例的业务部门用户来说,这真的不重要!此外,重要的是,自助服务结构应与市场上的其他关键技术参与者高度互操作,以适应和扩展技术格局的变化(这即将发生)。
大型系统集成商进行了多项研究,证明目前企业有 超过3000 亿美元 沙特阿拉伯 电话号码数据 的未使用云承诺。对于 CDO/CIO 来说,重要的是确保他们在技术上的投资得到充分利用,并解决多个用例的积压问题。这种设计还有助于提取云和数据供应商提供的每一分计算。现在,通过投资 Dataiku 作为中间自助服务平台层,您的企业中的数百名用户,乃至数千名用户都可以构建他们的 GenAI 用例,从而开始利用计算和数据层投资。
使用 Dataiku、AWS、Databricks 和 NVIDIA 的 GenAI 企业技术架构示例
下面的示例企业 GenAI 架构展示了我们可以向采用 AWS 和 Databricks 的 Dataiku 客户提出什么建议。我们可以使用此蓝图使用 AWS/GCP/Azure、Databricks/Snowflake 和 NVIDIA 构建参考架构。
企业 GenAI 架构示例
构建强大且可扩展的 GenAI 平台需要将集中式技术与治理以及分散式执行进行精心组合。通过将您的技术堆栈与明确的 AI 战略相结合,您可以让业务部门充分利用 GenAI 用例,同时保持合规性和效率。
关键在于提供自助式基础设施,支持从低代码开发人员到高级程序员等各种用户,确保整个组织广泛采用。有了正确的架构,公司就可以充分利用其云和数据投资,通过 GenAI 推动有意义的业务成果。