--- title: "Public Cloud Learning Sessions (OpenText) - AI Use Cases - 20241126 160106" type: source tags: - AI - Use-Cases - OpenText - AWS - Generative-AI date: 2024-11-26 --- ## Source File - [[Cloud & DevOps/Public-Cloud-Learning-Sessions/09_Serverless_AI/public-cloud-learning-sessions-opentext-ai-use-cases-20241126-160106-meeting-rec.md]] ## Summary(用中文描述) - 核心主题:AWS AI 使用场景与 Gen2 生成式 AI 落地实践,由 AWS AI 专家 Stephen Frank 分享 - 问题域:企业如何在 AWS 平台上规模化落地生成式 AI,整合业务数据,控制生成结果 - 方法/机制:AWS 三层产品策略(基础设施 / Amazon Bedrock / AI 应用);数据整合三大方法(RAG / Fine-tuning / Continued Pre-training);企业级 AI 落地关键考量 - 结论/价值:数据是企业差异化关键;AI 落地需兼顾实验文化、模型灵活性、安全合规与负责任 AI ## Key Claims(用中文描述) - AWS 已在核心产品中应用 AI/ML 达 25 年,持续将经验转化为客户新服务 - 企业软件公司是生成式 AI 早期采用者,将其集成到核心产品面向客户的应用中 - 生成式 AI 应用通过与现有业务数据整合来控制结果,数据是差异化关键 - Amazon Bedrock 确保无第三方数据访问,满足 GDPR 合规要求 - AI 落地需培养实验文化、保持模型选择灵活性,并优先考虑安全、治理与合规 - 负责任 AI 实践(公平性、可解释性、透明性)至关重要 ## Key Quotes > "When implementing your services, we do have to look at this more holistically." — Stephen Frank on holistic AI implementation > "Data is key to differentiation, as generative AI applications integrate with existing business data to control outcomes." — Stephen Frank on data as competitive advantage > "Various methods exist for working with data, including retrieval-augmented generation (RAG), fine-tuning, and continued pre-training." — Stephen Frank on data integration methods ## Key Concepts - [[Foundation-Models]]:基础模型是大语言模型(LLM)的核心,AWS Bedrock 提供多种基础模型 API 访问 - [[RAG]]:检索增强生成,通过整合企业现有业务数据来控制 AI 生成结果,是数据整合的关键方法之一 - [[Fine-Tuning]]:微调基础模型以适应特定业务场景,三大数据整合方法之一 - [[Responsible-AI]]:负责任 AI 包含公平性、可解释性、透明性原则,是 AWS AI 落地的核心考量 ## Key Entities - [[Stephen-Frank]]:AWS AI 专家,主讲本期 AI Use Cases 分享,涵盖 AI 演进、Gen2 AI、AWS 三层产品策略 - [[Amazon-Bedrock]]:AWS 旗舰生成式 AI 产品,通过 API 提供多种基础模型访问,确保无第三方数据访问,满足 GDPR 合规 - [[Amazon-Q]]:AWS 预构建 AI 系统,支持知识摘要、内容创作和洞察提取,通过自然语言提示连接多种数据源 - [[Amazon-SageMaker]]:AWS 全托管机器学习平台,面向数据科学家和平台工程师 ## Connections - [[Foundation-Models]] ← builds_on ← [[Responsible-AI]] - [[Amazon-Bedrock]] ← provides ← [[Foundation-Models]] - [[Amazon-Q]] ← uses ← [[Foundation-Models]] - [[Amazon-SageMaker]] ← related_to ← [[Amazon-Bedrock]] - [[RAG]] ← enables ← [[Amazon-Bedrock]] - [[Fine-Tuning]] ← integrates_with ← [[Amazon-Bedrock]] - [[public-cloud-learning-sessions-opentext-generative-ai-prompt-engineering-2024111.md]] ← related_to ← [[Amazon-Bedrock]] ## Contradictions - 与 [[public-cloud-learning-sessions-opentext-generative-ai-prompt-engineering-2024111.md]] 存在视角差异: - 冲突点:Stephen Frank 强调数据整合(RAG/Fine-tuning/Continued Pre-training)是生成式 AI 差异化关键;Generative AI & Prompt Engineering 分享更侧重 Prompt Engineering 技巧本身 - 当前观点:两者互补——数据整合决定 AI 能说什么,Prompt Engineering 决定 AI 怎么说 - 对方观点:Generative AI & Prompt Engineering 分享认为 Prompt Engineering 是最灵活、成本最低的 AI 优化手段