--- title: "Public Cloud Learning Sessions (OpenText) - Generative AI & Prompt Engineering - 20241112" type: source tags: - Generative-AI - Prompt-Engineering - AWS - Amazon-Bedrock - Amazon-Q - RAG date: 2024-11-12 --- ## Source File - [[Cloud & DevOps/Public-Cloud-Learning-Sessions/09_Serverless_AI/public-cloud-learning-sessions-opentext-generative-ai-prompt-engineering-2024111]] ## Summary(用中文描述) - 核心主题:AWS 云上的生成式 AI 服务生态与 Prompt Engineering 基础实践 - 问题域:企业如何在 AWS 上利用自有数据构建差异化的生成式 AI 应用 - 方法/机制:AWS Generative AI 技术栈分层(基础设施→Amazon Bedrock→应用层),RAG/Fine-tuning/持续预训练三种模型定制技术,Prompt Engineering 四大组件与基础技巧(One-shot/Few-shot/Chain-of-Thought) - 结论/价值:数据是企业差异化关键;Bedrock 保证数据不外泄;Amazon Q 提供开箱即用的业务助手与开发者工具 ## Key Claims(用中文描述) - 生成式 AI 通过创造新体验、提升员工生产力、提取洞察、激发创造力四个维度创造商业价值 - 领域专属生成式应用的三大构建技术中,RAG 成本最低、最易实现,无需重训练即可连接多数据源 - AWS 生成式 AI 技术栈分三层:基础设施层(含 Trainium/Inferentia 专用芯片)、服务层(Amazon Bedrock)、应用层 - Amazon Bedrock 完全托管,不共享用户数据与提示词给模型提供商,并提供 Guardrails 过滤有害内容 - Prompt Engineering 是迭代过程,提示词应包含指令(Instruction)、上下文(Context)、用户输入、输出指示器四个组件 ## Key Quotes > "Your data is your differentiator and it is what makes the difference between generic application to a specific application that can actually bring business to your value." — Shikad Holtzman,阐述数据作为企业生成式 AI 差异化核心的重要性 > "None of your data nor the prompts, not the data that you are using for customizing the model is being shared with the model providers." — Bedrock 数据隐私保障声明 ## Key Concepts - [[GenerativeAI]]:能够生成新内容(文本、图像、代码等)的人工智能技术,通过创造新体验、提升生产力、提取洞察、激发创造力创造商业价值 - [[RetrievalAugmentedGeneration|RAG]](检索增强生成):连接多个数据源无需重训练模型即可构建领域专属应用,成本最低、最易实现的定制技术 - [[PromptEngineering]]:创建、设计和优化提示词以引导大语言模型响应的技术,确保输出准确性和相关性;包含 One-shot、Few-shot、Chain-of-Thought 等技巧 - [[AmazonBedrock]]:AWS 完全托管的生成式 AI 服务层,提供 Anthropic、Meta、Amazon 等多种基础模型,支持 RAG、Fine-tuning、Agents 和 Guardrails - [[AmazonQ]]:AWS AI 助手,分为面向业务的 Amazon Q(连接多数据源进行搜索/总结/洞察提取)和面向开发者的 Amazon Q(代码生成/单元测试/代码迁移) ## Key Entities - [[ShikadHoltzman]]:OpenText 技术客户经理(以色列),本次学习会议主讲人,分享 AWS 生成式 AI 创新机会与 Prompt Engineering 实践 - [[OpenText]]:企业信息管理公司,主办本次 Public Cloud Learning Sessions - [[AmazonSageMaker]]:AWS 全生命周期管理服务,用于构建、训练和部署基础模型;SageMaker JumpStart 提供公开基础模型和第三方模型访问 - [[Anthropic]]:Amazon Bedrock 提供的模型提供商之一(Claude 系列) - [[MetaAI]]:Amazon Bedrock 提供的模型提供商之一(Llama 系列) ## Connections - [[RAG从入门到精通系列1:基础RAG]] ← related_to ← [[GenerativeAI]](RAG 是构建领域专属生成式应用的核心技术) - [[llms-rag-ai-agent-三个到底什么区别]] ← related_to ← [[AmazonBedrock]](Bedrock 是 AWS 上 RAG 和 Agent 的主要承载平台) - [[大模型相关术语和框架总结|LLM、MCP、Prompt、RAG、vLLM、Token、数据蒸馏]] ← contains ← [[PromptEngineering]](该文总结了大模型相关术语,Prompt Engineering 是重要组成部分) - [[AmazonQ]] ← builds_on ← [[AmazonBedrock]](Amazon Q 开发者版构建于 Bedrock 之上) ## Contradictions - 与 [[llms-rag-ai-agent-三个到底什么区别]] 可能的视角差异: - 冲突点:RAG 是否"最容易"的定制方案 - 当前观点(RAG 最便宜最易实现,无需重训练) - 对方观点:RAG 系统复杂度(向量数据库、检索策略、chunk 策略)可能带来运维挑战 - 注:两者均认可 RAG 的核心价值,差异在于评估维度(成本/易用性 vs. 运维复杂度)