ishenwei/nexus
1
0
Fork 0
Code Issues Pull Requests Actions Packages Projects Releases Wiki Activity
Files
8c909c9c0890da1f775aba2c27583e50916074d7
nexus/wiki/sources/public-cloud-learning-sessions-opentext-generative-ai-prompt-engineering-2024111.md

5.9 KiB
Raw Blame History

title, type, tags, date
title type tags date
Public Cloud Learning Sessions (OpenText) - Generative AI & Prompt Engineering - 20241112 source
Generative-AI
Prompt-Engineering
OpenText
AWS
2024-11-12

Source File

Summary（用中文描述）

  • 核心主题：AWS 生成式 AI 服务与提示工程基础，由 OpenText 技术客户经理 Shikad Holtzman 主讲
  • 问题域：企业如何在 AWS 上构建有业务价值的生成式 AI 应用
  • 方法/机制：Amazon Bedrock 全托管基础模型服务、RAG（检索增强生成）、微调、持续预训练、Amazon Q 助手、提示工程技巧
  • 结论/价值：企业数据是差异化关键，通过 Bedrock 连接自有数据，无需重训练即可构建专属生成式 AI 应用；提示工程通过清晰指令、上下文、示例和链式思维可显著提升 LLM 输出质量

Key Claims（用中文描述）

  • Shikad Holtzman（以色列技术客户经理）通过 AWS 生成式 AI 堆栈三层架构（基础设施/服务/应用）介绍了创新机会与行业通用场景
  • 生成式 AI 通过创造新体验、提升员工生产力、提取洞察、激发创造力四大路径为企业创造价值；应用场景涵盖客服聊天机器人、代码生成摘要、文档处理和图像生成
  • 企业数据是生成式 AI 应用从通用走向专属、产生实际业务价值的关键差异化因素
  • RAG（检索增强生成）是成本最低、最快速的定制化方法，连接多数据源无需重训练模型；微调通过标注示例重训练模型；持续预训练用无标签数据适配特定领域
  • Amazon Bedrock 是全托管服务，提供来自 Anthropic、Meta、Amazon（Titan）的多种基础模型（含多模态和图像模型），并内置 RAG 知识库、微调、Agents 和 Responsible AI 能力，且用户数据和提示不会与模型提供商共享
  • Amazon Bedrock Guardrails 允许用户根据自身策略过滤有害内容
  • Amazon Q 分为企业版（连接多数据源进行搜索/摘要/洞察提取，维持现有权限）和开发者版（专注代码生成、单元测试和代码迁移）
  • 提示工程是创建、设计和优化提示词以引导 LLM 响应的过程，需清晰、准确、具体，遵循迭代测试优化；提示包含指令、上下文、用户输入和输出指示器四部分
  • 少样本提示（One-shot/Few-shot）通过提供示例帮助模型理解任务模式；链式思维（Chain of Thoughts）通过逐步推理引导模型解决复杂任务

Key Quotes

"Your data is your differentiator and it is what makes the difference between generic application to a specific application that can actually bring business to your value." — Shikad Holtzman，强调企业数据是生成式 AI 差异化的核心

"None of your data nor not the prompts, not the data that you are using for customizing the model is being shared with the model providers." — 强调 Amazon Bedrock 的数据隔离承诺

Key Concepts

  • RAG：检索增强生成，通过连接外部数据源，无需重训练即可让基础模型回答特定领域问题，是成本最低的定制化路径
  • Prompt-Engineering：提示工程，通过设计清晰指令、上下文、示例和输出指示器引导 LLM 生成准确相关响应的技术和迭代过程
  • Chain-of-Thought：链式思维，一种提示工程技巧，通过让模型展示逐步推理过程来提升复杂任务表现
  • One-Shot-Prompting：单样本提示，一种提示技巧，通过提供一个示例帮助模型理解任务格式和期望
  • Few-Shot-Prompting：少样本提示，通过提供多个示例（通常2-5个）让模型从示例中学习模式和规则
  • Responsible-AI：负责任 AI，Amazon Bedrock 内置的能力，包括内容过滤和道德准则实施
  • Guardrails-for-Amazon-Bedrock：Bedrock 护栏，允许用户配置自定义策略过滤有害内容的基础安全功能

Key Entities

  • Shikad-Holtzman：OpenText 技术客户经理（驻以色列），本次学习会议讲师，专注于 AWS 生成式 AI 应用与创新机会分享
  • Amazon-Bedrock：AWS 全托管基础模型服务，提供多提供商模型（Anthropic/Amazon Titan/Meta），内置 RAG、微调、Agents 和 Responsible AI 能力
  • Amazon-SageMaker：AWS 托管服务，覆盖基础模型构建、训练和部署全生命周期；SageMaker JumpStart 提供公开可用基础模型和第三方模型访问
  • Amazon-Q：AWS AI 助手，分企业版（多数据源连接、搜索摘要）和开发者版（代码生成、单元测试、代码迁移）
  • AWS-Trainium：AWS 专用训练芯片，用于基础模型训练
  • AWS-Inferentia：AWS 专用推理芯片，用于模型推理部署
  • AWS：Amazon Web Services，OpenText Cloud 转型计划的云服务提供商

Connections

Contradictions

Reference in New Issue View Git Blame Copy Permalink