本文属于机器翻译版本。若本译文内容与英语原文存在差异,则一律以英文原文为准。
型号可用&性兼容性
Amazon Bedrock 支持来自领先提供商的大量基础模型。本章介绍每种模型的可用位置、哪些 API 和端点支持它、如何访问它以及如何在模型的整个生命周期中对其进行管理。有关所有可用型号及其功能和定价的概述,请参阅模型一览。
在本章中
各型号的 API 兼容性— 每个模型支持哪些 API(InvokeModel、Converse、聊天完成、回复、消息)。
各型号的端点可用性— 每个模型托管在哪些端点 (
bedrock-runtime,bedrock-mantle) 上。各型号的地区供货情况— AWS 区域和跨区域推理配置文件每个模型都可用。
终端节点的区域可用性— 每个 Amazon Bedrock 终端节点 (
bedrock-runtime,bedrock-mantle) 都可用的 AWS 区域。获取模型列表— 以编程方式列出并发现每个端点上的可用模型。
模型生命周期— 模型版本控制、弃用时间表和迁移指南。
请求访问模型— 申请并管理对您账户中模特的访问权限。
使用产品 ID 条件键来控制访问权限— 使用 IAM 产品 ID 条件键来控制用户可以调用的模型。
选择模型
选择模型时,请考虑:
功能 — 模式(文本、图像、嵌入内容)、上下文窗口和工具使用支持。
端点和 API — 模型是开启
bedrock-runtimebedrock-mantle、还是两者兼而有之,以及它支持哪些 API。请参阅Amazon Bedrock 支持的终端节点。区域 — 模型是在您运营的 AWS 区域中可用,还是通过跨区域推理配置文件提供。
成本和吞吐量 — 按需定价 vs利用 Amazon Bedrock 中的预调配吞吐量增加模型调用容量.