View a markdown version of this page

Utilizzo di uno strumento per completare una risposta al modello Amazon Bedrock - Amazon Bedrock

Le traduzioni sono generate tramite traduzione automatica. In caso di conflitto tra il contenuto di una traduzione e la versione originale in Inglese, quest'ultima prevarrà.

Utilizzo di uno strumento per completare una risposta al modello Amazon Bedrock

È possibile utilizzare l’API Amazon Bedrock per consentire a un modello di accedere a strumenti che possono aiutarlo a generare risposte ai messaggi inviati al modello. Ad esempio, un’applicazione di chat potrebbe consentire agli utenti di scoprire la canzone più popolare trasmessa da una stazione radio. Per rispondere a una richiesta per la canzone più popolare, un modello ha bisogno di uno strumento in grado di fare query e restituire le informazioni sul brano.

Nota

Ora puoi utilizzare output strutturati con l'uso degli strumenti. Per ulteriori dettagli, consulta Ottieni risultati JSON convalidati dai modelli.

In Amazon Bedrock, il modello non chiama direttamente lo strumento. Quando inviate un messaggio, fornite anche le definizioni di uno o più strumenti che potrebbero aiutare il modello a generare una risposta. Il modello decide quando è necessario uno strumento; il codice dell'applicazione (o lo stesso Amazon Bedrock, in modalità lato server) esegue lo strumento e restituisce il risultato da incorporare nel modello nella risposta finale.

Amazon Bedrock supporta tre modalità di utilizzo degli strumenti, a seconda dell'API chiamata e della famiglia di modelli utilizzata:

Mode (Modalità) Chi gestisce lo strumento Quando utilizzarlo
Client-side uso dello strumento Il codice dell'applicazione, dopo che il modello ha restituito una richiesta di chiamata allo strumento. La maggior parte dei casi d'uso. Disponibile con Responses, Chat Completions, Converse e InvokeModel API.
Server-side uso dello strumento Amazon Bedrock stesso. Registri una funzione Lambda o un AgentCore gateway e Amazon Bedrock richiama lo strumento per conto del modello. Esecuzione centralizzata e sicura degli strumenti senza gestire l'orchestrazione nell'applicazione. Attualmente disponibile sull'API Responses.
Uso dello strumento Anthropic Claude Il codice dell'applicazione, utilizzando i tipi di strumenti Anthropic definiti (computer_*,, bash_*text_editor_*,memory_*) e il formato di richiesta dell'API Anthropic Messages. Uso del computer, esecuzione di codice, modifica dei file, memoria persistente o streaming di strumenti a grana fine con Claude modelli attivi o. bedrock-runtime bedrock-mantle