利用Mistral 7b的功能呼叫力量：構(gòu)建智能AI代理商

大型語(yǔ)言模型（LLM）已徹底改變了AI代理與外部系統(tǒng)和API的互動(dòng)，從而實(shí)現(xiàn)了自然的自然驅(qū)動(dòng)決策。這是通過(guò)函數(shù)調(diào)用來(lái)實(shí)現(xiàn)的，其中JSON模式定義的功能允許LLM自主選擇和執(zhí)行外部操作，從而顯著提高自動(dòng)化。本文演示了使用Mistral 7b的功能調(diào)用，這是一種優(yōu)化的指令遵循的尖端模型。

關(guān)鍵學(xué)習(xí)目標(biāo)：

• 掌握生成AI中AI代理的作用和類型。
• 了解函數(shù)調(diào)用如何通過(guò)JSON模式增強(qiáng)LLM功能。
• 配置並加載Mistral 7b模型，以進(jìn)行文本生成。
• 在LLMS中呼叫函數(shù)以執(zhí)行外部進(jìn)程。
• 提取功能參數(shù)並使用Mistral 7b產(chǎn)生響應(yīng)。
• 執(zhí)行具有結(jié)構(gòu)化輸出的實(shí)時(shí)功能，例如天氣查詢。
• 使用多種工具在不同域上擴(kuò)展AI代理功能。

（本文是數(shù)據(jù)科學(xué)博客馬拉鬆的一部分。）

目錄：

• 了解AI代理
• 在LLMS中呼叫的功能解釋了
• 構(gòu)建Mistral 7b管道：模型和文本生成
• 用Mistral 7b實(shí)施功能調(diào)用
• 模型生成的最終響應(yīng)
• 結(jié)論
• 常見(jiàn)問(wèn)題

了解AI代理：

在生成的AI（Genai）中，AI代理代表著重大進(jìn)步。他們利用LLM等模型來(lái)生成內(nèi)容，模擬交互並自主執(zhí)行複雜的任務(wù)。它們的適應(yīng)性遍及各個(gè)領(lǐng)域，包括客戶服務(wù)，教育和醫(yī)療保健。

AI代理的分類如下（請(qǐng)參見(jiàn)下圖）：

• 人類循環(huán)（反饋提供）
• 代碼執(zhí)行者（例如，ipython內(nèi)核）
• 工具執(zhí)行者（功能或API執(zhí)行）
• 模型（LLM，VLM等）

函數(shù)調(diào)用會(huì)集成代碼執(zhí)行，工具執(zhí)行和模型推理。 LLM處理自然語(yǔ)言處理，而代碼執(zhí)行者運(yùn)行必要的代碼段來(lái)滿足用戶請(qǐng)求。人類互動(dòng)可以提供反饋或控製過(guò)程終止。

在LLMS中調(diào)用的功能解釋了：

開(kāi)發(fā)人員使用JSON模式（傳遞給模型）定義功能。然後，該模型根據(jù)用戶提示生成所需的函數(shù)參數(shù)。例如，它可以致電天氣API提供實(shí)時(shí)天氣信息。功能調(diào)用允許LLMS智能選擇適當(dāng)?shù)墓δ芑蚬ぞ?，從而?shí)現(xiàn)自主任務(wù)完成並提高效率。

本文演示了LLM（Mistral）如何根據(jù)用戶查詢生成函數(shù)參數(shù)。用戶要求德里溫度；該模型提取參數(shù)，函數(shù)檢索實(shí)時(shí)數(shù)據(jù)（或此處的默認(rèn)值），LLM提供了用戶友好的響應(yīng)。

構(gòu)建Mistral 7b管道：模型和文本生成：

我們將導(dǎo)入必要的庫(kù)，並加載Mistral 7b模型和令牌，從擁抱表面進(jìn)行推理。該模型可在此處使用。

導(dǎo)入庫(kù)：

從變形金剛進(jìn)口管道，AutomodelForCausAllm，AutoTokenizer
進(jìn)口警告
警告。 FilterWarnings（“忽略”）

指定Mistral 7b模型存儲(chǔ)庫(kù)：

 model_name =“ mistralai/mistral-7b-instruct-v0.3”

下載模型和令牌：

（注意：訪問(wèn)需要按照其網(wǎng)站上的說(shuō)明來(lái)?yè)肀娌吭]冊(cè)和代幣生成。）

 model = automodelforcausallm.from_pretrate（model_name，token = hf_token，device_map ='auto'）
tokenizer = autotokenizer.from_pretaining（model_name，token = hf_token）

（詳細(xì)介紹實(shí)現(xiàn)，結(jié)果和結(jié)論的其餘部分將遵循類似的重組和重新措辭，以保持原始含義，同時(shí)增強(qiáng)清晰度和流動(dòng)。圖像將保留在其原始位置。）

以上是使用Mistral 7b -Analytics Vidhya在AI代理中調(diào)用功能的詳細(xì)內(nèi)容。更多資訊請(qǐng)關(guān)注PHP中文網(wǎng)其他相關(guān)文章！