將LLM帶入互聯網計算機

Ignition 裏程碑已完成。這將大型語言模型(LLMs)引入互聯網計算機，使得可以僅用幾行代碼在罐智能合約中使用LLMs。

什麼是點火裏程碑？

Ignition 裏程碑是 ICP 路線圖中去中心化 AI 軌道的一部分，專注於將罐子連接到鏈外 LLM。通過此更新，開發者可以在他們的 dapp 中使用 AI，而無需復雜的設置，這要歸功於 AI 工作者。

Ignition中的新內容

LLM 庫以便捷集成

爲了簡化將您的氣罐連接到LM的過程，我們在互聯網計算機上添加了三種語言的庫：Motoko、Rust和TypeScript。

這些庫使得在你的去中心化應用中快速使用LLM變得簡單。例如，這裏是一個如何使用幾行Motoko代碼與Llama 3.1進行交互的示例：

導入 LLM “mo：llm”;

等待 LLM.chat019283746574839201#Llama3_1_8B(.withMessages019283746574839201[ #system_ { content = "你是一個有幫助的助手。";
},
#user_ { content = "太陽有多大？";
},
]).send();

上述示例可以在 ICP Ninja 上找到並進行修改。它展示了一個 canister 如何向一個 LLM 發送查詢並獲得響應，設置 minimal。

這是另一個示例，展示如何使用工具調用LM。

導入 LLM “mo：llm”;

演員 { public func example() { let response = await LLM.chat(#Llama3_1_8B) .withMessages([ #system_ { content = "你是一個有幫助的助手。"
},
#user { content = "蘇黎世的天氣怎麼樣？"
},
])
.withTools([LLM.tool)“get_weather”( .withDescription("獲取某個地點的當前天氣")
.withParameter( LLM.parameter019283746574839201“location”， #String) .withDescription(“獲取天氣的位置”( .isRequired)( )
.build() ])
.send(); };
}

您可以在這裏找到使用工具的實時演示，以及這裏的演示原始碼。

) AI 工作者

爲了將罐子與鏈外LM連接，我們構建了一個最低可行產品的AI工作者，這是一個簡單的系統，允許罐子從鏈外LM檢索數據。AI工作者處理通信，因此罐子可以實時發送請求並從LM獲取響應。

目前，AI 工作者支持 Llama 3.1 8B、Llama 4 Scout 和 Qwen 3 32B。這些選項爲開發者提供了選擇合適 LLM 以滿足其項目需求的靈活性。

這裏有一個圖表，說明了AI工作者如何在後臺被用於將提示傳遞給鏈外的LLM提供者。

運作方式：

1. Canisters 通過我們提到的 LLM 庫向 "LLM canister" 發送提示。這是一個特殊的 canister，旨在接收 LLM 提示。
2. LLM 罐子將這些提示存儲在隊列中。
3. AI工作者持續向LLM罐向請求提示。
4. AI工作者執行提示並將響應返回給LLM罐，LLM罐再將其返回給調用罐。

現實世界的應用案例

開發者已經在使用LLM庫來構建創意dapps，例如：

• 帶聊天功能的錢包：爲加密錢包添加對話式AI，以改善用戶互動 (即將在OISY推出)
• 帶有情感分析的DAO：使用LLM分析社區情感並指導投資組合決策，例如在Alice DAO中。

這些例子展示了人工智能工作者如何支持互聯網計算機上的一系列應用。

爲什麼這很重要以及如何開始

Ignition 裏程碑使開發者能夠輕鬆地將 LLM 集成到他們的 Internet Computer 項目中，從而啓用新的 dapp 類型，如聊天機器人、分析工具和 AI 驅動的 DeFi 應用。通過將 LLM 與 Internet Computer 的功能如 Chain Fusion、HTTPS 外部調用和鏈上隨機性結合，開發者可以構建創造性和強大的解決方案。

準備好嘗試了嗎？在 ICP Ninja 上探索 LLM 聊天機器人項目，查看實時演示，或深入我們的代碼和示例庫。

將LLM引入互聯網計算機的文章最初發布在Medium上的《互聯網計算機評論》中，人們通過突出和回應這個故事繼續進行討論。