← 回開發筆記

AI 串接到底在做什麼?拆成三個角色就懂了

很多人以為「AI 串接」是什麼高深魔法,但把我做過的功能拆開來看,它其實就是讓 AI 去扮三種角色:整理員、演員、評審。

我做過幾個有 AI 的產品,每次跟非技術的朋友解釋「串接到底在幹嘛」,最有效的講法就是這三個角色。它們也剛好對應了 AI 串接最常見的三種用途。


1. AI 當整理員:把人話變成資料

我每天在用一個 Telegram 工作日誌機器人。我只要隨手打一句「今天修好登入的 bug、跟客戶開了兩個會」,它就會自動幫我分好類別、貼上標籤、抓出時間,存成乾淨的紀錄。

技術上,這件事的核心是:我在背後寫好一段指令,要求模型把使用者的自由文字,輸出成固定格式的結構化資料(例如 JSON),後端再把它存進資料庫。自然語言進去,程式能用的欄位出來。很多企業講的「AI 自動化」,骨子裡就是這個動作。


2. AI 當演員:讓程式扮一個有設定的人

我做的 AI 模擬面試系統 Battle Interviewer,會請 AI 扮演一個嚴格的面試官。它記得你的履歷、針對你的回答即時追問、營造高壓的氛圍,逼你把真實實力練出來。

技術上,這靠的是把「角色設定」跟「使用者的背景資料」寫進 system prompt,再維持整段對話的上下文,讓 AI 每一句都接得上前文、不會跳針。這類角色扮演的串接,是現在大多數 AI 陪伴、客服、教練類產品的底層做法。


3. AI 當評審:讓 AI 根據標準做判斷

同一個面試系統,在結束後會把整段對話丟回模型,請它依照預先定義好的評分標準,給出分數跟具體的改進建議。

技術上,這是把一大段內容連同一份「評分規則」交給模型,要它輸出有結構的評估結果。難的地方在於怎麼把模糊的判斷標準寫得夠明確,讓 AI 的評分穩定、不會每次都飄。這也是 LLM-as-a-judge 這個題目現在被大量研究的原因。


把這三個角色看懂,你會發現所謂的 AI 串接,本質就是兩個方向的翻譯:把人類語言翻成程式能處理的資料,或把程式的需求翻成像人的回應。模型本身大家都能呼叫,真正的工程,在於你有沒有想清楚要它扮哪個角色、接到你流程的哪一段。

AI 不難接,難的是先搞懂自己要它做什麼。