OpenAI 推出最新的生成式AI 模型 o1（又稱為 GPT-o1 或 Strawberry），標榜在給出回覆之前會花更多時間思考，除了在科學、程式碼和數學領域表現出更高級的推理能力；另一個值得注意的特點是，對於「提示工程」（Prompt Engineering）的工作優化，讓提示工程師可以設計更簡單、更精確的提示。本文將簡介 OpenAI o1 模型特點，以及對於提示工程工作帶來的新影響與操作技巧。
OpenAI o1 模型是什麼？有哪些特點？
有別於 OpenAI GPT-4o 模型，OpenAI o1 模型最大的差異是一款專注於邏輯推理的生成式AI，具備「思維鏈」推理能力，使其在解決複雜問題方面表現出色。該模型在程式碼和數學挑戰等多步驟任務中優於前代模型 GPT-4o，尤其在降低虛構事實和改善公平性及偏見處理上也有所進步。以下是OpenAI 的 o1 模型特點
思維鏈推理（Chain-of-Thought Reasoning）
o1 模型使用思維鏈推理，能夠以序列化的方式思考問題，讓模型在給出答案前，進行多層次的推理過程從而得出更準確的最終答案。
強化學習與人類反饋（Reinforcement Learning with Human Feedback）
o1 模型透過強化學習與人類反饋（RLHF）進行訓練，這種方法收集人類的回饋數據來優化模型的學習過程，使模型能夠更好地理解和回應人類的需求，並學會事實查核和修正自己的錯誤。
推理令牌（Reasoning Tokens）
o1 模型使用「推理令牌」來管理複雜的內部推理過程，儘管這些令牌對用戶不可見，但允許模型在思考複雜問題方面發揮關鍵作用。
擴展上下文窗口（Extended Context Window）
o1 模型提供了高達 128,000 個令牌的上下文窗口，能夠處理更長和更複雜的互動，保留更多訊息於單一會話中。
OpenAI o1 模型的表現和應用
高級推理和數學能力
o1 模型在複雜推理任務中表現出色，特別是在數學和科學領域。例如，在國際數學奧林匹亞競賽（IMO）資格考試中，o1 模型得分 83%，而 GPT-4o 僅得 13%。
程式設計和軟體開發
o1 模型在複雜程式碼生成、調試和高級數學方面表現優異，特別適合於程式設計和軟體開發任務。
教育和輔導
o1 模型可以作為有效的教育工具，提供詳細的解釋和即時解決複雜問題。它們可以用於 STEM 領域的學生輔導，幫助學生理解複雜概念和完成難題。
什麼是提示工程（Prompt Engineering）？
提示工程是指針對生成式AI 模型設計和優化輸入提示的過程，旨在引導模型生成高品質和具體的輸出。對於 IT 工程師來說，這項技術不僅涉及語言處理，還包括理解如何利用 AI 解決實際問題。 在提示工程中，精確的提示設計可以顯著提高 AI 模型的反應效率，特別是在程式碼、數據分析和系統設計等技術領域。
透過清晰和具體的提示，工程師可以引導 AI 生成符合需求的程式碼片段、文件或技術解決方案。 例如，在撰寫 API 文件時，設計一個包含必要上下文的提示可以使 AI 生成更準確的內容，減少後期的修改工作。
〈推薦閱讀：如何對生成式 AI 下指令？Gemini for Google Workspace 操作教學〉
OpenAI o1 模型帶給提示工程哪些改變？
OpenAI o1 模型的特點中「思維鏈推理」將對提示工程帶來優化，這一技術使模型能夠更有效地處理多步驟問題。思維鏈允許 AI 將複雜的任務分解為更小的邏輯步驟，從而生成更具結構性和準確性的回應。下方將列出 o1 模型對於提示工程帶來的影響
提示簡化和精確性
由於 o1 模型的思維鏈推理能力，提示工程師可以設計更簡單、更精確的提示。用戶不需要明確引入思維鏈，因為模型會自動處理這一過程。
減少幻覺和偏差
o1 模型透過先進的推理和思維鏈過程來減少「幻覺」（hallucination）的發生率，即生成虛假或不支持的訊息，這使得提示工程師可以更信任模型的輸出。
提高透明度和可解釋性
o1 模型的推理過程更為透明，允許用戶追蹤模型的思維步驟，這對於提示工程師來說非常有用，因為它們可以更好地理解和優化提示。
優化成本效益和可訪問性
o1-mini 模型提供了一個更小、更便宜的版本，優化了速度和成本效益，這使得提示工程師可以在更廣泛的應用中使用高級推理能力，而不需要龐大的資源。
OpenAI o1 模型帶來提示工程的改變，有哪些操作技巧？
針對 OpenAI o1 模型帶給提示工程作業流程哪些變化，Forbes 報導整理以下 5 點小技巧
- 簡化提示： 由於 o1 模型已具備強大的推理能力，不需要過多引導或詳細指令，簡單的提示可以讓模型更好地理解和執行任務。
- 使用分隔符號： 使用三重引號（triple quotes）、XML 標籤、章節標題等分隔符，可以幫助模型更清楚地理解各個部分的內容和結構。
- 簡化 RAG 資訊檢索： 在使用「檢索增強生成」(RAG) 時，應該限制不必要的上下文訊息，若添加更多上下文或文字可能會使響應變得過於複雜。
- 注意可見和不可見的詞元： o1 的自動「思維鏈」會產生不可見的詞元，這些詞元會影響使用成本。
- o1 擅長特定領域： o1 模型在科學、數學和程式設計等領域表現出色，但在其他領域的表現可能不如預期。
OpenAI o1 模型將影響提示工程未來新方向？
OpenAI的 o1 模型透過「思維鏈」推理顯著提升了提示工程的效率與精度，也意味著提示工程不再僅僅追求大規模運算，而是更加注重理解和模擬人類的認知過程。同時，o1 模型能在專業領域優化，像是在醫療、法律領域中，可以根據具體需求進行提示工程的設計與調整，顯示這樣的專業化將讓模型在特定領域提供更準確且深度的支持。
不過，由於 o1 模型能夠進行深度思考與邏輯推理，也讓提示工程可以變得更加簡化，開發者不需要提供過多的思維鏈步驟或詳細指令，簡單的提示便能讓模型有效理解與執行任務。Forbes 報導作者預測 o1 模型的特性可能預示著未來生成式AI 發展的趨勢，其他生成式AI 應用程式也將採用類似的簡化提示工程機制，並且在人機協作方式上也會有根本的轉變，提示工程需要考慮如何設計出更自然且有效的人機互動介面，利用模型的推理能力來提升協作效率與用戶體驗。
立即諮詢 iKala Cloud，了解更多 AI 提示工程操作技巧
