LLM 應用開發工作坊
LLM 開發入門: 課前準備
📋 課前準備清單
在上課前，您需要:
- 知道且用過 ChatGPT
- 取得 OpenAI API Key
- 開通 Google Colab
- 開通 Google AI Studio optional
- 開通 Anthropic Console optional
1️⃣ 註冊 ChatGPT 和 Claude App
### ChatGPT
若您還不了解或沒有用過 ChatGPT，請先去註冊玩一玩
**免費註冊**就可以使用，若付費 (每月 $20) 則可以使用更厲害的模型
chatgpt.com
### Anthropic Claude
Claude 是另一家也是很厲害的模型，特別是 **Coding 能力**
claude.ai
2️⃣ 推薦入門學習影片
### 生成式人工智慧概述
18 分鐘的精美插圖動畫講解，看完能對 Generative AI 有基本大局觀
如何在人工智慧時代生存與發展 (18 min)
### 80 分鐘快速了解大型語言模型
台大**李宏毅教授**是台灣教 LLM 理論最有名的老師，若你有一小時空檔，推薦一看
80 分鐘快速了解大型語言模型 (1.5 hr)
2️⃣ 大神 Andrej Karpathy 的影片
Andrej Karpathy 是前 OpenAI 共同創辦人、前特斯拉人工智慧總監。如果你時間夠多，推薦一看。
3️⃣ 取得 OpenAI API Key
前往 OpenAI Platform: platform.openai.com，這是 OpenAI 給開發者的後台
- 和 ChatGPT 應該是同一個帳號密碼登入
- 付費方案和 ChatGPT 是分開的，分開綁信用卡，OpenAI API 是根據 API 用量付費
### 拿 API Key 並儲值
建議買點數儲值**至少 USD $5**，才可以得到更多模型使用權限
💡 若無信用卡也沒關係，課堂內會提供一組 API Key 讓你可以當天練習使用
4️⃣ 開通 Google AI Studio optional
課程中只有一個範例有用到 Gemini API，若對 Gemini 有興趣也可以開通
- 前往 ai.google.dev，這是 Google 給開發者的後台
- 取得 Gemini API Key
- 可試玩 Playground
5️⃣ 開通 Anthropic Console optional
前往 console.anthropic.com 註冊登入
這是 Anthropic 給開發者的後台，我們會用到他的 Generate a prompt 功能
6️⃣ 熟悉 Google Colab 環境
Google Colab 是一個線上的 Python 執行環境，完全免費
📅 課程預告: 三天課程內容
### Prompt Engineering
- OpenAI API
- Multi-Model
- Prompt Design
- Reasoning Model
- Prompt Evaluation
- Chaining Prompts (Agentic Workflow)
- LLM Ecosystem
- LLM Security
### 工具串接和 RAG
- Embeddings
- RAG
- Advanced RAG
- Hybrid Search
- Reranker
- RAG Evaluation
### Agents
- Function Calling 和 Agent
- Conversational Agent
- Responses API
- Multi-Agent Patterns
- Context Engineering
### 進階主題
- Model Context Protocol (MCP)
- Agent Skills
- Sandbox, Code Interpreter, Programmatic Tool Calling
- Agent Evaluation
- Prompt Caching 和 TTFT
- Harness Engineering
準備完成，課堂見！🎉
期待與你一起學習 LLM 應用開發