Workshop: LLM O11y 從 Observability 到 Decision System

📅 活動時間:2026-07-02 13:30-15:00 🔗 活動連結 📑 投影片 📘 Workshop Repo chechiachang/llm-o11y Workshop Overview 這是一場 hands-on workshop,目標是把 LLM 應用從「可觀測」推進到「可評估、可決策」。 你會在自己的電腦上直接跑完整流程,從 tracing 到 evaluation,再到 workflow 落地。 Agenda Docker Compose 在 localhost 啟動 Bifrost 與 Langfuse 串接 LLM AI Gateway 與 Langfuse tracing 建立 evaluation 與 LLM-as-a-judge 從實務觀測資料抽取 dataset 串成可重現的開發 workflow What You Will Build 本地可執行的 observability stack(Bifrost + Langfuse) 一條可重跑的 evaluation pipeline 可持續擴充的 dataset 與 regression 基礎 能用於模型/框架決策的 workflow Prerequisites 自備筆電(must bring your own PC) 可連外網路(stable network required) 可使用 Docker / Docker Compose 可使用 Git 與 terminal Workshop Resources Azure OpenAI models will be provided by the workshop. Target Audience 正在導入或維運 LLM / Agent 系統的工程團隊 想建立 tracing + evaluation + decision flow 的 Tech Lead / SRE / Platform Team 想把 PoC 推進到可持續工作流的開發者

May 2, 2026 · 1 min · 121 words · chechiachang

Workshop: Spec-driven development with Spec-kit

📅 活動時間:2026-07-02 09:00-10:30 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Workshop Spec-kit 規格導向開發實作 Outline 使用 AI agent 進行規格導向開發(Spec-driven development, SDD)已成為現代軟體開發的重要趨勢。SDD 強調在開發過程中以明確的規格作為指導,從而提高開發效率和產品質量。在這場工作坊中,我們將深入探討 SDD 的核心概念,並通過實際操作 Spec-kit 來學習如何撰寫可執行的規格、利用範本和自動化腳本,以及將這些規格整合到日常的開發流程中。參與者將獲得制定策略、建立規格以及使用 Spec-kit 加速開發和驗證的實用技能。 這場工作坊將帶領大家從 SDD 的核心概念出發,藉由 Spec-kit 的實作示範,學習如何撰寫具有可執行性的規格、善用範本與自動化腳本,以及將這些規格系統整合到日常工作流程。 課程結束後,你能掌握制定策略、建立規格、以及利用 Spec-kit 加快開發與驗證的思路。 大綱 SDD 的核心概念與實踐流程 挑選適合的場景與任務,制定 SDD 策略 使用 Spec-kit 撰寫可執行規格 為何會有幫助:避免 Spec drift 多數團隊導入 AI 寫程式後,常見痛點是需求、規格、實作與測試不同步,最後演變成 Spec drift,導致返工與品質不穩定。 本次工作坊聚焦如何用 Spec-kit / SDD 建立「規格先行、可執行驗證、持續對齊」的流程,讓 AI 與工程團隊使用同一份契約協作。 你會看到一套可直接落地的做法:從需求釐清、規格撰寫、實作到驗證,縮短溝通迴圈、降低偏移風險,並提升交付一致性與可維護性。 Target group 本次工作坊提供可遠端連線的 Azure OpenAI 模型環境,請先準備筆電並安裝好 VS Code 與 Vs Code Codex Extension,並參考以下資源完成相關設定: ...

May 1, 2026 · 2 min · 222 words · chechiachang

K8s Summit 2025: Workshop: Get started with Etcd & Kubernetes

📅 活動時間:2025-10-22T10:30-12:00 (603+604) 📅 活動時間:2025-10-23T15:30-17:00 (603+604) 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 ❗Etcd workshop 行前準備❗ 本次工作坊有行前準備,請在活動日前完成上方投影片中的行前準備。 工作坊場次 2025-10-22T10:30-12:00 (603+604) 2025-10-23T15:30-17:00 (603+604) Workshop Workshop: Get started with Etcd & Kubernetes / 手把手搭建 Etcd 與 K8s Components Outline Etcd 是 Kubernetes 的重要元件之一,本次工作坊將帶領觀眾初探 Etcd,包含安裝,設定,以及操作。並藉由本地的 Etcd 來架設一個最簡單的 Kubernetes Cluster。讓參與者透過本次工作坊,可以有操作 k8s control plane 的經驗,更了解 Etcd 的基本操作,以及了解 Kubernetes 的基本架構。 預計內容: docker 啟動 etcd etcdctl 存取 etcd docker 啟動 etcd cluster docker 啟動 k8s control plane kubectl 存取 k8s control plane 維運 k8s 所需的 etcd operation (規劃中)本次工作坊會提供參與者一個簡單的環境,讓參與者可以透過遠端操作來了解 Etcd 的基本操作。參與者必備個人筆電,透過 SSH 操控遠端機器。 ...

October 1, 2025 · 1 min · 206 words · chechiachang

Cloud Summit 2025: 用 RAG 打造企業可對話 AI 知識庫《有問題問過 AI 後再來問我》

📅 活動時間: 2025-07-03T12:45:00Z 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Info 開發團隊需要將經驗與知識,透過文件化的方式保存下來,以便未來查詢與學習。然而,企業內部文件往往分散於 Confluence、Google Drive、Notion 等平台,傳統關鍵字搜尋難以快速獲取準確資訊,導致溝通成本高、開發流程受阻。又或是,當開發團隊需要查詢特定知識時,往往需要透過 Slack、Email 等方式詢問同事,這樣的溝通成本不僅浪費時間,也容易造成資訊不對稱。 本演講將介紹如何運用 RAG(Retrieval-Augmented Generation)技術,結合 OpenAI 及向量數據庫,將企業內部文檔轉為智能知識庫。 我們將探討文件解析、嵌入索引、AI 問答系統的技術架構與實作,幫助開發團隊構建高效 AI 助手,節省溝通成本,加速開發流程,提升決策與問題解決能力。 大綱: 為什麼企業知識管理難? 文件分散(Confluence、Google Drive、Notion、SharePoint) 搜索體驗不佳,開發者找不到關鍵資訊 知識難以沉澱,員工流失即知識流失 RAG 如何解決這些問題? 透過檢索增強生成(Retrieval-Augmented Generation)提升答案準確性 把內部文件轉為可查詢的知識庫 讓 AI 提供具體、準確、即時的回覆 技術架構與實作指南 文件解析與嵌入(HTML、Markdown、Confluence API) 使用向量數據庫實現高效檢索 OpenAI API + LangChain 打造智能問答系統 案例分享與落地經驗 Target group Author Che-Chia Chang 是一名專注於後端開發、開發維運、容器化應用及 Kubernetes 開發與管理的技術專家,同時也是 Microsoft 最有價值專業人士(MVP)。 活躍於台灣技術社群,經常在 CNTUG、DevOps Taipei、GDG Taipei、Golang Taipei Meetup 等社群分享 DevOps、SRE、Kubernetes 及雲端運算相關技術。致力於推動開發與維運的最佳實踐,並熱衷於研究與應用最新的雲端與 AI 技術。 個人部落格:https://chechia.net Che-Chia Chang is a technology expert specializing in backend development, DevOps, site reliability engineering (SRE), containerized applications, and Kubernetes development and management. He is also recognized as a Microsoft Most Valuable Professional (MVP). ...

June 9, 2025 · 1 min · 156 words · chechiachang

Workshop: DevOpsDay 2025: RAG打造企業AI知識庫:把一甲子功力傳給新人

📅 活動時間: 2025-06-05T12:45:00Z 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 RAG workshop 行前通知 本次 workshop 以 hands-on 的方式進行,累積操作經驗為主,講解與說明為輔。觀念內容有準備教材,需要參與者自行閱讀。講師會免費提供 Azure OpenAI models API key (gpt-4.1, gpt-4.1-mini, text-embedding-3, text-embedding-ada-002…) Azure VM 供同學遠端操作使用 –> 投影片與教材 <– Workshop 基本需求 有自己的電腦,可以上網 選項1: 使用自己的電腦,在 docker 啟動開發環境 選項2: 使用自己的電腦,遠端連線講師提供的 VM,在VM 中啟動 docker 開發環境 會使用 docker 會使用 python 與 jupyter notebook 會使用 chatgpt.com 協助除錯 選項1: 使用自己的電腦 在 workshop 開始前,在自己的電腦上 安裝 docker git clone github repository 啟動 docker 開發環境,下載 docker images 開啟瀏覽器,連線到 Jupyter Notebook,token workshop1234! 在 Jupyter Notebook 中,安裝所需的 Python 套件 git clone https://github.com/chechiachang/rag-workshop.git cd rag-workshop docker compose up -d docker exec -it notebook pip install pandas openai qdrant_client tqdm tenacity wget tenacity unstructured markdown ragas sacrebleu langchain_qdrant langchain-openai langchain_openai langchain_community tiktoken 選項2: 使用遠端 VM 建議使用個人電腦,畢竟免費 VM 名額現場有限 需要有自己的電腦,有穩定的網路,可以連線到遠端 VM 需要註冊 tunnel 工具(沒有業配)ngrok 登入 Login -> 左手邊 Identity & Access -> Authtokens -> Add Tunnel authtoken -> 記在安全的地方 也可以使用 pinggy,但免費有限時 投影片與教材會放在網站上 ../../slides/2025-06-05-devops-rag-internal-ai/ ...

June 5, 2025 · 2 min · 338 words · chechiachang