AI Gateway:AI 治理的第一步

📅 活動時間:2026-10-15 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Title AI Gateway:AI 治理的第一步 Outline 當團隊開始使用多個 LLM provider 與模型,API Key、模型路由、成本控管、權限與 tracing 很快就會分散在各個應用程式中。AI Gateway 提供一個統一入口,讓團隊能集中管理模型存取與應用流量,也讓後續的觀測、評估與治理更容易落地。 本次分享將從實務問題出發,介紹 AI Gateway 的核心能力與導入方式,並討論它能解決什麼、不能解決什麼,以及如何與 observability、evaluation 和 AI application workflow 整合。 為什麼團隊需要 AI Gateway 統一模型存取、路由與 fallback API Key、權限與成本治理 串接 tracing、logging 與 LLM observability 以實務情境設計 AI Gateway workflow 導入限制、風險與後續演進 Target group 正在導入 LLM 或 AI application 的後端與平台工程師 負責 API、雲端基礎設施與開發維運的 DevOps / SRE 想建立模型治理、成本控管與 observability 的技術主管與架構師 主要收穫 你將能理解 AI Gateway 在 LLM application architecture 中的角色,掌握模型路由、權限、成本與 tracing 的基本設計,並具備評估團隊是否適合導入 AI Gateway 的實務判斷依據。 ...

September 15, 2026 · 1 min · 108 words · chechiachang

Observe and evaluate LLM Coding Agents

📅 活動時間:2026-08-09 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Title Observe and evaluate LLM Coding Agents Outline 在導入 LLM Coding Agent 到日常開發後,很多團隊會遇到問題:品質不穩、風險難估、模型升級缺少客觀依據。本分享會從實務流程出發,介紹如何觀測 Agent 行為、把評估流程自動化,並建立可持續迭代的 decision system。 為什麼 LLM Coding Agent 需要 O11y 與 Evaluation 從 trace 開始:觀測 agent 任務、工具調用與失敗模式 Observability != Decision System:看得到不代表能決策 LLM-as-a-judge 在 coding 任務中的價值與限制 從 daily coding logs 抽取 dataset 建立 regression evaluation pipeline 與 quality gate 用量化結果比較不同模型與 agent framework 把模型升級與框架切換變成可驗證工程流程 Demo & POC https://github.com/chechiachang/llm-o11y Trace and observe local coding agents Build coding-task evals with LLM-as-a-judge Extract datasets from real developer-agent interactions Run regression tests for model / framework change decisions Target group 正在導入 AI coding workflow 的工程團隊 關心品質、成本、延遲與回歸風險的 Tech Lead / SRE / Platform Team 已有 tracing / logging,但缺少可執行評估與 deployment gate 的團隊 Slides 完整投影片與講稿 Author Che-Chia Chang 是一名專注於後端開發、開發維運、容器化應用及 Kubernetes 開發與管理的技術專家,同時也是 Microsoft 最有價值專業人士(MVP)。 ...

June 8, 2026 · 2 min · 222 words · chechiachang

When Not to Vibe:從 Vibe Coding 到 Spec-driven AI Engineering 的轉折點

活動時間:2026-07-01 12:00-12:30 活動連結 聯繫我 Facebook 投影片 Title When Not to Vibe 從 Vibe Coding 到 Spec-driven AI Engineering Outline AI 讓「寫 code」變得容易,但實際在開發上,常見現象是一開始很順、越做越亂,LLM 逐步偏離設計,context 越長結果反而越不準。這不是 prompt 不夠強或模型不夠大,而是 LLM 本質上不擅長長時間、持續演進的任務。vibe coding 適合快速探索小範圍任務與短期 context,但長任務會走向失焦(loss of alignment);context window 也不是越大越好,資訊堆疊會造成 attention 稀釋,且 LLM 沒有真正長期記憶。 這場分享現實:AI 讓寫 code 變快,卻不保證長時間任務不失焦;為何 vibe coding 會在 context 拉長後 drift。並以 SpecKit 補上的結構化上下文價值、並了解其代價,以及從 spec-driven 走向 agent-driven 的實務經驗。 從 Vibe 出發:為何 LLM 在長時間任務中逐漸失焦 LLM 原理:Context 不斷堆疊,為何反而降低準確性 SpecKit 的價值:從 Prompt Chaos 到 Structured Spec 作為 Source of Truth 現實限制:Spec Tax、Drift,以及無法解決的痛點 SDD(Spec-driven Development)適用場景:PoC、Greenfield 等 從 Spec-driven 到 Agent-driven:Speckit 作為過渡形態 你將能清楚辨識 vibe coding 的有效範圍與失效訊號、理解 LLM 在長上下文下準確率下降的原因、評估 SpecKit 在實務上的收益與成本,並帶走一套可用於 PoC、Greenfield 與複雜系統規劃的導入與決策視角。 ...

May 3, 2026 · 1 min · 197 words · chechiachang

Workshop: Spec-driven development with Spec-kit

📅 活動時間:2026-07-02 09:00-10:30 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Workshop Spec-kit 規格導向開發實作 Outline 使用 AI agent 進行規格導向開發(Spec-driven development, SDD)已成為現代軟體開發的重要趨勢。SDD 強調在開發過程中以明確的規格作為指導,從而提高開發效率和產品質量。在這場工作坊中,我們將深入探討 SDD 的核心概念,並通過實際操作 Spec-kit 來學習如何撰寫可執行的規格、利用範本和自動化腳本,以及將這些規格整合到日常的開發流程中。參與者將獲得制定策略、建立規格以及使用 Spec-kit 加速開發和驗證的實用技能。 這場工作坊將帶領大家從 SDD 的核心概念出發,藉由 Spec-kit 的實作示範,學習如何撰寫具有可執行性的規格、善用範本與自動化腳本,以及將這些規格系統整合到日常工作流程。 課程結束後,你能掌握制定策略、建立規格、以及利用 Spec-kit 加快開發與驗證的思路。 大綱 SDD 的核心概念與實踐流程 挑選適合的場景與任務,制定 SDD 策略 使用 Spec-kit 撰寫可執行規格 為何會有幫助:避免 Spec drift 多數團隊導入 AI 寫程式後,常見痛點是需求、規格、實作與測試不同步,最後演變成 Spec drift,導致返工與品質不穩定。 本次工作坊聚焦如何用 Spec-kit / SDD 建立「規格先行、可執行驗證、持續對齊」的流程,讓 AI 與工程團隊使用同一份契約協作。 你會看到一套可直接落地的做法:從需求釐清、規格撰寫、實作到驗證,縮短溝通迴圈、降低偏移風險,並提升交付一致性與可維護性。 Target group 本次工作坊提供可遠端連線的 Azure OpenAI 模型環境,請先準備筆電並安裝好 VS Code 與 Vs Code Codex Extension,並參考以下資源完成相關設定: ...

May 1, 2026 · 2 min · 222 words · chechiachang

DevOpsDay: 規格驅動的 AI 強化 DevOps

📅 活動時間:2026-06-26T17:00-17:40 🔗 活動連結 📘 聯繫我 Facebook 📑 投影片 Title 規格驅動的 AI 強化 DevOps 平台工程 AI-powered Spec-driven DevOps Platform Engineering Outline 現代 DevOps 的守備範圍日益擴張,從開發、測試、部署到維運、安全與合規,工作內容愈發碎片化且分散。團隊不僅要處理高度例行且需精確執行的任務,還要面對跨團隊協作與流程整合的複雜度。 在 DevOps 日常運作中,存在大量適合導入 Spec-driven development(SDD)的場景,特別是需求明確、重複性高且風險較低的任務。透過可執行規格結合 AI 自動化,可提升效率並降低人為失誤。 本次演講將分享如何結合 AI 與 SDD,自建自動化系統,處理低磨合、低風險的日常事務,讓工程人力回歸高價值工作。 Spec-kit 設計:以 spec 作為 single source of truth,串接需求、驗收與交付 規格:goal、constraints、acceptance criteria、checks 適合先導入的場景:SOP、Runbook、高耗時例行工作 將規格接入 CI/CD 與監控流程,形成可驗證回饋循環 Target group DevOps / SRE / Platform 工程師 需要維護大量 SOP 與 Runbook 的團隊 想導入 AI 自動化且重視治理、品質與風險控制的技術主管 主要收穫 理解如何判斷哪些 DevOps 任務適合以 SDD 優先導入 學會使用 Spec-kit 撰寫與管理可執行規格 建立從規格到交付、驗證與回饋的實務流程 以實務案例理解導入過程中的風險邊界與常見踩雷點 References https://github.blog/ai-and-ml/generative-ai/spec-driven-development-with-ai-get-started-with-a-new-open-source-toolkit/ https://github.com/github/spec-kit/blob/main/spec-driven.md Slides 完整投影片與講稿 Author Che-Chia Chang 是一名專注於後端開發、開發維運、容器化應用及 Kubernetes 開發與管理的技術專家,同時也是 Microsoft 最有價值專業人士(MVP)。 ...

April 25, 2026 · 1 min · 185 words · chechiachang