Cloud Summit 2025: 用 RAG 打造企業可對話 AI 知識庫《有問題問過 AI 後再來問我》

活動時間: 2025-07-03T12:45:00Z 活動連結 Facebook Twitter 投影片 WIP Info 開發團隊需要將經驗與知識,透過文件化的方式保存下來,以便未來查詢與學習。然而,企業內部文件往往分散於 Confluence、Google Drive、Notion 等平台,傳統關鍵字搜尋難以快速獲取準確資訊,導致溝通成本高、開發流程受阻。又或是,當開發團隊需要查詢特定知識時,往往需要透過 Slack、Email 等方式詢問同事,這樣的溝通成本不僅浪費時間,也容易造成資訊不對稱。 本演講將介紹如何運用 RAG(Retrieval-Augmented Generation)技術,結合 OpenAI 及向量數據庫,將企業內部文檔轉為智能知識庫。 我們將探討文件解析、嵌入索引、AI 問答系統的技術架構與實作,幫助開發團隊構建高效 AI 助手,節省溝通成本,加速開發流程,提升決策與問題解決能力。 大綱: 為什麼企業知識管理難? 文件分散(Confluence、Google Drive、Notion、SharePoint) 搜索體驗不佳,開發者找不到關鍵資訊 知識難以沉澱,員工流失即知識流失 RAG 如何解決這些問題? 透過檢索增強生成(Retrieval-Augmented Generation)提升答案準確性 把內部文件轉為可查詢的知識庫 讓 AI 提供具體、準確、即時的回覆 技術架構與實作指南 文件解析與嵌入(HTML、Markdown、Confluence API) 使用向量數據庫實現高效檢索 OpenAI API + LangChain 打造智能問答系統 案例分享與落地經驗 Target group Author Che-Chia Chang 是一名專注於後端開發、開發維運、容器化應用及 Kubernetes 開發與管理的技術專家,同時也是 Microsoft 最有價值專業人士(MVP)。 活躍於台灣技術社群,經常在 CNTUG、DevOps Taipei、GDG Taipei、Golang Taipei Meetup 等社群分享 DevOps、SRE、Kubernetes 及雲端運算相關技術。致力於推動開發與維運的最佳實踐,並熱衷於研究與應用最新的雲端與 AI 技術。 個人部落格:https://chechia.net Che-Chia Chang is a technology expert specializing in backend development, DevOps, site reliability engineering (SRE), containerized applications, and Kubernetes development and management. He is also recognized as a Microsoft Most Valuable Professional (MVP). ...

June 9, 2025 · 1 min · 206 words · chechiachang

Workshop: DevOpsDay 2025: RAG打造企業AI知識庫:把一甲子功力傳給新人

活動時間: 2025-06-05T12:45:00Z 活動連結 Facebook Twitter 投影片 RAG workshop 行前通知 本次 workshop 以 hands-on 的方式進行,累積操作經驗為主,講解與說明為輔。觀念內容有準備教材,需要參與者自行閱讀。講師會免費提供 Azure OpenAI models API key (gpt-4.1, gpt-4.1-mini, text-embedding-3, text-embedding-ada-002…) Azure VM 供同學遠端操作使用 –> 投影片與教材 <– Workshop 基本需求 有自己的電腦,可以上網 選項1: 使用自己的電腦,在 docker 啟動開發環境 選項2: 使用自己的電腦,遠端連線講師提供的 VM,在VM 中啟動 docker 開發環境 會使用 docker 會使用 python 與 jupyter notebook 會使用 chatgpt.com 協助除錯 選項1: 使用自己的電腦 在 workshop 開始前,在自己的電腦上 安裝 docker git clone github repository 啟動 docker 開發環境,下載 docker images 開啟瀏覽器,連線到 Jupyter Notebook,token workshop1234! 在 Jupyter Notebook 中,安裝所需的 Python 套件 git clone https://github.com/chechiachang/rag-workshop.git cd rag-workshop docker compose up -d docker exec -it notebook pip install pandas openai qdrant_client tqdm tenacity wget tenacity unstructured markdown ragas sacrebleu langchain_qdrant langchain-openai langchain_openai langchain_community tiktoken 選項2: 使用遠端 VM 建議使用個人電腦,畢竟免費 VM 名額現場有限 需要有自己的電腦,有穩定的網路,可以連線到遠端 VM 需要註冊 tunnel 工具(沒有業配)ngrok 登入 Login -> 左手邊 Identity & Access -> Authtokens -> Add Tunnel authtoken -> 記在安全的地方 也可以使用 pinggy,但免費有限時 投影片與教材會放在網站上 https://chechia.net/zh-hant/slides/2025-06-05-devops-rag-internal-ai/ ...

June 5, 2025 · 2 min · 387 words · chechiachang

Kubernetes Summit: Upgrade A VM Based Cluster

活動時間: 2023-10-25T13:20:00Z 活動連結 Facebook Twitter 投影片 Presentation Upgrade A VM Based Clustermin Target group 收穫 本次演講會講解升級操作,但不侷限在具體步驟,而是希望能講解更多 k8s 架構與設計,讓觀眾有以下收穫:如何升級 Kubernetes Cluster 的版本,升級時應考量的事項有哪些,有什麼工具可以協助升級流程,透過升級更了解 Kubernetes 的架構 Author Che-Chia Chang,專長的領域是後端開發,開發維運,容器化應用,以及Kubernetes開發管理。 Microsoft 最有價值從業人員 MVP。 目前為 Golang Taiwan Meetup Organizer,常出現於 CNTUG,DevOps Taipei,GDG Taipei, Golang Taipei Meetup。 Che-Chia Chang, an SRE specialize in container and Kubernetes operation. An active member of CNTUG, DevOps Taipei, GDS Taipei, Golang Taiwan Meetup. Microsoft Most Valuable Professional since 2020. https://chechia.net 2024 Cloud Summit 2024 SRE Conference 2023 DevOpsDay Taipei 2023 Kubernetes Summit 2022 COSCUP 2022 Cloud Summit 2021 Cloud Summit 2020 DevOps Taiwan Meetup #26 - 從零開始導入 Terraform 2020 Cloud Native Taiwan 年末聚會 2020 Cloud Summit 2019 Cloud Summit 2018 Cloud Summit 2018 Kubernetes Summit

October 23, 2024 · 1 min · 114 words · chechiachang

Workshop: Kubernetes Summit: Get started with Etcd & Kubernetes

活動時間: 2024-10-23T13:20:00Z 活動連結 Facebook Twitter 投影片 工作坊內容 兩個場次 2024-10-23T13:20-14:50 @ 603+604 2024-10-24T13:20-14:50 @ 605 Get Started 請點擊本頁上方投影片連結 Git clone 本次 workshop 資源 https://github.com/chechiachang/etcd-playground 活動當天現場,會提供一台 Linux VM 做使用 Workshop Get started with Etcd & Kubernetes / 手把手搭建 Etcd 與 K8s Outline Etcd 是 Kubernetes 的重要元件之一,本次工作坊將帶領觀眾初探 Etcd,包含安裝,設定,以及操作。並藉由本地的 Etcd 來架設一個最簡單的 Kubernetes Cluster。 預計內容:環境設定,Etcd 設定與部署,Etcd 基礎操作,部署 kube-apiserver / kube-controller-manager / kube-scheduler,使用 kubectl 操作 Kubernetes Cluster。讓參與者透過本次工作坊,可以有操作 k8s control plane 的經驗,更了解 Etcd 的基本操作,以及了解 Kubernetes 的基本架構。 (規劃中)本次工作坊會提供參與者一個簡單的環境,讓參與者可以透過遠端操作來了解 Etcd 的基本操作。參與者必備個人筆電,透過 SSH 操控遠端機器。 ...

October 23, 2024 · 1 min · 178 words · chechiachang

Hashicorp: managed database credentials with Hashicorp Vault

活動時間: 2024-08-28T11:00:00Z 活動連結 Facebook Twitter 投影片 Info 資料庫管理是一個很大的議題:如何管理資料庫的帳號密碼,如何精確的用戶設定權限,傳遞密碼給用戶,並自動化定期更新密碼。本場演講將分享如何使用 Hashicorp Vault 管理資料庫的帳號密碼,並透過 AWS IAM Role 與 Kubernetes Service Account 進行驗證,如何安全的傳遞密碼,並安全地連線到資料庫 涵蓋以下內容: database 帳號密碼管理的難題 簡介 Vault 與 database secret engine 在 vault 中設定 database secret engine vault 在需要時自動產生資料庫帳號密碼 vault 透過安全來源認證 app 身份(使用 k8s service account 與 public cloud 認證(aws iam role)) 完成 app 連線至 database 的工作週期 monitoring / audit:vault audit log + prometheus / grafana dashboard / alert manager 範例:如何使用 terraform 設定 vault 與 database secret engine Target group 有資料庫管理需求的工程師,想要學習如何使用 Hashicorp Vault 管理資料庫的帳號密碼,並透過 AWS IAM Role 與 Kubernetes Service Account 進行驗證,如何安全的傳遞密碼,並安全地連線到資料庫。 ...

August 28, 2024 · 1 min · 180 words · chechiachang