Agenda

議程資訊
DEC.

開幕致詞

午休時間

講者照片下一位講者照片
講者介紹

Mike Hsu

OpenNet / DevOps

DevOps 工程師,專注於打造穩定且易於理解的系統運維與可觀測性方案。深耕 Kubernetes 與雲原生生態,長期以 Grafana 為核心建置全方位可觀測平台,協助團隊快速定位與解決系統瓶頸。近年跨足 AI 可觀測性與系統架構設計,探索如何結合 AI 技術提升可觀測性與 LLM 應用體驗。平時熱衷整理與分享技術心得,持續在學習新知與動手實踐中找到最佳平衡。

  • Facebook
議程介紹

初探 LLM 可觀測性:打造可持續擴展的 AI 系統

F 棟

這場分享源自我在 Grafana Assistant 項目中的實踐與觀察。最初只是想優化 Grafana 的使用體驗,但隨著深入 LLM 領域,我開始意識到 AI 系統的可觀測性需求截然不同於傳統應用。以往的可觀測性 1.0 和 2.0 主要聚焦在基礎設施、微服務與指標上,而在 LLM 的世界,核心關注的是模型本身、提示設計、評測迭代及使用者互動。這場分享將從理論、實踐、生態系統以及架構設計多角度切入,解構如何打造一個可持續擴展的 AI 可觀測體系。期待與你一起探索傳統可觀測性與 LLM 應用交匯處的火花。

Backend
DevOps
AI

目標受眾

關注雲原生、Kubernetes、可觀測性以及人工智慧應用的工程師與架構師,尤其是正在探索或實踐 LLM 和 AI 系統可觀測性的技術領導者、DevOps 工程師、SRE 以及研發團隊成員。無論是正在規劃可擴展 AI 平台,還是希望提升系統觀測能力與運維效率的實踐者,都能從中獲得理論與實務的啟發。

預期收穫

  1. 了解如何設計具擴展性的 AI 系統觀測架構
  2. 探索將傳統可觀測性技術融入 AI/LLM 系統
  3. 學習跨足到 AI 可觀測性的實務經驗與架構設計
  4. 激盪新思維,提升系統可靠性與運維效率