Context(情境)
技術研討會(如 Google I/O、Google Next、QCon)場次多、逐字稿與簡報分散,團隊需在短時間內掌握重點、分類與趨勢。情境需要將逐字稿、簡報與爬蟲取得的網頁內容轉為可查詢的結構化資料與可分享的報告。
Challenge(痛點)
- 手動整理多場演講重點耗時數天,且難以維持一致格式與分類。
- 逐字稿、簡報、議程網頁來源不一,需統一抽取與儲存後再交給 AI 摘要。
- 產出需兼顧人類閱讀(Markdown / HTML 報告)與後續查詢(BigQuery、儀表板)。
Solution(架構+做法)
TrendScope 是一套專為技術研討會與大型活動設計的會議趨勢分析平台。它能批次處理逐字稿、簡報與爬蟲取得的網頁內容,透過 Google Gemini 產生結構化摘要,並將結果寫入 BigQuery,再由後端 API 與前端介面生成 Markdown / HTML 報告。
功能重點
- 批次處理與 AI 摘要 — 以腳本批次讀取會議逐字稿與簡報內容,呼叫 Gemini API 產生多層級摘要(場次摘要、主題分類、整體趨勢)。
- 主題與類別整理 — 依技術主題(例如 LLM、MCP、MLOps、Data)整理場次內容,產生可瀏覽的分類頁面。
- Web 爬蟲整合 — 內建多個研討會網站爬蟲模組,統一抽取議程資訊與描述文字,寫入 BigQuery 後再交由 AI 整理。
- BigQuery 數據管理 — 以 BigQuery 作為會議資料中樞,方便查詢場次、講者與主題統計,支援後續儀表板或 BI 報表整合。
- 報告自動生成 — 由腳本與 FastAPI 後端自動生成 Markdown / HTML 報告,包括首頁總覽、類別頁與場次細節,對應到 GitHub Pages 示範網站。
架構與模組
專案核心結構如下(節錄):
TrendScope/
├── base/ # 後端 API 與核心模組
│ ├── api/ # FastAPI 應用與路由
│ ├── bigquery/ # BigQuery 客戶端與模式定義
│ ├── scrapers/ # 研討會爬蟲與解析器
│ ├── gcs/ # Google Cloud Storage 相關工具
│ └── utils/ # 共用工具(記錄、錯誤處理等)
├── config/ # 設定與 Pydantic-based 設定管理
├── scripts/ # 批次處理腳本(摘要、類別頁、首頁等)
├── frontend/ # React 前端(報告瀏覽介面)
└── data/output/logs # 輸入資料、輸出報告與記錄
- FastAPI Backend — 提供 PPT/PDF 上傳、爬蟲管理、BigQuery 查詢與報告生成 API,並有
/docsSwagger 文件與健康檢查端點。 - Gemini Summary Pipeline — 由
01_batch_summarize_process.py等腳本觸發,將原始文字轉為結構化摘要,並寫入 BigQuery 或輸出為 Markdown。 - Scraper 模組 — 對不同研討會網站實作 parser 與抽取邏輯,統一輸出為標準 schema,便於後續處理。
介面與操作流程
以下截圖示範 TrendScope 的端到端操作流程(來自示範站 poirotw66.github.io/TrendScope/)。
1. 首頁儀表板
集中入口,可快速瀏覽目前支援的研討會、報告入口與處理狀態。

2. BigQuery 與資料設定
顯示與設定 BigQuery 專案、資料集與表格,並可檢視原始與處理後的會議資料,作為之後報告生成的來源。

3. PPT / PDF 上傳與處理
上傳會議簡報(PPT/PDF),啟動 Gemini 摘要流程,將簡報內容轉為可搜尋與可分析的文字與摘要資料。

4. 批次報告生成頁面
設定要處理的研討會、資料來源與輸出路徑,一鍵觸發批次報告生成,產出多份 Markdown / HTML 報告。

5. 產生的報告檢視
瀏覽已產生的 Markdown / HTML 報告,包含議程列表、每場摘要與整體趨勢分析,可直接發佈到 GitHub Pages 或內部入口。

6. 爬蟲管理
集中管理與啟動爬蟲任務,包含選擇研討會來源、是否使用 Headless 模式等,並將結果寫入 BigQuery 或輸出至檔案。

Impact(量化成效)
- 流程轉換:手動整理會議重點由數天縮短為一鍵產出結構化報告(逐字稿/簡報 → Gemini 摘要 → BigQuery → Markdown / HTML)。
- 資料層:BigQuery 作為單一資料中樞,支援場次、講者、主題查詢與後續儀表板/BI。
- 報告產出:首頁總覽、類別頁與場次細節可自動生成並發佈至 GitHub Pages 或內部入口。
Extension(可延伸方向)
- 串接更多研討會爬蟲與議程來源,擴大覆蓋場次。
- 將摘要結果作為 RAG 知識庫,支援「問這場會議講了什麼」的問答。
- 產出趨勢圖表與關鍵字雲,供決策或對外分享使用。