1 / 8

本院內網 AI 部署提案

院內自主 AI:
在保護病人隱私下
進行專屬研究與教學

在院內網路自建開源 AI,資料不出院區;以 Agent 深度研究流程,放大臨床、研究與教學的能量。

Gemma 4 文字 FLUX 影像 Kokoro 語音 Agent 深度研究
院內 AI 受保護示意
本簡報插圖由 AI 影像生成模型製作

Why · 為什麼自建

為什麼要「自建內網 AI」

  • 病人資料不出院區:所有推理在院內 GPU 完成,不上傳任何雲端、不出國境。
  • 選用非中國開源模型:權重開放、可在地部署、可稽核,避免資料主權與法遵疑慮。
  • 開源=可控:權重握在自己手裡,沒有 API 斷線、漲價或政策風險。
  • 一次建置、全院共用:研究、教學、臨床輔助共用同一套在地模型。
院內資料受保護於玻璃罩中

The Stack · 三大開源模型

涵蓋 文字 · 影像 · 語音 的開源組合

Gemma 4 · 26B (A4B)

文字大型語言模型 · Google 開源
  • 26B 總參數、僅啟用約 4B(高效推理,單機 GPU 可跑)
  • 多語含繁中:病歷摘要、問答、教材生成
  • 擔任 Agent 的推理核心

FLUX

影像生成 · Black Forest Labs(德國)
  • 教學插圖、衛教圖卡、簡報配圖
  • 生成「合成、去識別化」醫學示意影像
  • 開放權重,可在院內離線運行

Kokoro

語音合成 TTS · 開源輕量(約 82M)
  • 衛教語音、教材旁白
  • 聽覺無障礙、低資源即可運行
  • 可完全離線,反應快速

Architecture · 部署架構

內網部署架構:資料不外流

院區網路邊界 · 對外 0 連線 院內使用者 臨床 · 研究 · 教學 Agent 工作流程 自動化深度研究 推理閘道 權限 · 配額 稽核紀錄 院內 GPU 伺服器 Gemma 4 · 文字 FLUX · 影像 Kokoro · 語音

所有元件位於院內網路;資料僅在院區內流動,對外不發出任何連線。

Agent Workflow · 深度研究流程

Agent 深度研究流程

1 提出研究問題 2 規劃子問題 3 檢索院內 文獻/資料 4 多輪閱讀 與分析 5 交叉比對 綜整 6 產出報告 含可回溯引用 反覆深化

全程於院內執行;引用可回溯、過程可稽核,研究結論站得住腳。

Privacy & Security · 隱私資安

隱私與資安保障

  • 資料不出院:推理在地完成,無任何外部 API 呼叫。
  • 去識別化優先:輸入前移除可識別資訊(PHI)。
  • 開源可審查:模型權重與行為可被檢視、可重現。
  • 權限與配額:依使用者/用途控管,逐筆留存使用紀錄。
  • 全程可稽核:每次查詢與輸出皆可追溯,符合醫療治理要求。
資料受保護於院內

Applications · 研究與教學

研究與教學應用

研究

  • 文獻快速回顧與摘要
  • 院內資料整理與假說探索
  • 研究問答助手(Agent 深度檢索)

教學

  • 個案教材與情境題自動生成
  • 衛教圖卡(FLUX)+ 語音教材(Kokoro)
  • 互動問答、隨堂測驗與無障礙教材

Roadmap · 導入藍圖

分階段穩健導入

1

概念驗證 POC

單機 GPU,先跑 1–2 個模型驗證可行性。

2

試點科部

蒐集回饋,建立去識別化與治理規範。

3

全院推廣

配額、權限、稽核到位,全院共用。

4

持續優化

在地微調、導入新開源模型。

不犧牲病人隱私的前提下,讓全院都能用上 AI 的研究與教學能力。