為什麼要「自建內網 AI」？
1
病人資料不出院區
所有推理在院內 GPU 完成，不上傳雲端，也不把敏感資料送出國境。
2
非中國開源模型
權重開放、可在地部署、可稽核，降低資料主權、供應鏈與法遵疑慮。
3
一次建置，全院共用
研究、教學、臨床輔助與行政任務共用同一套受控的在地模型服務。
目標不是再買一個聊天機器人，而是把 AI 變成院內可治理、可審計、可持續擴充的基礎服務。
本院內網 AI 部署提案
院內自主 AI：基於 GB10 的研究與教學平台
在院內網路自建開源 AI，資料不出院區；以 Gemma 4 26B A4B、FLUX、Kokoro 與 Agent 深度研究流程，放大臨床、研究與教學能量。
內網部署
資料不出院
非中國開源模型
Gemma 文字 + FLUX 影像 + Kokoro 語音
Agent 深度研究
Hospital Intranet AI Deployment01
Why · 為什麼自建
Why Build In-house02
The Stack · 三大開源模型
涵蓋文字、影像、語音的院內開源組合
模型
主要能力
院內用途
部署角色
Gemma 4 26B A4B
文字生成、推理、程式與工具調用；26B 總參數、推理時啟用約 4B
病歷摘要草稿、文獻回顧、研究問答、教材生成、資料表解讀
Agent 推理核心
FLUX
文字到圖像、圖像編輯與視覺素材生成；Black Forest Labs 開源模型系
教學插圖、衛教圖卡、簡報配圖、合成去識別化醫學示意影像
視覺生成服務
Kokoro
約 82M 的輕量 TTS 語音合成模型，低資源即可快速反應
衛教語音、課程旁白、研究摘要導讀、無障礙教材
語音輸出服務
模型選型以「可院內部署、可審查、可治理」為優先；實際上線前仍需確認模型授權、院內採購規範與臨床使用邊界。
Model Stack03
GB10 服務節點
把 GB10 定位為「科部級 AI appliance」
NVIDIA DGX Spark / GB10 類型設備提供桌面型 Grace Blackwell AI 超級電腦定位，適合作為院內 PoC、科部級服務節點或敏感資料沙盒。
A
推論服務：OpenAI-compatible endpoint，供內網網頁、agent、教學工具呼叫。
B
模型路由：Gemma 文字、FLUX 圖像、Kokoro 語音分流，統一權限與日誌。
C
私有資料接入：RAG index、研究資料夾、去識別化資料集在院內掛載。
院內使用者
研究 / 教學 / 行政
研究 / 教學 / 行政
↓
內網 AI Gateway
SSO / 權限 / 稽核 / 配額
SSO / 權限 / 稽核 / 配額
↓
GB10 AI Service Node
Gemma + FLUX + Kokoro
Gemma + FLUX + Kokoro
↓
院內資料區
RAG / 檔案庫 / 審核紀錄
RAG / 檔案庫 / 審核紀錄
GB10 Service04
Architecture · 部署架構
內網部署架構：資料不外流
院區網路邊界
對外 0 連線策略
對外 0 連線策略
→
院內使用者
臨床 / 研究 / 教學
臨床 / 研究 / 教學
→
推理閘道
權限 / 配額 / 稽核紀錄
權限 / 配額 / 稽核紀錄
Agent 工作流程
自動化深度研究
自動化深度研究
→
院內 GPU 伺服器
Gemma + FLUX + Kokoro
Gemma + FLUX + Kokoro
→
院內資料區
RAG / 檔案庫 / 審核紀錄
RAG / 檔案庫 / 審核紀錄
所有元件在院內
模型、檢索、暫存、日誌與輸出皆留在院區網路，不預設呼叫外部 API。
不直接裸露模型
所有請求先經 Gateway，依角色、用途與資料級別決定可用模型與工具。
不跳過稽核
研究與教學成果保留來源、版本、人工確認與使用紀錄。
Architecture05
Agent Workflow · 深度研究流程
Agent 深度研究：從研究問題到可回溯報告
1
提出研究問題
定義 PICO、研究族群、資料邊界、排除條件與預期輸出格式。
2
規劃子問題
由 planner 拆解查詢路徑、資料來源、比較框架與待確認假設。
3
檢索院內資料
只查授權文獻、院內指南、IRB 文件、教學資料與去識別化資料集。
4
多輪閱讀分析
Agent 逐輪摘要、標記限制、產生表格，並保留引用與版本。
5
交叉比對綜整
Reviewer 檢查來源一致性、敏感資訊、幻覺風險與臨床邊界。
6
產出報告
輸出含引用、限制聲明與人工審核紀錄的研究或教學成果。
全程於院內執行；引用可回溯、過程可稽核，研究結論才站得住腳。
Agent Workflow06
隱私與治理
保護隱私的核心不是離線，而是邊界可證明
1
資料分級：公開資料、院內文件、去識別化資料、敏感研究資料分級處理。
2
最小權限：依科部、角色、專案與 IRB 狀態授權工具與資料。
3
輸出閘門：臨床建議、病人內容、研究結論需標示限制並進人工審核。
4
全程留痕：prompt、檢索來源、模型版本、工具呼叫、最終輸出均可追溯。
院內網段隔離
SSO / RBAC / 專案授權
資料去識別化與脫敏檢查
人工核准與版本封存
定期安全與模型品質評估
Governance07
Applications · 研究與教學
研究與教學先行，從低風險高重複任務開始
R
研究
文獻快速回顧與摘要、院內資料整理、假說探索、研究問答助手與引用可回溯報告。
T
教學
個案教材、情境題、OSCE 腳本、課程講義、隨堂測驗與互動問答。
M
多媒體教材
FLUX 產生衛教圖卡與教學插圖，Kokoro 產生語音導讀與無障礙教材。
✓
適合先做：不直接產生臨床醫囑、不直接面向病人決策、可由專家快速審核的任務。
!
暫不建議：未審核直接出具診斷、處方、病情判讀或自動化研究結論。
Use Cases08
Roadmap · 導入藍圖
分階段穩健導入：從 POC 到全院共用
1. 概念驗證 POC
以 GB10 單機節點先跑 1-2 個模型，驗證內網推理、權限、日誌與基本效能。
2. 試點科部
選 2-3 個科部與研究/教學任務，蒐集回饋，建立去識別化與治理規範。
3. 全院推廣
配額、權限、稽核到位後，開放全院共用，並建立服務台與教育訓練。
4. 持續優化
依使用資料調整 prompt、RAG、模型路由與在地微調策略，導入新的開源模型。
成功指標
研究/教學草稿時間下降、引用完整率、審核通過率、敏感資訊事件為零。
決策節點
試點後決定是否擴充第二節點、導入更多科部資料源，或建置正式服務等級。
風險控制
不接正式病歷寫入；先讀取型、去識別化、人工審核為主。
Implementation Roadmap09
建議決策
先批准一個「院內自主 AI 研究與教學沙盒」
1
硬體：以 GB10 / DGX Spark 類節點作為第一台科部級 AI appliance。
2
模型：Gemma 4 26B A4B 為核心 LLM，FLUX 與 Kokoro 作為素材與語音服務。
3
流程：先上線 agent 深度研究與教學素材 workflow，成果需引用可回溯與人工審核。
4
治理：以資料分級、工具白名單、人工核准與留痕作為上線條件。
主要資料來源
Google AI for Developers: Gemma 4 overview
NVIDIA DGX Spark hardware guide
Black Forest Labs: FLUX.1 Kontext
本簡報為架構提案；臨床/研究正式使用需經院內資安、法遵、IRB 與模型授權審查。
Decision Ask10