triAIge：評審報告

triAIge 是一套在邊緣運算上執行的 AI 交接系統，處理台灣急救最前面的幾分鐘。救護車上的救護員（EMT）把看到的情況說出來或打字輸入，系統就填寫消防局的救護紀錄表，並傳到急診（ED）。檢傷護理師打開的是預先填好、附上建議檢傷級數的評估表，醫師拿到的是一份簡短的交接摘要。

這份報告的讀者大概只會讀一次，所以每一項說法都附上檔案出處，路徑都相對於 repository 根目錄；repository 裡沒有的數字，報告也不寫。

這是黑客松原型，不是經過臨床驗證的產品。哪些有量測、哪些沒有，第 7 節逐項說明。

1. 目前完成了什麼？

web app 的線上展示版（資料存在瀏覽器，沒有真實病人）：https://triaige-demo.vercel.app（README.md）。

2. 要解決什麼問題？

在台灣，消防局的救護員一邊處置病人，一邊在紙本格式的救護紀錄表上記錄；到了急診，同樣的問題又被問一次。急診檢傷護理師要從台灣急診檢傷與急迫度分級量表（Taiwan Triage and Acuity Scale，TTAS）的五個級數中選一個，醫師則要很快掌握關鍵事實。docs/product/triaige.md §2 列出這個流程出問題的地方：

• 救護員在壓力下打字或手寫，資訊因此晚到，或重複出現。
• 到院時，急診又重問一次主訴、病史、過敏與生命徵象。
• 院前資料、檢傷資料與醫院病歷分散在不同的系統。
• 醫師需要的是主要問題、危險徵象、已給的處置、生命徵象趨勢、病史、用藥、過敏與資訊缺口。

參考表單是救護紀錄表與 TTAS 判定標準，兩者都是公開的政府文件（docs/references/、README.md）。

產品的定位很明確：AI 只負責擷取與結構化，凡是有公開規則可循的臨床決定，都由確定性規則處理（docs/product/triaige.md §3.3）。AI 不設定檢傷級數；級數由護理師送出，改動建議級數時要附上理由（docs/api/data-model.md §10）。

3. 系統從頭到尾做了哪些事？

flowchart LR
  EMT["救護員平板：救護端 app"] -->|"一句話 = 一則訊息"| API["DGX Spark 上的 FastAPI 伺服器"]
  API --> SCH["排程器：同時最多 2 個模型呼叫"]
  SCH --> NAT["NeMo Agent Toolkit 工作流程"]
  NAT --> LLM["透過 vLLM 執行的 Nemotron 3 Super"]
  LLM --> CHK["確定性檢查"]
  CHK --> REC["PostgreSQL 裡的救護紀錄：每個欄位的來源、證據、歷程"]
  REC -->|"推播事件"| EMT
  REC -->|"送出"| NURSE["急診檢傷護理師：預先填好的評估表"]
  NURSE --> TTAS["TTAS 規則引擎：建議級數與理由"]
  TTAS -->|"護理師決定並送出"| DOC["醫師交接摘要，由規則組成"]

1. 接收輸入。 救護員一次送出一句話，並標上說話者（救護員、病人、旁人）。伺服器先存下這句話、立刻回應，再在背景執行 AI，所以畫面不必等模型（docs/specs/2026-10-13-backend/design.md〈Extraction flow〉）。
2. 擷取欄位。 每一句只呼叫一次模型，回傳 12 個紀錄欄位的 JSON：年齡、性別、主訴、體溫、心跳、呼吸速率、SpO₂、收縮壓與舒張壓、疼痛、過去病史、重點用藥類別，以及藥物過敏（docs/specs/2026-10-13-backend/spec.md §1.3、docs/api/field-mapping.md §6）。每一句的提示詞會帶上最多三句前文，以及紀錄上已有的內容，所以「不對，是一百三」能更正到正確的那個值（eval/README.md〈R1 上下文（X1）〉）。
3. 在欄位上複查，不用阻斷式對話框。 救護員說的內容直接寫進紀錄表：寫進空欄位，或取代還沒複查的值。這個欄位會標成「待複查」，附上來源句與說話者，救護員可以確認、修改、改選另一個候選值、清除或復原。人填的值或已確認的值不會被覆蓋，AI 給的不同值以替代選項列在旁邊。病人或旁人說的話不會直接寫入，而是成為建議，等救護員採用。缺漏的必填欄位與 TTAS 參考級數固定顯示在一個區域，不用彈出視窗。規劃中的後續切片（每種說話者的寫入規則、重新評分先前的值）還沒有完成（docs/api/data-model.md §2、docs/specs/2026-10-14-inline-review/plan.md §0、§15 S3b）。
4. 檢傷。 紀錄送出後，護理師看到院前紀錄已預先填入檢傷表；救護端沒人確認過的欄位會標成「未複查」，並附上來源。TTAS 引擎算出建議級數，每一項理由都附上觸發的規則，需要人判斷的條件（例如「有沒有休克？」）會列出來，引擎不替人決定（docs/api/data-model.md §10、server/src/triaige_server/engine/ttas.py）。
5. 醫師摘要。 目前狀況、院前經過與危險徵象，由規則從紀錄與檢傷資料組出，每一句都附上來源欄位的參照（server/src/triaige_server/engine/views.py）。

救護端與急診端的畫面共用同一組元件。根路徑連真伺服器，/internal 連瀏覽器內的模擬後端，兩邊的案件規則相同，並由漂移測試確保兩個引擎一致（docs/architecture/README.md §2、server/tests/unit/test_engine_parity.py）。

4. 用了哪些 <帳號> 技術？

模型、伺服器與資料庫都跑在同一台 Spark 上，推論不使用任何雲端模型（docs/product/triaige.md §3.2）。

5. 模型換版時，程式怎麼不受影響？

模型更新得很快，為某一個模型做的調整，不該分散在整個程式裡。現行模型的所有設定都集中在套件 server/src/triaige_server/llm/ 的 ModelProfile 物件裡，包括提示詞、取樣參數、怎麼關閉推理、怎麼把模型的回覆整理成一個 JSON 物件、怎麼讀取對數機率、逾時，以及同時請求數（docs/architecture/README.md §6）。

flowchart TB
  API["api：路由、推播事件"] --> AI["ai：排程、NAT 黏合、寫入閘門"]
  API --> ENG["engine：案件規則、TTAS"]
  AI --> ENG
  AI --> TR["task_rules：合格答案長什麼樣"]
  AI --> LLM["llm：ModelProfile、提示詞、回覆清理、對數機率評分"]
  ENG --> TR
  LLM --> TR
  INFRA["infra：模型部署手冊與變數"] -.-> LLM

• 換模型只需要改 llm/，加上 infra/ 裡那個模型的部署腳本（playbook）。步驟寫在 docs/architecture/README.md §9；infra/inventory/group_vars/servers.yml 裡的 triaige_model_profile、llm_served_name 與 llm_port，同時提供給伺服器與 vLLM 的部署腳本使用。
• task_rules/ 放的是任何模型都需要的檢查（數值範圍、允許的詞彙、翻譯檢查），只用標準函式庫；engine/ 與 llm/ 都不能 import ai/。
• 這條邊界由測試強制，不靠團隊慣例：server/tests/unit/test_architecture.py 禁止往上層 import，也禁止 llm/ 以外出現模型名稱、取樣參數與端點字串，而且沒有例外清單（docs/architecture/README.md §3）。
• 限制：提示詞是針對 Super 調整的，對數機率的測試資料（fixture）也只在 Super 上錄過，換成別的模型會得到什麼分數，目前沒有證據。換模型的步驟規定，換之前要依事先宣告的評測標準（yardstick）完整重新評測。

6. 安全上做了哪些設計？

還不能算是安全檢查的部分：Guardrails 自我檢查護欄（關閉），以及信心等級的顯示（未校準）。

7. 評測結果與限制

用的是什麼資料？

請先讀這一段。eval/README.md〈誠實規則〉要求我們這樣描述資料：

• 133 張案例卡來自公開的 MIMIC-IV-ED demo，是美國急診 47 位病人的救護車到院紀錄。生命徵象是檢傷站量的，不是在救護車上量的（eval/README.md〈目前產出〉）。
• 資料裡沒有院前的文字或語音。繁體中文的口述稿由模型寫成，經過程式檢查；擷取這些口述稿的也是同一個模型家族。沒有臨床人員審閱過案例卡或口述稿。
• 所以下面的數字說明的是這條流程從乾淨、由模型寫成的中文裡擷取欄位的能力，不代表臨床驗證、對吵雜語音的耐受度，也不代表在台灣救護案例上的表現。
• 大多數結果只跑一次，而 temperature 0 的呼叫並不確定：一次 A/A 對照在 163 對句子中，有 17 對文字不同（eval/results/choice-confidence-latency-2026-10-14/README.md）。千分之幾的差異是雜訊。

量到了什麼？

哪些還沒有量？

• TTAS 準確度。 規則集是 TTAS-adult@105-draft；eval/labels/ 裡的草稿標記是 ai_draft_unreviewed，不能當作標準答案（eval/README.md）。
• 鑑別診斷。 評分流程已經有了，但還沒有醫師的標準答案，所以沒有數字（eval/README.md〈鑑別診斷評測〉）。
• 真實語音、真實救護車環境、台灣案例、兒童。 資料裡沒有兒童案例（eval/README.md〈目前產出〉）。
• 真實救護員或護理師使用時的易用性。

8. 怎麼部署？

架構是：平板或瀏覽器連到 Vercel 上的 web app，再透過 Tailscale Funnel 連到 API。在 Spark 上，triaige-server（port 8100，記憶體上限 1536 MB）連到 PostgreSQL（port 5433，上限 512 MB），以及執行 Nemotron 3 Super 的 vLLM（port 8000）（infra/inventory/group_vars/servers.yml、docs/architecture/README.md §10）。

• 每個服務一個指令。 Ansible 部署腳本 infra/playbooks/deploy-nemotron-super.yml 與 deploy-triaige-server.yml 先以 --check --diff 試跑。架構、GPU、Docker runtime 或可用記憶體（至少 100 GB）不符時，事前檢查會中止這次部署（infra/README.md）。
• 版本固定，可以重現。 vLLM 映像標籤、服務參數、PostgreSQL 映像 digest 與記憶體上限都寫在 infra/inventory/group_vars/servers.yml。換到另一台 Spark（例如決賽的機器），只要在 infra/inventory/host.yml 加一台主機；第一次啟動會下載約 75 GiB 的權重（infra/README.md）。
• 連線。 模型端點沒有 API 金鑰，所以只開放給本機與 Tailscale 介面（防火牆擋不住 Docker 開放的 port，infra/README.md 記錄了這項測試）。伺服器只能透過 Tailscale Funnel 從外部連線，而且要帶存取碼。
• Web。 web/ 在 bun run check 通過後，由 GitHub Actions 從 demo 分支部署到 Vercel（README.md）。
• 現況。 Spark 上的伺服器執行映像 triaige-server:03c2ed7c0f49，設定 TRIAIGE_MODEL_PROFILE=nemotron_3_super（docs/architecture/README.md §10）。

9. 已知限制與下一步

限制：

1. repository 裡沒有語音辨識器（§1），評測的是文字路徑。
2. 評測資料是美國急診的案例卡，加上模型寫的口述稿，沒有臨床人員審閱（§7）。
3. TTAS 規則集是草稿，涵蓋第一層的生命徵象調節變數與疼痛；依主訴而定的判定標準還沒有資料來源（server/src/triaige_server/engine/ttas.py）。每個級數仍由護理師決定。
4. 醫師摘要是規則組出的文字，沒有鑑別診斷，護理師端的 AI 建議也還沒做（docs/specs/2026-10-13-backend/spec.md §1.3）。
5. 門檻在保留集上校準之前，信心等級不會顯示給使用者；規劃中讓每種說話者的值都能寫進表單、之後再重新評分的寫入規則（切片 S3b）也還沒做（docs/specs/2026-10-14-inline-review/plan.md §4.4–4.5、§15）。
6. Guardrails 自我檢查與路由分類器目前關閉，因為兩者都要在以秒計的延遲預算裡，多一次模型呼叫。
7. 只有一台 Spark，沒有備援。同時送給模型的請求上限是 2，因為第三個同時請求曾觸發一次至今原因不明的 CUDA 錯誤；之後 3 個同時請求的壓力測試都通過，但不能因此排除這個問題（eval/README.md〈服務參數實測〉、docs/architecture/README.md §12）。
8. 紀錄裡的主訴保留英文。中文顯示採保守做法，像「up and down」這類片語，是已記錄的已知缺口（eval/complaint_zh/README.md）。
9. 兩份參考資料有著作權：Tintinalli's Emergency Medicine Manual（第 7 版）與臺北市到院前救護手冊。它們不進版本控制，也不放在伺服器上，授權問題還沒有解決（eval/README.md、eval/ems_protocol/README.md）。
10. 提示詞與對數機率 fixture 是 Nemotron 3 Super 專用的（§5）。

下一步，依優先順序：

1. 請臨床人員審閱標準答案、TTAS 規則集與翻譯檢查（docs/team-discussion-todo.md）。
2. 在保留集上校準對數機率門檻，再顯示「高／需留意」等級（docs/specs/2026-10-14-inline-review/plan.md §15，C2 與 C3）。
3. 依 docs/api/README.md §6 的規格，在平板的瀏覽器內做語音辨識。
4. 階段 2：用醫院自行取得授權的知識庫做檢索、附引用來源的鑑別診斷、護理師端的建議、NeMo Evaluator、沙箱（docs/specs/2026-10-13-backend/decision.md）。
5. 依 docs/architecture/README.md §9 的步驟，試第二個模型 profile。

10. 想查細節時，去哪裡找？