01 / DECISION
何時值得加入這個 primitive
當多個 model calls 需要共用 visibility、reliability controls 或 provider-independent policy 時使用 AI Gateway。
02 / ARCHITECTURE
建立最小且站得住腳的路徑
分類 prompts 與 identifiers、明確選擇 logging 和 retention、設定 rate 與 retry policy,並定義不改變 semantics 的 provider fallback。
- 01先命名 contract
當多個 model calls 需要共用 visibility、reliability controls 或 provider-independent policy 時使用 AI Gateway。
- 02只加入一個 primitive
分類 prompts 與 identifiers、明確選擇 logging 和 retention、設定 rate 與 retry policy,並定義不改變 semantics 的 provider fallback。
- 03保留 failure evidence
端到端追蹤一個 request、確認 redaction 與 retention、觸發 rate 和 provider failure,並比較回傳 contract。
03 / REPRODUCE
有證據,再有信心
端到端追蹤一個 request、確認 redaction 與 retention、觸發 rate 和 provider failure,並比較回傳 contract。
npx wrangler ai models list 04 / BOUNDARY
Production boundary
集中 logs 可能變成 sensitive data store;跨模型 caching 或 fallback 也可能改變 privacy、cost 與 answer behavior。
05 / FIRST-PARTY SOURCES
讓第一方來源保持權威
產品行為、限制、價格與供應狀態會改變;採取行動前請重新核對這些來源。