Math.py

Wir müssen wissen , wir werden wissen

0%

發表於 分類於 ， Disqus：

導言：你以為你在做 Model Fallback，其實你先死在「同一個 Provider 的同一個帳號」

我很常看到一個典型失敗情境：

  • 你以為自己已經把 agents.defaults.model.fallbacks 配好了：主力模型掛了就換下一個。
  • 結果實際上你遇到的不是「模型掛了」，而是：
    • 速率限制 (rate limit)
    • 網路抖動 / timeout
    • 某個帳號額度用完 (out-of-quota / billing)
    • 某個 OAuth token 過期 (auth error)

這些錯誤通常發生在「同一 provider」的層級，而且往往只跟某一組憑證有關。

如果你把所有容錯都押在「跨模型 fallback」，你會付出更高延遲、更高不確定性，甚至更高成本（因為你可能把一個暫時性 rate limit，升級成跨供應商切換）。

閱讀全文 »

發表於 更新於 分類於 Disqus：

前言

三年前，剛開始轉職找工作的時候就開始在玩聊天機器人，那時候我一直希望未來可以有一個仿真的聊天機器人技術，這會讓整個真實世界出現極大的轉變。

三年後的現在，Open AI 在生成模型的耕耘上有了極大的收穫，也就是 Chat GPT 的問世。去年底開始爆紅後，這半年內 Chat GPT 在 AI 的領域中熱度一點都沒有削減，甚至平常沒有涉獵 AI 領域的親朋好友也都在問我對它的意見。一直都在玩 Line Bot 的我當然也不能錯過的嘗試了進行這樣的運用。不過，好玩歸好玩，在實際要執行落地、要導入商品的時候，還是會發現一些目前的瓶頸，也是衍生出這篇文章的起點。

閱讀全文 »

發表於 更新於 分類於 Disqus：

前言

這兩三年的 Web APP 前端開發經驗，讓我對前端的一些概念也逐漸地變得清晰，最近剛好有點時間，也想把遇到過的一些問題記錄下來。

有一些問題在本機端開發時沒有發生，一直到網站要部屬到 Server 的時候，就會發現出現了一連串的錯誤。這錯誤在本地端開發時完全沒有遇到。

為了究其原因，花了一些時間與同事們進行研究與處理，才將這個問題解決，也想趁著最近把這些問題整理起來。

閱讀全文 »

發表於 更新於 分類於 ， Disqus：

系列文章

閱讀全文 »

發表於 更新於 分類於 ， Disqus：

很久沒有更新文章，工作實在忙到一個境界，很多想寫的主題擱著擱著，就漸漸沒有動力寫下去。

最近工作剛好有一點空檔，也剛好前陣子有遇到一些問題，剛好趁這個機會抓一些簡單的主題來寫一些「小品」，當然，也順便再讓自己習慣於記錄自己的學習歷程、維持紀錄的手感。

閱讀全文 »

發表於 更新於 分類於 Disqus：

前言

自從開始工作以來，專案及案件如雪片般飛來 (?)，導致部落格的更新幾乎呈現停擺的狀態，在這一年中，幾乎都著重在前端開發 ( Vue.js )、API串接 ( PHP )，從原本一無所知的領域，現在也總算稍微做出點成果，這一年中邊做邊學習，也累積了不少經驗，一直想要花點時間記錄下來，想歸想，也一直拖到了現在。

但正當我寫完今年的第一篇文章後才發現，我自己電腦中的 Node JS 已經被我拿來處理工作上的事情，版本已經與之前撰寫部落格時不同，既然都已走到這步田地，乾脆狠下心來花一些時間來做一個部落格的大升級，至少，這樣的狀態可以不用一直擔心版本的問題，也可以感受一下新版本帶來的差異性。

閱讀全文 »

發表於 更新於 分類於 ， Disqus：

系列文章

本文對於以 Django 為基礎設計的 Line Bot 細節並不會有太多著墨，這些都在先前文章中有提到，建議讀者可以先行閱讀下面兩篇文章 :

閱讀全文 »