[心得] 跨雲端 AI 服務統一 API Gateway

[appleboy46 (小惡魔)]

Blog: https://bit.ly/4gHZmDb
Slide: https://bit.ly/4mEbKpd

在當今的企業環境中，Generative AI 技術已經成為提升業務效率和創新能力的關鍵。然
而，隨著 AI 服務的多樣化和分散化，如何統一管理和調用這些服務成為了一個挑戰。本
文將介紹如何使用 Golang 開發一個跨雲端 AI 服務的統一 API Gateway，實現安全、可
擴展的企業級解決方案。

1. 身份驗證與授權
2. 多雲人工智慧後端整合 ( Azure OpenAI、AWS Bedrock、Google Gemini AI …. )
3. 流量控制與資源管理
4. 監控與指標聚合

2022 年 ChatGPT 橫空出世，讓 Generative AI 技術迅速普及。隨著 OpenAI、Google、
Microsoft 等科技巨頭的加入，AI 服務的生態系統變得越來越複雜。而當時沒有一個可
用的 API Gateway 來統一管理這些服務，開發者需要面對不同的 API、身份驗證和授權
機制，這對企業來說是一個巨大的挑戰。所以團隊花了大量時間來開發一個統一的 API
Gateway，這個 Gateway 不僅能夠整合多個 AI 服務，還能提供安全、可擴展的解決方案
。也非常感謝當時的團隊成員 Rueian 及其他協助同仁。

背後使用的是 Rueian 所開發的 rueidis[1] 套件，這是一個高效的 Redis 客戶端，能夠支
援 Pipeline、Transaction 等功能。此套件已經被 Redis 官方認可並廣泛使用。

[1]: https://github.com/redis/rueidis

--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 60.244.123.129 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1759049957.A.3D4.html
噓 kkes0001: 有點硬蹭AI，怎麼感覺什麼東西都這樣
噓 hegemon: 這些功能現有的很多開源套件都有吧..
→ Brioni: 真。吳柏毅？
→ attacksoil: liteLLM就是開源專案啊... 印度人寫的
→ alan3100: 好歹講些cloud沒有的...
→ alan3100: cloud都有了 以量計費,你自架gateway好處在哪?
→ brandyjohn: 沒有深度的東西講多了真的差不多就醬子而已...