幻幽~
9 months ago @Edit 9 months ago
[轉貼備份]

#AI #費用

Facebook
latest #6
幻幽~
9 months ago
昨日的 AI 講座中,有人提到 OpenAI 的收費十分昂貴,這裡簡單說明一下計費方式:
GPT-3.5 免費,但只有文字與語音對話功能
GPT-3.5 Turbo 的企業客戶,輸入每1000個 token 收費 0.01美元,輸出每1000個 token 收費 0.002美元
GPT-4 每 1000個 token 計費 0.03美元
GPT-4 Turbo 輸入每1000個 token 計費 0.01美元,輸出每1000個 token 計費 0.03 美元
這裡每1000個 token 大約是750個英文單詞,或是 500個中文字
如果是企業用戶,因為需要大量而且可能是24小時都在不斷進行輸入和輸出,每個月動輒數千美元(十萬台幣起跳)是家常便飯,所以昨日 AI 講座才會有人提出這個質疑
幻幽~
9 months ago
我也在講座中說明,OpenAI 的收費偏高會是未來的發展瓶頸,雖然目前 ChatGPT 的 LLM (Large Language Model) 參數量是最大的,其它機構的參數量要追上來不容易,但基本上,只要有千億級參數量的語言模型已經足夠在很多商業場域中使用
而這些千億級的 LLM 不一定需要收費,啥?免費?對的,以臉書母公司 Meta 為例,她推出的 Llama 3 就是免費!
Llama 3 的 AI 水平 與 Google 的 Gemma 與 Gemini、Mistral 7B、Anthropic Claude 3、OpenAI GPT-3.5 是差不多的,除了還不支援圖片、影像、音訊外,完全夠用!
更驚人的是,Llama 3 是開源的,真正的 Open Source,讓大家都可以直接來運用。
幻幽~
9 months ago
而且,我個人最看好的是 Llama 3 的「輕量」特性,迴異於目前大部分 LLM AI 模型必須在雲端大型資料中心運算,然後透過網路顯現在終端裝置,例如手機、平板、筆電等
大家可以試想,Llama 3 可以直接在終端裝置上運算,那就可以「離線」方式使用,在我們真實的生活場景裡,能夠離線使用的 AI 將可以被更廣泛的運用,完全不用受到網路頻寬以及是否有網路的限制。
而且,Llama 3 背後是更龐大的 Facebook、Instagram、WhatsApp、Messenger 等平台,除了參數訓練的絕對優勢外,未來個人、企業的 AI 運用還能直接與這些平台整合,其中的商機有多麼驚人,可想而知,這也是為什麼 Meta 採取不收費的方式來推廣她的 AI。
立即下載
幻幽~
9 months ago
對一般企業而言,現在更有超級低價的「自主 AI 運算中心」,台灣群聯電子近期推出的 aiDAPTIV+ 就是超級迷你版的資料中心,而且已經自帶 700億參數量的基本 AI 運算能力,相當於 GPT-2~2.5、Llama 2 的能力
從應用面來看,一般企業最迫切的不是去開發一個超級無敵萬用版本的 AI,而是針對自己企業的採購、生產、品管、倉儲、出貨、配送、行銷、客服... 等需求的 AI,也就是特定領域的 AI 運用,也不用去租用大型雲端資料中心,而且整套 aiDAPTIV+ 才 150萬台幣!
幻幽~
9 months ago
如我在講座中說的,未來 AI 將像是自來水一樣的便宜與方便,AI 應用的遍地開花指日可待,如果 OpenAI 沒辦法找到更有效的商業模式,包含 Meta、Google、Apple...等科技巨擘都會推出更多免費的的 AI 服務。
我個人也十分看好的是 AI + Robot 的運用,這也是目前發展非常迅速的一個領域,不僅僅是 Tesla Optimus,包含 Figure、Boston Dynamics、Honda... 還有更多中國大陸和歐洲的機器人技術公司,幾乎每半年就有重大突破,這種具有人性化及智慧化的機器人,而且越來越便宜的機器人,甚至是租賃方式的機器人,將會快速走進許多商業、工業場域及家庭。
幻幽~
9 months ago
最後,如果錯過了昨日在 世界華商經貿聯合總會、世界台商總會、世界華人工商婦女企管協會等三大商會聯合舉辦的 AI 講座,沒問題,請點選下面連結直接看回放喔~
休士頓華商經貿聯合會 和 世界華商經貿聯合總會
講座視頻:人工智能技術的衝擊與趨勢 主講: 顧及然 主辦: 休士頓華商經貿聯合會 世界華商經貿聯合總會 2024-...
back to top