整合生成式人工智慧時應考慮的4個因素

生成式人工智慧已成為過去二十年最具影響力的創新之一。ChatGPT在創紀錄的時間內獲得1億名用戶,每天都有新的生成式人工智慧點解決方案湧現。
考慮到目前風險投資的狀況,人工智慧公司獲得大量投資資金的浪潮確實令人矚目。微軟向OpenAI投資130億美元,亞馬遜雲端運算服務則向Anthropic投資40億美元(Anthropic剛完成8.5億美元的C輪融資),這些舉措展現了業界對生成式人工智慧的熱情,以及它將如何塑造科技的未來。

隨著Adept和Cohere等新公司的湧現,現有的軟體即服務公司也將生成式人工智慧能力整合至其產品與服務中。然而,在趕上這股熱潮的過程中,許多公司正先行動手建置,卻未先擬定策略。在投入建置生成式人工智慧解決方案之前,公司應審慎考量幾個關鍵因素,包括模型選擇、使用情況追蹤、獲利模式以及對客戶的透明度。i

1,人工智慧模型選擇:自建或購買?

公司必須先決定是自行建置生成式人工智慧模型,還是使用主要人工智慧供應商的現成模型。這個決定取決於所需的客製化程度與控制力,以及可運用的資源與專業知識。

從頭建置模型幾乎是不可行的,因為無法取得必要的硬體。訓練和推論所需的尖端GPU目前只有NVIDIA在生產,任何想要取得這些產品的公司都面臨激烈競爭和長期交期。更何況OpenAI、Google、Meta和特斯拉等大型雲端和人工智慧公司已經擁有高達10萬顆GPU的系統。新公司要加入這場競爭,就必須先攀登建置起初步競爭所需基礎設施的陡峭階梯。

中小型或新創公司沒有資金或時間投資於建置自有基礎設施或生成式人工智慧模型,因此關鍵的業務決策是挑選最適合使用案例的供應商和模型。雖然ChatGPT最為人所熟知,但也有其他針對特定使用案例的專門模型可能更加適用。例如OpenAI的DALL-E專為圖像生成而打造,而Anthropic的Claude 2則針對處理法律、數學等專業任務以及長格式輸入進行了優化。

無論選擇哪家人工智慧供應商,您都必須根據使用情況向他們付費,換句話說,就是您客戶的使用情況。追蹤這種使用情況對於讓您的生成式人工智慧解決方案獲利至關重要.

2,計量人工智慧服務使用情況:成功的關鍵

實施個別使用者層級和全域或系統層級的生成式人工智慧服務使用情況計量,對於任何現代產品導向增長策略而言都是至關重要的關鍵要素。

例如,客戶服務團隊可利用使用數據主動追蹤帳戶健康狀況,並根據上下文建議新的解決方案和方法。使用歷史為業務團隊提供了有價值的情報,用於銷售額外服務、交叉銷售和合約續約。產品團隊可藉此識別使用模式和客戶群體,以及需要改進的區塊或新功能開發的領域。

使用數據在制定與客戶期望和整體市場趨勢相符的定價計劃時也扮演著重要角色。它可用於制定和優化定價計劃,確保費率與消費水平和實現的價值相稱。如果無法追蹤使用情況,這將變成一種猜測或徒勞的”憑感覺”行為。

使用數據對於計算內部成本也是不可或缺的。供應商通常會根據使用情況採取基於使用量的計費模式,例如按字數、按符號或按生成次數計費。無論採用何種模式,都必須擁有準確、細微的使用數據來計算內部成本,進而制定面向客戶的定價。

3,獲利化生成式人工智慧服務:基於使用量的定價策略

在競相搶先推出生成式人工智慧服務並將其提供給客戶的過程中,請勿忽視從第一天起就為獲利奠定基礎的重要性。從一開始就以獲利為目標進行建置,比起事後回溯並試圖將已提供的服務獲利化來得更加簡單有效,尤其是涉及基於使用量的定價時更是如此。

基於使用量的定價已成為人工智慧領域的最佳定價策略。原因在於,每個客戶的服務使用情況隨時間而變化。這些服務的供應商定價模式也是基於使用量。由於後端服務成本具有彈性,前端面向客戶的定價也應具有彈性。

獲利化的路線圖如下:

• 計量服務使用情況以了解各個群組和模式
• 根據供應商定價計算使用量的內部成本
• 利用步驟1和2所得的資訊,制定面向客戶的定價
• 追蹤收入和利潤,並根據需要持續調整定價

4,客戶透明度:隨時查看使用和計費數據

將透明度和與客戶的清晰溝通視為不可或缺的優先事項。確保客戶能夠在任何計費週期內查看使用和計費數據,有助於在公司與使用者之間建立信任,並避免在收到帳單時產生計費意外。

採取透明溝通有助於與客戶建立信任

投資建置面向客戶的應用程式、入口網站或體驗,讓客戶能夠隨時查看使用和計費數據。結合這種透明度與基於使用量的定價,客戶就能夠只為所用的服務付費,同時隨時查看使用統計資料,並視需要即時調節使用量,將支出控制在可接受的範圍內。

實務上,供應商的API會針對每個生成動作提供每個查詢級別的使用數據。例如,對於任何生成行為,OpenAI都會顯示提示和回應所消耗的確切符號數,以及識別供應商定價中每個符號費率所需的模型類型和上下文等所有詳細資料。收集這些數據並以使用者友善的方式在應用程式、入口網站或網站上呈現,讓客戶能夠隨時查看和瀏覽,這一點至關重要。

結語

在規劃建置整合生成式人工智慧的產品時,請將上述所有因素納入考量。請勿犯下僅急於推出技術解決方案而未考慮商業影響和獲利模式的錯誤。隨著2023年圍繞生成式人工智慧的熱潮、熱情和投資,這就像現代版的淘金熱一樣。別在沒有鏟子的情況下前往淘金現場。