# AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資 URL: https://www.shicheng.news/zh-hant/v/8kkyL Published: 2024-05-24 Source: 獅城新聞 5月13日，OpenAI推出了多模態大模型GPT-4o，它能夠同時理解和生成文本、語音及圖像。緊接著的第二天，谷歌發布了Gemini 1.5 Pro大模型，為谷歌搜索注入了推理功能。到了周三，位元組跳動公司推出了性價比極高的「豆包」大模型，宣稱其價格僅為市場價的1%。 ![AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資](https://www.shicheng.news/images/image/1744/17449039.avif?0) **AI競爭主要體現在大模型** 博智庫預計，到2032年，全球生成式AI市場的規模將觸及1.3萬億美元。由於生成式AI的生成能力嚴重依賴大模型，因此這場AI競爭在很大程度上演變成了大模型的較量。 特別是在大語言模型（LLM）領域，資本紛紛下注其未來潛力。 微軟已對OpenAI投入超過130億美元；亞馬遜在2月為其競爭對手Anthropic追加了27.5億美元的投資；Meta在第一季度財報會議上宣布將額外投入數十億美元於AI領域；谷歌也在4月宣布將投入30億美元用於數據中心建設。 這些公司的股價今年已經上漲了10%至40%，而作為AI基礎設施的晶片巨頭英偉達的股價更是飆升了近90%。 **何為大語言模型** 大語言模型是一種由具有許多參數的人工神經網絡組成的語言模型。大模型的參數可以看作是神經元之間的連接，有了類似人腦神經的整個架構後，大模型就能對網際網路上的知識進行「學習」。 大語言模型工作的基本原理是根據已有文本，預測下一個詞出現的機率，進行輸出。大語言模型的「大」，指的是參數量。從2018年谷歌推出大規模預訓練語言模型BERT開始，到OpenAI的GPT-2、GPT-3、GPT-4，以及谷歌的PaLM和Gemini，Anthropic的Claude，短短几年，參數量從億級提升至萬億級，掀起了這場生成式AI變革。 ![AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資](https://www.shicheng.news/images/image/1744/17449040.avif?0) 圖源：ST 參數量越大，模型性能越好，神經元連接越多，AI就越像人腦，理解和推理能力就越強。因果推理的能力對AI系統進化十分重要，因此，大語言模型的出現，使通用人工智慧成為可能。 然而，面對高昂的算力成本、盈利難題以及投資機構的退縮，人們開始擔憂：大語言模型領域的競爭是否僅限於巨頭之間？ **AI初創公司更難生存** 新加坡國立大學計算機系的尤洋教授指出，大模型的創業門檻極高，「沒有兩三億美元的資金，幾乎不可能起步。無論是美國、歐洲還是中國，從事大型模型開發的公司都是如此。」大型模型的開發似乎天生就需要大量燒錢，而模型的性能在很大程度上取決於其參數量，參數量越大，所需的算力成本也就越高。 據美國媒體SemiAnalysis去年披露的內部消息，ChatGPT的參數量達到了1.8萬億，其訓練成本大約為6300萬美元。這僅僅是算力的開銷，還未包括實驗、訓練失敗、數據收集和人力成本等。日常運行ChatGPT也需要消耗大量算力資源。 ![AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資](https://www.shicheng.news/images/image/1744/17449041.avif?0) 圖源：FACEBOOK 新加坡AI公司WIZ.ai的聯合創始人兼董事長陸劍鋒曾表示：「扎克伯格提到Meta需要60萬片H100的計算能力，而OpenAI可能需要100萬片。除了這些頂尖公司，其他公司很難從零開始，開發通用大型模型。」 H100是英偉達在2022年推出的一款高性能GPU，主要針對AI和高性能計算任務。 儘管H100沒有官方公開的價格，但在二手交易平台eBay上，其售價已接近4萬美元一片。高昂的成本帶來了盈利的難題。 **專攻特定領域 小公司的出路** 在AI領域，專注於特定領域的小公司也正在尋找新的發展道路。風險投資基金Flint Capital的創始人斯米爾諾夫（Dmitry Smirnov）指出，投資機構對AI初創公司的投資並未成為歷史，但普通初創公司獲得青睞的程度已不如以往。 由於算力資源的限制，專注於特定領域、訓練有特定功能的大語言模型是多數小公司的選擇，這些模型通常用於企業服務。 ![AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資](https://www.shicheng.news/images/image/1744/17449042.avif?0) 圖源：FACEBOOK 尤洋指出，與通用大模型相比，垂直領域大模型可以更快實現盈利。例如，如果針對特定場景訓練一個大模型，其體量和成本僅為OpenAI的百分之一，那麼很可能實現盈利，如利用大模型加速藥物研發或幫助石油公司尋找石油。 新加坡獨角獸公司智慧芽（PatSnap）就是一個例子： 其聯合創始人關典表示，與OpenAI和Anthropic的通用大模型相比，智慧芽的大模型在專利這一垂直領域更加深入和準確。 她認為，這是大模型時代的機會。小公司追求的不是技術高峰，而是效率提升。 陸劍鋒說，小公司對算力成本敏感，這是大語言模型落地的難點。模型越大，推理代價就越高，如果一個場景只需要簡單知識，那麼過大的模型就不划算，這些在實際業務中還需考量。 **新加坡在AI領域中的努力** 新加坡去年推出了專為東南亞定製的大語言模型Sea-Lion，擁有30億和70億參數兩種版本。去年12月，在發布新加坡人工智慧策略2.0的同時，當局宣布投資7000萬元在未來兩年推出大語言模型，這個模型建立在Sea-Lion基礎上，規模將擴大到300億至500億參數。 尤洋認為，新加坡等小國，也有必要自研千億參數級別的大語言模型。「倒不是為了和OpenAI競爭，但有這樣一個模型，最適合東南亞語言和產業，能在各行各業中產生價值，同時又能吸引高端人才，就像中東推出的Falcon。」 ![AI圈瘋狂的一周！新加坡將進一步加大人工智慧領域投資](https://www.shicheng.news/images/image/1744/17449044.avif?0)