Re: [問卦] 為何google AI不學ChatGPT 先公測？

※ 引述《peter080808 (peter)》之銘言
: ChatGPT 3.0沒有發表會
: 是直接丟到網路上給大家公測
: 雖然ChatGPT也是很唬爛 一大堆給你亂回答
: 但是大家看到的是ChatGPT對自然語言驚人的理解和分析能力
: 真的可以依照給的指令去做文案和寫程式碼
: 為何Google AI不先給大家公測？
: 要在發表會上直接翻車？
: ----
: Sent from BePTT on my iPhone 12 Pro

阿肥外商碼農阿肥啦！本身是相關領域的從業人員，

先說一件事，當前所有的生成式的語言模型本來就是依據訓練數據來預測回答內容的詞概率，像是過往越是乾淨清晰而且看過越多的數據在統計上預測就越高。

像是韋伯望遠鏡這個事件就是明顯凸顯這種狀況，同樣的chatGPT一樣也有相同的問題，真的業內測試過的研究員就知道他沒有想像的強大。

之所以被小聲放過是因為openAI在出chatGPT之前不是在業界根本老百姓不會知道OpenAI是什麼樣的機構(我先說聲明在同領域OpenAI跟DeepMind還是很好的學術研究單位，基本上有想搞AI的都知道這兩家在做的是很前沿領域的，也是研究從業首選之一，大公司贊助能用到的研究資源也很頂，而且獨立研究機構不用被商業政府干擾)，阿肥前陣子看關鍵時刻聽劉寶傑在亂吹就想笑，但是就是因為不是什麼連魚攤小販都知道的做出一點東西加上正確炒作才會覺得好像很頂。相反的，Google這家公司連魚攤小販都知道的頂級公司，自然人家做出一點錯誤就會被媒體狂鞭，就像全世界都知道的頂級棋王不小心敗了一場，媒體大眾自然會渲染成某某人不過爾爾一樣。

我覺得Google這次就是商業策略被微軟逼急了，才會走這步險棋，不然給AlphaBet底下的不知名子公司發布開源在打媒體戰就好，最後再學微軟說我們預計整合進搜索引擎，這件事讓母公司自己來做就是做了再多全是錯。

然後，其實Google旗下DeepMind這幾年進展最大就是alphafold2，可以把蛋白序列預測做到超越人類的水準早就已經證明有效性了，還有AlphaCode最近實驗中在codeforces直接暴打一半工程師的程式撰寫水準，只是不是業界大概不知道而已。

--

對，其實2018年Google就曾經對Google Search用bert進行一次優化讓搜索引擎不是只能做 關鍵字匹配還能理解用戶真實的語意找到更相似的內容，只是做產品要確保正確高可用，你 不能拿summaries的最終結果就不給用戶選擇機會而已，還有最近Google Assistant 也有升 級能理解用戶上下文語意更方便使用，就是iPhone用戶還是會覺得siri很香，不過siri裡面 的技術其實相比下很陽春的，只是用戶感覺不到，畢竟多數人是盲目的。

perplexity.ai真的很香，重要的是behaviour clone的方法真的有效，我覺得現在如果要把 GPT跟搜索引擎整合最主要還是如何學習舊知還有搜索新知、連結新知、歸納新知、連結新 知，這樣才是一套完整的搜尋行為，這邊還有一些步驟是缺失的，不然只是掛一個chatGPT 對話是沒啥意思的