Re: [心得] 如何減少 GTA Online 70% 載入時間?(轉)
※ 引述《alihue (wanda wanda)》之銘言:
: 原始文章: https://nee.lv/2021/02/28/How-I-cut-GTA-Online-loading-times-by-70/: 如何減少 GTA Online 70% 載入時間?
: 作者覺得 GTA Online 載入時間機八久,因此想要一探究竟
: 首先作者做 benchmark 發現
: Story mode load time: ~1m 10s
: Online mode load time: ~6m flat
: 然後看看 cpu usage 同時在這段時間燃燒
: 第一步,作者先做 profiling 可以得知哪一些 function 佔了最多 CPU 資源
: 第二步,用 disassembler 去看程式碼
: 問題1. It’s… strlen?!
: 好像會 parse 一個高達 10MB 的 json 檔案,其中包含 63k items
: 這些資料是遊戲中的線上商城的
: 問題不是 10MB,而是讀取資料的方式
: https://i.imgur.com/ZHLlEDJ.png
: 再繼續讀下一個 char....
: 然後當要讀的檔案有 10mb 這麼大就有很重的 overhead
是sscanf的function裡會呼叫strlen,也不是一次讀一個char。
https://opensource.apple.com/source/xnu/xnu-792/libkern/stdio/scanf.c.auto.html雖然不知微軟如何implement sscanf,不過應該大致相同。
這10mb的json是一個string。迴圈裡的sscanf會讀一個item(key:value)。
所以這個parser裡的strlen的complexity是
strlen(10mb)+strlen(10mb-length(key:value))+strlen(10mb-2*length(key:value)......
這迴圈會跑63k次。很不幸的一個quadratic time的parser就出現了,因為程式師不知sscanf裡有strlen。
GTA的insert也是quadratic time,但這真的蠢,有code review應該都會抓的到
無論如何,json parser不應該自己寫。
https://github.com/simdjson/simdjson - 最快的parser
https://rapidjson.org/ - 實際上快又準確,最多人建議的parser
https://github.com/nlohmann/json - 好用也多人建議的parser
google 一下,有超多的選擇。
上面任何一個都可以在幾秒(0.幾秒吧)內處理完10mb 63k的json。
而現在優化的GTA還是需要快一分鐘處理!對sscanf is slooooooow。
--
謝謝補充說明
所以這算是自己造輪子失敗的案例嗎
對,遊戲業的習慣,喜歡自己造輪子。十幾二十幾年前,因為各種限制,造輪子還有道理,現在還不趁機導入業界好用的lib就是怠惰了。
推
原來是這樣
推
怕找開源的lib商用要付錢吧
mit/bsd/apache license的libs超多,這幾個json libs都是
推
這事情有應不應該? 不過M$就不說了
不過 XD
事實上我認為他是用 recursive 的方式去處理 json
所以才會重複展開 sscanf
很早就知道sscanf有strlen的問題。
跟重複展開無關
推
25
[問卦] 欸 為什麼我資料都成功丟回前端了 秀不出*** 幹你媽的我找到問題了 另外一個要丟回來的資料裡面 有幾個欄位是NaN *** *** 就算我api response那邊下了 default=str 也是不行 ajax看到NaN就不吃 *** *** error以後還是要寫 媽的這弱智問題卡一上午*** 幹你媽的 javascript到底什麼鬼啦 postman測試ok26
Fw: [GTA] Online載入時間將減少70%作者: oopFoo (3d) 看板: Steam 標題: [GTA] Online載入時間將減少70% 時間: Tue Mar 16 09:06:55 2021 有程式師逆向工程GTA Online為什麼開始載入時間這麼長,在他的AMD FX-8350要長達6分鐘。25
[情報] GTAO一個if語句循環19.8億次 駭客嘲諷R星俠盜獵車手Online一個if循環19.8億次,而且7年沒人去修它,駭客順手解決這個問題了 一支菸的時間,俠盜獵車手Online終於打開了。 「7年了!GTA 5 Online載入還是這麼慢??」 Reddit、Steam、HackerNews上,無數玩家吐槽抱怨……10
[討論] 熊仔有在用程式做parser填歌詞嗎?如題 @@ 其實每個人填詞可能都有自己的一套方法,我在想阿 目前的歌手,除了善用GOOGLE外,應該每個人都有自己的方法找詞彙 如果照目前業配越來越多等式把市場做大了 那善用程式去做parser再加上找一些beat sample7
[討論] PubMed parser各位晚上好, 就像原本的網頁搜尋一樣,把條件打在 `search =` 的後面, 然後把選擇原本想打勾的選項的值改爲 1, 就可以得到像這樣的 excel 檔案。5
[心得] 善用 Go 語言效能測試工具來提升執行效率部落格好讀版: 投影片線上看: 這次很高興能到高雄 mopcon 給一場演講『善用 Go 語言效能測試工具來提升執行效率』 投影片在上面連結,底下紀錄會後一些朋友的意見跟問題? 為什麼要從 Python 到 Golang?1
[心得] 2020-2-21 每日新聞#每日新聞 # 2020-2-21 每日新聞 # FB: # 了解Rust的字串運作 每個人都會覺得奇怪- 我要糾正你一下 ※ 引述《applebg (Noble Wolf)》之銘言: : 幫大家科普一下。 : 你現在用的電腦,裡面的資訊都是用0,1表示的。 : 你會問那我看到的圖像呢?那是用一大堆數字去
X
Re: [討論] AI生成源碼 人工取代問題目前的AI 還沒有針對性 語義分析(encode and loss) 二年後 Linux full source parser 五年後 Android framework soruce parser 十年後 all source package parser and 全世界語言通行 但如果還只是會寫 某個功能的 工程師 那一定被淘汰