[問卦] chatgpt會產生不安全的程式碼 你還敢用
小弟發現一篇論文探討chatgpt3.5會產生不安全的程式碼，我想說大家都在喊gpt可以打敗初階程式員，結果產出來程式碼沒法通過checkmarks的法眼，不安全的chatgpt程式碼你敢用?
----以下由gpt生成---
這篇研究論文「ChatGPT 生成的代碼有多安全？」探討了OpenAI開發的AI聊天機器人ChatGPT所生成代碼的安全性。研究人員發現：
* 生成不安全的代碼： ChatGPT經常生成不安全的代碼。在21個生成的程式中，只有5個一開始是安全的，並且只有在明確要求更正後，ChatGPT才能在另外7個案例中生成安全的代碼。這些漏洞涵蓋各種類別，且通常非常嚴重，類似於新手程式設計師常犯的錯誤。
* 缺乏對抗性模型： ChatGPT似乎沒有假設對抗性的執行模型，經常建議只需不提供無效輸入即可避免安全問題。
* 意識到漏洞： ChatGPT意識到其代碼中的漏洞，並可在被明確詢問時提供解釋。它可以作為教學工具，但僅適用於提出正確問題的用戶。
* 迭代改進： 作者建議使用單元測試和自動化分析來迭代改進ChatGPT生成的代碼。
* 道德考量： 本文提出了使用ChatGPT生成代碼的道德考量，包括代碼保密和潛在的惡意使用問題。
總體而言，研究表明ChatGPT尚未準備好取代熟練且具有安全意識的程式設計師。然而，它可以作為學習安全編碼實踐和通過互動和回饋迭代改進代碼的寶貴工具。
其他注意事項：
* 研究使用了特定版本的ChatGPT（v. 3.5），較新版本可能已經改善了安全性。
* ChatGPT缺乏可解釋性，難以理解其在某些情況下生成不安全代碼的原因。
* 需要進一步研究，探討在安全敏感環境下使用AI生成代碼的道德影響。
--
講中文好嗎？
怕啥 大家寫的程式都不安全阿
很哈佛姐夢遊矽谷…
不就說碼農還不用怕被AI取代…
蛤大家不都先去丟了弱掃 有錯在叫他繼續
改到過啊
我自己寫的程式碼也沒有安全性可言
「gpt可以打敗 初階程式員」 你是高階就自
己寫啊
開車會爆胎你還敢開嗎
講的好像自己寫的都很安全 喂~~
安卓和win三不五十就在更新安全性漏洞
不安全才是正常的吧
菜逼八才會沒看懂就照貼
我只知道 很多老鳥對 ChatGPT 的程式評價
很高，可是需要修改。
需要人的介入修改
我看的懂就不用GPT幫寫了
AI是個很好用的工具人啊
現在都GPT4o了
誰在乎啊，反正又不是自己用。
按了不會爆炸的程式碼就可以了......
放心 你寫的程式也不會沒洞
那就是個參考不是嗎？基本邏輯要靠自己
不會有人真的寫出來就直接用吧，當然還
是要檢查啊
怕啥 又不是不檢查就直接用
把變數都設成public？
Jr.SWE也會產生不安全代碼 還更多
公司為了省錢還不是聘一大堆
有些連不安全代碼都產不出來勒
講得好像在人寫的就很安全一樣
你怎麼會覺得人寫的就會比GPT安全
,ed
你有蘋果ios工程師頂？他們都要時常
更新了
尿不準怪馬桶歪？AI本來就是給你參考用的
新手工程師一堆自己網路咕狗也寫不出安全
的程式碼
沒差會動就好，哪天爆了再來處理^^
車子會撞死人，大家就不開車？
誰寫的是安全的？連windows 都一直更新
不會自己掃完改一遍喔 都幫你產出
了
你自己寫的也是漏洞一堆好嗎
沒過你不會跟GPT講叫他修正嗎
現在都 4o 了，還在3.5
會動就好 我哪知安不安全
你提交不用檢查?
要看多初階啊...不同廠商的產品其規格、
參數ai根本不知道是要怎麼取代人工
61
[情報] OpenAI正打造AI圖偵測器 精確度達99%揪出AI造假圖片！OpenAI透露正打造偵測工具 精確度99% 開發出聊天機器人ChatGPT的OpenAI正在打造一種工具，可偵測由AI生成的影像或照片，而 且具有很高的精確度。 OpenAI技術長穆拉蒂（Mira Murati）17日表示，OpenAI的工具在判斷一張照片是否是利用A![[情報] OpenAI正打造AI圖偵測器 精確度達99%](https://pgw.udn.com.tw/gw/photo.php?u=https://uc.udn.com.tw/photo/2023/10/18/realtime/26270312.jpg&s=Y&x=0&y=0&sw=7511&sh=5010&exp=3600 "[情報] OpenAI正打造AI圖偵測器 精確度達99%")
5
Re: [問卦] chatGPT是不是會消滅一堆文組職業？現在 vs code 已經可以整合 GPT-3 的 API 了。 直接選擇一段程式碼，讓 AI 自動生成註解； 或是反過來，先寫註解讓 AI 產生程式。 也可以直接跟AI聊天。 不分文理組，大家都可以洗洗睡了。3
[問卦] Chatgpt為什麼會生成糞code?小魯工作中 突然想問Chatgpt找個範例 隨便打一下問句 結果他生成垃圾程式碼給我 這還能算最強的AI嗎?4
[討論] 用 AI 來修英文?在 chatgpt 出現之前，就已經有些號稱有用 AI 來修正的英文編修工具 我也有用過一些，不過可能因為種種原因 (dataset 不夠大，硬體、AI 模型不夠強， 或其實背後演算法根本不是 AI XD)，效果沒有很好。 最近最熱門的 AI 當然是 chatgpt， 我發現拿來修英文非常強大，比如說用一些關鍵字：4
[問卦] ChatGPT有沒有辦法答對國中小數學題嗨，大家呷飽沒? ChatGPT是OpenAI開發的人工智慧聊天機器人程式 該程式使用基於GPT-3.5架構的大型語言模型並以強化學習訓練 目前仍以文字方式互動 而除了可以用人類自然對話方式來互動![[問卦] ChatGPT有沒有辦法答對國中小數學題](https://i.imgur.com/uyRLmvob.jpg "[問卦] ChatGPT有沒有辦法答對國中小數學題")
3
Re: [討論] 用AI寫code產生的疑問回覆應該會變得很長所以特地開一篇。 在專案規模越變越大的時候怎麼去處理祖傳代碼？ 從人類既存的軟體史來說這些祖傳代碼幾乎沒有修好的可能性，從這個方向由AI做出發點來討論。 專案本身的複雜度正比於 BUG 的發生率，而 BUG 的發生通常是錯誤的抽象造成的結果。 所以AI可以處理嗎？不行，因為是人類在提需求時就已經有問題了。X
[情報] 中國團隊推出首顆以TDD方案 AI 設計 CPU中科院計算所的處理器晶片全國重點實驗室及其合作單位， 用AI技術設計出了世界上首個無人工干預、全自動生成的CPU晶片——啟蒙1號。 這顆完全由AI設計的32位RISC-V CPU，相比GPT-4目前所能設計的電路規模大4000倍， 並可運行 Linux 作業系統，且性能堪比Intel 486。