實習 重要嗎 dcard 在 コバにゃんチャンネル Youtube 的精選貼文
「實習 重要嗎 dcard」的推薦目錄：
- 關於實習 重要嗎 dcard 在 コバにゃんチャンネル Youtube 的精選貼文
- 關於實習 重要嗎 dcard 在 大象中醫 Youtube 的最佳貼文
- 關於實習 重要嗎 dcard 在 大象中醫 Youtube 的精選貼文
- 關於實習 重要嗎 dcard 在 [討論] 關於Dcard ML 實習作業- 看板Soft_Job - 批踢踢實業坊 的評價
- 關於實習 重要嗎 dcard 在 [討論] 關於Dcard ML 實習作業- 看板Soft_Job - 批踢踢實業坊 的評價
- 關於實習 重要嗎 dcard 在 大家實習是真的有學到東西嗎？ - 心情板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 #問大學一定要實習嗎？ - 工作板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 #閒聊實習真的很重要嗎 - 工作板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習重要嗎- 科技業板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 更/大學四年深刻感觸為什麼實習很有必要- 心情板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 一年實習經驗重要嗎？ - 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 畢業了沒有實習經驗- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 設計係有沒有實習真的重要嗎？ - 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 考台政商學院研究所，實習重要嗎？ - 政治大學板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 關於大學生要不要參加企業實習這件事- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 銀行實習重要嗎- 金融板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 一定要實習過會比較好嗎- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習的重要性- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 研究所實習重要嗎？ - 研究所板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 大四實習重要嗎? - 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 #請益大學實習有必要嗎 - 工作板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習的重要？！ - 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 有實習經驗真的比較好找工作嗎？ - Dcard 的評價
- 關於實習 重要嗎 dcard 在 #請益實習真的對申歐美碩很重要嗎 - 留學板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 該選實習還是選課優先- 政治大學板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 #請益在學實習的重要性？ - 法律人板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 管院實習的重要性- 中山大學板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習不重要嗎？ - 僑光科技大學板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 沒實習對進入金融業會很傷嗎... - 金融板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 大學時期有實習經驗的重要性? - 閒聊板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 #經驗分享實習生活過一半了( д⊙) - 工作板 | Dcard 的評價
- 關於實習 重要嗎 dcard 在 『分享』從實習生到帶實習生實習前先看一下吧！ - 工作 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 3 個你必須在實習中拿到的經驗- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習真的有幫助嗎- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 實習透視鏡Intern Lens | 大家好，我是Dcard 創辦人 的評價
- 關於實習 重要嗎 dcard 在 實習透視鏡Intern Lens | 大家好，我是Dcard 創辦人 的評價
- 關於實習 重要嗎 dcard 在 社群營運實習生- Dcard｜Yourator 求職平台 的評價
- 關於實習 重要嗎 dcard 在 社群營運實習生｜Dcard _狄卡科技 - 104人力銀行 的評價
- 關於實習 重要嗎 dcard 在 Dcard Lab｜現在就加入Dcard吧！ (@dcardlab ... - Instagram 的評價
- 關於實習 重要嗎 dcard 在 【dcard｜一般實習】職缺- 2023年7月熱門工作機會 的評價
- 關於實習 重要嗎 dcard 在 大四銀行實習dcard的推薦，DCARD、PTT、MOBILE01 的評價
- 關於實習 重要嗎 dcard 在 大四銀行實習dcard的推薦，DCARD、PTT、MOBILE01 的評價
- 關於實習 重要嗎 dcard 在 大四銀行實習dcard的推薦，DCARD、PTT、MOBILE01 的評價
- 關於實習 重要嗎 dcard 在 社群營運實習生- Dcard 狄卡科技股份有限公司Jobs 的評價
- 關於實習 重要嗎 dcard 在 實習的必要性- 工作板 - Dcard 的評價
- 關於實習 重要嗎 dcard 在 dcard實習生ptt2023-在Facebook/IG/Youtube上的焦點新聞和 ... 的評價
- 關於實習 重要嗎 dcard 在 dcard實習生ptt2023-在Facebook/IG/Youtube上的焦點新聞和 ... 的評價
- 關於實習 重要嗎 dcard 在 dcard實習生ptt2023-在Facebook/IG/Youtube上的焦點新聞和 ... 的評價
- 關於實習 重要嗎 dcard 在 全球中央11月號/2017 第107期 - 第 35 頁 - Google 圖書結果 的評價
- 關於實習 重要嗎 dcard 在 公股銀行實習dcard的問題包括PTT、Dcard、Mobile01 的評價
- 關於實習 重要嗎 dcard 在 公股銀行實習dcard的問題包括PTT、Dcard、Mobile01 的評價
- 關於實習 重要嗎 dcard 在 公股銀行實習dcard的問題包括PTT、Dcard、Mobile01 的評價
- 關於實習 重要嗎 dcard 在 在Dcard 工作好歡樂，前實習生：吃完尾牙還回公司玩Switch 的評價
- 關於實習 重要嗎 dcard 在 Dcard 30歲老闆：社群行銷交給實習生 - Hami書城 的評價
- 關於實習 重要嗎 dcard 在 不要臉的4456訂閱QA！｜Dcard面試關鍵｜超豪華零食區熱門 ... 的評價
- 關於實習 重要嗎 dcard 在 不要臉的4456訂閱QA！｜Dcard面試關鍵｜超豪華零食區熱門 ... 的評價
- 關於實習 重要嗎 dcard 在 中信面試dcard 的評價
- 關於實習 重要嗎 dcard 在 中信面試dcard - boypixel.fr 的評價
- 關於實習 重要嗎 dcard 在 阿滴在Dcard 上被實習生黑特，到底發生什麼事？《 YouTube ... 的評價
- 關於實習 重要嗎 dcard 在 阿滴在Dcard 上被實習生黑特，到底發生什麼事？《 YouTube ... 的評價
- 關於實習 重要嗎 dcard 在 國立清華大學台灣- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 中信面試dcard - acncm.fr 的評價
- 關於實習 重要嗎 dcard 在 : 『 三月是實習招募大旺季 你準- google 實習dcard - W56T 的評價
- 關於實習 重要嗎 dcard 在 Job Application for 社群營運實習生at Dcard - Greenhouse 的評價
- 關於實習 重要嗎 dcard 在 論壇上的各式資訊、討論與評價- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 _dcard西斯版怎麼進入衡安網- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 ｜現在就加入Dcard吧! @ - google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 google 實習dcard - 李哲宏的Google 實習心得 的評價
- 關於實習 重要嗎 dcard 在 20 ! 國立陽明交通大學資訊工程學系- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 Re: [討論] 關於Dcard ML 實習作業 - PTT 熱門文章Hito 的評價
- 關於實習 重要嗎 dcard 在 Re: [討論] 關於Dcard ML 實習作業 - PTT 熱門文章Hito 的評價
- 關於實習 重要嗎 dcard 在 google 實習dcard - 心得暑期實習面試心得看板 ... - keephua.com 的評價
- 關於實習 重要嗎 dcard 在 電商商品研發實習生Dcard｜Yourator 求職平台- google 實習 ... 的評價
- 關於實習 重要嗎 dcard 在 究實習生現正招募中! 工作板- google 實習dcard - 23999.club 的評價
- 關於實習 重要嗎 dcard 在 面試心得分享- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 面試分享半年關卡工作板- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 ｜現在就加入Dcard吧! @ - google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 實習生面試分享！ - google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 國立清華大學台灣- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 google 實習dcard - 實習透視鏡Intern Lens 大家好 的評價
- 關於實習 重要嗎 dcard 在 李哲宏的Google 實習心得- google 實習dcard - Garshena 的評價
- 關於實習 重要嗎 dcard 在 社群行銷實習生- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 面試詳細攻略- google 實習dcard 的評價
- 關於實習 重要嗎 dcard 在 面試經驗分享- Dcard 公司的Web Backend Intern 面試 的評價
- 關於實習 重要嗎 dcard 在 2023 Frontend Intern at Dcard - Startup Jobs 的評價
- 關於實習 重要嗎 dcard 在 推甄後考試dcard 的評價
- 關於實習 重要嗎 dcard 在 推甄後考試dcard - vfngf1.online 的評價
- 關於實習 重要嗎 dcard 在 推甄後考試dcard - busatop.online 的評價
實習 重要嗎 dcard 在 [討論] 關於Dcard ML 實習作業- 看板Soft_Job - 批踢踢實業坊 的推薦與評價
作者Sixigma (六西格瑪)
看板Soft_Job
標題[討論] 關於 Dcard ML 實習作業
時間Sun May 14 01:29:57 2023
看到下面有篇大神有討論到這次 Dcard ML 實習作業，因為沒有收到團隊的具體反饋
想和大家討論作業的狀況
題目是用結構資料，包含標題、看板資訊以及1-6小時的愛心數和評論數等等
來預測發文後 24 小時的愛心數
因為當時是期中，我只大概花了五天約二十個小時來做
我的作法大致如下
首先先用 XGBoost LightGBM 把量化資料做出 baseline
但沒辦法處理最重要的標題資訊
所以就直接拿 Huggingface BERT 來做
直接把資料餵進去的訓練是無法收斂的
後來也嘗試一些 Emsemble 和 training tricks
但也都沒辦法收斂，甚至達不到 baseline 的效果
認為是資料量的問題
到這邊沒什麼特別想法就直接寫報告了
我一直都主要是做 CV ，碩論跑去做 3D
對 NLP 非常不熟悉，不知道是否有漏掉關鍵操作
想請同有拿到作業的大神指點
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.171.131.209 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1683998999.A.DBB.html
推 changecandy: 你用BERT做了什麼以及什麼東西無法收斂？ 05/14 03:05
任務如文中所述，是迴歸問題，目標是文章發文後24小時的愛心數
因為有中文標題，故直覺想到就是 BERT，將中文標題 tokenize 後
連同其他 feature 一同 concatenate，送入BERT直接 end2end 訓練出愛心數
推 Tommnny: 這邊跪等神人分享 我們實驗室沒有人上 05/14 10:49
不知道實驗室內有沒有其他效果比較好的解法？
推 Bujo: 這個案例建議使用LSTM序列 05/14 12:01
謝謝提供思路，但LSTM的話要如何考慮中文標題？
一樣使用word2vec或tokenizer嗎？
推 cilovwx: 雖然我也沒上，但我自己還有另外萃取出判斷個版跟標題是 05/14 13:05
→ cilovwx: 否有分類之類的feature，這兩項做關聯度分析，相關性也 05/14 13:05
→ cilovwx: 不低 05/14 13:05
謝謝，確實我幾乎沒有做 feature engineering
是否方便請教後續是用什麼方法回歸出愛心數？
推 DrTech: 你這樣 concatenate bert出來的維度那麼大，變成嚴重主導 05/14 14:36
→ DrTech: 預測結果。但實際上 05/14 14:36
→ DrTech: 但標題實際上根本不太會影響愛心與評論數。光看這點，就覺 05/14 14:38
→ DrTech: 得你沒有從最基本的業務理解business understanding來解了 05/14 14:38
→ DrTech: 。 05/14 14:38
→ DrTech: 對了，資料量有多打？ 資料量少，用複雜的模型根本沒用。 05/14 14:41
→ DrTech: 資料量少的話，例如少於幾萬筆，對標題做任何處理可能都沒 05/14 14:46
→ DrTech: 太大意義。 05/14 14:46
→ DrTech: 這題，愛心數，評論數的特徵，相較於標題，標題絕對是雜訊 05/14 14:48
→ DrTech: 。 05/14 14:48
→ DrTech: HuggingFace tokenizer出來的標題維度很大的，只會讓標題 05/14 14:51
→ DrTech: 雜訊主導一切。當然沒辦法收斂，很正常。 05/14 14:51
→ DrTech: 資料量確實是問題。但人是否會根據標題就評論或點愛心，是 05/14 14:58
→ DrTech: 你優先需要思考到的。 05/14 14:58
謝謝DrTech大的回復，tokenizer出來的embeddings我是有再downsampling的
當時也有考慮到這件事情，我也測試過downsample到4 - 16或其他一些奇淫巧技
也有對tokenizer做regularization等等，但對訓練幫助都不大
至於標題是否影響愛心數，確實實際上不一定
但該資料集提供的特徵數很少，其餘大多都是scalar
相信他們一定希望受試者去分析標題，當然處理整個標題可能不是個好辦法
1-6小時愛心數與24小時愛心數的相關性非常高
故我也在BERT之中嘗試建立使用這些高相關feature的MLP迴歸模型
以及和 XGBoost LightGBM 的 Ensemble
但對訓練並無明顯益處
我在寫這份測驗的時候，並不覺得量化結果會多好，因為僅有約五萬筆資料(文章)
而同時也要展現工程能力，譬如我用 Pytorch-lightning 架構整個
training, monitoring, evaluation pipeline
實作上的能力可能會區分我與其他一部分的面試者
但結果看來可能是有大神直接幹出很好的模型和訓練結果
後續評分項如解題思路、報告呈現和實作能力都沒有被考量了
才很好奇進入面試的大神是怎麼得出很好的預測方法的
感謝您的回覆
※ 編輯: Sixigma (118.171.131.209 臺灣), 05/14/2023 16:03:47
推 cilovwx: 我自己對於標題的作法是單純直接用snownlp去做sentiment 05/14 16:44
→ cilovwx: polarity 而已，因為我自己認為標題其實只是吸引大家點 05/14 16:44
→ cilovwx: 進去的機率，但按愛心的數量跟內容比較有相關。我的model 05/14 16:44
→ cilovwx: 部分，我記得我一開始用xgboost效果不是很好，所以我後 05/14 16:44
→ cilovwx: 來改用SVR跟一個我自己建的NN模型。但是我那時候也在準 05/14 16:44
→ cilovwx: 備其他事情，所以好像也沒有fine-tuned 得很好 05/14 16:44
推 hsuchengmath: 遇到這種 一定是先做基本的統計分析啊，先看 24小 05/14 17:01
→ hsuchengmath: 時愛心數的分佈，然後分成 多愛心數 和 少愛心數的 05/14 17:01
→ hsuchengmath: ，然後看哪些特徵 是有用的，最後才建模啊，別在直 05/14 17:01
→ hsuchengmath: 接套膜了，不會進步的xdd 05/14 17:01
推 DrTech: 謝謝你，長文那麼仔細回應互動喔 05/14 17:54
→ changecandy: 直接使用BERT做預測的確是個挑戰，原因有很多就不展 05/14 18:43
→ changecandy: 開了，但你可以考慮換個用法，例如把BERT基於文字所 05/14 18:43
→ changecandy: 預測的分數當成你主要預測模型的其中一項特徵，這樣 05/14 18:43
→ changecandy: 也算是引入文字資訊了。 05/14 18:43
噓 Matz: 去鴻海第一年150沒問題 05/14 21:13
推 abc21086999: 煩不煩哪裡都有鴻海 05/14 23:37
推 email81227: 好奇用哪個BERT Pre-Training的版本？ 05/15 03:09
推 nistik84114: 中文如果沒在你用的bert的tokenizer裡會直接被忽略 05/15 06:11
→ nistik84114: 喔 確認一下 05/15 06:11
→ gamania0258: 話一堆時間寫作業還不給回饋 這間很像挺看得起自己的 05/15 16:04
→ gamania0258: lul 只能說 沒上是好事 05/15 16:04
推 T160: 我做法跟h大說的差不多XD 也是至少花了20小時以上時間搞這pr 05/15 22:35
→ T160: oject 結果就一封罐頭感謝函 好歹也給個排名吧真的很沒誠意- 05/15 22:35
→ T160: _- 05/15 22:35
推 hia261321: 根據之前看同學打比賽 我猜可能有人自己去抓dcard的額 05/16 09:42
→ hia261321: 外資料來訓練 資料量比一般人多很多的情況下隨便丟個 05/16 09:42
→ hia261321: 模型都贏大家 05/16 09:42
推 aacs0130: 推hsuchengmath跟DrTech 05/27 13:44
... <看更多>
實習 重要嗎 dcard 在 大家實習是真的有學到東西嗎？ - 心情板 - Dcard 的推薦與評價
我從大三開始就對未來要做什麼工作滿焦慮的，因為不知道自己到底想做甚麼，所以看到身邊朋友狂投各種實習，我也跟著一起投了很多，畢業到現在快半年， ... ... <看更多>
實習 重要嗎 dcard 在 [討論] 關於Dcard ML 實習作業- 看板Soft_Job - 批踢踢實業坊 的推薦與評價
看到下面有篇大神有討論到這次 Dcard ML 實習作業，因為沒有收到團隊的具體反饋
想和大家討論作業的狀況
題目是用結構資料，包含標題、看板資訊以及1-6小時的愛心數和評論數等等
來預測發文後 24 小時的愛心數
因為當時是期中，我只大概花了五天約二十個小時來做
我的作法大致如下
首先先用 XGBoost LightGBM 把量化資料做出 baseline
但沒辦法處理最重要的標題資訊
所以就直接拿 Huggingface BERT 來做
直接把資料餵進去的訓練是無法收斂的
後來也嘗試一些 Emsemble 和 training tricks
但也都沒辦法收斂，甚至達不到 baseline 的效果
認為是資料量的問題
到這邊沒什麼特別想法就直接寫報告了
我一直都主要是做 CV ，碩論跑去做 3D
對 NLP 非常不熟悉，不知道是否有漏掉關鍵操作
想請同有拿到作業的大神指點
謝謝
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 118.171.131.209 (臺灣)
※ 文章網址: https://www.ptt.cc/bbs/Soft_Job/M.1683998999.A.DBB.html
任務如文中所述，是迴歸問題，目標是文章發文後24小時的愛心數
因為有中文標題，故直覺想到就是 BERT，將中文標題 tokenize 後
連同其他 feature 一同 concatenate，送入BERT直接 end2end 訓練出愛心數
不知道實驗室內有沒有其他效果比較好的解法？
謝謝提供思路，但LSTM的話要如何考慮中文標題？
一樣使用word2vec或tokenizer嗎？
謝謝，確實我幾乎沒有做 feature engineering
是否方便請教後續是用什麼方法回歸出愛心數？
謝謝DrTech大的回復，tokenizer出來的embeddings我是有再downsampling的
當時也有考慮到這件事情，我也測試過downsample到4 - 16或其他一些奇淫巧技
也有對tokenizer做regularization等等，但對訓練幫助都不大
至於標題是否影響愛心數，確實實際上不一定
但該資料集提供的特徵數很少，其餘大多都是scalar
相信他們一定希望受試者去分析標題，當然處理整個標題可能不是個好辦法
1-6小時愛心數與24小時愛心數的相關性非常高
故我也在BERT之中嘗試建立使用這些高相關feature的MLP迴歸模型
以及和 XGBoost LightGBM 的 Ensemble
但對訓練並無明顯益處
我在寫這份測驗的時候，並不覺得量化結果會多好，因為僅有約五萬筆資料(文章)
而同時也要展現工程能力，譬如我用 Pytorch-lightning 架構整個
training, monitoring, evaluation pipeline
實作上的能力可能會區分我與其他一部分的面試者
但結果看來可能是有大神直接幹出很好的模型和訓練結果
後續評分項如解題思路、報告呈現和實作能力都沒有被考量了
才很好奇進入面試的大神是怎麼得出很好的預測方法的
感謝您的回覆
※ 編輯: Sixigma (118.171.131.209 臺灣), 05/14/2023 16:03:47
... <看更多>