最近有兩種很有趣數據增強手法,一個是依照透明度把兩張圖片疊合的mixup,以及以不定大小位置的塊狀互換的方式的cutmix,前者在計算交叉熵時是以兩種標籤0.5/0.5方式計算,後者則是依照色塊大小比例分攤,實作都不複雜,由於這兩種手法都可以直接整個批次tensor一次處理,不需逐張處理,也因此計算開銷不是很大(附圖是我實現的圖),但我並不像原作如此大膽只使用這種樣本訓練,我採取損失函數疊加,傳統圖像分類交叉熵再加上0.5倍的mixup/cutmix樣本交叉熵。
初步測試結果,用了的確收斂速度變快,雖然top 3 accuracy差不多,但是用了mixup/cutmix的top1 accuracy就高出了5%左右,mixup效果看起來是穩定一些,cutmix 效果比較起伏,我認為是有剛好物體不在色塊中的狀況干擾了cutmix的效果,所以我覺得這些技術可以成為輔助訓練提升幾個百分點的trick,基本上還不能算是影響重大的新概念。
但這類算法能解決一個困擾已久的問題,那就是onehot形式的標籤是建構在只有一個完美答案的前提下,但是數據可能有標注錯誤,分類也有可能會有模糊地帶,利用這兩種方法就直接打破onehot 的概念,從fit標籤的值,變成去fit標籤的分佈,這讓機器從原有的「不是答案就算錯」的onehot思維,轉換到「那些是最有可能的答案」的分佈思維,這樣標籤標注錯誤與分類模糊區域的問題也可以基於fit 標籤的分佈的思路迎刃而解,所以也算是使用這兩個技術的另一種正面意義
mixup : https://arxiv.org/pdf/1710.09412
cutmix : https://arxiv.org/abs/1905.04899
「accuracy計算」的推薦目錄:
- 關於accuracy計算 在 DeepBelief.ai 深度學習 Facebook 的最佳貼文
- 關於accuracy計算 在 EE Times Taiwan Facebook 的精選貼文
- 關於accuracy計算 在 讀書e誌 Facebook 的最讚貼文
- 關於accuracy計算 在 [問題] 如何計算accuracy之confidence interval? - 看板Statistics 的評價
- 關於accuracy計算 在 常見評價指標:Accuracy、Precision、Recall、F1 - 辛西亞的 ... 的評價
- 關於accuracy計算 在 Calculate Accuracy from Confusion Matrix - gists · GitHub 的評價
- 關於accuracy計算 在 tf.metrics.accuracy计算的是正确率吗 - 小羽的知识库 的評價
- 關於accuracy計算 在 手機計算器就可以玩魔術!百發百中(Mobile phone calculator ... 的評價
accuracy計算 在 EE Times Taiwan Facebook 的精選貼文
accuracy計算 在 讀書e誌 Facebook 的最讚貼文
*** 與不確定性共舞 (3 之1)****
Thinking in bets 德州撲克女王談決策思維 (有中文版!)
"Life is poker, not chess" (人生像是德州撲克,而不是西洋棋)。比起西洋棋的可計算性,德州撲克包括了人心和運氣的不確定因素,用人生更加相似。
Annie Duke 是美國德州撲克常勝軍,在二十多年比賽後退休了,常常被許多組織或是企業邀請分享如何做決策。本身就是攻讀心理博士 (後來肄業)的她,意外踏上撲克桌,磨練出一套兼顧心理,腦神經科學,以及實戰經驗的一套決策法則。
我喜歡這本書開宗明義提到的兩個觀點:
1. Quality of decision is separate from the outcome 決策品質與成敗必須分開來看
這點跟一般想法很不同,但事實就是很多東西不在我們的掌握中,好的決策可能會輸,不好的決策可能剛好碰上好運。若不分別兩者,我們心理很容易將成功歸功自己智慧,失敗歸咎運氣不佳,兩者分開看,才有機會增進自己決策的品質。
2. We are all overly confident 我們通常都太過自信
“如果一枚硬幣連續擲出三次頭部,那麼第四次又是頭部的機率如何?” 大部分人會很自信回答 50%, 但作者說我們很少質疑硬幣本身,是否兩面圖案是否一樣?是否直硬幣的人有做手腳?硬幣本身的品質公平嗎?
雖然如此,我們大腦是為了快速決策而設計的,而且“犯錯”給人的負面感受遠大於做對決策的正面感受 (參考 “快思慢想”)。當顯示我們想錯了,一般會選擇比較不痛苦的“自圓其說”而非承認錯誤。如何以符合我們大腦運作方式,還能增進個人或是團體的決策品質呢?有幾點我絕覺得很值得參考:
1. What % am i sure, admitting we are not sure 論述自己的觀點,用機率描述 (像是降雨機率)
這樣,有新的證據顯示相反時,會像是幫助你調整機率值的新資訊,而不是一種否定。(也讓他人提出不同意見時不用擔心冒犯)
2. How we think we compare to others impedes our learning 對別人的表現抱持中立心態
當你專注用人比較時,容易覺得別人運氣好,這樣的心理作用會讓你喪失學習的機會。
3. Accountability to accuracy -- what a bet is 決策時要像賭博一樣思考籌碼與代價
4. Experience vs. learning opportunity
光有經驗不代表有成長,唯有在每次決策後,不論成敗,很有意識地分析自己決策品質,才會進步。她也說不要因人取言,只因為你喜不喜歡一個人,無法代表他的意見值不值得參考,會錯失很多好的資訊或是學習機會。
5. Time travel and opportunity to regret 用想像力回到過去或是跨越未來
假想過去這麼做,現在會覺得正確嗎?想像現在的決策,未來會後悔嗎?這些想像操練,會給你不同的思考面向和找出問題的機會。她也說道,我們常常眼光短淺,像是每天在看股市起落的人,決定我們快樂滿足與否,但我們應該放長眼光看,更像是巴菲特選股看長期的精神。
總歸來說,最難的就是制服自我 (ego) 一個人如果更在乎進步,勝於自我感覺良好的需要,再加上刻意的練習,就已經讓決策品質提升,增加成功的機會大大提升了!
"不 輕 易 發 怒 的 , 勝 過 勇 士 ; 治 服 己 心 的 , 強 如 取 城 " 箴言
書中還有很多好東西,推薦大家有興趣可以找來讀!
中文版 “高勝算決策: 如何在面對決定時, 降低失誤, 每次出手成功率都比對手高?”
影片: Why saying "I dont know" is a key to success (為什麼承認“我不知道”是成功的必要因素之一?)
中文版與影片鏈結在部落格中 👇👇👇
https://dushuyizhi.net/thinking-in-bets-%e5%be%b7%e5%b7%9e%e6%92%b2%e5%85%8b%e5%a5%b3%e7%8e%8b%e8%ab%87%e6%b1%ba%e7%ad%96%e6%80%9d%e7%b6%ad-%e6%9c%89%e4%b8%ad%e6%96%87%e7%89%88%ef%bc%81%ef%bc%89/
accuracy計算 在 常見評價指標:Accuracy、Precision、Recall、F1 - 辛西亞的 ... 的推薦與評價
常見的量化指標有Accuracy、Precision、Recall 與F1-Measure。 ... 接下來各個指標的計算,都是基於TP、TN、FP、FN 這四種狀況進行排列組合: ... ... <看更多>
accuracy計算 在 Calculate Accuracy from Confusion Matrix - gists · GitHub 的推薦與評價
從Confusion Matrix 計算出Accuracy 分類評量值. binary=True,二元分類時,使用TP, FP, TN, FN 的定義去做,accuracy = (TP + TN) / (TP + TN + FP + FN). ... <看更多>
accuracy計算 在 [問題] 如何計算accuracy之confidence interval? - 看板Statistics 的推薦與評價
是一個2X2的diagnostic table
我想計算accuracy之 95 % confidence interval
sensitivity和specificity的CI我已用medcalc網頁算
https://www.medcalc.org/calc/diagnostic_test.php
唯獨accuracy的CI一直找不到如何算出
請各位先進幫忙 感激不盡
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 210.60.122.3
※ 文章網址: https://www.ptt.cc/bbs/Statistics/M.1428240740.A.B12.html
... <看更多>