有人問我腳上穿什麼?為什麼要穿個東西?
或是腳上一定要穿這個嗎?
我腳上自從中風後不久,
就一直穿戴AFO副木,
因為第二個月我就練習走路,
所以醫生就幫我做了一個副木。
我上次有講到,在家不穿副木其實也不好,
腳除了垂足以外,還容易內翻,
為了腳不要內翻,
走路就會產生代償姿勢,
因而養成不好步態,
所以我在家都穿簡易式副木,
外出就穿 #易步足踝護具
因為外出不小心內翻,除了超痛,
也會影響接下來的行程,
所以我都穿 #王泓琦 老師的發明,
小小的發明,卻是大大的幫助,
成為我每天外出必備的工具。
除了防止內翻,也能穩定步態,
練習走路上下階梯等時候更方便,
雖然中間有參考別的副木,
其它是有不錯的發明,也很好看,
可是卻不是那麼合適,
比如有的是給周邊神經損傷的垂足,
但是中風者有時還有協同出現內翻的張力,
所以如何選擇最適合的副木,
是一大學問!
除了穿戴王老師的發明以外,
平時有問題也會詢問他以做參考,
特別是我在網路上看到有關手跟腳的副木,
有新發現就會詢問他意見,
他就會分析給我聽。
不過昨天詢問到是關於味覺的事,
因為我最近發現我味覺改變了一項,
就是有關甜味的事。
其實在我中風後,隨即去驗了食物過敏原,
其中牛奶是一項過敏原,
所以我有快兩年沒喝牛奶之外,
以前每天喝的乳清,
由於也是乳製品,也都沒喝了。
最近又開始喝乳清,
其實過敏原檢測指示,
半年後就可以稍微喝一些,
我隔了一年半以上,所以就開始喝一了些,
但是我發現,筋肉媽媽說好喝的,
我喝起來……都超難喝,
後來發現所有牌子的調味乳清,
橘子、香蕉、可爾必思、巧克力、香草等,
所有口味我喝起來都一樣,是苦的,
所以我發現我現在對代糖感受是苦的,
只有喝或吃一般的飲料食物,才覺得是甜的,
所以我現在是人體驗糖機。
王老師有提到,他查資料,
有些代糖吃多反而有種金屬的苦味,
不過我是現在一碰代糖就覺得苦。
現在還沒有乳清喝起來是甜的,
一般乳清為了低熱量又好喝,
勢必加入代糖增加風味,
但是對於現在的我,喝起來超苦!
不過我不知道是不是對於所有種類的代糖都是苦的,
可能要一一測驗才知道。
現在想知道一個食物是不是添加代糖,
可以找我來測試哈哈哈!
同時也有8部Youtube影片,追蹤數超過7萬的網紅Tech Dog,也在其Youtube影片中提到,▌建議開啟 4K 畫質 達到高品質觀影享受 不要錯過:http://bit.ly/2lAHWB4 這次石頭的新旗艦掃拖機器人 S6 MaxV 老實說跟前幾代比差異不大,其中「吸力增強」和「AI 雙鏡頭避障」實屬升級最有感的部分。 影片中也幫你們好好比較一番,大致比較 S6 MaxV、S5 Ma...
「神經網路種類」的推薦目錄:
- 關於神經網路種類 在 筋肉爸爸 JZ Facebook 的精選貼文
- 關於神經網路種類 在 國家衛生研究院-論壇 Facebook 的最佳貼文
- 關於神經網路種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最讚貼文
- 關於神經網路種類 在 Tech Dog Youtube 的最讚貼文
- 關於神經網路種類 在 alex lam Youtube 的最佳貼文
- 關於神經網路種類 在 香港喵喵俠 Youtube 的精選貼文
- 關於神經網路種類 在 我們要知道深度學習的基礎是神經網路。聽起來很學術 的評價
- 關於神經網路種類 在 卷積神經網路互動視覺化系統 的評價
- 關於神經網路種類 在 類神經網路種類在PTT/mobile01評價與討論 - 台鐵車站資訊懶人包 的評價
- 關於神經網路種類 在 類神經網路種類在PTT/mobile01評價與討論 - 台鐵車站資訊懶人包 的評價
- 關於神經網路種類 在 【秒懂AI】05_類神經網路- YouTube 的評價
神經網路種類 在 國家衛生研究院-論壇 Facebook 的最佳貼文
「星星的孩子」:報導下被汙名化的「自閉症」
自閉症是天生的嗎?而我們身邊又有多少這樣的孩子呢?這幾年在許多社會事件報導中,常見自閉症與案件的關鍵字連結,有時候傳播媒體中的自閉症樣貌,未必是真實的,我們不應該輕易推論或標籤化這些行為。
近年來自閉症有機會透過不同的形式出現在媒體版面中,傳播媒體如何塑造自閉症的形象,大大影響了自閉症的社會印象。在許多社會事件報導中,也有機會看見自閉症與殺人犯、死刑犯、變態等社會新聞連結,最讓人擔心的,是過度簡化的資訊使得社會大眾對自閉症產生偏差的刻板印象。
■不放棄每一個孩子
自閉症只是一個人的部分特質,自閉症並不等於偏差或犯罪。即使自閉症是天生的,但後天環境的教養與支持仍然是他們穩定發展的重要因素。看到媒體報導中出現自閉症時,請不要驟下判斷,避免直接將犯罪、殺人和自閉症劃上等號。
日前臺北一名媽媽推著雙人嬰兒車搭捷運,卻遭某名男子毆打她的二歲兒子,她見狀大喊「你打他幹嘛啦!」並回打那名男子頭部。這起事件引起社會重視,由於那名男子患有自閉症,因此網路上出現一些貶抑自閉症的言詞,標籤化自閉症孩子,甚至有人羞辱自閉症孩子。
在這起捷運毆打兒童事件後,有位自閉症孩子的母親淚訴另一個有自閉症孩子的朋友竟被親戚諷刺說:「你家自閉症小孩要管好,最好出門都不要放他單獨一個人,免得哪天無法控制情緒,跟新聞中那個捷運打人的一樣,聽說他跟你兒子一樣是神經病,其實政府應該設一個院所,把你兒子那種病的都關起來治療,好了才能放出去,不然放出來到處跑,哪天又無法控制情緒打死人,家裡可丟不起那個臉。」這番說法讓自閉症孩子的媽媽心碎,也讓發文的媽媽想怒吼:「誰希望自己小孩是自閉症?他們不是神經病,他們是中樞神經受損。」[1]
■「星星的孩子」
「自閉症」也稱為「泛自閉症障礙」,主因是因為症狀多元,不同的病人症狀也會有所差距,因「自閉症」有汙名化之慮,所以醫界目前更常使用「泛自閉症障礙」一詞。自閉症是一種腦部功能異常的廣泛性發展障礙,大部分在幼兒時期就會出現症狀,有些人會將自閉症稱為「星星的孩子」,不論是溝通方式,或是某些重複、固執的行為,跟一般人不太一樣。
自閉症孩童通常會有幾個特點,像是與他人相處困難、難以理解社交暗示(臉部表情、講話語調、身體動作等),甚至常常情緒不佳、無法自己照顧自己。自閉症孩童的治療需要依賴職能治療師、臨床心理師,幫助他們正常發展、並調整不適當的行為,且協助孩童發展個人的興趣。早期發現、治療、復健以及跟教育體系密切合作,才能幫助孩子得到最大改善[2]。
■自閉症種類
►「廣泛性自閉症」
自閉症大部分在幼童階段開始,目前發現自閉症的幼童智商會略低於整體平均,自閉症又能分成「高功能型」以及「低功能型」,「低功能型」在接收以及表達語言上較差,甚至沒有口語表達能力,「高功能型」則相反。
►「亞斯伯格症」
亞斯伯格症的人語言發展大多是正常的,主要的障礙是在動作技能以及肌肉發展上,部分亞斯伯格的人在智商上甚至高於正常人。
►「廣泛性發展障礙」
這類型的人主要是在社交溝通、互動、重覆行為等各方面中缺少幾項顯著障礙,以致於不完全符合自閉症的診斷,又稱為非典型自閉症,某些高功能自閉症孩童能透過學習以及復健可以改善症狀,甚至使症狀消失,也算是廣泛性發展障礙的一種。[3]
■「另類星兒」:亞斯伯格症候群
亞斯伯格醫師為維也納的小兒科醫師,但他終生的研究興趣為藉由觀察來了解生命中隱含的定律。因為他對孩童的情緒發展的興趣及仔細觀察的成果,自1944年以來即逐漸報導一些與自閉症類似(具有社交技巧及溝通障礙)又相異(不同的人格特質及較優的認知能力)的亞斯格症候群。
亞斯伯格醫師在1944年首次報告四位具有社交互動(social interaction deficit)困難的男孩,並稱之為自閉性精神病態 (autistic psychopathy)。亞斯伯格醫師在這一方面的觀點,與首位報告自閉症的Kanner醫師一樣,採用了Bleuler大師"autism"的來強調這些個案的強烈自我中心 (egocentrism)及關閉與外界的一切溝通的特質。
雖然亞斯伯格醫師在50年前即提出亞斯伯格症候群,然而一直到1994年,第四版美國精神醫學診斷手冊DSM-IV及1993年世界衛生組織WHO「正式」承認亞斯伯格症候群後,相關的研究才逐漸增加[4]。
■亞斯格症候群
臺灣著名漫畫家朱德庸在五十三歲時被診斷為自閉症(亞斯伯格症),童年時期的他和同學無法相處,也常因聽不懂老師的指令而不快樂,喜歡畫畫的他,於是將畫畫當作人生的出口。在他五十多歲確診後,他開始對於過去種種釋懷,原諒自己和他人不同。
日本歌手米津玄師特殊的名字也讓他在求學時期遭同儕欺負。後來他二十歲時,被醫生診斷出患有高功能自閉症,是一種智商中等或較高,自閉傾向不明顯,但是語言表達、人際互動能力有障礙的自閉症。米津玄師也曾在訪談中說,「在此之前,只覺得自己是個來路不明的怪物,被鄭重告知病名後,便坦然接受了。」
而臺北市長柯文哲和太太也多次在公開場合指出,柯文哲罹患自閉症(亞斯伯格症),以致他在公開場合有不得體的發言與行為表現[5]。
台北市長柯文哲的妻子、台北市立聯合醫院和平婦幼院區新生兒科主任陳佩琪回憶起,兒子小學數學考試的題目是:「媽媽走路送小明上學,請問媽媽走了幾公里?」正確答案是:家裡到學校的距離乘以2,因為媽媽必須來回。結果我兒子卡住了,因為他想到,我媽媽要去上班,她沒有回家(亞斯伯格的人無法理解抽象概念的描述)。
陳佩琪,講到家裡兩個大小亞斯,信手拈來都是笑話,但幽默背後,不敢想像裡頭堆疊了多少挫敗、孤獨、壓力、擔憂。
柯文哲在一封寫給兒子的信也提到,「如果有什麼要告訴你的,只有告訴你要謝謝媽媽。雖然我是你成長過程中缺席的父親,還好你媽媽的加倍付出而彌補過去了,真險!」這是一個難以傳達情感的亞斯父親的浪漫,像盞溫暖的燭火,在暗夜裡閃閃發光。[6]
■「擁抱多元,尊重差異」:醫嘆:社會污名害了孩子!
林口長庚醫院兒童心智科主任黃玉書不捨的表示,台灣社會對自閉症仍有污名化,事實上,自閉症最大特徵就是「自己躲在自己的世界裡」,不愛跟人互動,很自我、很乖,呼籲不要二度傷害他們。
根據統計,國內自閉症患者中,約有70%屬於智商較差的中、重度患者,黃玉書指出,不少孩子都是經過復健、訓練,克服重重困難,才可能獨自出門、搭車,真有困難,也會主動向旁人求救,民眾遇到時,應該親切伸出援手,拉他一把而非恐懼他。
另有2成左右的患者,屬於智商很高、甚至在某些領域有特殊專才的輕度高功能自閉症,外表完全與常人無異,這些高功能自閉症患者,不乏醫師、科學家等高成就者,在國內還有不少擔任電腦工程師,只喜歡跟電腦互動。
自閉症的孩子,絕對不會主動傷人!黃玉書說,跟任何人都一樣,除非他們遭受外界攻擊,否則自閉症孩子很安全、很乖,不會攻擊人[7]。
【Reference】。
1.來源
➤➤資料
∎[1] ( 親子天下 )「管好你家自閉兒,別放出來亂打人?報導下被汙名化的自閉症」: https://www.parenting.com.tw/article/5087619
∎[2] 康健雜誌-康健知識庫【自閉症】:https://kb.commonhealth.com.tw/library/367.html#data-2-collapse
∎[3] ( 台北市自閉症家長協會 )「自閉症分類」:http://www.tpaa.org.tw/OnePage.aspx?tid=136
∎[4] ( 長庚醫療財團法人)「另類星兒----- 亞斯伯格症候群(兒童心智科 張學岑醫師)」:https://www1.cgmh.org.tw/intr/intr2/c3360/E_CHL(ASPER).htm
∎[5] (親子天下)「管好你家自閉兒,別放出來亂打人?報導下被汙名化的自閉症」: https://www.parenting.com.tw/article/5087619
∎[6] ( 康健雜誌 )「陳佩琪談家中大小亞斯伯格:柯文哲這樣安慰我」:https://www.commonhealth.com.tw/article/68312
∎[7] ( Anue鉅亨網財經新聞)「自閉兒被當狂魔 醫嘆:社會污名害了孩子!」:https://news.cnyes.com/news/id/1075280
➤➤照片
∎「從雨人到柯P─家中寶貝是「星星的孩子」自閉症患者嗎?」:https://www.grandmasbear.com.tw/2017/12/28/grandmasbear-and-grace-column-3/
2. 【國衛院論壇出版品 免費閱覽】
▶國家衛生研究院論壇出版品-電子書(PDF)-線上閱覽
https://forum.nhri.org.tw/publications/
3. 【國衛院論壇學術活動】
▶https://forum.nhri.org.tw/events/
#國家衛生研究院 #國衛院 #國家衛生研究院論壇 #國衛院論壇 #衛生福利部 #國民健康署 #精神疾病汙名化 #星星的孩子 #自閉症 #泛自閉症障礙 #廣泛性自閉症 #亞斯伯格症 #廣泛性發展障礙
林口長庚醫院兒童心智科 / 衛生福利部 / 國民健康署 / 財團法人國家衛生研究院 / 國家衛生研究院-論壇
神經網路種類 在 台灣物聯網實驗室 IOT Labs Facebook 的最讚貼文
摩爾定律放緩 靠啥提升AI晶片運算力?
作者 : 黃燁鋒,EE Times China
2021-07-26
對於電子科技革命的即將終結的說法,一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續,也就意味著資訊技術的整棟大樓建造都將出現停滯,那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有的,但這波革命始終也沒有結束。AI技術本質上仍然是第三次科技革命的延續……
人工智慧(AI)的技術發展,被很多人形容為第四次科技革命。前三次科技革命,分別是蒸汽、電氣、資訊技術(電子科技)革命。彷彿這“第四次”有很多種說辭,比如有人說第四次科技革命是生物技術革命,還有人說是量子技術革命。但既然AI也是第四次科技革命之一的候選技術,而且作為資訊技術的組成部分,卻又獨立於資訊技術,即表示它有獨到之處。
電子科技革命的即將終結,一般認為即是指摩爾定律的終結——摩爾定律一旦無法延續,也就意味著資訊技術的整棟大樓建造都將出現停滯,那麼第三次科技革命也就正式結束了。這種聲音似乎是從十多年前就有,但這波革命始終也沒有結束。
AI技術本質上仍然是第三次科技革命的延續,它的發展也依託於幾十年來半導體科技的進步。這些年出現了不少專門的AI晶片——而且市場參與者相眾多。當某一個類別的技術發展到出現一種專門的處理器為之服務的程度,那麼這個領域自然就不可小覷,就像當年GPU出現專門為圖形運算服務一樣。
所以AI晶片被形容為CPU、GPU之後的第三大類電腦處理器。AI專用處理器的出現,很大程度上也是因為摩爾定律的發展進入緩慢期:電晶體的尺寸縮減速度,已經無法滿足需求,所以就必須有某種專用架構(DSA)出現,以快速提升晶片效率,也才有了專門的AI晶片。
另一方面,摩爾定律的延緩也成為AI晶片發展的桎梏。在摩爾定律和登納德縮放比例定律(Dennard Scaling)發展的前期,電晶體製程進步為晶片帶來了相當大的助益,那是「happy scaling down」的時代——CPU、GPU都是這個時代受益,不過Dennard Scaling早在45nm時期就失效了。
AI晶片作為第三大類處理器,在這波發展中沒有趕上happy scaling down的好時機。與此同時,AI應用對運算力的需求越來越貪婪。今年WAIC晶片論壇圓桌討論環節,燧原科技創始人暨CEO趙立東說:「現在訓練的GPT-3模型有1750億參數,接近人腦神經元數量,我以為這是最大的模型了,要千張Nvidia的GPU卡才能做。談到AI運算力需求、模型大小的問題,說最大模型超過萬億參數,又是10倍。」
英特爾(Intel)研究院副總裁、中國研究院院長宋繼強說:「前兩年用GPU訓練一個大規模的深度學習模型,其碳排放量相當於5台美式車整個生命週期產生的碳排量。」這也說明了AI運算力需求的貪婪,以及提供運算力的AI晶片不夠高效。
不過作為產業的底層驅動力,半導體製造技術仍源源不斷地為AI發展提供推力。本文將討論WAIC晶片論壇上聽到,針對這個問題的一些前瞻性解決方案——有些已經實現,有些則可能有待時代驗證。
XPU、摩爾定律和異質整合
「電腦產業中的貝爾定律,是說能效每提高1,000倍,就會衍生出一種新的運算形態。」中科院院士劉明在論壇上說,「若每瓦功耗只能支撐1KOPS的運算,當時的這種運算形態是超算;到了智慧型手機時代,能效就提高到每瓦1TOPS;未來的智慧終端我們要達到每瓦1POPS。 這對IC提出了非常高的要求,如果依然沿著CMOS這條路去走,當然可以,但會比較艱辛。」
針對性能和效率提升,除了尺寸微縮,半導體產業比較常見的思路是電晶體結構、晶片結構、材料等方面的最佳化,以及處理架構的革新。
(1)AI晶片本身其實就是對處理器架構的革新,從運算架構的層面來看,針對不同的應用方向造不同架構的處理器是常規,更專用的處理器能促成效率和性能的成倍增長,而不需要依賴於電晶體尺寸的微縮。比如GPU、神經網路處理器(NPU,即AI處理器),乃至更專用的ASIC出現,都是這類思路。
CPU、GPU、NPU、FPGA等不同類型的晶片各司其職,Intel這兩年一直在推行所謂的「XPU」策略就是用不同類型的處理器去做不同的事情,「整合起來各取所需,用組合拳會好過用一種武器去解決所有問題。」宋繼強說。Intel的晶片產品就涵蓋了幾個大類,Core CPU、Xe GPU,以及透過收購獲得的AI晶片Habana等。
另外針對不同類型的晶片,可能還有更具體的最佳化方案。如當代CPU普遍加入AVX512指令,本質上是特別針對深度學習做加強。「專用」的不一定是處理器,也可以是處理器內的某些特定單元,甚至固定功能單元,就好像GPU中加入專用的光線追蹤單元一樣,這是當代處理器普遍都在做的一件事。
(2)從電晶體、晶片結構層面來看,電晶體的尺寸現在仍然在縮減過程中,只不過縮減幅度相比過去變小了——而且為緩解電晶體性能的下降,需要有各種不同的技術來輔助尺寸變小。比如說在22nm節點之後,電晶體變為FinFET結構,在3nm之後,電晶體即將演變為Gate All Around FET結構。最終會演化為互補FET (CFET),其本質都是電晶體本身充分利用Z軸,來實現微縮性能的提升。
劉明認為,「除了基礎元件的變革,IC現在的發展還是比較多元化,包括新材料的引進、元件結構革新,也包括微影技術。長期賴以微縮的基本手段,現在也在發生巨大的變化,特別是未來3D的異質整合。這些多元技術的協同發展,都為晶片整體性能提升帶來了很好的增益。」
他並指出,「從電晶體級、到晶圓級,再到晶片堆疊、引線接合(lead bonding),精準度從毫米向奈米演進,互連密度大大提升。」從晶圓/裸晶的層面來看,則是眾所周知的朝more than moore’s law這樣的路線發展,比如把兩片裸晶疊起來。現在很熱門的chiplet技術就是比較典型的並不依賴於傳統電晶體尺寸微縮,來彈性擴展性能的方案。
台積電和Intel這兩年都在大推將不同類型的裸晶,異質整合的技術。2.5D封裝方案典型如台積電的CoWoS,Intel的EMIB,而在3D堆疊上,Intel的Core LakeField晶片就是用3D Foveros方案,將不同的裸晶疊在一起,甚至可以實現兩片運算裸晶的堆疊、互連。
之前的文章也提到過AMD剛發佈的3D V-Cache,將CPU的L3 cache裸晶疊在運算裸晶上方,將處理器的L3 cache大小增大至192MB,對儲存敏感延遲應用的性能提升。相比Intel,台積電這項技術的獨特之處在於裸晶間是以混合接合(hybrid bonding)的方式互連,而不是micro-bump,做到更小的打線間距,以及晶片之間數十倍通訊性能和效率提升。
這些方案也不直接依賴傳統的電晶體微縮方案。這裡實際上還有一個方面,即新材料的導入專家們沒有在論壇上多說,本文也略過不談。
1,000倍的性能提升
劉明談到,當電晶體微縮的空間沒有那麼大的時候,產業界傾向於採用新的策略來評價技術——「PPACt」——即Powe r(功耗)、Performance (性能)、Cost/Area-Time (成本/面積-時間)。t指的具體是time-to-market,理論上應該也屬於成本的一部分。
電晶體微縮方案失效以後,「多元化的技術變革,依然會讓IC性能得到進一步的提升。」劉明說,「根據預測,這些技術即使不再做尺寸微縮,也會讓IC的晶片性能做到500~1,000倍的提升,到2035年實現Zetta Flops的系統性能水準。且超算的發展還可以一如既往地前進;單裸晶儲存容量變得越來越大,IC依然會為產業發展提供基礎。」
500~1,000倍的預測來自DARPA,感覺有些過於樂觀。因為其中的不少技術存在比較大的邊際遞減效應,而且有更實際的工程問題待解決,比如運算裸晶疊層的散熱問題——即便業界對於這類工程問題的探討也始終在持續。
不過1,000倍的性能提升,的確說明摩爾定律的終結並不能代表第三次科技革命的終結,而且還有相當大的發展空間。尤其本文談的主要是AI晶片,而不是更具通用性的CPU。
矽光、記憶體內運算和神經型態運算
在非傳統發展路線上(以上內容都屬於半導體製造的常規思路),WAIC晶片論壇上宋繼強和劉明都提到了一些頗具代表性的技術方向(雖然這可能與他們自己的業務方向或研究方向有很大的關係)。這些技術可能尚未大規模推廣,或者仍在商業化的極早期。
(1)近記憶體運算和記憶體內運算:處理器性能和效率如今面臨的瓶頸,很大程度並不在單純的運算階段,而在資料傳輸和儲存方面——這也是共識。所以提升資料的傳輸和存取效率,可能是提升整體系統性能時,一個非常靠譜的思路。
這兩年市場上的處理器產品用「近記憶體運算」(near-memory computing)思路的,應該不在少數。所謂的近記憶體運算,就是讓儲存(如cache、memory)單元更靠近運算單元。CPU的多層cache結構(L1、L2、L3),以及電腦處理器cache、記憶體、硬碟這種多層儲存結構是常規。而「近記憶體運算」主要在於究竟有多「近」,cache記憶體有利於隱藏當代電腦架構中延遲和頻寬的局限性。
這兩年在近記憶體運算方面比較有代表性的,一是AMD——比如前文提到3D V-cache增大處理器的cache容量,還有其GPU不僅在裸晶內導入了Infinity Cache這種類似L3 cache的結構,也更早應用了HBM2記憶體方案。這些實踐都表明,儲存方面的革新的確能帶來性能的提升。
另外一個例子則是Graphcore的IPU處理器:IPU的特點之一是在裸晶內堆了相當多的cache資源,cache容量遠大於一般的GPU和AI晶片——也就避免了頻繁的訪問外部儲存資源的操作,極大提升頻寬、降低延遲和功耗。
近記憶體運算的本質仍然是馮紐曼架構(Von Neumann architecture)的延續。「在做處理的過程中,多層級的儲存結構,資料的搬運不僅僅在處理和儲存之間,還在不同的儲存層級之間。這樣頻繁的資料搬運帶來了頻寬延遲、功耗的問題。也就有了我們經常說的運算體系內的儲存牆的問題。」劉明說。
構建非馮(non-von Neumann)架構,把傳統的、以運算為中心的馮氏架構,變換一種新的運算範式。把部分運算力下推到儲存。這便是記憶體內運算(in-memory computing)的概念。
記憶體內運算的就現在看來還是比較新,也有稱其為「存算一體」。通常理解為在記憶體中嵌入演算法,儲存單元本身就有運算能力,理論上消除資料存取的延遲和功耗。記憶體內運算這個概念似乎這在資料爆炸時代格外醒目,畢竟可極大減少海量資料的移動操作。
其實記憶體內運算的概念都還沒有非常明確的定義。現階段它可能的內涵至少涉及到在儲記憶體內部,部分執行資料處理工作;主要應用於神經網路(因為非常契合神經網路的工作方式),以及這類晶片具體的工作方法上,可能更傾向於神經型態運算(neuromorphic computing)。
對於AI晶片而言,記憶體內運算的確是很好的思路。一般的GPU和AI晶片執行AI負載時,有比較頻繁的資料存取操作,這對性能和功耗都有影響。不過記憶體內運算的具體實施方案,在市場上也是五花八門,早期比較具有代表性的Mythic導入了一種矩陣乘的儲存架構,用40nm嵌入式NOR,在儲記憶體內部執行運算,不過替換掉了數位週邊電路,改用類比的方式。在陣列內部進行模擬運算。這家公司之前得到過美國國防部的資金支援。
劉明列舉了近記憶體運算和記憶體內運算兩種方案的例子。其中,近記憶體運算的這個方案應該和AMD的3D V-cache比較類似,把儲存裸晶和運算裸晶疊起來。
劉明指出,「這是我們最近的一個工作,採用hybrid bonding的技術,與矽通孔(TSV)做比較,hybrid bonding功耗是0.8pJ/bit,而TSV是4pJ/bit。延遲方面,hybrid bonding只有0.5ns,而TSV方案是3ns。」台積電在3D堆疊方面的領先優勢其實也體現在hybrid bonding混合鍵合上,前文也提到了它具備更高的互連密度和效率。
另外這套方案還將DRAM刷新頻率提高了一倍,從64ms提高至128ms,以降低功耗。「應對刷新率變慢出現拖尾bit,我們引入RRAM TCAM索引這些tail bits」劉明說。
記憶體內運算方面,「傳統運算是用布林邏輯,一個4位元的乘法需要用到幾百個電晶體,這個過程中需要進行資料來回的移動。記憶體內運算是利用單一元件的歐姆定律來完成一次乘法,然後利用基爾霍夫定律完成列的累加。」劉明表示,「這對於今天深度學習的矩陣乘非常有利。它是原位的運算和儲存,沒有資料搬運。」這是記憶體內運算的常規思路。
「無論是基於SRAM,還是基於新型記憶體,相比近記憶體運算都有明顯優勢,」劉明認為。下圖是記憶體內運算和近記憶體運算,精準度、能效等方面的對比,記憶體內運算架構對於低精準度運算有價值。
下圖則總結了業內主要的一些記憶體內運算研究,在精確度和能效方面的對應關係。劉明表示,「需要高精確度、高運算力的情況下,近記憶體運算目前還是有優勢。不過記憶體內運算是更新的技術,這幾年的進步也非常快。」
去年阿里達摩院發佈2020年十大科技趨勢中,有一個就是存算一體突破AI算力瓶頸。不過記憶體內運算面臨的商用挑戰也一點都不小。記憶體內運算的通常思路都是類比電路的運算方式,這對記憶體、運算單元設計都需要做工程上的考量。與此同時這樣的晶片究竟由誰來造也是個問題:是記憶體廠商,還是數文書處理器廠商?(三星推過記憶體內運算晶片,三星、Intel垂直整合型企業似乎很適合做記憶體內運算…)
(2)神經型態運算:神經型態運算和記憶體內運算一樣,也是新興技術的熱門話題,這項技術有時也叫作compute in memory,可以認為它是記憶體內運算的某種發展方向。神經型態和一般神經網路AI晶片的差異是,這種結構更偏「類人腦」。
進行神經型態研究的企業現在也逐漸變得多起來,劉明也提到了AI晶片「最終的理想是在結構層次模仿腦,元件層次逼近腦,功能層次超越人腦」的「類腦運算」。Intel是比較早關注神經型態運算研究的企業之一。
傳說中的Intel Loihi就是比較典型存算一體的架構,「這片裸晶裡面包含128個小核心,每個核心用於模擬1,024個神經元的運算結構。」宋繼強說,「這樣一塊晶片大概可以類比13萬個神經元。我們做到的是把768個晶片再連起來,構成接近1億神經元的系統,讓學術界的夥伴去試用。」
「它和深度學習加速器相比,沒有任何浮點運算——就像人腦裡面沒有乘加器。所以其學習和訓練方法是採用一種名為spike neutral network的路線,功耗很低,也可以訓練出做視覺辨識、語言辨識和其他種類的模型。」宋繼強認為,不採用同步時脈,「刺激的時候就是一個非同步電動勢,只有工作部分耗電,功耗是現在深度學習加速晶片的千分之一。」
「而且未來我們可以對不同區域做劃分,比如這兒是視覺區、那兒是語言區、那兒是觸覺區,同時進行多模態訓練,互相之間產生關聯。這是現在的深度學習模型無法比擬的。」宋繼強說。這種神經型態運算晶片,似乎也是Intel在XPU方向上探索不同架構運算的方向之一。
(2)微型化矽光:這個技術方向可能在層級上更偏高了一些,不再晶片架構層級,不過仍然值得一提。去年Intel在Labs Day上特別談到了自己在矽光(Silicon Photonics)的一些技術進展。其實矽光技術在連接資料中心的交換機方面,已有應用了,發出資料時,連接埠處會有個收發器把電訊號轉為光訊號,透過光纖來傳輸資料,另一端光訊號再轉為電訊號。不過傳統的光收發器成本都比較高,內部元件數量大,尺寸也就比較大。
Intel在整合化的矽光(IIIV族monolithic的光學整合化方案)方面應該是商業化走在比較前列的,就是把光和電子相關的組成部分高度整合到晶片上,用IC製造技術。未來的光通訊不只是資料中心機架到機架之間,也可以下沉到板級——就跟現在傳統的電I/O一樣。電互連的主要問題是功耗太大,也就是所謂的I/O功耗牆,這是這類微型化矽光元件存在的重要價值。
這其中存在的技術挑戰還是比較多,如做資料的光訊號調變的調變器調變器,據說Intel的技術使其實現了1,000倍的縮小;還有在接收端需要有個探測器(detector)轉換光訊號,用所謂的全矽微環(micro-ring)結構,實現矽對光的檢測能力;波分複用技術實現頻寬倍增,以及把矽光和CMOS晶片做整合等。
Intel認為,把矽光模組與運算資源整合,就能打破必須帶更多I/O接腳做更大尺寸處理器的這種趨勢。矽光能夠實現的是更低的功耗、更大的頻寬、更小的接腳數量和尺寸。在跨處理器、跨伺服器節點之間的資料互動上,這類技術還是頗具前景,Intel此前說目標是實現每根光纖1Tbps的速率,並且能效在1pJ/bit,最遠距離1km,這在非本地傳輸上是很理想的數字。
還有軟體…
除了AI晶片本身,從整個生態的角度,包括AI感知到運算的整個鏈條上的其他組成部分,都有促成性能和效率提升的餘地。比如這兩年Nvidia從軟體層面,針對AI運算的中間層、庫做了大量最佳化。相同的底層硬體,透過軟體最佳化就能實現幾倍的性能提升。
宋繼強說,「我們發現軟體最佳化與否,在同一個硬體上可以達到百倍的性能差距。」這其中的餘量還是比較大。
在AI開發生態上,雖然Nvidia是最具發言權的;但從戰略角度來看,像Intel這種研發CPU、GPU、FPGA、ASIC,甚至還有神經型態運算處理器的企業而言,不同處理器統一開發生態可能更具前瞻性。Intel有個稱oneAPI的軟體平台,用一套API實現不同硬體性能埠的對接。這類策略對廠商的軟體框架構建能力是非常大的考驗——也極大程度關乎底層晶片的執行效率。
在摩爾定律放緩、電晶體尺寸微縮變慢甚至不縮小的前提下,處理器架構革新、異質整合與2.5D/3D封裝技術依然可以達成1,000倍的性能提升;而一些新的技術方向,包括近記憶體運算、記憶體內運算和微型矽光,能夠在資料訪存、傳輸方面產生新的價值;神經型態運算這種類腦運算方式,是實現AI運算的目標;軟體層面的最佳化,也能夠帶動AI性能的成倍增長。所以即便摩爾定律嚴重放緩,AI晶片的性能、效率提升在上面提到的這麼多方案加持下,終將在未來很長一段時間內持續飛越。這第三(四)次科技革命恐怕還很難停歇。
資料來源:https://www.eettaiwan.com/20210726nt61-ai-computing/?fbclid=IwAR3BaorLm9rL2s1ff6cNkL6Z7dK8Q96XulQPzuMQ_Yky9H_EmLsBpjBOsWg
神經網路種類 在 Tech Dog Youtube 的最讚貼文
▌建議開啟 4K 畫質 達到高品質觀影享受
不要錯過:http://bit.ly/2lAHWB4
這次石頭的新旗艦掃拖機器人 S6 MaxV 老實說跟前幾代比差異不大,其中「吸力增強」和「AI 雙鏡頭避障」實屬升級最有感的部分。
影片中也幫你們好好比較一番,大致比較 S6 MaxV、S5 Max 和 S6 Pure 的差異外,也拿其他家同級的熱銷旗艦掃地機器人簡單就規格功能面比較一番,看看售價 NT$19,999 究竟值不值得購入。
::: 章節列表 :::
0:41 雙鏡頭避障
3:02 外觀規格
5:52 同級旗艦機比較
6:55 入手建議
::: Roborock 石頭掃地機器人 S6 MaxV :::
價格:NT$24,999 / 新品優惠 NT$19,999
尺寸:353 x 350 x 96.5mm
重量:約 3.7kg
通訊技術:Wi-Fi 智慧快連
電池:14.4V / 5,200mAh 鋰電池
額定電壓:14.4V
額定功率:66W
吸力真空度:2,500Pa
清掃面積:300㎡
晶片處理器:高通驍龍 APQ8053 1.8Ghz
定位技術:LDS + SLAM
物體避障:AI 雙眼物體避障系統
AI 識別系統:AI 卷積神經網路(500 萬畫素雙鏡頭)
可識別種類:7 種以上(持續增加中)
越障坡度 :最高 2cm
集塵盒容量:460ml
水箱容量:297ml
水箱方案:醫用級蠕動泵
拖地系統:恆壓電控水箱設計
拖布材質:特殊倒鉤設計纖維拖布
清掃方式:掃拖合一
吸力值:四檔變頻調節
吸地分貝數(皆未安裝拖地模組):
–「Max」:約 69db - 73db
–「安靜」:約 63db - 67db
拖地分貝數:
–「安靜 + 小水量」:約 56db - 60db
–「MAX + 大水量」:約 68db - 71db
連動 APP:Roborock、米家
保固:主機 1 年
::: 相關連結 :::
有眼睛 94 不一樣 ➡️ http://bit.ly/39YO9v9
🎁輸入折扣碼 [ 3cdog ] 還有關注禮唷🎁
--------------------------------------
#石頭S6MaxV #掃拖機器人 #掃地機器人
#石頭 #Roborock #S6MaxV #AI識別避障
📖 Facebook:https://www.facebook.com/3cdog/
📖 Instagram:https://www.instagram.com/3c_dog/
📖 官方網站:https://3cdogs.com/
📖 回血賣場:https://shopee.tw/3cdog
▋ 有任何問題都來這邊找我們:3cdogs@gmail.com
神經網路種類 在 alex lam Youtube 的最佳貼文
在日本東北和關東地區,著名溫泉鄉和隱世秘湯數之不盡,種類也層出不窮。一邊欣賞世間罕見的美景,一邊悠閒地浸溫泉,實在是人生一大雅事。今次為大家介紹東北和關東的精選溫泉地,希望各位醉倒於紅葉似錦的景色的同時,亦一嚐治癒身心的溫泉之旅的樂趣。想盡情享受溫泉?切記利用無限乘搭火車優惠周遊卷!
消除身心疲憊的秋天溫泉精選
乳頭温泉郷[秋田縣]
「乳頭溫泉鄉」位處於十和田・八幡平國立公園的乳頭山腳,由七處溫泉合稱而成。溫泉各有不同源頭,泉質種類超過十種,當地傳說「巡遊七處溫泉則可治百病」。其中鶴湯溫泉歷史最為悠久,和秋田藩主湯治場淵源頗深。
南田温泉[青森縣]
南田溫泉用蘋果入浴,是個憑藉其清爽而不刺激皮膚的弱鹼性泉質,於女士間馳名的「美容溫泉」。蘋果酸甜的香氣和成分不但有助放鬆繃緊的神經,對改善肌膚亦有一定功效。從溫泉地可眺望津輕的風景、津輕平野、白神山巒以及八甲田連峰,盡收自然美景。
南田温泉_津軽のお宿南田温泉ホテルアップルランド
花卷温泉郷[岩手縣]
花卷溫泉鄉以台川、豐澤川沿岸為中心,大大小小溫泉旅館比肩而立。泉水湧自群山圍繞的田園,非常難得。巻温泉、台温泉、鉛温泉、大澤温泉和山神温泉……由寫滿了歷史故事的古老旅館到時尚新穎的現代化酒店,溫泉鄉提供多款風格不一的住宿,亦設有泉質各異的溫泉。
花巻温泉郷
銀山温泉[山形縣]
大正末期到昭和初期,有人沿銀山川兩岸興建了多棟洋風多層木造建築。在這裡,遊人彷彿回到過去漫步於極具人氣的傳統溫泉街,細味大正獨有的景觀和浪漫氛圍。銀山溫泉為鈉鹽化物・硫酸鹽温泉,無色透明但帶有硫化氫的氣味。因為NHK連續劇小說「阿信」的人氣之高,作為故事舞台的銀山溫泉亦自此一躍成名。
銀山温泉
秋保温泉[宮城縣]
秋保溫泉位於仙台市西部名取川的溪谷沿岸,又被稱為「日本三御湯」之一的「名取御湯」。仙台藩主伊達政宗對此溫泉情有獨鍾,後人亦視它為伊達家專用溫泉,代代用心守護。其泉水為鹽化土類溴弱性食鹽溫泉,溫度長年維持於45℃,泉水量亦十分充足。
秋保温泉
東山温泉[福島縣]
相傳東山溫泉早於1300年前被一位名為「行基」的著名僧人所發現,是源遠流長的「奧羽三樂鄉」其中一處溫泉鄉。旅館沿河川而建,配有茶室的建築物和靶場等充斥了往日泡溫泉的雅興。自古有豐臣秀吉和新選組副長土方歲三的到訪,竹久夢二和與謝野晶子等文人墨客亦慕名而來。泉質是清爽的單純泉。
東山温泉
草津温泉[群馬縣]
被人譽為「除了單思病之外所有疾病都能治好」,高據「想去的溫泉地」第一名的草津溫泉,即使放眼全日本都是首屈一指的名湯。泉質為酸性泉和硫黃泉,其優質泉水人人皆知、自然無須多提,同樣吸人眼球的還有以「湯畑」為中心向四方八面擴散開去的景色充滿了溫泉街的情懷。先在大街小巷悠然散步,拍攝溫泉瀑布的照片作紀念,再觀賞草津溫泉傳統的揉湯舞蹈表演,最後入浴溫泉,洗去一身疲勞。
草津温泉_湯畑俯瞰
鬼怒川温泉[栃木縣]
位於日光市鬼怒川上流的鬼怒川溫泉在江戶時代被人發現,當時只有日光詣的僧侶和大名才可以使用,但自明治起就開放給一般市民,每年亦有大量旅客到訪。這裡的溫泉對治療神經痛、五十肩、消除疲勞和改善身體健康有明顯功效,同時它是鹼性單純溫泉,性質溫和不傷皮膚。
鬼怒川温泉
順帶體驗足浴和溫泉街散策的樂趣
足浴
除了有大大小小的溫泉外,日本還有多個浸足浴的地方,其中不少還是免費。足浴無需更換衣服,可輕鬆入浴。雖然溫泉水只浸泡雙腳,但局部加熱可促進血液循環,令全身上下都感到溫暖。不失為另一種體會溫泉樂趣的方式!
足湯
温泉街散策
溫泉街意指溫泉住宿設施、澡堂等林立的日本獨有街景。出浴後穿上浴衣、踩着木屐,悠閒地穿梭於溫泉街的店舖,品嚐當地的特色料理也是溫泉的一大精髓。難得去一趟溫泉旅行,不妨在溫泉街漫步,細心感受它的獨特風情。
温泉街散策
■選用「JR EAST PASS」,節省出遊成本
在日本東北地區旅行可選擇使用「JR EAST PASS(Tohoku area)」,節省出遊時的交通費用。
大人19,350日圓,兒童9,670日圓(※)就可以在5天內無限乘搭JR東日本的列車。
詳情請點擊:
https://www.jreast.co.jp/tc/eastpass_t/index.html
■使用「JR東日本網絡訂票系統」預約服務,再也不用擔心旅途交通
到訪日本之前,可先在網路上預約新幹線和電車的座位。
使用此服務的旅客再也不用憂慮到了日本之後無法乘車的意外。
詳情請點擊:
https://www.eki-net.com/pc/jreast-shinkansen-reservation/Tc/wb/common/Menu/Menu.aspx
■深度日本遊介紹!「JR東日本」官方網站
在「JR東日本」的官方網站上,有許多關於日本四季魅力觀光景點的介紹。
到訪日本之前,歡迎前往閱覽!
官方網址:
https://eastjapanrailway.com/hk/2019-autumn
神經網路種類 在 香港喵喵俠 Youtube 的精選貼文
喵喵俠一路以來都有一個病,由細路到大,就是脊柱側彎,即是背部最重要條脊骨有側彎的現像,年青的我暫時都未有因為側彎問題影響,但將來一定會有麻煩,所以現在年青,為了健康,有機會的話真的要試試,現在就找到一名有信心治療好喵喵俠的師父去為喵喵俠治療,我們會一連幾集,由喵喵俠的從未治療過實錄到師父治療到好返,絕對是真實個案,這部實錄了希望幫到我之餘又幫到大家,如果大家想了解更多,不防可以來喵喵俠專頁贊好,以及PM訊息我,分享你的問題,互相交流。
#脊柱側彎 #Scoliosis #實錄 #治療 #健康 #人生 #脊骨側彎 #側灣 #脊椎側彎 #脊骨問題 #脊彎
脊椎側彎可能會造成的問題:明顯的脊椎彎曲、脊椎旋轉導到肋骨旋轉、脊椎兩側的肌肉對稱、姿勢體態的歪斜、可能全身柔軟度不佳、可能全身過度柔軟、大腦缺乏對正確姿勢的認知、可能出現疼痛、內臟受到壓,透過了解這些問題,在下個章節中去試著判斷,那些才是有效的脊椎側彎治療方式。
喵喵俠專頁
https://www.facebook.com/catcatcatman/
#脊骨側彎 #脊柱側彎 #脊椎側彎 #健康2.0 #運動 #側凸 #脊骨側凸 #脊椎側凸 #脊柱側彎問題 #脊骨側彎問題 #脊椎側彎問題 #選擇脊椎側彎治療 #選擇脊骨側彎治療 #選擇脊椎側彎治療 #實証 #案例 #側彎例子 #側彎案例 #治療案例 #護脊有方法
脊椎側彎 (scoliosis)是指患者的脊椎有不正常的側向曲線(#有時會伴隨脊椎旋轉 )的一種症狀。通常令患者進行由後向前的X光檢查時可以看到X光片中的脊椎呈現S型、C型等的形狀而非一條直線。常見的分類包括先天性脊椎側彎、好發於青少年時期的原發性脊椎側彎以及因為其他因素(如:#外傷 、#腦性麻痺 )所產生的次發性脊椎側彎。
#脊椎側彎的種類
#結構性脊椎側彎症
結構性脊椎側彎症(structural scoliosis)是指患者躺下來的時候側彎現象不會消失。此類脊椎側彎患者中有80%患者為原發性脊椎側彎,其次為次發性脊椎側彎。
非結構性脊椎側彎症[編輯]
#非結構性脊椎側彎症 (non-structural scoliosis)是指患者躺下來的時候側彎現象會消失。常見的因素則是因為神經肌肉病變、脊椎左右兩側肌肉張力不平衡、兩腳長度不等(長短腳)等因素產生。此類患者往往能在病因消失後改善其脊椎側彎的症狀。
結構性脊柱側彎症: 又分為特發性及非特發性兩種。原因在於脊椎本身,只有治療脊椎本身才能改善。不同於非結構性的脊柱側彎症,病人在躺下來時側彎不會消失。特發性脊柱側彎:佔百分之80%,通常開始於10到13歲兒童,好發於身體快速發育成長的青少年時期。非特發性脊柱側彎:則起因於某一特定原因,例如神經肌肉病變、退化、感染、腫瘤等。
#治療方法
#姿勢矯正及運動治療
側彎角度小於20度的患者需要在物理治療師的指導下接受姿勢矯正及運動治療,同時每半年追蹤檢查一次,觀察角度是否有惡化的情況。
#穿戴背架
側彎角度介於20度~40度或50度之間的患者,除了運動治療之外,必須穿背架矯正,避免惡化,同時每三至六個月追蹤檢查一次。通常大於30度建議開刀,除了容易治療,恢復力也較快
手術治療
側彎角度若大於40度或50度,就不建議按照上面方法矯正,持續惡化的速度會加快,#強烈建議手術治療 。
神經網路種類 在 卷積神經網路互動視覺化系統 的推薦與評價
本網頁介紹YOLO v2及卷積神經網路的運作框架,. 解析物件偵測演算法的運作過程, ... One Stage則是將兩者合併,在標示物件位置時,辨識出目標物件的種類。 ... <看更多>
神經網路種類 在 類神經網路種類在PTT/mobile01評價與討論 - 台鐵車站資訊懶人包 的推薦與評價
因此,深度學習是一種以類似人類神經網路(簡稱「類神經網路(Neural Network)」) 的方式建構「多層神經網路」,讓人工智慧可以一層一層逐層學習,並進化到 ... ... <看更多>
神經網路種類 在 我們要知道深度學習的基礎是神經網路。聽起來很學術 的推薦與評價
康博士AI小學堂第二課】什麼是基於神經網路的深度學習? ... 譬如,如果我們把各種不同種類的狗 圖像輸入神經網路系統,它就能透過演算法理解與歸納出這些照片中的 ... ... <看更多>