【國立臺灣大學109學年度畢業典禮 致詞代表 資訊工程學系韓哈斯】
Student Address, National Taiwan University Commencement 2021
International student Seth Austin Harding from Department of Computer Science and Information Engineering
.
校長、教授、以及在螢幕前的各位同學,大家好。非常感謝臺大給我這個機會。我是韓哈斯,來自美國華盛頓特區。我會以自身的真實經驗出發,來跟大家分享臺大帶給我的收穫。
我當初為什麼選擇來台灣求學呢?我小時候非常喜歡看武打片,然後我十歲的時候去看了一部電影叫做「功夫熊貓」。這部電影成為了我最喜歡的電影,主角「阿波」的故事跟我的故事很像。我看完了之後就決定要開始學功夫,所以去了「美國武術學院」。那個時候我每天都聽旁邊的人講中文,到了高中我就決定開始學中文。當時我遇到了一位貴人,她是從台北到美國來教書的中文老師,她教的課是我當時最喜歡的課,我每天去她的教室跟好朋友練習。到了高中畢業時,我是全高中中文最好的非母語人士。同時,我第二喜歡的課程是電腦科學,那時候我是程式能力數一數二的學生。後來在成功錄取夢寐以求的學校:臺灣大學之後,我感到雀躍不已,因為我既可以繼續學習中文,也可以持續在世界頂尖的學府中,往電腦科學的方向精進自我。
不過老實說,當我回顧大一的時期,我也曾迷失自我。雖然我修了很多很多的中文課,但是我那時只聽得懂大概一半的課程內容。跟大家對美國人的印象不同,我其實很害羞,也很害怕舉手提問,我甚至不太敢參與社交,所以當時朋友也很少。我開始想家,也變得有一點憂鬱。那時籃球是我唯一的紓壓方式。
但更不幸的是,我在打籃球時弄傷了我的前十字韌帶,做了兩次手術,需要一年半才能恢復。許多的負面情緒壓得我喘不過氣。我被困在人生的低谷,不知如何是好。我覺得我的中文不夠好,我也被診斷出失眠跟ADHD,另外,美國高中的數學太簡單了,來這邊不夠用。種種壓力讓我足不出戶,找不到自己的人生方向。後來,我向臺大心輔中心以及我的心理醫師尋求協助,然後我也開始跟系上有更多互動。有一位教授叫徐宏民跟我說,"Never give up",雖然那時候我覺得這句話太過於簡化了我的問題,不過,在我仔細思考了一個禮拜之後,我下定決心,發誓不讓自己被這些事擊敗。我決定要克盡全力,認真做好每件事。這是我人生的轉捩點,我開始變得異常自律。當時廖世偉教授和洪士灝系主任帶我進入它們的研究室鑽研學術。這重燃了我對資訊工程的熱忱,提醒了我當初會愛上這個領域的原因。我開始研究人工智慧以及區塊鏈,也開始跟其他系上同學交朋友,一起成立臺大人工智慧應用社NTUAI。NTUAI現在是校內頗具規模的技術研究社團,致力於推廣人工智慧給任何對該領域有熱忱的學生。歡迎加入NTUAI,可以掃描我們的QR CODE。
最近,由於疫情的緣故,我已經一年半沒回美國了。但是沒關係,因為我已經找到了我第二個家。我很愛臺大,以及台灣的人事物。雖然我經歷了人生的低潮,但這裡的一切總是給我滿滿的祝福與協助。最後,我想送給大家「功夫熊貓」裡的一句台詞: "You just need to believe"。只要用樂觀的態度去面對困難,就有能力改變自己,甚至改變身旁所愛的人。就像阿波的父親說的,"心誠則靈,只要你相信,點石就能成金。根本沒有什麼秘笈。只有你。"謝謝大家。
.
==============================
.
President, professors, and classmates, I'm very honored to be here. Thank you to NTU for giving me this opportunity. My name's Seth Austin Harding, and I'm from the D.C. metropolitan area. I'm going to tell a real story that's personal but that's relatable and what I see as the real me.
What motivated and guided me to take my undergraduate studies in Taiwan? When I was very young, I really loved watching kung fu movies, and when I was 10 years old, I went to the theater to watch "Kung Fu Panda". This became my favorite movie as I felt like the story of the main character Po was one to which I could very much relate. After watching this movie, I decided that I wanted to start learning kung fu, so I went to the United States Wushu Academy. At the time, I began hearing Mandarin on a daily basis, so when I was in high school, I decided to begin formally studying Chinese. It ended up being my Chinese teacher from Taipei who was my favorite teacher who taught my favorite class, so I decided I'd hang out in the Chinese classroom every day and practice lots. By the time graduation came around, I had attained the highest proficiency in Chinese among any non-native speaker in my school. My second favorite class was computer science, and I ended up attaining among the best coding skills in my school. After getting accepted to the school of my dreams -- National Taiwan University -- I felt honored, humbled, and excited; I could now spend time at among the world's finest universities studying Chinese and at the same time advancing my knowledge of computer science.
But when I look back at my freshman year, to be honest with you, I didn't know what I was doing. Despite having taken very many Chinese classes, when I went to the NTU lectures, I understood only about half of what the teachers were saying. Contrary to most people's impressions of an American, I was actually too shy to raise my hand, to ask questions, or to even meet with teachers after class, so I had very few friends at the time. I started to become homesick and depressed. At that time, I found that basketball was the only way I knew of relieving my stress. However, while playing basketball, I had torn my ACL and it would take two surgeries and a year and a half in time to fully recover. At this point, I felt caught between a rock and a hard place. In fact, this was the lowest point of my life, and I didn't know what to do. I felt like my Chinese wasn't good enough, I had been diagnosed with insomnia and ADHD, and I felt like the math taught in America was too simple to allow for me to keep up with my classmates. I was under immense pressure, and at this time, I lost any sense of purpose or direction. Later on, I went to seek help from NTU counseling, from my psychiatrist, and from my department. I reached out to Professor Winston Hsu from CSIE, and he told me this: "Never give up"; it was such an oversimplified way to approach such a complex series of problems, I had thought. However, I pondered these words intensely for one week, and by the end of that week, I had made a firm decision. This would NOT be another example of me giving up. I decided to go all out, to work diligently and passionately on all tasks at hand. This was the turning point of my life; I started to discipline myself to a very high degree. At this time, I met my then-to-become advisors Professor Shih-Wei Liao and Professor Shih-Hao Hung and entered their labs to begin research. Finally, the passion that I had for computer science that I had previously held in high school was kindled again, and I was finally reminded why I loved this field. I began my research life in blockchain and AI, and at the time I entered the lab, I also began creating NTUAI. NTUAI is now a large and highly successful NTU club that is dedicated to the research and public understanding of AI. Welcome one and all to join us; please scan our QR code here.
For a year and a half I haven't returned to America because of covid. But not to worry; I have found my second home, away from home. I love it here in NTU and I cherish all of the things I've had the privilege to experience in Taiwan. I've gone through the most difficult of struggles in my life here, but I've also had the most fortunate and blessed of experiences. To conclude, I'd like to quote a line from "Kung Fu Panda": "You just need to believe". As long as you are willing to adopt an optimistic attitude in facing challenges and hardships, you may become a positive force in changing the lives of those around you as well as your own life. It all depends on how you view it; just like what Po's father says, "there is no secret ingredient. It's just you." Thank you, everyone.
詳見:
https://www.facebook.com/NTUCommencement/posts/2718185771805180
.
#臺灣大學 #畢業典禮 #NTUCommencement2021 #學生致詞代表 #臺大資訊工程學系 #韓哈斯 #SethAustinHarding
「acl中文」的推薦目錄:
- 關於acl中文 在 國立臺灣大學 National Taiwan University Facebook 的最佳解答
- 關於acl中文 在 李開復 Kai-Fu Lee Facebook 的最佳解答
- 關於acl中文 在 Sherri Holley 何利雪莉 Facebook 的最佳解答
- 關於acl中文 在 Jamesrehab 物理治療十字韌帶術後訓練 - Facebook 的評價
- 關於acl中文 在 ACL - 驅动类型- Auth 套件- FuelPHP 简体中文手册 的評價
- 關於acl中文 在 acl-translation/acl-chinese: ANSI Common Lisp 中文翻译版 的評價
acl中文 在 李開復 Kai-Fu Lee Facebook 的最佳解答
來自創新工場大灣區人工智慧研究院的兩篇論文入選了自然語言處理領域(NLP)頂級學術會議 ACL 2020 。
這兩篇論文均聚焦中文分詞領域,是深度學習引入知識後的有益嘗試,將該領域近年來廣泛使用的各資料集上的分數全部刷至新高,在工業中也有著可觀的應用前景。
本文來自創新工場公眾號
……………………………………………………………………
創新工場兩篇論文入選ACL 2020,將中文分詞性能刷至新高
“土地,我的金箍棒在哪裡?”
“大聖,你的金箍,棒就棒在,特別配你的髮型。”
感謝神奇的中文分詞,給我們帶來了多少樂趣。豐富多變的中文行文,給人的理解造成歧義,也給AI分詞帶來挑戰。
近日,自然語言處理領域(NLP)頂級學術會議 ACL 2020 (https://acl2020.org/)正在火熱舉行。
令人振奮的是,來自創新工場大灣區人工智慧研究院的兩篇論文入選。這兩篇論文均聚焦中文分詞領域,是深度學習引入知識後的有益嘗試,將該領域近年來廣泛使用的各資料集上的分數全部刷至新高,在工業中也有著可觀的應用前景。
分詞及詞性標注是中文自然語言處理的基本任務,尤其在工業場景對分詞有非常直接的訴求,但當前沒有比較好的一體化解決方案,而且中文分詞普遍存在歧義和未登錄詞的難題。
基於此,兩篇論文各自提出了“鍵-值記憶神經網路的中文分詞模型”和“基於雙通道注意力機制的分詞及詞性標注模型”,將外部知識(資訊)創造性融入分詞及詞性標注模型,有效剔除了分詞“噪音”誤導,大幅度提升了分詞及詞性標注效果。
兩篇文章的作者有:華盛頓大學博士研究生、創新工場實習生田元賀,創新工場大灣區人工智慧研究院執行院長宋彥,創新工場科研合夥人張潼,創新工場CTO兼人工智慧工程院執行院長王詠剛等人。
ACL(The Association for ComputationalLinguistics)國際計算語言學協會是自然語言處理領域影響力最大、最具活力的國際學術組織之一,自1962年創立以來已有58年歷史,其每年夏天舉辦的年會是該領域學術頂會。
與往年不同的是,受新冠疫情影響,ACL2020全部轉為線上進行,不過這絲毫沒有減弱熱度。根據之前公佈的資料,今年大會投稿數量超過3000篇,共接收 779 篇論文,包括 571 篇長論文和 208 篇短論文,接收率為 25.2%,在全球疫情衝擊下反而是有史以來最盛大的一屆ACL會議,創新工場的技術大牛們也頂著時差連續數晚熬夜參會。
▌利用記憶神經網路,將中文分詞性能刷到歷史新高
中文分詞目的是在中文的字序列中插入分隔符號,將其切分為詞。例如,“我喜歡音樂”將被切分為“我/喜歡/音樂”(“/”表示分隔符號)。
中文語言因其特殊性,在分詞時面臨著兩個主要難點。一是歧義問題,由於中文存在大量歧義,一般的分詞工具在切分句子時可能會出錯。例如,“部分居民生活水準”,其正確的切分應為“部分/居民/生活/水準”,但存在“分居”、“民生”等歧義詞。“他從小學電腦技術”,正確的分詞是:他/從小/學/電腦技術,但也存在“小學”這種歧義詞。
二是未登錄詞問題。未登錄詞指的是不在詞表,或者是模型在訓練的過程中沒有遇見過的詞。例如經濟、醫療、科技等科學領域的專業術語或者社交媒體上的新詞,或者是人名。這類問題在跨領域分詞任務中尤其明顯。
對此,《ImprovingChinese Word Segmentation with Wordhood Memory Networks》這篇論文提出了基於鍵-值記憶神經網路的中文分詞模型。
該模型利用n元組(即一個由連續n個字組成的序列,比如“居民”是一個2元組,“生活水準”是一個4元組)提供的每個字的構詞能力,通過加(降)權重實現特定語境下的歧義消解。並通過非監督方法構建詞表,實現對特定領域的未標注文本的利用,進而提升對未登錄詞的識別。
例如,在“部分居民生活水準”這句話中,到底有多少可能成為詞的組塊?單字可成詞,如“民”;每兩個字的組合可能成詞,如“居民”;甚至四個字的組合也可能成詞,例如“居民生活”。
把這些可能成詞的組合全部找到以後,加入到該分詞模型中。通過神經網路,學習哪些詞對於最後完整表達句意的幫助更大,進而分配不同的權重。像“部分”、“居民”、“生活”、“水準”這些詞都會被突出出來,但“分居”、“民生”這些詞就會被降權處理,從而預測出正確的結果。
在“他從小學電腦技術” 這句話中,對於有歧義的部分“從小學”(有“從/小學”和“從小/學”兩種分法),該模型能夠對“從小”和“學”分配更高的權重,而對錯誤的n元組——“小學”分配較低的權重。
為了檢驗該模型的分詞效果,論文進行了嚴格的標準實驗和跨領域實驗。
實驗結果顯示,該模型在5個資料集(MSR、PKU、AS、CityU、CTB6)上的表現,均達了最好的成績(F值越高,性能越好)。(注:所選擇的五個資料集是中文分詞領域目前全世界唯一通用的標準資料集)
創新工場大灣區人工智慧研究院執行院長宋彥表示,與前人的模型進行比較發現,該模型在所有資料集上的表現均超過了之前的工作,“把中文分詞領域廣泛使用的標準資料集上的性能全部刷到了新高。”
在跨領域實驗中,論文使用網路博客資料集(CTB7)測試。實驗結果顯示,在整體F值以及未登陸詞的召回率上都有比較大提升。
▌“雙通道注意力機制”,有效剔除“噪音”誤導
第二篇論文《Joint ChineseWord Segmentation and Part-of-speech Tagging via Two-way Attentions ofAuto-analyzed Knowledge》提供了一種基於雙通道注意力機制的分詞及詞性標注模型。
中文分詞和詞性標注是兩個不同的任務。詞性標注是在已經切分好的文本中,給每一個詞標注其所屬的詞類,例如動詞、名詞、代詞、形容詞。詞性標注對後續的句子理解有重要的作用。
在詞性標注中,歧義仍然是個老大難的問題。例如,對於“他要向全班同學報告書上的內容”中,“報告書”的正確的切分和標注應為“報告_VV/書_N”。但由於“報告書”本身也是一個常見詞,一般的工具可能會將其標注為“報告書_NN”。
句法標注本身需要大量的時間和人力成本。在以往的標注工作中,使用外部自動工具獲取句法知識是主流方法。在這種情況下,如果模型不能識別並正確處理帶有雜音的句法知識,很可能會被不準確的句法知識誤導,做出錯誤的預測。
例如,在句子“他馬上功夫很好”中,“馬”和“上”應該分開(正確的標注應為“馬_NN/上_NN”)。但按照一般的句法知識,卻可能得到不準確的切分及句法關係,如“馬上”。
針對這一問題,該論文提出了一個基於雙通道注意力機制的分詞及詞性標注模型。該模型將中文分詞和詞性標注視作聯合任務,可一體化完成。模型分別對自動獲取的上下文特徵和句法知識加權,預測每個字的分詞和詞性標籤,不同的上下文特徵和句法知識在各自所屬的注意力通道內進行比較、加權,從而識別特定語境下不同上下文特徵和句法知識的貢獻。
這樣一來,那些不準確的,對模型預測貢獻小的上下文特徵和句法知識就能被識別出來,並被分配小的權重,從而避免模型被這些有噪音的資訊誤導。
即便在自動獲取的句法知識不準確的時候,該模型仍能有效識別並利用這種知識。例如,將前文有歧義、句法知識不準確的句子(“他馬上功夫很好”),輸入該雙通道注意力模型後,便得到了正確的分詞和詞性標注結果。
為了測試該模型的性能,論文在一般領域和跨領域分別進行了實驗。
一般領域實驗結果顯示,該模型在5個資料集(CTB5,CTB6,CTB7,CTB9,Universal Dependencies)的表現(F值)均超過前人的工作,也大幅度超過了斯坦福大學的 CoreNLP 工具,和伯克利大學的句法分析器。
即使是在與CTB詞性標注規範不同的UD資料集中,該模型依然能吸收不同標注帶來的知識,並使用這種知識,得到更好的效果。
而在跨領域的實驗中,和斯坦福大學的CoreNLP 工具相比,該模型也有近10個百分點的提升。
▌主動引入和分辨知識,實現中文分詞技術突破
中文分詞在中國科研領域已經有幾十年的歷史。最初的中文分詞是基於詞典構建,詞典的好壞會直接影響到最後分析的效果。如果某個新詞在詞典裡沒有,那麼模型是死活都分不出來的。
這種方式的局限性還在於,詞典和分詞兩件事情中間始終有一條鴻溝,儘管詞典可以編撰得非常全面,但在處理分詞的時候,因為每一句話都有上下文語境,往往會產生多種不同的切分方法,從而無法有效地在當前語境下對分詞結構進行恰當的指導。
從2003年開始,分詞方法出現了新的突破。研究人員提出了打標籤的方式,通過給每一個字打詞首、詞尾、詞中的標籤,不再需要構建詞典,大幅度提升了未登錄詞的召回效果。
到了2014年左右,深度學習和神經網路開始被廣泛應用到中文分詞中,打標籤的模型從之前的淺層學習變成了深度學習,但演算法本質沒有發生變化,所以提升作用並不太大。
近兩年,學界開始研究怎麼在打標籤的過程中加入外部知識和資訊。創新工場的這兩篇文章就是沿著這個路徑,用記憶神經網路的方式記錄對分詞結果有影響的 n元組,並引入對詞性標注有影響的句法知識,將分詞結果和自動獲得的知識銜接起來,既發揮了神經網路的優勢,也把知識的優勢用上,實現了分詞技術上小而有效的改進和突破。
宋彥表示,“從技術創新的角度,我們的貢獻主要有兩點。一是在現有技術的基礎上,建立了一個一體化的模型框架,使用非監督方法構建詞表,並把知識(資訊)融入進來,使用更高層次的句法知識,來幫助詞性標注,起到'他山之石,可以攻玉’的效果。”
“二是主動吸收和分辨不同的外部知識(資訊)。通過鍵-值記憶神經網路和雙通道注意力機制,進行動態權重的分配,能夠有效分辨知識,區分哪些是有效的,哪些是無效的。雖然這些知識是自動獲取的、不準確的,但‘三個臭皮匠,頂個諸葛亮’,經過有效利用,總能湊出一些有用的資訊。如何實現模型的主動吸收和分辨,就變得更加重要。”
據瞭解,今年的ACL大會,在分詞領域一共收錄了18篇論文,創新工場人工智慧工程院同時有2篇入選,也表現出ACL官方對這一貢獻的認可。
▌具備跨領域分詞能力,提升工業應用效率
中文分詞和詞性標注是最底層的應用,對於接下來的應用和任務處理非常重要。例如對於文本分類、情感分析,文本摘要、機器翻譯等,分詞都是不可或缺的基本“元件”。
宋彥表示,做此項研究的目的是主要為了拓展其工業場景的應用,正確的分詞能夠平衡公司應用開發的效率和性能,同時方便人工干預及(預)後處理。
這也是創新工場人工智慧工程院的努力方向之一。工程院成立於2016年9月,宗旨是銜接科技創新和行業賦能,做嫁接科研和產業應用的橋樑,為行業改造業務流程、提升業務效率。
工程院下設北京總部、南京研究院和大灣區研究院。大灣區研究院再下設資訊感知和理解實驗室,專注于對自然語言處理(NLP)領域的研究。執行院長宋彥本人也有超過15年的NLP領域的科研經驗。
“在工業場景使用的時候,跨領域的模型能力是一個非常直接的訴求。”宋彥表示,在某個領域的訓練模型,大概率也需要應用到其他領域。
“如何在新領域缺少資料,或者新領域只有少量未標注資料的情況下,實現模型的冷開機,依然是項巨大的挑戰。如果能利用外部知識,提高模型性能,就能有效地召回很多在訓練集中沒有出現過的新詞。”
例如搜尋引擎的廣告系統,最初也是通過組詞匹配的方式,在某個特定領域訓練其分詞模型,但在進入一個新的領域時,例如從新聞領域進入醫療領域或體育領域,效果往往會大打折扣,甚至頻頻出錯。
而使用跨領域特性後,廣告系統在進入新領域時,便無需額外的資料,就可以對它進行比較準確的分詞和標注,從而有效匹配廣告和客戶,大大提升系統運行的效率和穩定性。
目前,這兩篇論文的工具都已經開源,在下面兩個連結中,可以找到對應的所有代碼和模型,各位朋友可按需自取:
分詞工具:https://github.com/SVAIGBA/WMSeg
分詞及詞性標注工具:https://github.com/SVAIGBA/TwASP
acl中文 在 Sherri Holley 何利雪莉 Facebook 的最佳解答
下方有中文 👇🏻👇🏻
This is not a pretty video
No....
This is someone who is frustrated
With what life is putting her through
This is someone who is willing to fight
Who is willing to work through difficulties
Challenges are only so if you let go
Seven years ago I was in the same situation
I was fit, yet was lazy
Thinking that I couldn’t move cause of a broken ACL
I let myself go more than I admit to be
Seven years later, here I am again
This time though, I’m willing to fight
I will not let this injury get the best of me
I will work around it!!!
I am a warrior; I am superwoman!!
To infinity and beyond~~
Join me on this battle 💪🏼💪🏼..
.
這不是你一般會看到的網美影片
不... 這個影片非常原生野味
這個影片中的人物非常的懊惱無奈
她正苦惱人生必須經驗的痛苦...
但這影片的人物願意因此而奮鬥
不管人生遇到的難題與挑戰
她願意因此勇敢面對誠實對待
因為她相信 唯有欠缺的毅力才會阻止成功
回到七年前 一模一樣的狀況
當時的我體魄好 但也因此慵懶
用「前十字韌帶斷裂」為藉口
想盡辦法怠惰 發懶 不運動 不復健
雖然不想承認 但頹廢的程度比預期多太多了
七年後 又遇到腳傷 又遇到傷害
但這一次 我不會再逃避現實了
我不會因為這次的骨折而侷限自己
大不了繞道而行 根本沒有頹廢的藉口啊
既然是神力女超人 我要當個戰士!
勇往直前~~
一起對抗這場戰爭吧 💪🏼💪🏼..
#health #fitness #fit #Instag_app #fitnessmodel #fitnessaddict #fitspo #workout #bodybuilding #cardio #gym #train #training #photooftheday #health #healthy #instahealth #healthychoices #active #strong #motivation #instagood #determination #lifestyle #diet #getfit #cleaneating #eatclean #exercise
連結:https://www.instagram.com/p/B-uBbVSnLeu/?igshid=1g1l4z3ethe5t
acl中文 在 ACL - 驅动类型- Auth 套件- FuelPHP 简体中文手册 的推薦與評價
此驅动是所有Auth acl 驅动的基础类別。它被定義为一个抽象类別, 該类別包含了通用於所有acl 驅动的所有方法, 以及定義給任何acl 驅动必須實现的所有抽象方法。 ... <看更多>
acl中文 在 acl-translation/acl-chinese: ANSI Common Lisp 中文翻译版 的推薦與評價
ANSI Common Lisp 中文翻译版. Contribute to acl-translation/acl-chinese development by creating an account on GitHub. ... <看更多>
acl中文 在 Jamesrehab 物理治療十字韌帶術後訓練 - Facebook 的推薦與評價
... <看更多>