兼具爆笑與實用的小池浩,又有新作品了~
這類型書是利用NLP的心法與技巧寫成,不少人在做,但巧妙各有不同~
之前他的一本書裡提到,只要說五萬次感謝就能改變人生,確實有提醒到我(雖然很簡單,不願意做的人不少~)
同時也有5部Youtube影片,追蹤數超過1,790的網紅李基銘漢聲廣播電台-節目主持人-影音頻道,也在其Youtube影片中提到,本集主題:「拓展你的人生地圖」介紹 訪問作者:郭顺杰 (Soon Kiat Ker) 內容簡介: 《拓展你的人生地圖》是一本很適合中學生、大學生、或者剛出社會工作的人閱讀的一本激勵書,也是給一群正在求學、追求夢想的朋友們的一本借鑒之書。 本書將會從求學、思想、處...
中文nlp 在 Facebook 的最讚貼文
四兩撥千斤! 創新工場首席科學家AI大牛周明博士率瀾舟團隊刷新CLUE新紀錄,輕量化模型孟子一鳴驚人!
本週,中文語言理解權威評測基準CLUE榜單,被「低調」刷新。
不同的是,不是大公司、不是超大模型……
一個新面孔,一個輕量化模型,首戰即登頂,四兩撥千斤。
CLUE榜單近年來由巨頭——騰訊、搜狗、華為、阿里達摩院輪番霸榜的格局,被首次打破。
瀾舟科技-創新工場推出的孟子模型,以十億參數完成了此前百億、千億參數模型刷新的紀錄。
這也是瀾舟科技首次對外曝光,背後團隊負責人,正是創新工場首席科學家、全球AI大牛周明博士。以下文章解釋了這個模型的原理,文章來自《量子位》微信公眾號,經授權轉載。
▎輕量化模型孟子?
孟子,基於瀾舟團隊自研技術研發的大規模預訓練語言模型。
包括創新工場、上海交通大學、北京理工大學等單位參與聯合研發。
可處理多語言、多模態數據,同時支持多種文本理解和文本生成任務,能快速滿足不同領域、不同應用場景的需求。
孟子模型基於Transformer架構,僅包含十億參數量,基於數百G級別涵蓋互聯網網頁、社區、新聞、電子商務、金融等領域的高質量語料訓練。
但誰也沒想到,小模型卻有大智慧,一經登場,打破格局。
CLUE,中文語言理解領域最具權威性的測評基準,涵蓋文本相似度、分類、自然語言推理、閱讀理解等共10項語義分析和理解類子任務。
該榜單競爭激烈,幾乎是業內所有自然語言理解玩家必爭之地。
騰訊、搜狗、華為、阿里達摩院等更是輪番霸榜刷新紀錄。
而且隨著大參數模型愈演愈烈,CLUE還漸有巨頭壟斷之勢。
因為百億、千億甚至萬億參數的大模型,已然不再是創業或其他玩家可與之爭鋒。
萬萬沒想到,瀾舟科技-創新工場團隊出手,四兩撥千斤。
因為孟子,走的是基於輕量級、高效訓練的研究路線,致力於構建十億級別的小模型,充分發揮已有參數下的模型潛力,有利於快速、低成本地落地現實業務場景。
孟子預訓練模型性能比肩甚至超越千億大模型,在包含文本分類、閱讀理解等各類任務上表現出色。
相對已有的中文語言模型,孟子模型實現了多項突破性進展:
1) 堅持「小而精」的輕量化訓練策略。實現在同等模型規模下,遠超公開模型的性能。作為精巧的小模型,對標「巨無霸」,小模型性能超越千億規模模型。
2)使用知識圖譜增強模型,讓 AI 真正獲得知識。孟子模型具備頂尖的語言理解能力,在權威CLUE中文理解評測的總排行榜,以及分類排行榜和閱讀理解排行榜均位列第一,刷新三項榜單世界紀錄。總排行榜分數突破84分,逼近人類基準分數(85.61)。
3)靈活的領域和場景適應能力,方便快速定制和應用。基於T5-style的端到端生成的訓練範式,同步適配BERT-style的判定式架構,既能理解也能生成。便於適配行業應用,覆蓋廣泛業務場景。
當然,隨著孟子一鳴驚人,也必然能讓輕量化模型研究來到聚光燈下。
▎原理方法和應用?
在輕量化模型算法研究方面,基於自研的基於語言學知識、知識圖譜和領域數據增強等技術,從模型架構(包括基礎層Embedding表示和交互層Attention機制)到預訓練策略進行了全方位改進。
具體有四方面:
1) 模型結構方面,將語義角色、詞性標註等語言學特徵融合到Embedding表示中,基於句法約束引入註意力機制中,從而提升模型對語言學知識的建模能力。
2) 訓練策略上,引入基於實體知識和Discourse的Mask機制,強化模型對語言成分和語篇關係的表徵。
3) 為進一步提高訓練效率,使用了大模型蒸餾和初始化小模型策略。
4) 為更好地將孟子模型適應垂直領域如金融、營銷,使用了領域數據繼續訓練並構造相應的提示模版(Prompt),取得了明顯的性能提升。
基於以上算法策略,實現從語料中高效學習涵蓋詞級、句子級和語篇級知識,大幅提升語言模型提煉語言結構和語義信息能力,以及良好的領域遷移能力,適應廣泛的產品應用場景。
另外,在Finetune的進展方面,如何將預訓練模型用於各項任務?
瀾舟團隊也有總結,從數據增強、知識蒸餾、遷移訓練、訓練優化等方面展開了一些探索,進一步提升語言模型的性能:
1) 數據增強:使用領域相關數據;
2) 知識蒸餾:基於Teacher-Student自蒸餾提升訓練效率;
3) 遷移訓練:結合課程學習的思想,由易到難訓練下游模型;
4) 訓練優化:使用多種訓練目標,多角度提升模型能力;
而且孟子還已經展開了垂直化領域應用。
基於領域適應技術,孟子模型已深度垂直化賦能相應行業。典型的例子為適用於金融領域的孟子模型,領域適應策略主要包含兩大方面:
1) 通過大規模的泛金融領域語料,將通用孟子模型遷移到金融領域。金融版孟子模型已經應用於多個金融行業的合作企業,在金融知識圖譜搭建、脫水研報、公告抽取等多個任務上獲得了出色的表現。
2) 通過大規模的營銷領域語料,將孟子模型遷移到數字營銷領域,完成了營銷文案生成、新聞摘要等多項任務,將用於行業頭部的數字營銷公司和多個世界五百強企業的合作之中。
瀾舟方面還透露,孟子模型已在多個領域成功落地實踐,衍生出多項行業領先的產品,涵蓋文本生成、行業搜索、機器翻譯等諸多領域。
並且毫無疑問的是,因為輕量級模型具有的模型參數較少、快速推斷的特點,更易於線上部署和推廣到移動設備中,自然不會局限於現有應用和場景,接下來還會有更廣泛的研究和應用場景中。
▎瀾舟團隊?
最後,也簡單介紹本次一鳴驚人的新面孔瀾舟科技。
瀾舟科技是創新工場孵化的一家認知智能公司。公司創始人——周明博士。
AI領域內,周明已不用過多介紹,他是公認的世界級AI科學家,自然語言處理領域的代表性人物。
周明博士在2020年加盟創新工場,擔任創新工場首席科學家。
而瀾舟科技則針對商業場景的數字化轉型,基於大數據、知識圖譜和行業模型,提供新一代的信息檢索、知識推理和商業洞見技術和相關產品。
據稱目前已與國內外幾十所著名高校和十餘個相關領域的頭部企業建立了穩定的合作關係。
值得注意的是,瀾舟科技除了大牛坐鎮,其實也是行業趨勢的體現。
引用創新工場董事長兼CEO李開復最新分享來說:
AI的發展可以按照兩個時間點劃分。
第一個時間點是2015年,以CNN為核心的計算機視覺技術讓機器超越了人類,帶來了人臉識別、智能質檢、無人零售、智慧城市、無人駕駛等商機。
而第二個時間點出現在2019年,以大模型為代表的自然語言方向取得突破性進展,讓NLP從數據、信息走向知識和洞見成為可能,將會在翻譯、語音識別、法律、金融、新聞、廣告、醫療、娛樂等大賽道帶來機遇。
「如果說CNN造就了今天計算機視覺領域的突破和眾多應用,預訓練大模型+微調也將帶來自然語言的百花齊放的發展,用數據智能驅動各類業務的升級。瀾舟科技在周明老師的帶領下取得了今天的成果,在新機遇面前躬身入局,一起發掘NLP領域的黃金發展期」,李開復說到。
中文nlp 在 Zen大的時事點評 Facebook 的最佳解答
6/12~14的博客來,使用街口支付消費滿888元直接退折讓100元(限兩千個名額,額滿活動即結束)。
此外,可以透過街口支付,領取50元博客來優惠券~
或是,在博客來官網首頁,領取100元優惠(每天可以領取一次),限鑽石會員
兩個優惠可以加總使用~
推薦購買曬書節的書單,剛看了一下聯盟行銷後台,有人蠻認真地選出了一些不錯的書,我發現,大腦使用手冊竟然只要149元(隸屬三本399元) ,非常值得買。
另外,有在看商管書的朋友,可以直接搜尋大是文化,蠻多很棒的書都有參加三本199或三本399的優惠...
將所有優惠加總起來使用,買到三折以下的書完全不是問題!
昨天我也有寫到,最近防疫升級,通路大多半停業狀態,很多產業營業額受影響,為了拚金流支撐企業活下去,都會祭出優惠!
可能很多人都在蝦皮Pchome或Momo買東西,但其實,博客來上面也有很多東西的價格是市場接近最低價(或加上活動就是最低價),特別是書,還有一些百貨商品,端午節宅在家不出門,可以順便逛逛看~
中文nlp 在 李基銘漢聲廣播電台-節目主持人-影音頻道 Youtube 的最佳解答
本集主題:「拓展你的人生地圖」介紹
訪問作者:郭顺杰 (Soon Kiat Ker)
內容簡介:
《拓展你的人生地圖》是一本很適合中學生、大學生、或者剛出社會工作的人閱讀的一本激勵書,也是給一群正在求學、追求夢想的朋友們的一本借鑒之書。
本書將會從求學、思想、處事、成功等四大篇章,來為讀者點出讓自己卓越傑出,通往成功道路所需具備的思考邏輯與觀念,並點評讀者在社會上常聽到的一些謬論以及大家可能會面對的問題和疑惑。比如,在求學篇中我將會提到,大學文憑到底是不是只是一張紙?隨後,在思想篇當中,我也會為讀者講解為什麼乖孩子難以成功?
當然,市面上關於各種技巧的書多不勝數,有教導成功的技巧、談判銷售的技巧、應對考試的技巧、有泡妞的技巧⋯等等。要知道光學技巧是不夠的,技巧是會跟著時代的改變而改變的。這些技巧總是會有漏洞,會因為文化地理的差異而有所不同,而這些漏洞將會科學式地被研究, 然後我們的後代便會發明一個技巧去填補這一代的漏洞, 下一代技巧的漏洞就會再被下下一代填補上去,如此反復的驗證,這就是科學。
外在的技巧還有另外一個問題,那就是每個人使用出來的效果都不一樣。它是由個人教育、理解程度、領悟力和天分而決定的。我常常把這種技巧,比喻為武俠小說裡面所說的外招,光練外招是不夠的,還必須要修煉「心法」。武功裡面的「心法」指的就是內功、氣和心靈的修煉。
我們除了要掌握技巧和知識之外,還必須訓練處理事情的思維,這種修煉是需要時間的,但是當你修煉了以後, 它就成為你的一部分,不管遇到什麼問題,這個心法都會為你帶來屬於自己的一套方法。
而本書所要帶給讀者的正是一個心法,一個修煉自我的旅程。
本書名為《拓展你的人生地圖》,在 NLP(神經語言程式)的學問中, 其教條中有一句話是這麼說的:「地圖上的界線並不等於真正的地域 」(英文譯:The map is not the Territory)。當年,我在新加坡學習第一階段的 NLP 執行師認證課程的時候,第一次接觸了這個教條,並對於它的含義有著很深的共鳴。所謂的「地圖」,代表的是我們對事物的認知,是由感官經驗、環境所得來的,由我們給予它們意義。而「地域」則類似所謂「絕對真實的世界」, 一個等待我們去突破的領域。有鑒於這樣的啟發,我決定在本書中拓展這樣的思想。
其實,每個人心中都有一個「地圖」,而這個地圖可以理解為框架一個人的行為,成功與否的界限。正如地圖上的界限,它框架著你的活動範圍,能走多遠等等。
在現實生活中,我們的閱歷(教育與上學的程度)、思想、處事方法、對成功的觀念、正決定了我們人生地圖上的界限。本書,我要表達的是地圖上的界線並不等於真正的地域。每個人一生下來,都會受到環境的影響,而為自己繪製各式各樣的地圖。然而,我們不應該被地圖的界限框架了自己,相反地應該勇於拓展未知的領域。
作者希望透過書中的四個篇幅來拓展讀者的人生,讓大家獲得多方面的提升。透過本書,你將理解讀書的重要性、學習讓你卓越的思維模式、處事法則,與建立良好信念的方法。這些心法將讓你飛得更高,走得更遠,人生更卓越!
作者簡介:吳文捷
出生於馬來西亞的柔佛麻坡,通曉中文、英語、馬來語、日語和西班牙語。
他目前在著名會計咨詢「四大」的安永(EY)擔任科技諮詢顧問,主要負責處理業務與流程自動化(RPA)與大數據專案,並曾協助多家國際銀行與 500 強企業制定策略與自動化方案。順杰擁有多個編碼與科技認證,截至目前為止,他已榮獲 Blue Prism、Automation Anywhere、UiPath 高級RPA 研發認證、Python,SAS,區塊鏈等IT認證。此外,他也是專業敏捷(Agile)開發教練與專家,精益六西格瑪黑帶(Lean Six Sigma Black Belt)執行師與樂高團隊組織訓練員(Lego Serious Play® Teamwork Facilitator)等證照。
教育背景方面,順杰 2016 年畢業於英國曼徹斯特大學,主修國際貿易與經濟,隨後他在 2017 年獲得了英國劍橋大學科技政策碩士學位。他致力於研究國家科技管理與法律,包括中小型企業的競爭與創新,網際網路發展的商業策略與社會文化的進程等。
白羊座的順杰,有著一個燃燒不完的學習熱情,工作的同時也熱愛藝術。他獲得了英國皇家鋼琴與吉他 8 級文憑的榮譽。除此之外,他努力鑽研佛教、西方神秘學、哲學、東方儒道家的經典以及塞斯與奇蹟課程等,遍訪名師,積極地探討生命的旅程,並到處授課演講。迄今,他榮獲美國 NLP(Neuro-Linguistic Programming,神經語言程式學)與時間線療法(Time Line Therapy®)高級執行師認證、英國EFT 協會(舊名:AAMET) 情緒釋放技巧治療師,美國NGH(National Guild of Hypnotists,美國國家催眠師協會)催眠諮詢師與日本靈氣三階導師等證照的殊榮。
作者粉絲頁: SK 郭顺杰ᵀᴹ
出版社粉絲頁: 寰宇軒行
請大家支持,我全部六個粉絲頁
李基銘主持人粉絲頁:https://www.facebook.com/voh.lee
李基銘的亂亂分享粉絲頁:https://www.facebook.com/voh.happy
李基銘的影音頻道粉絲頁:https://www.facebook.com/voh.video
漢聲廣播電台「fb新鮮事」節目粉絲頁:https://www.facebook.com/voh.vhbn
漢聲廣播電台「快樂玩童軍」節目粉絲頁:https://www.facebook.com/voh.scout
漢聲廣播電台「生活有意思」節目粉絲頁:https://www.facebook.com/voh.life
中文nlp 在 Void Youtube 的最佳貼文
無論你係想
-改善自己精神健康
-照顧你愛嘅人嘅精神健康
-幫助更多有情緒困擾嘅人
-提升自己嘅說服力
-學習實用銷售同職場溝通技巧
-改善溝通模式同人際關係
-增強自信心
-突破個人限制性信念,更勇於面對挑戰
-改善壞習慣,例如暴飲暴食同上癮症狀
-提升學習能力
都可以嚟參與我哋嘅MNH課程!
MNH課程融合NLP、催眠治療及冥想靜觀三大主題,令你擁有更好嘅身心狀態,去達成生活中每一個目標,同埋獲得你理想嘅人生。
課程由中文放空冥想應用程式Void創辦人、臨床催眠治療師、NLP高級執行師暨國際發呆比賽冠軍 陳棨豪先生 設計。
課程日期:2020年2月至4月
節數共十節,每節3小時
有關MNH的課程簡介可參考以下網頁:
https://void.com.hk/MNH
立即報名:
https://bit.ly/MNHapply
想了解更多,亦可以報名免費Info Session,讓大家更加了解課程詳情:
第一場:
日期:2020年1月19日 星期日
時間:3:30pm - 5:30pm
地點:荃灣白田壩街45號 The Mills 4樓
第二場:
日期:2020年2月2日 星期日
時間:3:30pm - 5:30pm
地點:觀塘興業街4號 The Wave 11樓
報名Info Session: https://bit.ly/MNHinfo
#精神健康 #課程 #心理 #壓力 #情緒管理 #催眠 #NLP #冥想靜觀 #放空 #發呆王 #陳棨豪 #Voidhk #Void #科和
中文nlp 在 快樂大學Happiness University Youtube 的最佳解答
#潛意識 #顯化法則 #特斯拉 #宇宙的奧秘
感謝快樂大學x合作夥伴 S.T.Chuang 協助翻譯。
原影片:https://is.gd/xEPBlB
原影片頻道:Be Inspired
訂閱快樂大學HappinessUniversity,觀看更多翻譯影片。
-
版權聲明:
快樂大學不持有原影片版權,僅基於教育用途作翻譯分享,若有侵權還請告知,我們將儘速下撤。
-
------------------------------------------------
訂閱快樂大學頻道,讓你的人生變得更快樂👉https://is.gd/BU3x93
-------------------------------------------------
🔥2019線上大課《專注力》官網上架啦
🔹課程介紹:https://happinessuni.com/gogo/
文章最後包含三個精彩片段搶先看!
-----------------------------------------------快樂大學全新企劃
趕快訂閱開起小鈴鐺
🔥成為更好的自己
👉每週三固定上片
🌟停止浪費你的生命:
https://www.youtube.com/watch?v=tMEad...
🌟重設潛意識:
https://www.youtube.com/watch?v=L21yo...
🌟批評他人之前先看這支影片:
https://www.youtube.com/watch?v=n3SYD...
🔥熊宇宙計劃
熊仁謙與林思宇全新形態的知識碰撞
👉每週一固定播出
🌟https://reurl.cc/E7o16g
🔥熊仁謙書房
為你精挑細選
重點解析絕對值得一讀的好書
讓你與快樂的生活只有一本書的距離
👉每週三固定播出
🌟https://reurl.cc/E7o16g
------------------------------------------------
歡迎訂閱追蹤我們
🔶Hybrid混種時代
Facebook:https://reurl.cc/e5bYQx
Instagram:https://reurl.cc/aljlWQ
🔶熊仁謙
Facebook:https://reurl.cc/lLb62v
Instagram:https://reurl.cc/A1WZap
🔶林思宇
Facebook:https://reurl.cc/Na8eo5
Instagram:https://reurl.cc/mdb1bY