nlp預訓練模型微調方法

3. 什麼是NLP

NLP超級領導力
NLP
(Neuro-Linguistic
Programming)
身心語言程式學是一門綜合身、心、語言相互關系的實用心理學，透過觀察行為模式和語言表達，了解人的思想，也是研究人類超然成就的學科。
『Neuro』神經是指我們大腦神經的能力，包括視覺、聽覺、嗅覺、味覺、觸覺等五官的潛意識感覺及意識層面的分析推理能力；
『Linguistic』語言是指我們所有語言及非語言的溝通方法；
『Programming』程序是指我們習慣的思維及行為模式，透過一系列的技巧，像計算機一樣可以更新軟體，轉化行為、語言、思考方法，經過有計劃和策略性的鍛煉，智能的行為是絕對可以復制的。復制卓越，為自己創造不平凡的成就。
由於NLP不斷創造了卓越效果，現已被廣泛應用到社會各個階層，特別是提升商務、領導、銷售、管理、人才培訓、教育、輔導以及心理治療效益上。在現今全球經濟和社會制度轉型的情況下，我們必須學習新的技巧來增強自己在逆境中的競爭力。
簡單來說，NLP是一門通過改變自己來達到改變整個世界的實用心理學和方法論，也是研究人類超然成就的學科。
人們都知道成功需要自信、恆心、毅力和良好的人際關系，但如何才能做到這些，NLP課程的獨特之處就在於它告訴我們一套具有高度可操作性並行之有效的方法。
為什麼要學NLP
？
開發無限的潛能，規劃美好未來；
提升演說技巧；
贏得卓越人際關系：通曉人的反應機理，明辨行動背後動機；
獲得最有效的溝通方式：擺脫有口難開、欲辯難明的窘境；
洞悉內心運行機制，重新調整行為模式，有效達成最終目標；
高效接受世界信息，熟練處理有用資源，准確把握無限的機會；
真正獲得幸福的家庭生活，駕馭最佳的親子教育方法；
重塑或加強自信、平撫心靈創傷、舒緩沉重壓力、
消除不良習慣、美化個人儀態；
消除不良情緒，擁有開懷人生，我們需要來自內心的燦爛笑容。
適合對象；
提升個人素質及追求卓越的人士；
希望增強效率和競爭力的人士；
企業總裁及行政人員；
從事市場推廣和銷售業人士；
教師和教育工作者；
醫療和衛生界從業人士；
各行各業主管及專業人士。
領導力訓練是一個人要走上人上人的必經之路。沒有領導力你就永遠沒有辦法掌控你的人生。這是一個現代大學生夢寐以求的課程。是讓我們的打開成功人生大門的一把金鑰匙。
高級回應術是NLP技巧中最有效最實用的溝通技巧，讓你成為眾人矚目的領袖。
通過高級回應術的練習可以讓你成為一個游刃有餘的演講大師。
通過訓練你可以成為有影響力的人。同時具有很強的親和力。
學習NLP高級技巧---後設模式、激勵策略、思維方法等。
這樣的課程沈陽的潤才教育有：
咨詢電話：024－88828581
潤才總部地址：沈陽市和平區十三緯路雲集街10甲（十三緯路格林大廈北走100米）

4. 如何利用深度學習技術訓練聊天機器人語言模型

數據預處理

模型能聊的內容也取決於選取的語料。如果已經具備了原始聊天數據，可以用SQL通過關鍵字查詢一些對話，也就是從大庫里選取出一個小庫來訓練。從一些論文上，很多演算法都是在數據預處理層面的，比如Mechanism-Aware Neural Machine for Dialogue Response Generation就介紹了，從大庫中抽取小庫，然後再進行融合，訓練出有特色的對話來。

對於英語，需要了解NLTK，NLTK提供了載入語料，語料標准化，語料分類，PoS詞性標注，語意抽取等功能。

另一個功能強大的工具庫是CoreNLP，作為 Stanford開源出來的工具，特色是實體標注，語意抽取，支持多種語言。

下面主要介紹兩個內容：

中文分詞

現在有很多中文分詞的SDK，分詞的演算法也比較多，也有很多文章對不同SDK的性能做比較。做中文分詞的示例代碼如下。

# coding:utf8
'''
Segmenter with Chinese
'''

import jieba
import langid


def segment_chinese_sentence(sentence):
'''
Return segmented sentence.
'''
seg_list = jieba.cut(sentence, cut_all=False)
seg_sentence = u" ".join(seg_list)
return seg_sentence.strip().encode('utf8')


def process_sentence(sentence):
'''
Only process Chinese Sentence.
'''
if langid.classify(sentence)[0] == 'zh':
return segment_chinese_sentence(sentence)
return sentence

if __name__ == "__main__":
print(process_sentence('飛雪連天射白鹿'))
print(process_sentence('I have a pen.'))

以上使用了langid先判斷語句是否是中文，然後使用jieba進行分詞。

在功能上，jieba分詞支持全切分模式，精確模式和搜索引擎模式。

全切分：輸出所有分詞。

精確：概率上的最佳分詞。

所有引擎模式：對精確切分後的長句再進行分詞。

jieba分詞的實現

主要是分成下面三步：

1、載入字典，在內存中建立字典空間。

字典的構造是每行一個詞，空格，詞頻，空格，詞性。

上訴書 3 n
上訴人 3 n
上訴期 3 b
上訴狀 4 n
上課 650 v

建立字典空間的是使用python的dict，採用前綴數組的方式。

使用前綴數組的原因是樹結構只有一層 -word:freq，效率高，節省空間。比如單詞"dog", 字典中將這樣存儲：

{
"d": 0,
"do": 0,
"dog": 1 # value為詞頻
}

字典空間的主要用途是對輸入句子建立有向無環圖，然後根據演算法進行切分。演算法的取捨主要是根據模式- 全切，精確還是搜索。

2、對輸入的語句分詞，首先是建立一個有向無環圖。
有向無環圖,Directed acyclic graph(音 /ˈdæɡ/)。

【圖 3-2】 DAG

DAG對於後面計算最大概率路徑和使用HNN模型識別新詞有直接關系。

3、按照模式，對有向無環圖進行遍歷，比如，在精確模式下，便利就是求最大權重和的路徑，權重來自於在字典中定義的詞頻。對於沒有出現在詞典中的詞，連續的單個字元也許會構成新詞。然後用HMM模型和Viterbi演算法識別新詞。

精確模型切詞：使用動態規劃對最大概率路徑進行求解。

最大概率路徑：求route = (w1, w2, w3 ,.., wn)，使得Σweight(wi)最大。Wi為該詞的詞頻。

更多的細節還需要讀一下jieba的源碼。

自定義字典

jieba分詞默認的字典是:1998人民日報的切分語料還有一個msr的切分語料和一些txt小說。開發者可以自行添加字典，只要符合字典構建的格式就行。

jieba分詞同時提供介面添加詞彙。

Word embedding

使用機器學習訓練的語言模型，網路演算法是使用數字進行計算，在輸入進行編碼，在輸出進行解碼。word embedding就是編解碼的手段。

【圖 3-3】 word embedding, Ref. #7

word embedding是文本的數值化表示方法。表示法包括one-hot，bag of words，N-gram，分布式表示，共現矩陣等。

Word2vec

近年來，word2vec被廣泛採用。Word2vec輸入文章或者其他語料，輸出語料中詞彙建設的詞向量空間。詳細可參考word2vec數學原理解析。

使用word2vec

安裝完成後，得到word2vec命令行工具。

word2vec -train "data/review.txt"
-output "data/review.model"
-cbow 1
-size 100
-window 8
-negative 25
-hs 0
-sample 1e-4
-threads 20
-binary 1
-iter 15

-train "data/review.txt" 表示在指定的語料庫上訓練模型

-cbow 1 表示用cbow模型，設成0表示用skip-gram模型

-size 100 詞向量的維度為100

-window 8 訓練窗口的大小為8 即考慮一個單詞的前八個和後八個單詞

-negative 25 -hs 0 是使用negative sample還是HS演算法

-sample 1e-4 採用閾值

-threads 20 線程數

-binary 1 輸出model保存成2進制

-iter 15 迭代次數

在訓練完成後，就得到一個model，用該model可以查詢每個詞的詞向量，在詞和詞之間求距離，將不同詞放在數學公式中計算輸出相關性的詞。比如：

vector("法國") - vector("巴黎) + vector("英國") = vector("倫敦")"

對於訓練不同的語料庫，可以單獨的訓練詞向量模型，可以利用已經訓練好的模型。

其它訓練詞向量空間工具推薦：Glove。

Seq2Seq

2014年，Sequence to Sequence Learning with Neural Networks提出了使用深度學習技術，基於RNN和LSTM網路訓練翻譯系統，取得了突破，這一方法便應用在更廣泛的領域，比如問答系統，圖像字幕，語音識別，撰寫詩詞等。Seq2Seq完成了【encoder + decoder -> target】的映射，在上面的論文中，清晰的介紹了實現方式。

【圖 3-4】 Seq2Seq, Ref. #1

也有很多文章解讀它的原理。在使用Seq2Seq的過程中，雖然也研究了它的結構，但我還不認為能理解和解釋它。下面談兩點感受：

a. RNN保存了語言順序的特點，這和CNN在處理帶有形狀的模型時如出一轍，就是數學模型的設計符合物理模型。

【圖 3-5】 RNN, Ref. #6

b. LSTM Cell的復雜度對應了自然語言處理的復雜度。

【圖 3-6】 LSTM, Ref. #6

理由是，有人將LSTM Cell嘗試了多種其它方案傳遞狀態，結果也很好。

【圖 3-7】 GRU, Ref. #6

LSTM的一個替代方案：GRU。只要RNN的Cell足夠復雜，它就能工作的很好。

使用DeepQA2訓練語言模型

准備工作，下載項目：

git clone https://github.com/Samurais/DeepQA2.git
cd DeepQA2
open README.md # 根據README.md安裝依賴包

DeepQA2將工作分成三個過程：

數據預處理：從語料庫到數據字典。

訓練模型：從數據字典到語言模型。

提供服務：從語言模型到RESt API。

預處理

DeepQA2使用Cornell Movie Dialogs Corpus作為demo語料庫。

原始數據就是movie_lines.txt和movie_conversations.txt。這兩個文件的組織形式參考README.txt

deepqa2/dataset/preprocesser.py是將這兩個文件處理成數據字典的模塊。

train_max_length_enco就是問題的長度，train_max_length_deco就是答案的長度。在語料庫中，大於該長度的部分會被截斷。

程序運行後，會生成dataset-cornell-20.pkl文件，它載入到python中是一個字典：

word2id存儲了{word: id}，其中word是一個單詞，id是int數字，代表這個單詞的id。

id2word存儲了{id: word}。

trainingSamples存儲了問答的對話對。

比如 [[[1,2,3],[4,5,6]], [[7,8,9], [10, 11, 12]]]

1，2，3 ... 12 都是word id。

[1,2,3] 和 [4,5,6] 構成一個問答。 [7,8,9] 和 [10, 11, 12] 構成一個問答。

開始訓練

cp config.sample.ini config.ini # modify keys
python deepqa2/train.py

config.ini是配置文件, 根據config.sample.ini進行修改。訓練的時間由epoch，learning rate, maxlength和對話對的數量而定。

deepqa2/train.py大約100行，完成數據字典載入、初始化tensorflow的session，saver，writer、初始化神經元模型、根據epoch進行迭代，保存模型到磁碟。

session是網路圖，由placeholder, variable, cell, layer, output 組成。

saver是保存model的，也可以用來恢復model。model就是實例化variable的session。

writer是查看loss fn或者其他開發者感興趣的數據的收集器。writer的結果會被saver保存，然後使用tensorboard查看。

Model

Model的構建要考慮輸入，狀態，softmax，輸出。

定義損耗函數，使用AdamOptimizer進行迭代。

最後，參考一下訓練的loop部分。

每次訓練，model會被存儲在save路徑下，文件夾的命名根據機器的hostname，時間戳生成。

提供服務

在TensorFlow中，提供了標準的serving模塊 - tensorflow serving。但研究了很久，還專門看了一遍 《C++ Essentials》，還沒有將它搞定，社區也普遍抱怨tensorflow serving不好學，不好用。訓練結束後，使用下面的腳本啟動服務，DeepQA2的serve部分還是調用TensorFlow的python api。

cd DeepQA2/save/deeplearning.cobra.vulcan.20170127.175256/deepqa2/serve
cp db.sample.sqlite3 db.sqlite3
python manage.py runserver 0.0.0.0:8000

測試

POST /api/v1/question HTTP/1.1
Host: 127.0.0.1:8000
Content-Type: application/json
Authorization: Basic YWRtaW46cGFzc3dvcmQxMjM=
Cache-Control: no-cache

{"message": "good to know"}

response
{
"rc": 0,
"msg": "hello"
}

serve的核心代碼在serve/api/chatbotmanager.py中。

使用腳本

scripts/start_training.sh啟動訓練

scripts/start_tensorboard.sh啟動Tensorboard

scripts/start_serving.sh啟動服務

對模型的評價

目前代碼具有很高的維護性，這也是從DeepQA項目進行重構的原因，更清晰的數據預處理、訓練和服務。有新的變更可以添加到deepqa2/models中，然後在train.py和chatbotmanager.py變更一下。

有待改進的地方

a. 新建models/rnn2.py, 使用dropout。目前DeepQA中已經使用了Drop.

b. tensorflow rc0.12.x中已經提供了seq2seq network，可以更新成tf版本.

c. 融合訓練，目前model只有一個庫，應該是設計一個新的模型，支持一個大庫和小庫，不同權重進行，就如Mechanism-Aware Neural Machinefor Dialogue Response Generation的介紹。

d. 代碼支持多機多GPU運行。

e. 目前訓練的結果都是QA對，對於一個問題，可以有多個答案。

f. 目前沒有一個方法進行accuracy測試，一個思路是在訓練中就提供干擾項，因為當前只有正確的答案，如果提供錯誤的答案（而且越多越好），就可以使用recall_at_k方法進行測試。

機器人家上了解到的，希望對你有用

5. 什麼是NLP

「安東尼在NLP的基礎上，創立了NAC。NAC全稱為「Neuro Associative Conditioning」，中文翻譯為「神經鏈調整術」。是一個關於如何改變習慣的技巧。安東尼從NLP中博大的體系中抽取一小部分，加以簡化，改造成一般人可使用的技巧。他的書中，並不只是在講NAC，更多的是在說NLP，不過為了方便起見，他一律稱之為NAC。他的NAC，的確是一個強有力的技巧。對於想學NAC的朋友來說，安東尼的書及音視頻是最好的選擇。至於陳安之，他講的東西，是從安東尼抽出的一小部分NLP，又取出一小部分來講。結合營銷方面的內容來講。主要是講心態方面。對於具體的NLP操作方法，已經極少涉及了。故而，我個人不推薦學習NAC或NLP從陳那邊學起。」－－牛頭定義：NLP是神經語言程序學的英文縮寫，也意譯為：身心語言程序學。它是一門研究卓越思想與技能的實用學科。它主要分為身心、語言、程序三個主要部分。身心部分主要講人們內心的改變，語言部分講外在的溝通，而程序部分則主要是指怎麼復制卓越的思想與技能。jN＝身心2 s: q: s4 G, X( h0 t# uN（Neuro）指神經系統，意譯為身心。指我們的身心素質跟狀態。ＮＬＰ這部分主要是講自身的各種素質的改善的。身心包括二方面：1、身：身體素質與狀態。２、心：心理素質、結構與狀態。如性格、心態、習慣、能力、觀念等。你說你自信，這是一個心的素質，屬N；你說你有點困，這是一個身體狀態，屬N。" p. [& K1 E) l3 [5 w+ n/ `& b- `1 O* r9 U記憶小訣竅：字母N是由兩個豎「│」與一個斜線「＼」組成的。二個「│」分別代表身體與心靈，斜線「＼」聯結二個「│」，代表「身體與心靈是相互聯系與影響的」的含意——這是NLP的一個重要的、基本的觀念。* X4 H; L9 C! ?6 J% f7 P9 y J2 Z; b+ WL＝語言' c8 k/ H: q2 l" u4 c& qL（Linguistic）是指語言，也指溝通。這指的語言或溝通，都是廣義的，這里的「語言」是指你與自己及外界溝通的各種方式。ＮＬＰ這部分就是講各種各樣的溝通了，比如一般的人際關系，乃到婚戀親子、職場溝通、銷售說服、領導技能等等。語言包括二個方面：. M$ Z' {/ |% X9 I0 Q1、外在的溝通方式。如說、聽、表情、動作、聲調、觀察、嘗、聞等等。2、內心的溝通方式。如內心對話、想像、感受等。7 I/ b* h1 I; D" L- G, R5 p( ]0 d ^5 u9 b- r3 ]+ Z( x你說兒子說：「這是麵包！」——這是語言。口語語言。你對屬下做了一個勝利的手勢。——這是語言。肢體語言。你在心裡想像明天就可以去郊外玩了。——這是語言。視覺語言。你扁了一個可惡的人。——這是語言。肢體語言：拳頭在說話。記憶小訣竅：看右圖，L就像一個嘴是吧，所以，就代表語言啦。5 i5 Q) D% v+ Z4 o9 A* h0 \P＝編程（也譯叫程序）, p1 @, a# K( {P（Programming）是編程。它的意思是具體的，步驟清晰的方法。這是ＮＬＰ的一個特色，一些個人成長的學問雖然提供許多有益的觀念，可是缺乏可操作的具體方法，ＮＬＰ則主張技能是可以復制的，所以它研究成功者的卓越思想與技能，並總結成具體的、步驟分明的方法，可供人學習。這個過程就叫「復制」，而復製得來的具體的、步驟分明的方法，就叫「程序」。你打開門，走過去，拿起一瓶雪碧一飲而盡，說一聲：好喝。——這就是一個程序。也可以說是一個過程。你早上下床，刷牙，洗臉，上班。——這是一個程序。上街，鄰居對你微笑，你也對他微笑。——這是一個程序。K2 K. a每個人都有慣用的、比較固定的程序，那就是習慣了。擁有不同的習慣，就使我們擁有不同的人生。8 ~0 e6 e( f# {1 @記憶小訣竅：字母P，就是一條不同的道理，就像是一個人要從A點走到B點，一個人是走了彎路，沒到達終點，一個人走對了路，從A走到B了。程序就是指正確的道路，步驟，方法。6 @" s/ y3 o; |) m1 E1 D& z8 ~NLP＝身心語言程序學5 Y( M6 l" M$ l+ QNLP就是研究卓越思想與技能的實用學科。它主要包括身心、語言、程序三部分的內容。這並不是說其它方面的內容就沒有了，只不過是說這三方面的內容是ＮＬＰ最初發展出來時，最基本的組成部分。說明：最早有人曾經給ＮＬＰ下了一個定義，說NLP就是我們用語言來改變身心狀態的具體方法。這對於NLP最早的內容來說，是比較適當的。可是隨著NLP的發展，它並不只是包括身心、語言、程序這三部分的內容，這個定義就顯得有點窄了，所以牛頭把定義改為：NLP就是研究卓越思想與技能的實用學科。NLP是「神經語言程式學「的英文縮寫，即「NEURO LINGUISTIC PROGRAMMING」。 Neuro意為神經，指我們的神經系統。人類的所有行為都是神經的反應過程。因為人類是以五種感官-----視、聽、觸、味、嗅與世界建立聯系，進行信息溝通，五種感官便是我們心智的途徑。在NLP中，我們將要討論的就是我們如何去組織我們的心智，取得對世界或人類彼此之間的認識。 Linguistic意指語言，在這里是指廣義上的語言，它不僅指口語，還包括肢體語言、習慣等等。語言反映了我們的心智世界，是心智的外化表現形式。NLP中，我們將探討我們如何使用它，它又如何影響我們的生活。Programming意為程序、程式，是借用了電腦的詞彙，它是指為達到某種結果的系統內部運作過程。我們的大腦正如一部計算機，計算機能否執行某一功能，關鍵在於你裝入什麼樣的軟體，執行什麼樣的程序。例如，，你只有裝入五筆字型軟體，你才能錄入漢字；只有裝入《命令與征服》，才能在電腦里開始你的戰爭游戲。我們的感覺、思想、行動都是單純的「習慣程序」，因此，只要你通過一定的方法，讓心智的軟體升級，便可達到生命質量的躍遷。因為我們是以思想、語言及行動與他人和客觀世界相聯結，所以神經語言程式學是有關這種聯結過程的科學。班德勒本人將NLP描述成一種教育過程。他說：「我們所做的就是發展出一些方法，來教導人們如何使用他們自己的頭腦。」 增進世界觀的學問 NLP是目前被廣泛使用的溝通模式。它針對人們的思考過程加以研究，已發現影響人們語言及非語言行為的模式。並由這些模式，NLP的目的在於幫助人們、團體與組織，協助他們將既有的意識構想用於組織其經驗，尤其是與決策、創意、學習幾激發有關的部分。NLP發展的一套可以用於個人，也可以用於專業的技巧，在國際上被用於商業、銷售、體育、法律、教育等領域，讓我們不只能伸展出去並影響他人，更可以深入自己的內心，協調內心中相互沖突的自我，提升心靈的品質。所以說，NLP是一種有關增進你的世界觀的學問。 NLP的原理 NLP是研究主觀經驗的學科，因此，它提出了許多假設作為前提。假設就不必然是真實的，NLP也不宣稱他們是真實的。這一點與我們的常規思維有了較大的出入。NLP所要問的問題不是「他們是不是真的？」而是「他們會不會產生結果？」也就是說，你假設它們是真的，並按這假設去行動，而注意所得的結果是什麼。 據此，NLP提出一項重要的假設前提：地圖非疆域。人們經由感官或表象系統（在心智上傳達信息到感官系統的方式，包括視、聽、觸、味、嗅五種方式）接受訊息，並因此而產生不同的體驗，這種內心產生的體驗，我們稱之為「地圖」。由於每個人發展表象系統所在的環境、背景的不同，許多人常會發展出或偏重於某一系統的信息處理能力。例如，傾向於使用視覺的人，通過自己所看到的來理解周圍的世界，同時對所有外在與內在的刺激，皆通過視覺形象加以分類、記憶、思考。每個人都使用其視覺、聽覺、觸覺及嗅覺以建立其世界的模式。由於個人感官或表象系統接收信息方式不同，每個人因而發展出的個人的思維模式（即「地圖」），也使人們對世界（即「疆域」）有著不同的體驗。這就是「地圖非疆域」這一假設的涵義。人們以多種微妙方式呈現他們的思考方式。任何人都有可能自另一個人身上辨認出思考的訊號，同時偵測出特別的形態。例如，眼睛可以表現出人們的思考方式，是否正將事物圖象化或傾聽、感受。NLP極力找出人們體驗外在環境的多種方法，對一個人的感官、表象系統及思維模式加以破譯。 對他人思維方式的解讀，有兩種重要的用途。其一，一旦發現對方的思考過程，就可以改變自己的溝通技巧以配合對方，如此便可以建立和諧的關系。這一點，可以應用在人際溝通、談判、銷售等許多方面。第二項用途就是復制卓越，復制卓越是一種模仿的過程，想要模仿一項技巧，就要找出深諳此技巧的人，他是如何思想以及讓他能做好此技巧背後的信念、價值觀等。一旦找出對方的策略，我們也依此仿效，就會獲得相應的技巧。 NLP認為，只要人能學來的東西都可以模仿，並取得相應的效果。這一點在自我能力的提升、快速學習、快速閱讀等方面都有實際的效用。 無限成長的遠景 NLP幾乎涵蓋了所有心智活動的范疇，包括你的心態、思維以及感覺。由於平時我們未曾意識到思維模式的運作過程，就好象「自己被綁在汽車的後座，而由別人開著車上路一樣。」（班德勒語）NLP就是學會改變自己的方法，「對自己頭腦中所發生的事故做一些控制」，達到以彈性反應面對問題的境界。也就是說，先求個人的協調，再到專業的卓越，進而與周遭互動，終至精神的圓滿與升華。由於NLP的實用性以及它帶給我們的無限成長的可能性，使NLP一經問世便被各行業所採用，特別是醫療界、工商界及教育培訓界等精英的投入，在短短的二十幾年時間，使NLP在世界范圍內得到推廣。現在世界上，各主要國家都有NLP協會。有的國家如美國、加拿大、英國、德國等有數個協會同時並存，互不隸屬，但他們經常交流發表各自工作中新的進展。最為有趣的是曾有一國際NLP協會，在創立初期相當活躍，也制定了一些專業NLP執行人員授證資格規范，為許多協會所遵照。但或許因NLP學派本身非常尊重個人的獨特性，所以這有「大統一」味道的協會漸漸銷聲匿跡，而各自獨立的協會或訓練中心以其自身的聲譽與特色而繼續活躍。這也是NLP發展的獨特性. 我相信學習好NLP將為我的自我掌控大師之路鋪平道路。NLP是神經語言程序學的英文縮寫。N＝身心N（Neuro）指神經系統，意譯為身心。指我們的身心素質、結構與狀態。身心包括二方面：１、身：身體素質與狀態。２、心：心理素質、結構與狀態。如性格、心態、習慣、能力、觀念等。你說你自信，這是一個心的素質，屬N；你說你有點困，這是一個身體狀態，屬N。記憶小訣竅：字母N是由兩個豎「│」與一個斜線「＼」組成的。二個「│」分別代表身體與心靈，斜線「＼」聯結二個「│」，代表「身體與心靈是相互聯系與影響的」的含意——這是NLP的一個重要的、基本的觀念。L＝語言L（Linguistic）是指語言，也指溝通。這指的語言或溝通，都是廣義的，這里的「語言」是指你與自己及外界溝通的各種方式。語言包括二個方面：1、外在的溝通方式。如說、聽、表情、動作、聲調、觀察、嘗、聞等等。2、內心的溝通方式。如內心對話、想像、感受等。你說兒子說：「這是麵包！」——這是語言。口語語言。你對屬下做了一個勝利的手勢。——這是語言。肢體語言。你在心裡想像明天就可以去郊外玩了。——這是語言。視覺語言。你扁了一個可惡的人。——這是語言。肢體語言：拳頭在說話。記憶小訣竅：L就像一個嘴是吧，所以，就代表語言啦。P＝程序P（Programming）是程序。它的意思是具體的，步驟清晰的方法。在前面，我們談到身心與語言。我們就是通過語言來影響自己與他人的身心。同樣，他人也通過語言來影響我們。這個影響的過程，NLP稱之為程序。你打開門，走過去，拿起一瓶雪碧一飲而盡，說一聲：好喝。——這就是一個程序。也可以說是一個過程。你早上下床，刷牙，洗臉，上班。——這是一個程序。上街，鄰居對你微笑，你也對他微笑。——這是一個程序。每個人都有慣用的、比較固定的程序，那就是習慣了。擁有不同的習慣，就使我們擁有不同的人生。記憶小訣竅：字母P，就是一條不同的道理，就像是一個人要從A點走到B點，一個人是走了彎路，沒到達終點，一個人走對了路，從A走到B了。程序就是指正確的道路，步驟，方法。放在一起，這三個詞的意思是指人們為使他們的思維、講話和活動達到具體的後果所採取的具體行為。簡單地說，NLP是研究如何以有效地方式使你達到良好的身心狀態，及如何有效的影響他人。NLP的研究對象NLP相信成功是可以復制的，它的研究對象就是成功者成功的「程序」。NLP的目的NLP的目的在於復製成功。即將成功者獲致成果的程序總結出來，精煉成一套明白可行的技術，讓一般人可依之而行與獲致同樣卓越的成就。牛頭給學習NLP的朋友的第一封信親愛的牛友們：你好。下面我們談談NLP命運連鎖方程式，以及它帶來的改變。不斷地學習NLP的過程中，你會發現，我們只要改變自己的動作、想像、內心對話、想法等等語言方式——事實上也就是我們的感官（視覺、聽覺、觸覺、味覺、嗅覺）的運作，我們就可以改變自己的感受、觀念、行為、習慣、性格乃於命運。我們把這一個連鎖反應稱之為—— NLP命運連鎖方程式語言→感受→觀念→行為→習慣→性格→命運改變你的語言，你就可以改變你的感受。改變你的感受，你就可以改變你的信念。改變你的信念，你就可以改變你的行為。改變你的行為，你就可以改變你的習慣。改變你的習慣，你就可以改變你的性格。改變你的性格，你就可以創造你的命運 NLP命運連鎖方程式，就是語言改變身心狀態的一個過程。其中，信念、感受、行為、習慣、性格都是不同表現形式的身心狀態。感受與觀念，一般被統稱為心態。它們存在於心靈內部，而當它們表現出來時，就成為行為。不斷重復的行為，可以形成習慣。而許許多多的習慣，則組成一個人的性格。 可以呈現NLP強大威力的一點，有時NLP通過語言的運用，就可以直接修改一個人的習慣、性格，並造成持久的改變。這一點在外行人看來、聽來是一種奇跡、謊言、或急功近利的期望。而事實上，這剛好就是NLP的魅力所在。它可以造就快速而且持久的改變。 需要被強調的是，當你學會了NLP，利用NLP來改變自己或他人是很快的。但是，並不是說學習NLP的過程就是很快的，我們需要通過扎實地學習NLP的精神與基本功。許多時候，NLP強大的技巧被錯誤的運用於商業炒作。大量的NLP學習者，在沒有學習NLP的精神與基本功之前，就被教導以各種各樣的技巧，這樣的結果就是讓學習者對於NLP只得其形，不得其神。他們雖然也可以促成自己或他人的改變，可是那是短暫或低效的。 所以，不斷領悟NLP的精神、大量練習NLP的基本功，並且將NLP的技術靈活地運用於生活的每一個方面。是牛頭能給予每一個學習NLP的朋友最真誠、最強烈的忠告。 在接下來的課程中，牛頭會一步一步地給大家介紹NLP的精神、技術，當你把一個技術練習到得手應手時，你就可以進入下一個技術的練習。並在之後的練習中，把不同的技術結合起來運用。在學習的過程中，你會發現，你看到別人造就的許多輝煌成就或改變，都源於這些基本的精神與技巧的巧妙組合。就像一首偉大的樂曲是源於一些基本音符奇妙的組合是一樣的。 在學習之初，不要期待速成——雖然NLP有這樣的效果。你只要扎扎實實的練習每一個技巧、領悟每一個精神。改變會自己靜悄悄的來臨，而且它的美妙與巨大，會讓你感到驚喜與慰藉，因為一切點滴的努力，都將在你生命中不斷的展示它特獨的，傲人的成果。你的朋友：牛頭NAC神經鏈調整術！NAC神經鏈調整術是我現在經常運用的非常有效的改變行為的工具，如果你有什麼想要改變的行為，比如吸煙、上網成癮、行為粗魯等，都可以運用NAC神經鏈調整術來進行調整和改變。NAC神經鏈調整術基於一個重要的原理：任何不斷重復的行為，最終會成為習慣；任何行為，只要不再去做它，終究會消逝不見。NAC神經鏈調整術有幾個步驟：第一、確定你想要改變的事情，比如我自己要改變看小說上癮的壞習慣。。第二、讓想要達到一定要，想一想如果沒有改變會有什麼後果，如果改變了會有什麼好處，盡可能想更多的原因。比如如果沒有改變，我就難以採取積極的行動去實現自己的夢想，會因為失去自製而沮喪、悔恨。。而如果改變了，我就能夠擁有一個更加自由、充實和快樂的人生。。第三、 中斷模式：一有出現舊模式的徵兆，就馬上運用劇烈的改變自己的動作、語言、改變注意力焦點等方式來中斷模式！一旦出現想要看小說的念頭，就跳起來揮舞著拳頭對自己說：我不要！我承諾過自己的！我要自由！。。總之，任何你能想到的方式，只要能中斷舊的行為都可以，不要怕顯的很傻，越激烈的方式效果越好！^_^第四、用新模式代替，新模式必須有舊模式給你的，而且還有舊模式沒有的。比如我用學習來代替看小說，學習能夠給我更大的快樂和充實！第五、強化！要不斷的給自己獎勵！固定獎勵：每天總結，對好的結果加以獎勵！太棒了！我是最棒的！不定期的獎勵：當發現自己有所懈怠，受到誘惑，但仍然控制住自己時，給自己獎勵！超級大獎：取得最後的重大勝利時，給自己超級大獎勵！比如放假、買最棒的水果！第六、持續一段時間，比如1個月後，舊的行為模式逐漸被新的行為模式代替。恭喜你，成功離你不遠了。。繼續加強！！NAC神經鏈調整術基本原理：想要消除一種舊的、不良的行為模式，要做到幾步1、下定決心要改變它！通過給自己不想要、想要使自己達到「一定要」的程度比如：我不要放縱自己，我不要失去自我控制，我不想要事情過後沮喪，不滿，失去信心！我想要做自己的主人，我要自我掌控，我要成功，我要更高層次的快樂！2、打破舊模式！一旦舊模式有出現的兆頭，就通過各種各樣有較大影響力的方法將其打破！比如激烈的改變行氣！對自己大喊：XXXX！問自己：我做這種事情會造成什麼後果？這是我真正想要的嗎？？我難道就只能這樣而已嗎？？3、用新模式代替！如果僅僅只是打破舊的還不行哦，沒有新的代替這個打破就不能堅持下去。這個新模式必須能夠代替舊摸索帶給我們快樂的感覺，最好是比舊模式更高層次的，更強烈的快樂啦^_^比如用看教學錄像帶代替看無聊小說。4、不斷的強化新模式！潛意識的兩個基本原理：任何事情，只要不斷的重復，終究會成為一種習慣任何事情，只要不再去加強它，終究會消失不見所以，每一次的打破舊模式、實行新模式，都是對舊模式的一次削弱，都是對新模式的一次加強。只要抓住每一次機會，不斷的重復、重復、重復，舊模式必定會被新模式所取代！5、在強化過程中，要運用好自我激勵和獎勵！每當自己做好了一次，就要立刻給自己獎勵！精神上的，物質上的！是不是給自己來個大獎！認定自己的目標，持之以恆的去做，失敗是不可能的！成功是一定的！ NLP十四項心理定律 這些心理定律我最初是在博恩崔西的火鳳凰超級課程裡面聽到了，感覺非常棒，前幾天在中國NLP論壇看到有人貼出，在這里和大家分享一下。^_^ 一般人看到這些心理定律可能會認為很玄乎，或者覺得：這不就是唯心主義嗎？其實只要你好好的去觀察，好好的去思考，你自然能夠發現其中蘊含的深刻的道理。^_^太陽的東升西落，地球運行的軌道，潮起潮落，月亮的陰陽圓缺，春夏秋冬的更替，一切都是那麼的有規律。其實在人類的心靈里也存在著許多規律，然而卻很少有人了解它們。 以下是十四項心理定律，你可以應用它們在任何的領域里。無論是銷售溝通、還是設立目標、時間管理、領導組織都可以應用這些原理和定律。1. 堅信定律當你對某件事情抱著百分之一萬的相信，它最後就會變成事實。2. 期望定律期望定律告訴我們，當我們懷著對某件事情非常強烈期望的時候，我們所期望的事物就會出現。堅信定律和期望定律告訴我們，要對我們的夢想和目標抱著百分百的信心和期望。3. 情緒定律情緒定律告訴我們，人百分之百是情緒化的。即使有人說某人很理性，其實當這個人很有「理性」地思考問題的時候，也是受到他當時情緒狀態的影響，「理性地思考」本身也是一種情緒狀態。所以人們百分之百是情緒化的動物，而且任何時候的決定都是情緒化的決定。情緒定律告訴我們，掌控情緒就能掌控自己的行為。4. 因果定律任何事情的發生，都有其必然的原因。有因才有果。換句話說，當你看到任何現象的時候，你不用覺得不可理解或者奇怪，因為任何事情的發生都必有其原因。你今天的現狀結果是你過去種下的因導致的結果。因果定律告訴我們：成功一定有方法，失敗一定有原因。只要我們找出成功和失敗的原因，就能讓自己避開失敗，收獲成功。5. 吸引定律當你的思想專注在某一領域的時候，跟這個領域相關的人、事、物就會被你吸引而來。吸引定律與我們大腦的信息過濾系統有關：專注的事物我們看到，不相關的事情被我們直接忽略。6. 重復定律任何的行為和思維，只要你不斷的重復就會得到不斷的加強。在你的潛意識當中，只要你能夠不斷地重復一些人、事、物，它們都會在潛意識里變成事實。重復－習慣－性格－命運7. 累積定律很多年輕人都曾夢想做一番大事業，其實天下並沒有什麼大事可做，有的只是小事。一件一件小事累積起來就形成了大事。任何大成就或者大災難都是累積的結果。成功就是簡單的事情不斷重復的做，成功就是每次進步一點點。8. 輻射定律當你做一件事情的時候，影響的並不只是這件事情的本身，它還會輻射到相關的其它領域。任何事情都有輻射作用。9. 相關定律相關定律告訴我們：這個世界上的每一件事情之間都有一定的聯系，沒有一件事情是完全獨立的。要解決某個難題最好從其它相關的某個地方入手，而不只是專注在一個困難點上。10. 專精定律專精定律告訴我們，只有專精在一個領域，這個領域才能有所發展。所以無論你做任何的行業都要把做該行業的最頂尖為目標，只有當你能夠專精的時候，你所做的領域才會出類拔萃地成長。11. 替換定律替換定律就是說，當我們有一項不想要的記憶或者是負面的習慣，我們是無法完全去除掉，只能用一種新的記憶或新的習慣去替換他。12. 慣性定律任何事情只要你能夠持續不斷去加強它，它終究會變成一種習慣。替換定律和慣性定律的應用實例之一就是安東尼羅賓的NAC神經鏈調整術。13. 顯現定律顯現定律就是說，當我們持續尋找、追問答案的時候，它們最終都必將顯現。14. 需求定律任何人做任何事情都是帶有一種需求。尊重並滿足對方的需求，別人才會尊重我們的需求。NLP第一個基本精神「尊重」－－摘自中國NLP學院 一、尊重就是尊重對方的意願，尊重對方的決定。 "意向"、"選擇"對一個人而言，不就是自己人生的意義和價值嗎？有人說："選擇是上天賦予人的最大禮物。"遇到不如意，我們可以選擇灰心喪志，也可以選擇吸取經驗、東山再起，這是我們的自由，沒有人逼我們。 應用NLP時，如果未經對方同意，未尊重對方的意願，只想將自己認為好的東西，強加諸對方身上，這種行為，豈不是就像一位滿臉邪惡，口念魔咒，一手揮舞魔杖，一手拿著毒液，想把對方變成自己奴僕的魔法師？是否施行NLP，完全根據對方的意願和決定，而不是自己想要什麼，或是只為了證明自己的能力。唯有"尊重"，NLP才有尊嚴與價值。 另一個角度來說，人生是數不盡、大大小小的許多"選擇"、"決定"所累積而來，別人尊重我們的意願和決定，那麼，真正要對生命負責的就唯有自己了(這就是責任意識)。 偉評：我想大家應該都會認同：「尊重是人與人之間相處的基本原則」。然而，在溝通的過程中真正的做到尊重別人的又有幾個？大部分人在溝通過程中都會不知不覺的將自己的觀念和想法去強加給對方，而不顧對方的意願和選擇。正是因為這種「不尊重」，造成了溝通中非常大的障礙。 二、意向是開啟自己內在寶藏的金鑰。 往往聽到"因為別人如何如何，才造成自己怎樣怎樣…"，其實，這是不負責任的說法，就算別人怒罵、言行不當，如果我們內心不接納，我們怎會受影響？所以說："別人無法改變自己，除非自己願意、想要，否則別人幫不上忙。"這句話非常值得相信，施行NLP時能做的事唯有：提供更多的信息與可能，供對方參考、選擇而已。 偉評：我們很難讓對方去做他不願意做的事情，同樣，如果我們自己不願意改變，就沒有人能夠改變我們。所以，我現在一般不會主動去「幫助」別人改變，既是在我看來對方確實需要改變，除非他自己表現出了很強的改變的意願。 三、意願的強度決定效果。 從另外一個角度來說，前述那句話也透露了"'意願的強度'和'效果'成正相關"這個重要訊息。施行NLP協助對方之前，我們必須先確認對方的意願，強化對方的意願，如果改變的意願不足，施行NLP是不會有什麼效果的。 偉評：成功＝100％的意願×100％的方法×100％的行動。知道「為何要成功」比知道「如何成功」重要一萬倍！為什麼同樣聽安東尼羅賓的30天課程，我可以有這么大的改變，而很多人卻機會沒有任何改變？因為想要改變的意願不一樣。如果你沒有一定要成功的意願，那麼在成功道路上遇到的重重困難就會讓你離成功越來越遠。 四、沒有人能夠真正為別人的生命負責。 憑心而論，誰能真正為別人的生命負責？即使父母對子女、老師對學生、上司對部屬…，誰能真正做得到？我們無法為別人負責，又豈能要求主導別人的生命？我們深入觀察的話，我們將發現：沒有人比自己更了解自己、更愛自己！ 偉評：是的，只有我們自己，才能為自己的生命負責！其他的任何人都沒辦法，也沒資格為我們的生命負責。人生只有一次，想要選擇什麼樣的人生，責任百分百在於我們自己！ 五、一個人的真正意願和選擇，必須非常用心去了解。 一個人的真正意願和選擇，經常不能只從語言信息了解，往往隱藏於很不容易發現的角落，非

6. 如何評價何愷明等關於Masked Autoencoder的新作

本文證明了面向計算機視覺的masked autoencoders(MAE)是一種可擴展的自監督學習器。我們的 MAE 方法很簡單:我們隨機掩蓋輸入圖像的patch，然後重建丟失的像素。

擴展性好的簡單演算法是深度學習的核心。在NLP中，簡單的自監督學習方法使得可以從指數縮放的模型中獲益。

在計算機視覺中，盡管在自我監督學習方面取得了進展，但實際的預訓練模式仍主要是受到監督的方式。在這項研究中，我們在ImageNet和轉移學習中觀察到，自動編碼器是一種簡單的自我監督方法，類似於NLP中的技術，為我們提供了可擴展的優勢。視覺中的自我監督學習現在可能正走上與NLP類似的軌道。

另一方面，我們注意到，圖像和語言是不同性質的信號，必須仔細處理這種差異。圖像僅僅是記錄下來的光，是沒有語義分解成文字的視覺模擬。我們不嘗試刪除對象，而是刪除最有可能不構成語義段的隨機patch。

總結如下：

我們的MAE重建像素，而像素不是語義實體。然而，我們觀察到，我們的MAE推斷出復雜的、整體的重建，這表明它已經學習了許多視覺概念、如語義。我們假設這種行為是通過MAE內部豐富的隱藏表徵發生的。我們希望這一觀點將啟發今後的工作。

7. 更深更寬的Transformer網路是否意味著能夠獲得更強的預訓練模型

是的，意味著可以獲得更大范圍更強的訓練模型。
當可供訓練的token較少時，較大的模型往往不易於發揮它強大的建模表徵能力；另外，當模型非常大時，就需要更多的並行操作。由於特徵表示能力有限，較小的Transformer往往達不到大模型的performance。

8. 什麼是NLPNLP有用嗎

nlp的目的
認真看完九點內容，你就會了解
第一、學習NLP的目標是為了我們自己的人生更幸福快樂。
當我們去察覺生活中的選時，我們不會去強調'什麼對的'或者'什麼錯的'，而是去關注什麼是有效果的。因為，當我們去強調對和錯時，已失去靈活了，幸福的人生離我們也就起來越遠了。比如，很多家長用打孩子來教育孩子。我們不去評價這種做法是對的還是錯的，我們只需要問家長：這種做法否是有效果呢？
第二、卓越源於擁有更多的選擇，智慧來自多角度的視野。
就像有位朋友問到關於小偷和搶劫的這個問題，當你從自已的角度看這件事情的時候，你會感覺到很痛苦；當你站在對方的角度來看的時候，你也許開始同情對方；當你站在人類的這個角度來看的時候，你也許就會有更多的不同的感受。這也說明了NLP在溝通中那麼有效的原因：我們透過多角度的視角來觀察事情。當我們用多角度的視野來看待事情的時候，我們就擁有了更多的選擇。當我們擁有更多的選擇的時候，我們的行為結果就會有所不同，從而讓我們的生活變得不同。
X
第三，NLP是關乎掌控自我思維的工具和方法。
NLP研究的是人類的溝通模式，人類大腦處理數據的程序和方法。因而當我們學習NLP的時候，我們就越來越能掌控自己的思維。當我們能夠掌控自己的思維的時候，我們就開始能夠決定我們自己的情緒。當我們能夠決定我們的情緒的時候，我們的行為，別人對我們的態度也就會由此改變了。
第四、NLP是一個模仿及復制卓越的方法。
比如，當我們學習NLP後，大家就能很容易地把學習數學拿到一百的程序和方法復制到語文的學習中，從而全面的提升。
第五、NLP是一種加速學習的策略。
其實這一點和上面的道理是相同的，如我發現我的朋友很會討女孩子歡心。於是我就觀察他的策略。當我把他的策略了解後，我就能夠快速的學習到他的妙招。在NLP世界中，很多的訓練師用這種策略的方法來訓練那些從來不會射擊的人學習射擊，只要一天就能達到神槍手的水平。
第六、NLP幫助我們建立更良好的人際關系和提升說服力。如說感知位置，行為模式等等。
第七、NLP幫助我們提升我們的自我價值。自我價值就是一個人對於自我的內在評價，而這個評價則是與自信，能力等息息相關的。
第八、NLP技術收益
管理工作會變得更輕松、有趣而有效，讓你從又忙又累的工作中解脫出來。
發覺很多人願意向你靠近，影響力大增，不知不覺地讓你身邊的人進步。
掌握思考的奧秘，知道如何思考和引導別人如何思考。
掌握對話技巧能有效提升你的溝通、談判、說服能力，使你擁有圓融的人際關系。
掌握行動的奧秘，知道如何去推動自己和他人。
如果你是一個不滿18歲孩子的父母，學了這個課程會因此改變你和孩子的一生。
第九、NLP技術
意願：一種自動接收大自然能量的神奇魔法;只有意願的事,才會在你的心靈深處有無限的力量支持你直到你成功。
催眠：直接對潛意識說話，讓你的每一個細胞都活躍起來，為實現你的目標而努力。
貫通身、心、靈：讓你掌握用腦、用心、用身體深層說話的方法。
神聖的力量：提煉神聖的力量，應用於工作、生活中。
快樂元素：如何讓你枯燥、乏味的工作變得快樂。（價值的擴大、轉移）
美好的一天：如何讓你輕松、快樂、精彩每一天。
創造未來：找出推動你前行的自然動力，用時間線將這股動力扭轉，朝向你理想的未來，讓未來掌握在你手裡。
美妙人生：讓你一學就用，馬上解決人生困惑，讓你的一生充實、美妙、幸福。
NLP是對人類主觀經驗的研究。更直白地說，NLP是一種思想的技巧。
NLP就是我們用語言來改變身心狀態的具體方法。'模仿'是它的中心學問。
NLP可以實現你的富翁夢，即使不是物質上的富翁，也會是精神上的富翁。
加qq1147164581，手把手教你，nlp課堂