自然語言的案例
人工智能 |自然語言生成
?
人工智能 |自然語言生成
人工智能，定義為機(jī)器表現(xiàn)出的智能，在當(dāng)今社會(huì)有許多應(yīng)用。它應(yīng)用最廣泛的應(yīng)用之一是自然語言生成。
什么是自然語言生成 （NLG）？
自然語言生成 （NLG） 簡單地意味著從計(jì)算機(jī)數(shù)據(jù)生成文本。它充當(dāng)翻譯并將計(jì)算機(jī)化數(shù)據(jù)轉(zhuǎn)換為自然語言表示。在這種情況下，根據(jù)收集的數(shù)據(jù)和用戶提供的輸入生成結(jié)論或文本。它是從機(jī)器表示系統(tǒng)生成自然語言的自然語言處理任務(wù)。自然語言生成在某種程度上與自然語言理解相反。在自然語言理解中，系統(tǒng)需要消除輸入句子的歧義以產(chǎn)生機(jī)器表示語言，而在自然語言生成中，系統(tǒng)需要決定如何將概念轉(zhuǎn)化為文字。
生成文本的過程可以像保留復(fù)制和粘貼的現(xiàn)成文本列表一樣簡單。在簡單的應(yīng)用程序中，例如星座運(yùn)勢(shì)機(jī)或個(gè)性化商業(yè)信函的生成器，后果可能是令人滿意的。但是，需要一個(gè)復(fù)雜的 NLG 系統(tǒng)來包括規(guī)劃和合并信息的各個(gè)階段，以生成看起來自然且不會(huì)變得重復(fù)的文本。
簡單 NLG 系統(tǒng)的一個(gè)例子是 Pollen Forecast for Scotland 系統(tǒng)，它本質(zhì)上可以是一個(gè)模板。NLG 系統(tǒng)以六個(gè)數(shù)字作為輸入，這些數(shù)字預(yù)測(cè)蘇格蘭不同地區(qū)的花粉水平。根據(jù)這些數(shù)字，系統(tǒng)生成花粉水平的簡短文本摘要作為其輸出。
例如，使用 2005 年 7 月 1 日的歷史數(shù)據(jù)，該軟件生成了星期五的草花粉水平已從昨天的中等水平增加到高水平，該國大部分地區(qū)的值約為 6 到 7。然而，在北部地區(qū)，花粉水平將是中等的，值為 4。
展開 自然語言處理（NLP）的歷史及其發(fā)展方向
自然語言處理 (NLP) 的局限性是什么？
其中之一是改進(jìn)交互式對(duì)話系統(tǒng)中的自然語言處理，其中包括基于知識(shí)的對(duì)話和對(duì)話代理，例如 Siri 或 Alexa —— 我們每天使用的這些助手。然而，在它們能夠像人類一樣做出反應(yīng)之前，還有很長的路要走。
另一個(gè)限制是，大多數(shù)機(jī)器學(xué)習(xí)算法并不打算用于聊天機(jī)器人等實(shí)時(shí)情況，而是用于離線處理具有大量輸入變量和訓(xùn)練數(shù)據(jù)集的數(shù)據(jù)集 —— 這意味著仍然沒有辦法預(yù)測(cè)未來事件或每種可能的情況。
我們想通過自然語言處理 (NLP) 實(shí)現(xiàn)什么？
科學(xué)家們希望創(chuàng)建能夠理解句子的含義和意圖的算法，并且盡可能少地使用單詞。他們打算創(chuàng)建一套算法，能夠掌握句子的含義和意圖，以便從中提取信息。這就是為什么我們想要通過自然語言處理實(shí)現(xiàn)的目標(biāo)仍然沒有限制，只要它支持人類日常生活中的活動(dòng)。他們說，開發(fā) NLP 對(duì)日常生活中的人類有很大幫助。NLP 的發(fā)展背后有一些威脅，但也有很多機(jī)會(huì)。
自然語言處理幫助人們?cè)谌粘Ｉ钪懈骼卣f話和閱讀，并讓他們打字的速度比在鍵盤上寫句子的速度更快。但主要威脅之一是，一些專家表示，開發(fā)自然語言處理將使人類失業(yè)，因?yàn)樗麄儗⒈粰C(jī)器取代。
然而，也有人說自然語言處理會(huì)給人類帶來前所未有的新工作和機(jī)會(huì)，因?yàn)樗珡?fù)雜了。
展開 基于python的神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別和自然語言處理上的應(yīng)用
隨著計(jì)算機(jī)算力的不斷增長，基于機(jī)器學(xué)習(xí)（神經(jīng)網(wǎng)絡(luò)）的方法成為了自然語言處理以及計(jì)算機(jī)圖像識(shí)別的新范式。在自然語言處理方面，RNN、LSTM等方法能夠有效提取語言之間的前后順序和相互關(guān)系，在機(jī)器翻譯、語言生成等任務(wù)取得了非常好的效果。在圖像識(shí)別、圖像檢測(cè)等方面，CNN等方法能夠有效提取圖像之中的模式，刷新了傳統(tǒng)圖像識(shí)別方法的效果。
針對(duì)自然語言處理（NLP），最常用的是長短期記憶網(wǎng)絡(luò)，通常被稱為 LSTM，是一種特殊的 RNN，能夠?qū)W習(xí)長期依賴性。LSTM 的關(guān)鍵是細(xì)胞狀態(tài)，細(xì)胞狀態(tài)有點(diǎn)像傳送帶。它貫穿整個(gè)鏈條，只有一些次要的線性作用。信息很容易以不變的方式流過。圖示如下所示：
根據(jù)常用數(shù)據(jù)集，通過編程實(shí)現(xiàn)，這里通常使用pytorch進(jìn)行實(shí)現(xiàn)，部分代碼如下所示：
訓(xùn)練過程中，loss不斷降低，如下圖所示：
可以看出啦，與RNN相比，LSTM的loss值更低，能夠有效有效處理長序列等類型的數(shù)據(jù)，廣泛應(yīng)用在機(jī)器翻譯，語言生成等方面的應(yīng)用。
在圖像處理方面，最常用的是卷積神經(jīng)網(wǎng)絡(luò)（CNN），它受到人類視覺神經(jīng)系統(tǒng)的啟發(fā)。能夠有效的將大數(shù)據(jù)量的圖片降維成小數(shù)據(jù)量、能夠有效的保留圖片特征，符合圖片處理的原則。普通卷積神經(jīng)網(wǎng)絡(luò)如下所示：
同樣編程實(shí)現(xiàn)，部分代碼如下所示：
在訓(xùn)練過程中可以得到以下結(jié)果：
可以看出，訓(xùn)練過程中，loss值不斷下降，圖像識(shí)別率不斷上升，進(jìn)一步對(duì)結(jié)果進(jìn)行可視化，可以加深對(duì)卷積神經(jīng)網(wǎng)絡(luò)的理解。首先對(duì)卷積神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)到的權(quán)重進(jìn)行可視化，可以得到如下圖像：
不難看出，卷積神經(jīng)網(wǎng)絡(luò)能夠準(zhǔn)確識(shí)別出物體，并賦以較高的權(quán)重，以影響識(shí)別結(jié)果。目前卷積神經(jīng)網(wǎng)絡(luò)已廣泛應(yīng)用于圖片分類、檢索、目標(biāo)定位檢測(cè)等領(lǐng)域。
由以上結(jié)果可以看出，神經(jīng)網(wǎng)絡(luò)逐漸成為了人工智能的代名詞，并在各個(gè)領(lǐng)域中取得良好的結(jié)果。
展開 [譯] 自然語言處理真是有趣！
原文作者：Adam Geitgey
譯文出自：掘金翻譯計(jì)劃
本文永久鏈接：github.com/xitu/gold-m…
譯者：lihanxiang
校對(duì)者：FesonX、leviding、sakila1012
計(jì)算機(jī)如何理解人類的語言
計(jì)算機(jī)擅長處理結(jié)構(gòu)化的數(shù)據(jù)，像電子表格和數(shù)據(jù)庫表之類的。但是我們?nèi)祟惖娜粘贤ㄊ怯迷~匯來表達(dá)的，而不是表格，對(duì)計(jì)算機(jī)而言，這真是件棘手的事。
遺憾的是，我們并不是生活在處處都是結(jié)構(gòu)化數(shù)據(jù)的時(shí)代。
這個(gè)世界上的許多信息都是非結(jié)構(gòu)化的 —— 不僅僅是英語或者其他人類語言的原始文本。我們?cè)撊绾巫屢慌_(tái)計(jì)算機(jī)去理解這些非結(jié)構(gòu)化的文本并且從中提取信息呢？
自然語言處理，簡稱 NLP，是人工智能領(lǐng)域的一個(gè)子集，目的是為了讓計(jì)算機(jī)理解并處理人類語言。讓我們來看看 NLP 是如何工作的，并且學(xué)習(xí)一下如何用 Python 寫出能夠從原始文本中提取信息的程序。
注意：如果你不關(guān)心 NLP 是如何工作的，只想剪切和粘貼一些代碼，直接跳過至“用 Python 處理 NLP 管道”部分。
計(jì)算機(jī)能理解語言嗎？
自從計(jì)算機(jī)誕生以來，程序員們就一直嘗試去寫出能夠理解像英語這樣的語言的程序。這其中的原因顯而易見 —— 幾千年來，人類都是用寫的方式來記錄事件，如果計(jì)算機(jī)能夠讀取并理解這些數(shù)據(jù)將會(huì)對(duì)人類大有好處。
目前，計(jì)算機(jī)還不能像人類那樣完全了解英語 —— 但它們已經(jīng)能做許多事了！在某些特定領(lǐng)域，你能用 NLP 做到的事看上去就像魔法一樣。將 NLP 技術(shù)應(yīng)用到你的項(xiàng)目上能夠?yàn)槟愎?jié)約大量時(shí)間。
展開 
力學(xué)思維空間 。。
為了構(gòu)建力學(xué)思維空間，需要先解釋描述力學(xué)的三種語言。在力學(xué)中一個(gè)概念或是一個(gè)原理，通常都需要用三種語言來描述，它們分別是自然語言、圖形語言和符號(hào)語言。所謂自然語言，就是我們平常所說的話，現(xiàn)在我用文字來交流也是自然語言；圖形語言，即用圖形、向量來描述力學(xué)；符號(hào)語言，即力學(xué)的數(shù)學(xué)符號(hào)體系。
如力學(xué)中“應(yīng)力”的概念，用自然語言來描述，應(yīng)力是由物體在外載荷、溫度等外部條件改變后，物體內(nèi)部不同部分之間產(chǎn)生的相互作用力而引起的，計(jì)算一點(diǎn)處的應(yīng)力需要利用截面法，先取出過某點(diǎn)的截面，計(jì)算該截面趨近于0時(shí)截面上內(nèi)力集度，應(yīng)力有正應(yīng)力和切應(yīng)力之分。
如果繪出下面的圖，一個(gè)圓截面拉桿，假想過P點(diǎn)做截面，畫出截面A上P點(diǎn)的正應(yīng)力、切應(yīng)力。這樣用通過圖像來解釋應(yīng)力概念的語言稱為圖形語言。在力學(xué)中，為了準(zhǔn)確描述圖形中的力、截面等量的方向性特點(diǎn)，通常需要借助坐標(biāo)系，因此，圖形語言也可以稱為幾何語言。
最后來看應(yīng)力定義的符號(hào)語言，即用數(shù)學(xué)符號(hào)來定義應(yīng)力，可以稱之為數(shù)學(xué)語言，即利用數(shù)學(xué)的符號(hào)體系來定義應(yīng)力為：
這就是力學(xué)描述的三種語言。比較三種語言，自然語言顯得有些啰里啰嗦，還總覺得難以說到恰到好處，但自然語言和藹親善，講課中給學(xué)生“耐心解釋”必然要用自然語言；圖形語言形象直觀，卻存在局限性，圖中以圓桿為例分析應(yīng)力，從結(jié)構(gòu)而論還可以有方桿、塊體等任意結(jié)構(gòu)形式，由此看來圖形語言就難以做到統(tǒng)領(lǐng)全局。相比之下，只有符號(hào)語言簡單明了、高度抽象，統(tǒng)領(lǐng)全局般的解釋了應(yīng)力概念的內(nèi)涵和精要，然而數(shù)學(xué)卻顯得高傲、冷艷，令多少人望而卻步！
正由于這三種語言各有長短，它們必須相互協(xié)作、彼此關(guān)照，才能把力學(xué)描述清楚。就像空間一點(diǎn)，必須有三個(gè)坐標(biāo)才能唯一確定一樣，描述空間的點(diǎn)，少一個(gè)坐標(biāo)就不準(zhǔn)確；描述力學(xué)，少一種語言力學(xué)就難以完整。
展開 結(jié)構(gòu)化知識(shí)庫+研發(fā)智能體｜開啟智能研發(fā)時(shí)代
1有據(jù)可查的智能問答：解決AI幻覺
你可以用自然語言提問，例如：“去年XX項(xiàng)目的起落架減震器，在高溫工況下的材料參數(shù)是什么？”
NexAI會(huì)做三件事：理解意圖 → 在融合了PLM/PDM/TDM等系統(tǒng)的知識(shí)圖
譜中精準(zhǔn)檢索 → 生成帶引文、帶出處、帶具體位置的回答。它告訴你答案來自哪份報(bào)告的哪一頁哪一張表。你才敢用、敢信。
?
編輯
答案生成顯示引用文獻(xiàn)
2自然語言驅(qū)動(dòng)設(shè)計(jì)：從口述到模型
?
編輯
自然語言繪制CAD模型，支持Web端輕量化預(yù)覽
NexAI集成多模態(tài)大模型，允許用自然語言直接生成基礎(chǔ)模型。
自然語言建模：通過NexAI智能體，可以實(shí)現(xiàn)自然語言交互的方式，生成FreeCAD模型代碼，并直接進(jìn)行輕量化展示。
?
編輯
通過自然語言與NexAI交互，繪制時(shí)序圖
流程/時(shí)序圖：在做需求設(shè)計(jì)時(shí)，可使用自然語言描述業(yè)務(wù)邏輯，應(yīng)用AIStudio低代碼平臺(tái)實(shí)時(shí)生成標(biāo)準(zhǔn)的業(yè)務(wù)流程或時(shí)序圖，支持二次編輯。
仿真云圖分析：將仿真云圖丟給視覺大模型，自動(dòng)識(shí)別高應(yīng)力區(qū)、潛在風(fēng)險(xiǎn)點(diǎn)，并給出優(yōu)化建議。
?
編輯
基于NexAI進(jìn)行車輛發(fā)動(dòng)機(jī)覆蓋件仿真云圖分析
?
編輯
基于NexAI進(jìn)行軸類零件在扭轉(zhuǎn)工況下的仿真結(jié)果分析
3貫穿研發(fā)全流程的智能體協(xié)同
NexAI嵌入RLM（產(chǎn)品需求生命周期系統(tǒng)）和PLM（產(chǎn)品設(shè)計(jì)生命周期系統(tǒng)），形成閉環(huán)。
項(xiàng)目管理： AI撰寫與評(píng)審需求，自然語言繪制流程圖/時(shí)序圖；自動(dòng)拆解任務(wù)并推薦任務(wù)執(zhí)行人，生成項(xiàng)目計(jì)劃及甘特圖；支持需求變更影響預(yù)測(cè)、資源動(dòng)態(tài)調(diào)度與預(yù)警、智能進(jìn)度跟蹤。
?
展開 ChatGPT 獲得 Wolfram 超能力注入！
同時(shí)，符號(hào)表達(dá)式轉(zhuǎn)換規(guī)則的核心思想成為現(xiàn)在的 Wolfram 語言的基礎(chǔ)，并使計(jì)算語言擁有了長達(dá)幾十年的全面發(fā)展才到今天這個(gè)局面。
從 20 世紀(jì) 60 年代開始，人工智能研究人員一直在努力開發(fā)能夠"理解自然語言"的系統(tǒng)，以及"代表知識(shí)"的系統(tǒng)并據(jù)此回答問題。所做的一些工作雖不宏大但卻很實(shí)用。但那時(shí)依舊感覺成功遙不可及。同時(shí)，基于我在 20 世紀(jì) 90 年代所做的一些基礎(chǔ)科學(xué)的哲學(xué)研究，2005 年的時(shí)候我決定要嘗試建立一個(gè)通用的 "計(jì)算知識(shí)引擎"，它可以回答用自然語言提出的事實(shí)和計(jì)算問題。那時(shí)候我們并不知道是否能成功建立這樣的系統(tǒng)，但我們發(fā)現(xiàn)，用我們的底層計(jì)算語言，經(jīng)過大量的工作，這種系統(tǒng)的可能性是存在的。這樣我們才能夠在 2009 年發(fā)布 Wolfram|Alpha。
從某種意義上說，Wolfram|Alpha 之所以成為可能，是因?yàn)樵趦?nèi)部有一種清晰、正式的方式來表示世界上的事物，并對(duì)它們進(jìn)行計(jì)算。對(duì)我們來說，"理解自然語言"并不是什么抽象的東西；它是將自然語言轉(zhuǎn)化為結(jié)構(gòu)化計(jì)算語言的具體過程。
另一部分是集合所有的數(shù)據(jù)、方法、模型和算法來"了解"和"計(jì)算"這個(gè)世界。雖然我們已經(jīng)很大程度上實(shí)現(xiàn)了自動(dòng)化，但仍然發(fā)現(xiàn)，為了"以正確的方式實(shí)現(xiàn)目標(biāo)"，我們別無選擇，只能讓真實(shí)的人類專家參與進(jìn)來。雖然在 Wolfram|Alpha 的自然語言理解系統(tǒng)中，人們可能認(rèn)為更像是"統(tǒng)計(jì)人工智能"，但 Wolfram|Alpha——包括 Wolfram 語言——的絕大部分都是以一種直接、符號(hào)化的方式運(yùn)作，也會(huì)讓人想起符號(hào)人工智能的傳統(tǒng)。(這并不是說 Wolfram 語言中的個(gè)別函數(shù)不使用機(jī)器學(xué)習(xí)和統(tǒng)計(jì)技術(shù)；近年來，越來越多的函數(shù)使用機(jī)器學(xué)習(xí)，Wolfram 語言也有一個(gè)完整的內(nèi)置框架來進(jìn)行機(jī)器學(xué)習(xí)）。
展開 什么是大型語言模型 （LLM）？
從以上關(guān)于 LLM 的介紹和技術(shù)信息中，您一定已經(jīng)了解了 Chat GPT 也是一款 LLM，因此，我們用它來描述大型語言模型的使用案例。
代碼生成 – 這項(xiàng)服務(wù)最瘋狂的使用案例之一是，它可以為用戶向模型描述的特定任務(wù)生成相當(dāng)準(zhǔn)確的代碼。
代碼的調(diào)試和文檔 – 如果您正在為有關(guān)如何調(diào)試它的一些代碼而苦苦掙扎，那么 ChatGPT 是您的救星，因?yàn)樗梢愿嬖V您產(chǎn)生問題的代碼行以及糾正問題的補(bǔ)救措施。此外，現(xiàn)在您不必花費(fèi)數(shù)小時(shí)編寫項(xiàng)目文檔，您可以要求 ChatGPT 為您完成此操作。
問題解答 – 正如您一定已經(jīng)看到的那樣，當(dāng) AI 驅(qū)動(dòng)的個(gè)人助理發(fā)布時(shí)，人們過去常常向他們提出瘋狂的問題，好吧，您也可以在這里與真正的問題一起這樣做。
語言傳輸 – 它可以將一段文本從一種語言轉(zhuǎn)換為另一種語言，因?yàn)樗С?50 多種母語。它還可以幫助您糾正內(nèi)容中的語法錯(cuò)誤。
LLM 的用例不僅限于上述，還必須具有足夠的創(chuàng)造力來編寫更好的提示，并且您可以讓這些模型執(zhí)行各種任務(wù)，因?yàn)樗鼈兘?jīng)過訓(xùn)練，可以執(zhí)行一次性學(xué)習(xí)和零次學(xué)習(xí)方法的任務(wù)。正因?yàn)槿绱?，?duì)于期待廣泛使用 ChatGPT 類型模型的人來說，提示工程在學(xué)術(shù)界是一個(gè)全新的熱門話題。
大型語言模型應(yīng)用程序
LLM，例如 GPT-3，在各個(gè)領(lǐng)域都有廣泛的應(yīng)用。他們中的少數(shù)是：
自然語言理解 （NLU）
大型語言模型為能夠進(jìn)行自然對(duì)話的高級(jí)聊天機(jī)器人提供支持。
它們可用于為日程安排、提醒和信息檢索等任務(wù)創(chuàng)建智能虛擬助手。
內(nèi)容生成
為各種目的創(chuàng)建類似人類的文本，包括內(nèi)容創(chuàng)建、創(chuàng)意寫作和講故事。
根據(jù)自然語言描述或命令編寫代碼片段。
展開 智能客服為啥總是不好用？
可即便如此，有這樣幾項(xiàng)技術(shù)的使用仍然潛移默化地改變著人們的生活，比如：人臉識(shí)別、自然語言處理等等。
前者不在本文的討論范圍內(nèi)，我們重點(diǎn)來聊一聊后者。
自然語言處理（Natural Language Processing），簡稱“NLP”，一種研究人與計(jì)算機(jī)交互的語言問題的一門學(xué)科。
其實(shí)在人工智能發(fā)展的初期，自然語言處理技術(shù)就被認(rèn)為在未來可堪大用。比如，1966年，麻省理工學(xué)院的一名教授就創(chuàng)造了一款“準(zhǔn)智能”對(duì)話機(jī)器人Eliza，來作為心理治療的輔助工具。
之所以稱其為“準(zhǔn)智能”，是因?yàn)閺脑砩蟻碚f，Eliza的功能實(shí)現(xiàn)非常簡單，就是根據(jù)來訪者輸入的關(guān)鍵字匹配回答，就像是連線題一樣。
舉個(gè)例子，來訪者問：“我心情不好怎么辦？”Eliza就會(huì)根據(jù)“心情不好”這樣的詞語，匹配對(duì)應(yīng)的回答，比如：“你今天經(jīng)歷什么糟糕事了嗎？”
這種引導(dǎo)式、開放型的回應(yīng)常常讓來訪者感覺在與真人對(duì)話，要知道但那可是在1966年，Eliza能夠做到這樣，已經(jīng)足以讓世界驚嘆。
隨著技術(shù)的進(jìn)步，自然語言處理技術(shù)已經(jīng)能夠應(yīng)對(duì)一些復(fù)雜的內(nèi)容，也正因如此，這項(xiàng)技術(shù)被用在了更加廣泛的場(chǎng)景，客服就是其中之一。
早期的“智能客服”其實(shí)并不智能，大多數(shù)的原理與Eliza并無二至，都是通過關(guān)鍵字匹配，實(shí)現(xiàn)所謂的“問答”；直到深度學(xué)習(xí)技術(shù)的出現(xiàn)，智能客服才有了新的進(jìn)展。
二、能理解人話的“高智能”客服
深度學(xué)習(xí)技術(shù)的發(fā)展離不開三個(gè)要素：算法、算力、數(shù)據(jù)。
其中算法在無數(shù)科研人員的努力下已經(jīng)有了長足的進(jìn)展，算力因?yàn)橛辛薌PU這樣的產(chǎn)品而得到了保障，只有數(shù)據(jù)是隨著世界進(jìn)入大數(shù)據(jù)時(shí)代才能夠大量提供的。
展開 使用通用句子編碼器USE(Universal Sentence Encoder)進(jìn)行語義查詢
1 引言
隨著新的深度學(xué)習(xí)架構(gòu)的出現(xiàn)，自然語言處理有了很大的進(jìn)步。隨著新架構(gòu)的出現(xiàn)，大量的新應(yīng)用涌現(xiàn)出來，其中，通用句子編碼器USE(Universal Sentence Encoder)是一個(gè)基于Transformer的NLP模型，廣泛用于嵌入句子或單詞。此外，該嵌入可用于文本聚類、分類等。
在試驗(yàn)過程中，發(fā)現(xiàn)直接使用pip install top2vec[sentence_encoders]命令安裝Top2Vec的USE(universal-sentence-encoder)和USEM(universal-sentence-encoder-multilingual)不成功，可能的原因是Tensorflow沒有安裝好。與Pytorch一樣，Tensorflow有CPU和GPU兩個(gè)版本，GPU版本的安裝過程非常復(fù)雜，首先需要配置CUDA，于是決定先使用CPU版本。使用下面的命令進(jìn)行安裝：
conda install -c anaconda tensorflow
本意是安裝V2.5版本，但不知什么原因，最后竟然安裝的是V2.3.0版本。在測(cè)試安裝成功后，又安裝了tensorflow_hub和seaborn兩個(gè)關(guān)鍵庫。至此Tensorflow的基本安裝工作完成。
2 下載USE
通用句子編碼器USE將文本編碼為高維向量，可用于文本分類、語義相似性、聚類和其他自然語言任務(wù)。該模型用于句子、短語或短段落的訓(xùn)練和優(yōu)化，它在各種數(shù)據(jù)源和各種任務(wù)上進(jìn)行訓(xùn)練，目的是動(dòng)態(tài)地適應(yīng)各種自然語言理解任務(wù)。輸入是可變長度的英語文本，輸出是一個(gè)512維的向量。USE模型是用深度平均網(wǎng)絡(luò)DAN編碼器訓(xùn)練的。
展開 Stimulus—需求形式化建模和分析工具
Stimulus的核心理念是運(yùn)用“自然語言”對(duì)功能性需求進(jìn)行建模，并通過仿真來查找需求中的缺陷，例如需求一致性、不二義性和完整性檢查等。借助Stimulus可以在系統(tǒng)開發(fā)的早期階段發(fā)現(xiàn)并修改需求規(guī)范中的錯(cuò)誤、在系統(tǒng)最終交付驗(yàn)收階段檢查系統(tǒng)設(shè)計(jì)是否滿足需求規(guī)范，從而較大地降低產(chǎn)品開發(fā)的成本與風(fēng)險(xiǎn)。
產(chǎn)品介紹
仿真及驗(yàn)證需求規(guī)范
Stimulus使用“自然語言”對(duì)需求進(jìn)行建模、仿真并驗(yàn)證需求。Stimulus中包含了豐富的時(shí)間與邏輯運(yùn)算符，例如：“當(dāng)…時(shí)”，“如果”，“大于”，“只有”等。通過對(duì)需求按照運(yùn)算符進(jìn)行重新書寫，可以驗(yàn)證需求中是否存在沖突；通過對(duì)仿真結(jié)果的觀察，來驗(yàn)證需求規(guī)范中是否存在沖突與缺陷，進(jìn)而保證了需求規(guī)范的正確性。
生成測(cè)試用例及系統(tǒng)驗(yàn)證
Stimulus可以根據(jù)需求描述自動(dòng)生成符合需求的測(cè)試用例（需求可以是高層次需求或者低層次需求），也可以在Stimulus中使用“自然語言”描述測(cè)試場(chǎng)景，并生成符合測(cè)試場(chǎng)景的測(cè)試用例。Stimulus不但可以根據(jù)需求生成測(cè)試用例，還可以監(jiān)測(cè)系統(tǒng)輸出是否符合需求規(guī)格說明中的要求。在測(cè)試環(huán)境中導(dǎo)入生成的測(cè)試用例并通過監(jiān)視系統(tǒng)輸出，客戶可以驗(yàn)證系統(tǒng)設(shè)計(jì)是否滿足需求，還可以節(jié)省手工書寫測(cè)試用例時(shí)冗長而無味的時(shí)間。
良好的集成擴(kuò)展性
Stimulus支持對(duì)SIMULINK及SCADE集成，可以為SIMULINK或SCADE模型自動(dòng)生成測(cè)試用例，即根據(jù)需求生成系統(tǒng)輸入以及系統(tǒng)行為的約束限制，進(jìn)而檢驗(yàn)?zāi)Ｐ褪欠駶M足需求規(guī)范中的要求。
應(yīng)用&案例
某跨國汽車設(shè)備供應(yīng)商（驗(yàn)證ABS/ESP系統(tǒng)需求規(guī)范）
法國某軌道系統(tǒng)運(yùn)營商（驗(yàn)證地鐵車站自動(dòng)門開關(guān)控制系統(tǒng)）
展開 
Stimulus — 需求形式化建模和分析工具
Stimulus 的核心理念是運(yùn)用“自然語言”對(duì)功能性需求進(jìn)行建模，并通過仿真來查找需求中的缺陷，例如需求一致性、不二義性檢查等。借助Stimulus 可以在系統(tǒng)開發(fā)的早期階段發(fā)現(xiàn)并修改需求規(guī)范中的錯(cuò)誤、在系統(tǒng)交付驗(yàn)收階段檢查系統(tǒng)設(shè)計(jì)是否滿足需求規(guī)范，從而很大地降低產(chǎn)品開發(fā)的成本與風(fēng)險(xiǎn)。
產(chǎn)品介紹
? 仿真及驗(yàn)證需求規(guī)范
Stimulus 使用“自然語言”對(duì)需求進(jìn)行建模、仿真并驗(yàn)證需求。Stimulus 中包含了豐富的時(shí)間與邏輯運(yùn)算符，例如：“當(dāng)…時(shí)”，“如果”，“大于”，“只有”等。通過對(duì)需求按照運(yùn)算符進(jìn)行重新書寫，可以驗(yàn)證需求中是否存在沖突；通過對(duì)仿真結(jié)果的觀察，來驗(yàn)證需求規(guī)范中是否存在沖突與缺陷，進(jìn)而保證了需求規(guī)范的正確性。
? 生成測(cè)試用例及系統(tǒng)驗(yàn)證
Stimulus 可以根據(jù)需求描述自動(dòng)生成符合需求的測(cè)試用例（需求可以是高層次需求或者低層次需求），也可以在Stimulus 中使用“自然語言”描述測(cè)試場(chǎng)景，并生成符合測(cè)試場(chǎng)景的測(cè)試用例。Stimulus 不但可以根據(jù)需求生成測(cè)試用例，還可以監(jiān)測(cè)系統(tǒng)輸出是否符合需求規(guī)格說明中的要求。在測(cè)試環(huán)境中導(dǎo)入生成的測(cè)試用例并通過監(jiān)視系統(tǒng)輸出，客戶可以驗(yàn)證系統(tǒng)設(shè)計(jì)是否滿足需求，還可以節(jié)省手工書寫測(cè)試用例時(shí)冗長而無味的時(shí)間。
? 良好的集成擴(kuò)展性
Stimulus 支持對(duì)SIMULINK及SCADE集成， 可以為SIMULINK或SCADE模型自動(dòng)生成測(cè)試用例，即根據(jù)需求生成系統(tǒng)輸入以及系統(tǒng)行為的約束限制，進(jìn)而檢驗(yàn)?zāi)Ｐ褪欠駶M足需求規(guī)范中的要求。
經(jīng)緯恒潤
北京市海淀區(qū)知春路7號(hào)致真大廈D座6層
郵箱：market_dept@hirain.com
網(wǎng)址：www.hirain.com
展開 人工智能產(chǎn)業(yè)的發(fā)展是什么樣的呢？
當(dāng)下，人工智能產(chǎn)業(yè)出現(xiàn)了九大發(fā)展熱點(diǎn)領(lǐng)域，分別是芯片、自然語言處理、語音識(shí)別、機(jī)器學(xué)習(xí)應(yīng)用、計(jì)算機(jī)視覺與圖像、技術(shù)平臺(tái)、智能無人機(jī)、智能機(jī)器人、自動(dòng)駕駛。
在美國AI創(chuàng)業(yè)公司中排名前三的領(lǐng)域?yàn)椋?em>自然語言處理、機(jī)器學(xué)習(xí)應(yīng)用和計(jì)算機(jī)視覺與圖像。
在中國AI創(chuàng)業(yè)公司中排名前三的領(lǐng)域?yàn)椋河?jì)算機(jī)視覺與圖像、智能機(jī)器人和自然語言處理。
美國主導(dǎo)產(chǎn)業(yè)巨頭具有先發(fā)優(yōu)勢(shì)
巨頭通過招募AI高端人才、組建實(shí)驗(yàn)室（見表2－2）等方式加快關(guān)鍵技術(shù)研發(fā)；同時(shí)，通過持續(xù)收購新興AI創(chuàng)業(yè)公司，爭奪人才與技術(shù)，并通過開源技術(shù)平臺(tái)，構(gòu)建生態(tài)體系。
表2－2 巨頭紛紛建立AI實(shí)驗(yàn)室
中國AI產(chǎn)業(yè)未來在哪里？
放眼技術(shù)社會(huì)變遷，IT時(shí)代，Wintel聯(lián)盟一統(tǒng)江山；互聯(lián)網(wǎng)時(shí)代，谷歌、亞馬遜異軍突起、雄霸天下；移動(dòng)時(shí)代，又有蘋果、谷歌引領(lǐng)世界潮流?，F(xiàn)在，人工智能正在緩緩揭開時(shí)代變遷的新篇章。
與互聯(lián)網(wǎng)相似，中國將會(huì)成為AI應(yīng)用的最大市場(chǎng)，擁有豐富的應(yīng)用場(chǎng)景，擁有全球最多的用戶和活躍的數(shù)據(jù)生產(chǎn)主體。我們需要進(jìn)一步加大基礎(chǔ)學(xué)科建設(shè)和人才培養(yǎng)，以便讓中國AI有機(jī)會(huì)走得更遠(yuǎn)。
國家實(shí)力的提升來源于科技企業(yè)創(chuàng)新。美國以絕對(duì)實(shí)力處于領(lǐng)先地位，一批中國初創(chuàng)企業(yè)也在蓄勢(shì)待發(fā)。未來AI時(shí)代必然也會(huì)產(chǎn)生類似英特爾、微軟、谷歌、蘋果這樣的全球級(jí)企業(yè)。我們相信中國企業(yè)有機(jī)會(huì)成為人工智能時(shí)代的弄潮兒，在AI領(lǐng)域占有一席之地。
AI群雄逐鹿，天下未定，機(jī)遇和挑戰(zhàn)同在。讓我們保持冷靜的頭腦，見證這個(gè)偉大的時(shí)代吧。
來源：人工智能大健康
展開 線上研討會(huì) | 智能體驅(qū)動(dòng)，開啟仿真新玩法——初步探索AI在Abaqus與CST中的應(yīng)用
示例演示：自然語言指令驅(qū)動(dòng) CST 仿真</p><p><strong>參會(huì)方式</strong></p><p><strong>時(shí)間：</strong>2026年5月28日 周四，14:00-15:30</p><p><strong>報(bào)名方式：</strong><a href="https://meeting.tencent.com/dw/OP4nLCXV91rn?
展開 巖石邊坡工程大數(shù)據(jù)處理---階段性總結(jié)(R1)
這部分內(nèi)容偏多，討論的都是些自然語言處理中最前沿的問題以及在本項(xiàng)目中的應(yīng)用，待以后補(bǔ)充。
3.4 訓(xùn)練自己的模型
這是本項(xiàng)研究最激動(dòng)人心的部分，基于GPT-2的預(yù)訓(xùn)練集，我們已經(jīng)產(chǎn)生出一個(gè)微調(diào)的GeotechSet數(shù)據(jù)集，能夠應(yīng)用在巖土工程領(lǐng)域特別是巖石邊坡工程領(lǐng)域中。
4 結(jié)束語
這個(gè)筆記簡要描述了巖石邊坡工程大數(shù)據(jù)處理目前所作的工作，這也是階段研究報(bào)告的基本框架。目前正在修改與完善之中，最終稿爭取控制在150頁以內(nèi)。
