《數(shù)據(jù)與知識工程》由會員分享，可在線閱讀，更多相關(guān)《數(shù)據(jù)與知識工程（45頁珍藏版）》請在裝配圖網(wǎng)上搜索。
1、教師：常亮 E-mail: 辦公室電話: 2291071 手機: 13481395869,數(shù)據(jù)與知識工程,,歡迎參加,本課程的開設背景,智能： 智能行為依賴于知識 知識： 是構(gòu)成智能的基礎 把有關(guān)信息關(guān)聯(lián)在一起形成的信息結(jié)構(gòu) 由信息提煉出來的產(chǎn)物，反映了一些基本的規(guī)律 信息： 計算學科：對描述和變換信息的算法過程進行的系統(tǒng)研究。 收信人事先不知道的報道 (辭海) 信息就是信息，不是物質(zhì)，也不是能量 (Norbert Wiener) 數(shù)據(jù)的語義 數(shù)據(jù)： 信息的載體和表示 對于計算機而言，信息處理就是數(shù)據(jù)處理,本課程的開設背景,智能： 智能行為依賴于知識 知識： 把有關(guān)信息關(guān)聯(lián)在一起形成的信息
2、結(jié)構(gòu) 由信息提煉出來的產(chǎn)物，反映了一些基本的規(guī)律 是構(gòu)成智能的基礎 信息： 數(shù)據(jù)的語義 收信人事先不知道的報道 (辭海) 信息就是信息，不是物質(zhì)，也不是能量 (Norbert Wiener) 計算學科：對描述和變換信息的算法過程進行的系統(tǒng)研究。 數(shù)據(jù)： 信息的載體和表示 對于計算機而言，信息處理就是數(shù)據(jù)處理,,,本課程的開設背景,信息時代/知識時代 農(nóng)業(yè)社會 工業(yè)/機械社會：由機械化、電氣化和自動化帶來的人類體力擴展的結(jié)果。 機械社會 信息/知識社會：由信息化、網(wǎng)絡化和智能化帶來的人類智力擴展的結(jié)果。 一個標志：萬維網(wǎng)(Web)的普及 信息化和網(wǎng)絡化帶來的形形色色的海量信息和內(nèi)容理解問題，向計
3、算機科學和人工智能提出了艱巨的挑戰(zhàn)。 語義Web Web技術(shù) 語義(本體/邏輯),知識表示與知識推理,數(shù)據(jù)挖掘 & 知識發(fā)現(xiàn),本課程的目的,了解人工智能領域關(guān)于知識表示、知識推理、知識發(fā)現(xiàn)的研究歷史； 掌握典型的知識表示方法（尤其是基于一階謂詞邏輯和基于描述邏輯的知識表示方法）； 掌握典型的知識推理方法（尤其是基于消解原理的推理方法和基于Tableau的推理方法）； 掌握典型的知識發(fā)現(xiàn)方法； 了解語義Web的基本思想、技術(shù)現(xiàn)狀和發(fā)展趨勢； 了解Web知識表示模型和語言（主要包括RDF、OWL、RIF和SPARQL）； 了解語義Web背景下關(guān)于知識表示、知識推理、和知識發(fā)現(xiàn)的研究現(xiàn)狀。,本課程的
4、內(nèi)容 ,基于一階謂詞邏輯(FOL)的知識表示和推理 基于FOL的知識表示 基于消解法的知識推理 基于tableau算法的知識推理 Horn邏輯與產(chǎn)生式系統(tǒng) Horn邏輯 邏輯程序設計 產(chǎn)生式系統(tǒng) 基于描述邏輯(DL)的知識表示和推理 基于DL的知識表示 基于tableau算法的知識推理 非單調(diào)知識表示和推理 CWA；限制邏輯；默認邏輯；自認知邏輯 對動作的表示、推理以及規(guī)劃 STRIPS系統(tǒng)；情景演算；流演算；PDL,知識表示能力 vs. 推理能力 tradeoff,本課程的內(nèi)容 ,數(shù)據(jù)挖掘與知識發(fā)現(xiàn) 基于證據(jù)理論的數(shù)據(jù)挖掘方法 基于神經(jīng)網(wǎng)絡的數(shù)據(jù)挖掘方法 基于遺傳算法的數(shù)據(jù)挖掘方法 基于粗
5、糙集的數(shù)據(jù)挖掘方法 其他數(shù)據(jù)挖掘方法 KDD的挖掘模式 關(guān)聯(lián)模式 分類模式 聚類模式 回歸模式 序列模式,本課程的內(nèi)容 ,語義Web的研究路線 資源描述框架RDF Web本體語言OWL Web規(guī)則標記語言RIF Web查詢語言SPARQL 典型應用 Web服務 軟件配置/產(chǎn)品協(xié)同制造 信息系統(tǒng) 知識共享/協(xié)同工作 語義Web背景下知識表示、知識推理和知識發(fā)現(xiàn), 教材 Brachman R, Levesque H. Knowledge Representation and Reasoning. Morgan Kaufmann Press, 2004. Antoniou G, Harmelen F
6、. A Semantic Web Primer. Second Edition. Cambridge, Mass.: MIT Press, 2008. (Antoniou G, Harmelen F.著, 陳小平等譯. 語義網(wǎng)基礎教程(第1版). 機械工業(yè)出版社, 2008.) 胡運發(fā). 數(shù)據(jù)與知識工程導論. 清華大學出版社, 2003. 參考書 1. Baader F, Calvanese D, McGuinness D, Nardi D, and Patel-Schneider P. F.. The Description Logic Handbook: Theory, Impl
7、ementation and Applications. Cambridge University Press, 2003. 2. Bell J. L., Machover M. A Course in Mathematical Logic. North-Holland Publishing Company, 1977. 3. Jiawei Han, Micheline Kamber. Data Mining: Concepts and Techinques. Second Edition. 機械工業(yè)出版社, 2007.,教材及參考書,作者介紹,Ron Brachman Ph.D, 1977
8、Harvard ACM Fellow President of AAAI (2003) 雅虎全球研究運營副總裁 Hector Levesque Ph.D 1981, University of Toronto Conference Chair of IJCAI (2001) founder farthers of DL Franz Baader Chair for Automata Theory of the Institute for Theoretical Computer Science Faculty of Computer Science at TU Dresden,課程要求,按時到
9、課，重視課堂學習； 對布置的思考題和討論題進行認真準備； 按進度完成平時作業(yè)。 評分方式： 總評成績 = 平時成績20 期末考試成績80 平時成績 = 課堂主題報告 課堂討論 重視課堂討論 使自己的疑問得到及時解答 可以幫助有相似疑問的同學 可以使教師及時了解教學效果 在討論中產(chǎn)生有價值的學術(shù)火花 多動筆；到證明的第一現(xiàn)場去,第1部分 概述,主要內(nèi)容： 人工智能及其三個學派 符號主義 本領域的杰出人物 本領域的頂級國際會議 知識表示與知識推理 數(shù)據(jù)挖掘與知識發(fā)現(xiàn),圖靈和圖靈測試,阿蘭麥席森圖靈(Alan Mathison Turing) 1912.6.23-1954.6.7 英國數(shù)學家、邏輯學
10、家 1936年： On Computable Numbers, with an Application to the Entscheidungs problem (論可計算數(shù)及其在判定問題上的應用) 圖靈機 (Turing Machine) 停機問題 vs. FOL的不可判定問題 1950年： Computing Machinery and Intelligence (計算機器與智能) 圖靈測試 (Turing Test) 人工智能之父,人工智能的誕生,Dartmouth會議： 1956年，美國的Dartmouth College，一個長達2個月的暑期研討班。 與會者有包括C.Shannon在
11、內(nèi)的數(shù)學家、邏輯學家、認知學家、心理學家、神經(jīng)生理學家、計算機科學家等10人。 Marvin Minsky的神經(jīng)網(wǎng)絡模擬器、John McCarthy的搜索法、以及Herbert Simon和Allen Newell的“邏輯理論家”成為會上的3個亮點，分別討論如何穿過迷宮、如何搜索推理、以及如何證明數(shù)學定理。 在會議上，John McCarthy正式提出“人工智能” (Artificial Intelligence)這一術(shù)語。 人工智能是相對人的自然智能而言，即用人工的方法和技術(shù),模仿、延伸和擴展人的智能，研制具有感知、推理、學習、聯(lián)想、決策等思維活動的計算系統(tǒng)，解決需要人類專家才能處理的復雜
12、問題。,人工智能的發(fā)展,1958年，Newell和Simon的四個預測 十年內(nèi)，計算機將成為世界象棋冠軍 十年內(nèi)，計算機將發(fā)現(xiàn)或證明有意義的數(shù)學定理 十年內(nèi)，計算機將能譜寫優(yōu)美的樂曲 十年內(nèi)，計算機將能實現(xiàn)大多數(shù)的心理學理論 1959年，MIT AI Lab正式成立（Minsky和McCarthy） 在專家系統(tǒng)、機器人、自然語言處理、知識工程等領域取得了長足的發(fā)展。 1981年，日本政府宣布日本五代機（first-generation computer）計劃（即智能計算機）。 1992年，日本政府宣布五代機計劃失敗。人工智能進入一個低谷。 隨著信息/知識社會的到來，人工智能領域再次興旺起來。,
13、Gartner 技術(shù)成熟度曲線,,“深藍”與卡斯帕羅夫之戰(zhàn),1997年5月初，IBM公司研制的并行計算機“深藍”與國際象棋冠軍卡斯帕羅夫交戰(zhàn)，以兩勝一負三平獲勝。 “深藍”：由256個專為國際象棋比賽設計的微處理器組成，每秒可計算2億步棋。,另一場人機大戰(zhàn),1997年，“深藍”在棋盤上擊敗國際象棋大師卡斯帕羅夫，本質(zhì)是使用窮舉戰(zhàn)略： 每秒計算2億次可能的“招數(shù)”， 在相同的時間內(nèi)，卡斯帕羅夫只能粗略地計劃兩步。 在其后的10年里，計算能力猛增：到2007年，那臺1.4噸的巨型計算機的處理能力已經(jīng)可以放進一個大拇指蓋大小的“細胞（Cell）”微處理器中。 在這十年內(nèi)，晶體管數(shù)量已經(jīng)從英特爾奔騰上
14、的750萬個跳躍到“細胞”上的2.34億個。 但是要讓計算機理解人類語言、像人類一樣思考比下棋難多了。 更高級別的挑戰(zhàn)？,“沃森”參戰(zhàn)“危險邊緣(Jeopardy!)”,“危險邊緣(Jeopardy!)”：美國家喻戶曉的電視智力競賽節(jié)目。1964年創(chuàng)立，競賽問題涉及地理、政治、歷史、體育、娛樂等。 2011年2月1416日，IBM 沃森參加了“危險邊緣”電視節(jié)目的競賽，戰(zhàn)勝了該節(jié)目有史以來最優(yōu)秀的兩位人類冠軍Ken Jennings和Brad Rutter。,IBM“沃森”系統(tǒng),以IBM創(chuàng)始人托馬斯J沃森的名字命名。 2006年開始設計。 是由90臺IBM 750服務器組成的群集系統(tǒng)，每臺服務
15、器采用Power 7處理器（8核芯片，每核4個線程），相當于有2880個核在運行。 內(nèi)存是16TB的RAM。 采用的軟件有SUSE Linux Enterprise Server 11操作系統(tǒng)、IBM DeepQA軟件、Apache UIMA（ 非結(jié)構(gòu)化信息管理體系結(jié)構(gòu)） 框架等。,IBM“沃森”系統(tǒng),使用了上百種的技術(shù)來分析自然語言、識別資源、尋找并產(chǎn)生假設、尋找證據(jù)并評分、對假設進行聚集和分級，因此它是專門設計的、具有學習能力的機器。 能儲存大量信息，相當于100萬本書籍和2億頁資料。 還可以從經(jīng)驗中學習如何提高性能； 能使用自然語言回答問題。 世界各地的研究人員歷時四年共同完成了這個系統(tǒng)
16、。 應用前景廣泛，可以高速分析大量數(shù)據(jù)，用來幫助政府部門解答公眾疑問，幫助醫(yī)生評估藥物療效。 核心技術(shù)：自然語言處理、機器學習,Leslie Gabriel Valiant (1949-),2010年圖靈獎獲得者 英國皇家學會會員/美國科學院院士 哈佛大學教授 主要貢獻： 機器學習領域：提出PAC模型 使20世紀50年代誕生的機器學習領域第一次有了堅實的數(shù)學基礎，從而清除了學科發(fā)展的障礙， 這不僅對人工智能學科領域產(chǎn)生了巨大影響，而且促使IBM公司制造出沃森（Watson）這樣智能而神奇的機器。 計算復雜性領域：表明即使可滿足賦值數(shù)很小，SAT這個NP完備問題仍然是很難的問題。 計算神經(jīng)學領域
17、：為大腦設計了一個數(shù)學模型，并將它與復雜的認知功能建立了關(guān)聯(lián)。,人工智能的不同學派,符號主義 連接主義 行為主義,符號主義（symbolism）,又稱為邏輯主義、心理學派、計算機學派 以Newell和 Simon提出的物理符號系統(tǒng)假說（physical symbol system hypothesis）為基礎。 符號主義認為： 人的認知基元是符號，認知過程就是符號操作過程； 人是一個物理符號系統(tǒng)，計算機也是一個物理符號系統(tǒng)，因此就能夠用計算機來模擬人的智能行為，即用計算機的符號操作來模擬人的認知過程。 知識是信息的一種形式，是構(gòu)成智能的基礎；人工智能的核心問題是知識表示、知識推理和知識運用。知
18、識可以用符號表示，也可以用符號進行推理，因而可能建立起基于知識的人類智能和機器智能的統(tǒng)一理論體系。 符號主義曾長期一支獨秀，為人工智能的發(fā)展作出了重要貢獻。在其他學派出現(xiàn)之后，符號主義仍然是人工智能的主流學派。,連接主義/聯(lián)結(jié)主義(connectionism),又稱為仿生學派、生理學派 其原理主要是神經(jīng)網(wǎng)絡以及神經(jīng)網(wǎng)絡間的連接機制和學習算法。 連接主義認為：人工智能源于仿生學，特別是人腦模型的研究。認為思維的基元是神經(jīng)元；把智能理解為相互聯(lián)結(jié)的神經(jīng)元競爭與協(xié)作的結(jié)果。 連接主義研究非程序的、適應性的、大腦風格的信息處理的本質(zhì)和能力。人們也稱它為神經(jīng)計算。 20世紀60-70年代，以感知機為代表
19、的腦模型的研究。 1986年，Rumelhart等提出多層網(wǎng)絡中的反向傳播算法（BP算法）；此后，連接主義勢頭大振。 近年來迅速發(fā)展；大量的神經(jīng)網(wǎng)絡的機理、模型、 算法不斷地涌現(xiàn)出來。,行為主義(actionism),又稱為進化主義、控制論學派 其原理為控制論以及感知-動作型控制模型。 行為主義強調(diào)智能系統(tǒng)與環(huán)境的交互，從運行的環(huán)境中獲取信息（感知），通過自己的動作對環(huán)境施加影響。 行為主義認為：智能只能在與環(huán)境的交互作用中表現(xiàn)出來。認為智能不需要知識、不需要表示、不需要推理。,弱AI vs.強AI,美國哲學家約翰西爾勒（J.R.Searle）根據(jù)人們在研究人工智能模擬人類認知能力方面的不同觀
20、點，將有關(guān)人工智能的研究劃分為強人工智能（Strong Artificial Intelligence，簡稱強AI）和弱人工智能（Soft Artificial Intelligence，簡稱弱AI）兩個派別。 人工草皮 & 人工調(diào)料 在研究意識方面， 弱AI認為計算機的主要價值在于它為我們提供了一個強大的工具； 強AI的觀點則是，計算機不僅是一個工具，形式化的計算機是具有意識的。 1980年，西爾勒設計了一個“中文屋子(Chinese Room)”的假想試驗來反駁強AI的觀點。,智能科學: 腦科學+認知科學+人工智能+,人腦是巨系統(tǒng) 神經(jīng)元: 胞體、突起(樹突,軸突),智能科學: 腦科學+認
21、知科學+人工智能+,人腦是巨系統(tǒng) 神經(jīng)元: 胞體、突起(樹突,軸突) 整個人腦神經(jīng)元的數(shù)量約為1011 (千億) 一只成年老鼠的腦由2100萬個稱為神經(jīng)元 在大腦皮層的一個神經(jīng)元上, 突觸的數(shù)目可達3萬以上。整個腦內(nèi)突觸的數(shù)目約在1014-1015(百萬億千萬億)之間。,智能科學: 腦科學+認知科學+人工智能+,2011年8月18日，美國IBM公司，可以模擬人腦處理信息方式的認知計算機芯片。 已研發(fā)出兩個芯片； 沒有任何生物成分，完全由硅電路組成； 每個都含有256個“神經(jīng)元”， 其中一塊有超過26萬個可控制的“神經(jīng)突觸”，另一塊有6萬多個學習型“神經(jīng)突觸”。 在這兩塊芯片的基礎上，研究人員成
22、功讓計算機實現(xiàn)導航、機器視覺、模式識別、聯(lián)系記憶及分類等功能。 研究人員的長期目標是建立一個有100億個“神經(jīng)元”和100萬億個“神經(jīng)突觸”的芯片系統(tǒng)，容量不超過兩升，每小時耗電只有1度。 最終建立在這種芯片上的計算機，將可以從經(jīng)驗中學習，找到聯(lián)系，建立假設，模擬人腦的結(jié)構(gòu)及彈性功能。,本領域的杰出人物,目前為止共56名圖靈獎獲得者(1966-1999:40名,2000-2009:16名) Marvin Minsky（1969年） 框架理論的創(chuàng)立者 世界上最早的能模擬人的活動的機器人Robot C John Mccarthy（1971年） Lisp語言 限制邏輯 情景演算,本領域的杰出人物,H
23、erbert Simon和Allen Newell（1975年） 符號主義學派的創(chuàng)始人 (物理符號系統(tǒng)假說) 開發(fā)了世界上最早的啟發(fā)式程序“邏輯理論家”，應用其證明了數(shù)學名著數(shù)學原理一書第二章52個定理中的38個定理 開發(fā)了最早的下棋程序之一MATER (Simon)發(fā)展和完善了語義網(wǎng)絡 Edward Feigenbaum和Raj Reddy（1994年） 大規(guī)模人工智能系統(tǒng)的設計和實現(xiàn)的先驅(qū) 合力開發(fā)了第一個專家系統(tǒng)DENDRAL (Feigenbaum)專家系統(tǒng)之父 (1977年) (Raj Reddy) John McCarthy指導的 第一個博士；李開復的博士生導師(CMU),本領域的
24、傳奇人物,Herbert Simon 1975年圖靈獎獲得者 符號主義學派的創(chuàng)始人 建立了機器證明數(shù)學定理的啟發(fā)式搜索法 提出有限理論對經(jīng)濟決策活動的影響 1978年諾貝爾經(jīng)濟學獎獲得者 1943年在匹茲堡大學獲得政治學博士學位 1969年由于在心理學上的貢獻而獲得美國心理學會的“杰出科學貢獻獎” 1986年因為在行為科學上的出色貢獻而榮獲美國全國科學獎章,本領域杰出的中國學者,吳文俊 幾何定理自動證明領域的突破 “吳方法”在國際機器證明領域產(chǎn)生了巨大影響，當前國際流行的主要符號計算軟件都實現(xiàn)了吳文俊教授的算法 獲得首屆國家自然科學一等獎(1956) Herbrand自動推理杰出成就獎(199
25、7) 首屆國家最高科學技術(shù)獎(2000) 吳文俊之路,本領域的頂級會議,IJCAI International Joint Conference on Artificial Intelligence 1969年召開第一屆；每兩年開一次 AAAI AAAI Conference on Artificial Intelligence AAAI: American Association for Artificial Intelligence(1979年成立)， 2007年改名為Association for the Advancement of Artificial Intelligence 19
26、80年召開第一屆；每年開一次 KR International Conference on Principles and Knowledge Representation and Reasoning 1989年召開第一屆；每兩年開一次,本領域的頂級會議,WWW International Conference on World Wide Web 1994年召開第一屆；每年開一次 ISWC International Semantic Web Conference 2002年召開第一屆；每年開一次,本領域的頂級會議,SIGMOD ACM SIGMOD Conference on Manageme
27、nt of Data SIGKDD ACM SIGKDD Conference on Knowledge Discovery and Data Mining ICDE IEEE International Conference on Data Engineering ICDM IEEE International Conference on Data Mining,本領域的頂級會議,SIGKDD ACM SIGKDD Conference on Knowledge Discovery and Data Mining 1995年召開第一屆；每年開一次 ICDM IEEE Internationa
28、l Conference on Data Mining 2001年召開第一屆；每年開一次,CCF推薦的國際學術(shù)會議和期刊目錄, 計算機體系結(jié)構(gòu)與高性能計算、計算機網(wǎng)絡、網(wǎng)絡與信息安全、計算機科學理論、軟件工程/系統(tǒng)軟件/程序設計語言、數(shù)據(jù)庫/數(shù)據(jù)挖掘/內(nèi)容檢索、計算機圖形學與多媒體、人工智能與模式識別、交叉學科、綜合類。 分為A、B、C三檔。 A類：國際上極少數(shù)的頂級刊物和會議，鼓勵我國學者去突破； B類：國際上著名和非常重要的會議、刊物，代表該領域的較高水平，鼓勵國內(nèi)同行投稿； C類：國際上重要的、為國際學術(shù)界所認可的會議和刊物。,知識表示和推理,“知識是信息的一種形式，是構(gòu)成智能的基礎；人
29、工智能的核心問題是知識表示、知識推理和知識運用?！?智能行為的基礎是知識。 人類的智能行為對于知識的依賴主要表現(xiàn)在對于知識的利用，即利用已經(jīng)具有的知識進行分析、猜測、判斷、預測等等。人類利用知識可以預測未來，由已知的情況推測未知的情況、由發(fā)生的事件預測還未發(fā)生的事件等等。 當人們希望計算機具有智能行為時，除了告訴計算機如何像人一樣地利用知識以外（對于知識進行推理），一個更為基礎和先行的工作是如何使計算機具有知識（對于知識進行表示），即在計算機上如何表達人類的知識。,常用的知識表示方法,基于邏輯的形式系統(tǒng) 基于命題邏輯 基于一階謂詞邏輯 基于模態(tài)邏輯 基于時序邏輯 基于動態(tài)邏輯 基于模糊邏輯 基
30、于描述邏輯 等等 非邏輯的表示系統(tǒng) 狀態(tài)空間表示法 語義網(wǎng)絡 框架 腳本 ,涉及到知識表示和推理的研究領域,智能搜索引擎 專家系統(tǒng) 機器翻譯和自然語言理解 數(shù)據(jù)挖掘和知識發(fā)現(xiàn) 智能控制 計算機視覺和圖像處理 虛擬人 / 仿生感知 / 人工生命 智能主體 智能診斷 自動規(guī)劃 ,數(shù)據(jù)挖掘與知識發(fā)現(xiàn),目的：從海量數(shù)據(jù)中找出有用的知識。 大體上看，數(shù)據(jù)挖掘可以視為機器學習和數(shù)據(jù)庫的交叉； 利用機器學習界提供的技術(shù)來分析海量數(shù)據(jù)， 利用數(shù)據(jù)庫界提供的技術(shù)來管理海量數(shù)據(jù)。,Thanks！,Question!,下回預告,基于一階謂詞邏輯的知識表示和推理 命題邏輯：語法、語義 FOL：語法、語義 （Ch2） 基于FOL的知識表示 （Ch3） 基于消解法的推理（包括命題邏輯推理和FOL推理） （Ch4） 基于tableau的命題邏輯推理 基于tableau的FOL推理,
數(shù)據(jù)與知識工程
