決策樹(shù)學(xué)習(xí)技術(shù)由于簡(jiǎn)單易用,到今天仍是最常用的機(jī)器學(xué)習(xí)技術(shù)之一.ILP具有很強(qiáng)的知識(shí)表示能力,可以較容易地表達(dá)出復(fù)雜數(shù)據(jù)關(guān)系,而且領(lǐng)域知識(shí)通常可方便地通過(guò)邏輯表達(dá)式進(jìn)行描述,因此,ILP不僅可利用領(lǐng)域知識(shí)輔助學(xué)習(xí),還可通過(guò)學(xué)習(xí)對(duì)領(lǐng)域知識(shí)進(jìn)行精化和增強(qiáng);然而,成也蕭何、敗也蕭何,由于表示能力太強(qiáng),直接導(dǎo)致學(xué)習(xí)過(guò)程面臨的假設(shè)空間太大、復(fù)雜度極高,因此,問(wèn)題規(guī)模稍大就難以有效進(jìn)行學(xué)習(xí),九十年代中期后這方面的研究相對(duì)陷入低潮.二十世紀(jì)九十年代中期之前,“從樣例中學(xué)習(xí)”的另一主流技術(shù)是基于神經(jīng)網(wǎng)絡(luò)的連接主義學(xué)習(xí).連接主義學(xué)習(xí)在二十世紀(jì)五十年代取得了大發(fā)展,但因?yàn)樵缙诘暮芏嗳斯ぶ悄苎芯空邔?duì)符號(hào)表示有特別偏愛(ài),例如圖靈獎(jiǎng)得主H.Simon曾斷言人工智能是研究“對(duì)智能行為的符號(hào)化建模”,所以當(dāng)時(shí)連接主義的研究未被納入主流人工智能研究范疇,尤其是連接主義自身也遇到了很大的障礙,正如圖靈獎(jiǎng)得主M. Minsky和S.Papert在1969年指出,(當(dāng)時(shí)的)神經(jīng)網(wǎng)絡(luò)只能處理線(xiàn)性分類(lèi),甚至對(duì)“異或”這么簡(jiǎn)單的問(wèn)題都處理不了.