廈門大學(xué)《應(yīng)用多元統(tǒng)計分析》第06章-主成分分析

第 六 章 主 成 分 分 析第 一 節(jié) 引 言 第 二 節(jié) 主 成 分 的 幾 何 意 義 及 數(shù) 學(xué) 推 導(dǎo) 第 三 節(jié) 主 成 分 的 性 質(zhì) 第 四 節(jié) 主 成 分 方 法 應(yīng) 用 中 應(yīng) 注 意 的 問 題 第 五 節(jié) 實 例 分 析 與 計 算 機(jī) 實 現(xiàn) 第 一 節(jié) 引 言n 多 元 統(tǒng) 計 分 析 處 理 的 是 多 變 量 （ 多 指 標(biāo) ） 問 題 。 由 于 變 量 較多 ， 增 加 了 分 析 問 題 的 復(fù) 雜 性 。 但 在 實 際 問 題 中 ， 變 量 之 間可 能 存 在 一 定 的 相 關(guān) 性 ， 因 此 ， 多 變 量 中 可 能 存 在 信 息 的 重疊 。 人 們 自 然 希 望 通 過 克 服 相 關(guān) 性 、 重 疊 性 ， 用 較 少 的 變 量來 代 替 原 來 較 多 的 變 量 ， 而 這 種 代 替 可 以 反 映 原 來 多 個 變 量的 大 部 分 信 息 ， 這 實 際 上 是 一 種 “ 降 維 ” 的 思 想 。 n 主 成 分 分 析 也 稱 主 分 量 分 析 ， 是 由 Hotelling于 1933年 首 先 提出 的 。 由 于 多 個 變 量 之 間 往 往 存 在 著 一 定 程 度 的 相 關(guān) 性 。 人們 自 然 希 望 通 過 線 性 組 合 的 方 式 ， 從 這 些 指 標(biāo) 中 盡 可 能 快 地提 取 信 息 。 當(dāng) 第 一 個 線 性 組 合 不 能 提 取 更 多 的 信 息 時 ， 再 考慮 用 第 二 個 線 性 組 合 繼 續(xù) 這 個 快 速 提 取 的 過 程 ， ， 直 到所 提 取 的 信 息 與 原 指 標(biāo) 相 差 不 多 時 為 止 。 這 就 是 主 成 分 分 析的 思 想 。 一 般 說 來 ， 在 主 成 分 分 析 適 用 的 場 合 ， 用 較 少 的 主成 分 就 可 以 得 到 較 多 的 信 息 量 。 以 各 個 主 成 分 為 分 量 ， 就 得到 一 個 更 低 維 的 隨 機(jī) 向 量 ； 因 此 ， 通 過 主 成 分 既 可 以 降 低 數(shù)據(jù) “ 維 數(shù) ” 又 保 留 了 原 數(shù) 據(jù) 的 大 部 分 信 息 。 基 本 思 想n 在 社 會 經(jīng) 濟(jì) 的 研 究 中 ， 為 了 全 面 系 統(tǒng) 的 分 析 和 研 究 問 題 ， 必 須 考慮 許 多 經(jīng) 濟(jì) 指 標(biāo) ， 這 些 指 標(biāo) 能 從 不 同 的 側(cè) 面 反 映 我 們 所 研 究 對 象的 特 征 ， 但 在 某 種 程 度 上 存 在 信 息 的 重 疊 ， 具 有 一 定 的 相 關(guān) 性 。主 成 分 分 析 是 把 各 變 量 之 間 互 相 關(guān) 聯(lián) 的 復(fù) 雜 關(guān) 系 進(jìn) 行 簡 化 分析 的 方 法 。主 成 分 分 析 試 圖 在 力 保 數(shù) 據(jù) 信 息 丟 失 最 少 的 原 則 下 ， 對 這 種多 變 量 的 截 面 數(shù) 據(jù) 表 進(jìn) 行 最 佳 綜 合 簡 化 ， 也 就 是 說 ， 對 高 維變 量 空 間 進(jìn) 行 降 維 處 理 。在 力 求 數(shù) 據(jù) 信 息 丟 失 最 少 的 原 則 下 ， 對 高 維 的 變 量 空 間 降 維 ，即 研 究 少 數(shù) 幾 個 指 標(biāo) 體 系 的 線 性 組 合 ， 并 且 這 幾 個 線 性 組 合所 構(gòu) 成 的 綜 合 指 標(biāo) 將 盡 可 能 多 地 保 留 原 來 指 標(biāo) 變 異 方 面 的 信息 。 這 些 綜 合 指 標(biāo) 就 稱 為 主 成 分 。將 原 來 眾 多 具 有 一 定 相 關(guān) 性 的 指 標(biāo) 重 新 組 合 成 一 組 新 的 相 互無 關(guān) 的 綜 合 指 標(biāo) 來 代 替 原 來 指 標(biāo) 。 在 主 成 分 分 析 中 ， 提 取 出 的 每 個 主 成 分 都 是 原 來 多 個 指 標(biāo) 的線 性 組 合 。 基 本 思 想n 原 則 上 如 果 有 n個 變 量 ， 則 最 多 可 以 提 取 出 n個 主 成 分 ，但 如 果 將 它 們 全 部 提 取 出 來 就 失 去 了 該 方 法 簡 化 數(shù) 據(jù) 的實 際 意 義 。 多 數(shù) 情 況 下 提 取 出 前 23個 主 成 分 已 包 含 了90%以 上 的 信 息 ， 其 他 的 可 以 忽 略 不 計 。二 維 空 間 ： 其 中 y1、 y2分 別 都 是 x1、 x2的 線 性 組 合 ，并 且 信 息 盡 可 能 地 集 中 在 y1上 。 在 以 后 的 分 析 中 舍 去y2， 只 用 主 成 分 y1來 分 析 問 題 ， 起 到 了 降 維 的 作 用 。如 有 兩 個 原 始 變 量 x1和 x2， 則 一 共 可 提 取 出 兩 個 主 成分 如 下 ： n y1=b11x1+b21x2 n y2=b12x1+b22x2 基 本 思 想多 維 空 間 ： 推 而 廣 之 ， 第 一 主 成 分 y1的 方 差 達(dá) 到 最 大 ，其 方 差 越 大 ， 表 示 其 所 包 含 的 信 息 越 多 。 如 果 第 一 主 成分 還 不 能 反 映 原 指 標(biāo) 的 全 部 信 息 ， 再 考 慮 選 取 第 二 主 成分 y2， y2在 剩 余 的 線 性 組 合 中 方 差 最 大 ， 并 且 與 y1不 相關(guān) ， 如 若 第 一 、 第 二 主 成 分 仍 然 不 能 反 映 原 變 量 的 全 部信 息 ， 再 考 慮 選 取 第 三 主 成 分 y3， y3在 剩 余 的 線 性 組 合中 方 差 最 大 ， 并 且 與 y1、 y2不 相 關(guān) ， 依 次 可 求 出 全 部 p個主 成 分 ， 它 們 的 方 差 是 依 次 遞 減 的 。在 實 際 工 作 中 ， 在 不 損 失 較 多 信 息 的 情 況 下 ， 通 常 選 取前 幾 個 主 成 分 來 進(jìn) 行 分 析 ， 達(dá) 到 簡 化 數(shù) 據(jù) 結(jié) 構(gòu) 的 目 的 。n 主 成 分 分 析 就 是 通 過 適 當(dāng) 的 變 量 替 換 ， 使 新 變 量 成 為 原 變 量的 線 性 組 合 ， 并 尋 求 主 成 分 來 分 析 事 物 的 一 種 方 法 。 基 本 思 想 (佐 例 )n 一 項 十 分 著 名 的 工 作 是 美 國 的 統(tǒng) 計 學(xué) 家 斯 通 (stone)在 1947年 關(guān) 于 國 民 經(jīng) 濟(jì) 的 研 究 。 他 曾 利 用 美 國 1929一 1938年 各 年 的數(shù) 據(jù) ， 得 到 了 17個 反 映 國 民 收 入 與 支 出 的 變 量 要 素 ， 例 如 雇主 補 貼 、 消 費 資 料 和 生 產(chǎn) 資 料 、 純 公 共 支 出 、 凈 增 庫 存 、 股息 、 利 息 外 貿(mào) 平 衡 等 等 。n 在 進(jìn) 行 主 成 分 分 析 后 ， 竟 以 97.4 的 精 度 ， 用 三 新 變 量 就 取代 了 原 17個 變 量 。 根 據(jù) 經(jīng) 濟(jì) 學(xué) 知 識 ， 斯 通 給 這 三 個 新 變 量 分別 命 名 為 總 收 入 F 1、 總 收 入 變 化 率 F2和 經(jīng) 濟(jì) 發(fā) 展 或 衰 退 的 趨勢 F3。n 更 有 意 思 的 是 ， 這 三 個 變 量 其 實 都 是 可 以 直 接 測 量 的 。 斯 通將 他 得 到 的 主 成 分 與 實 際 測 量 的 總 收 入 I、 總 收 入 變 化 率 I以 及 時 間 t因 素 做 相 關(guān) 分 析 ， 得 到 下 表 ： 基 本 思 想 (佐 例 ) F1 F2 F3 i i tF1 1 F2 0 1 F3 0 0 1 i 0.995 -0.041 0.057 l i -0.056 0.948 -0.124 -0.102 l t -0.369 -0.282 -0.836 -0.414 -0.112 1 需 要 討 論 的 問 題 是 ：n 選 擇 相 關(guān) 系 數(shù) 矩 陣 還 是 協(xié) 方 差 矩 陣 做 主 成 分 分 析 。 當(dāng) 分 析 中所 選 擇 的 經(jīng) 濟(jì) 變 量 具 有 不 同 的 量 綱 ， 變 量 水 平 差 異 很 大 ， 應(yīng)該 選 擇 基 于 相 關(guān) 系 數(shù) 矩 陣 的 主 成 分 分 析 。n 選 擇 幾 個 主 成 分 。 主 成 分 分 析 的 目 的 是 簡 化 變 量 ， 一 般 情 況下 主 成 分 的 個 數(shù) 應(yīng) 該 小 于 原 始 變 量 的 個 數(shù) 。 關(guān) 于 保 留 幾 個 主成 分 ， 應(yīng) 該 權(quán) 衡 主 成 分 個 數(shù) 和 保 留 的 信 息 。n 如 何 解 釋 主 成 分 所 包 含 的 經(jīng) 濟(jì) 意 義 。 n 我 們 知 道 ， 當(dāng) 一 個 變 量 只 取 一 個 數(shù) 據(jù) 時 ， 這 個 變 量 （ 數(shù) 據(jù) ）提 供 的 信 息 量 是 非 常 有 限 的 ， 當(dāng) 這 個 變 量 取 一 系 列 不 同 數(shù) 據(jù)時 ， 我 們 可 以 從 中 讀 出 最 大 值 、 最 小 值 、 平 均 數(shù) 等 信 息 。 變量 的 變 異 性 越 大 ， 說 明 它 對 各 種 場 景 的 “ 遍 歷 性 ” 越 強 ， 提供 的 信 息 就 更 加 充 分 ， 信 息 量 就 越 大 。 主 成 分 分 析 中 的 信 息 ，就 是 指 標(biāo) 的 變 異 性 ， 用 標(biāo) 準(zhǔn) 差 或 方 差 表 示 它 。n 主 成 分 分 析 的 數(shù) 學(xué) 模 型 是 ， 設(shè) p個 變 量 構(gòu) 成 的 p維 隨 機(jī) 向 量 為X = （ X1， ， Xp） 。 對 X作 正 交 變 換 ， 令 Y = TX， 其 中 T為 正 交 陣 ， 要 求 Y的 各 分 量 是 不 相 關(guān) 的 ， 并 且 Y的 第 一 個 分量 的 方 差 是 最 大 的 ， 第 二 個 分 量 的 方 差 次 之 ， ， 等 等 。為 了 保 持 信 息 不 丟 失 ， Y的 各 分 量 方 差 和 與 X的 各 分 量 方 差和 相 等 。 假 設(shè) 我 們 所 討 論 的 實 際 問 題 中 ， 有 p個 指 標(biāo) ， 我 們 把 這 p個 指 標(biāo)看 作 p個 隨 機(jī) 變 量 ， 記 為 X1， X2， ， Xp， 主 成 分 分 析 就 是 要 把這 p個 指 標(biāo) 的 問 題 ， 轉(zhuǎn) 變 為 討 論 p個 指 標(biāo) 的 線 性 組 合 問 題 ， 而 這些 新 的 指 標(biāo) F1， F2， ， Fk (kp） ， 按 照 保 留 主 要 信 息 量 的 原則 充 分 反 映 原 指 標(biāo) 的 信 息 ， 并 且 相 互 獨 立 。 npnn ppxxx xxx xxx . . .21 22221 11211 1 11 1 12 2 12 21 1 22 2 21 1 2 2 . . p pp pp p p pp pF u x u x u xF u x u x u xF u x u x u x 這 種 由 討 論 多 個 指 標(biāo) 降 為 少 數(shù) 幾 個 綜 合 指 標(biāo) 的 過 程 在 數(shù) 學(xué) 上 就叫 做 降 維 。 第 二 節(jié) 主 成 分 的 幾 何 意 義 及 數(shù) 學(xué) 推 導(dǎo) 一 主 成 分 的 幾 何 意 義 二 主 成 分 的 數(shù) 學(xué) 推 導(dǎo) 一 、 主 成 分 的 幾 何 意 義n 主 成 分 分 析 數(shù) 學(xué) 模 型 中 的 正 交 變 換 ， 在 幾 何 上 就 是 作 一 個 坐標(biāo) 旋 轉(zhuǎn) 。 因 此 ， 主 成 分 分 析 在 二 維 空 間 中 有 明 顯 的 幾 何 意 義 。假 設(shè) 共 有 n個 樣 品 ， 每 個 樣 品 都 測 量 了 兩 個 指 標(biāo) （ X1，X2） ， 它 們 大 致 分 布 在 一 個 橢 圓 內(nèi) 如 圖 6.1所 示 。 事 實 上 ，散 點 的 分 布 總 有 可 能 沿 著 某 一 個 方 向 略 顯 擴(kuò) 張 ， 這 個 方 向 就把 它 看 作 橢 圓 的 長 軸 方 向 。 顯 然 ， 在 坐 標(biāo) 系 x1Ox2中 ， 單 獨看 這 n個 點 的 分 量 X1和 X2， 它 們 沿 著 x1方 向 和 x2方 向 都 具 有較 大 的 離 散 性 ， 其 離 散 的 程 度 可 以 分 別 用 的 X 1方 差 和 X2的 方差 測 定 。 如 果 僅 考 慮 X1或 X2中 的 任 何 一 個 分 量 ， 那 么 包 含 在另 一 分 量 中 的 信 息 將 會 損 失 ， 因 此 ， 直 接 舍 棄 某 個 分 量 不 是“ 降 維 ” 的 有 效 辦 法 。 圖 6.1 主 成 分 的 幾 何 意 義 n n 易 見 ， n個 點 在 新 坐 標(biāo) 系 下 的 坐 標(biāo) Y1和 Y2幾 乎 不 相 關(guān) 。 稱 它們 為 原 始 變 量 X1和 X2的 綜 合 變 量 ， n個 點 y1在 軸 上 的 方 差 達(dá)到 最 大 ， 即 在 此 方 向 上 包 含 了 有 關(guān) n個 樣 品 的 最 大 量 信 息 。因 此 ， 欲 將 二 維 空 間 的 點 投 影 到 某 個 一 維 方 向 上 ， 則 選 擇 y1軸 方 向 能 使 信 息 的 損 失 最 小 。 我 們 稱 Y1為 第 一 主 成 分 ， 稱 Y2為 第 二 主 成 分 。 第 一 主 成 分 的 效 果 與 橢 圓 的 形 狀 有 很 大 的 關(guān)系 ， 橢 圓 越 是 扁 平 ， n個 點 在 y1軸 上 的 方 差 就 相 對 越 大 ， 在 y2軸 上 的 方 差 就 相 對 越 小 ， 用 第 一 主 成 分 代 替 所 有 樣 品 所 造 成的 信 息 損 失 也 就 越 小 。 n 考 慮 兩 種 極 端 的 情 形 ：一 種 是 橢 圓 的 長 軸 與 短 軸 的 長 度 相 等 ， 即 橢 圓 變 成 圓 ， 第 一 主成 分 只 含 有 二 維 空 間 點 的 約 一 半 信 息 ， 若 僅 用 這 一 個 綜 合 變 量 ，則 將 損 失 約 50 的 信 息 ， 這 顯 然 是 不 可 取 的 。 造 成 它 的 原 因 是 ，原 始 變 量 X1和 X2的 相 關(guān) 程 度 幾 乎 為 零 ， 也 就 是 說 ， 它 們 所 包 含的 信 息 幾 乎 不 重 迭 ， 因 此 無 法 用 一 個 一 維 的 綜 合 變 量 來 代 替 。另 一 種 是 橢 圓 扁 平 到 了 極 限 ， 變 成 y1軸 上 的 一 條 線 ， 第 一 主 成分 包 含 有 二 維 空 間 點 的 全 部 信 息 ， 僅 用 這 一 個 綜 合 變 量 代 替 原始 數(shù) 據(jù) 不 會 有 任 何 的 信 息 損 失 ， 此 時 的 主 成 分 分 析 效 果 是 非 常理 想 的 ， 其 原 因 是 ， 第 二 主 成 分 不 包 含 任 何 信 息 ， 舍 棄 它 當(dāng) 然沒 有 信 息 損 失 。 , 1.2. Ai i p 其 中 是 的 特 征 根1, , pu u1、 若 A是 p階 實 對 稱 陣 ， 則一 定 可 以 找 到 正 交 陣 U， 使 pp p 00 00 0021AUU 12、 若 上 述 矩 陣 的 特 征 根 所 對 應(yīng)的 單 位 特 征 向 量 為 11 12 121 22 21 1 2( , , ) ppp p p ppu u uu u uu u u u u U 則 實 對 稱 陣 屬 于 不 同 特 征 根 所 對 應(yīng) 的 特 征 向 量 是正 交 的 ， 即 有A IUUUU 二 、 主 成 分 的 推 導(dǎo)必 存 在 正 交 陣 U， 使 得 p0 01 UU X設(shè) X的 協(xié) 方 差 陣 為 221 22221 11221 ppp pp x pppp ppuuu uuu uuu 21 22221 11211),( p1 uuU piii uuu ， 21iUU恰 好 是 由 特 征 根 相 對 應(yīng) 的 單 位 特 征 向 量 所 組 成 的 正 交 陣 二 、 主 成 分 的 數(shù) 學(xué) 推 導(dǎo)n n n n n 設(shè) 有 P維 正 交 向 量1 11 1 1p pF a X L a X aX 1 11 21 1, , , pa a a a （ 一 ） 第 一 主 成 分 21 1 ( )p ii a u 1 1p i ii a uu a 1a UU a 1aa 11p i i ii auu a 21 ( )p i ii au 1 2 p 121 1 2 p 1puua u ,u , ,u au 1211111)( aUUaaa pFV 下 面 我 們 來 看 ， 是 否 由 U的 第 一 列 元 素 所 構(gòu) 成 為 原 始 變 量 的 線 性組 合 是 否 有 最 大 的 方 差 n （ 二 ） 第 二 主 成 分在 約 束 條 件 下 ， 尋 找 第 二 主 成 分 1 2cov( , ) 0F F 2 12 1 2p pF u X u X 因 為 1 2 1 2 2 1 1 2 1cov( , ) cov( , ) 0F F u x u x u u u u 012 uu所 以 則 ， 對 p維 向 量 ， 有2u pi iipi iiiuuFV 1 221 22222 )()( uuuuuu pi i2 22 )( uu2 pi ii1 22 uuuu2 22 uUUu 2 222 uu 2所 以 如 果 取 線 性 變 換 ： 則 的 方 差 次 大 。 2 12 1 2p pF u X u X 2F n n n 第 三 節(jié) 主 成 分 的 性 質(zhì) 一 主 成 分 的 一 般 性 質(zhì) 二 主 成 分 的 方 差 貢 獻(xiàn) 率 一 、 主 成 分 的 一 般 性 質(zhì) n 二 、 主 成 分 的 方 差 貢 獻(xiàn) 率n n 例 設(shè) 的 協(xié) 方 差 矩 陣 為 321 , xxx 200 052 021解 得 特 征 根 為 ， ，83.51 00.22 17.03 000.0 924.0383.01U 1002U 000.0 383.0924.03U第 一 個 主 成 分 的 貢 獻(xiàn) 率 為 5.83/（ 5.83+2.00+0.17） =72.875%， 盡管 第 一 個 主 成 分 的 貢 獻(xiàn) 率 并 不 小 ， 但 在 本 題 中 第 一 主 成 分 不 含第 三 個 原 始 變 量 的 信 息 ， 所 以 應(yīng) 該 取 兩 個 主 成 分 。 Xi與 F1的相 關(guān) 系 數(shù) 平 方 Xi與 F2的 相 關(guān) 系數(shù) 平 方 信 息 提 取率xi1 0.925 0.855 0 0 0.8552 -0.998 0.996 0 0 0.9963 0 0 1 1 111),( ii Fx 21i 22i22),( ii Fx i925.01383.0*83.52111111 u 998.05)924.0(*22221112 u013 第 四 節(jié) 主 成 分 方 法 應(yīng) 用 中 應(yīng) 注 意 的 問 題 一 實 際 應(yīng) 用 中 主 成 分 分 析 的 出 發(fā) 點 二 如 何 利 用 主 成 分 分 析 進(jìn) 行 綜 合 評 價 一 、 實 際 應(yīng) 用 中 主 成 分 分 析 的 出 發(fā) 點n n 這 里 我 們 需 要 進(jìn) 一 步 強 調(diào) 的 是 ， 從 相 關(guān) 陣 求 得 的 主 成 分 與 協(xié)差 陣 求 得 的 主 成 分 一 般 情 況 是 不 相 同 的 。 實 際 表 明 ， 這 種 差異 有 時 很 大 。 我 們 認(rèn) 為 ， 如 果 各 指 標(biāo) 之 間 的 數(shù) 量 級 相 差 懸 殊 ，特 別 是 各 指 標(biāo) 有 不 同 的 物 理 量 綱 的 話 ， 較 為 合 理 的 做 法 是 使用 R代 替 。 對 于 研 究 經(jīng) 濟(jì) 問 題 所 涉 及 的 變 量 單 位 大 都 不 統(tǒng)一 ， 采 用 R代 替 后 ， 可 以 看 作 是 用 標(biāo) 準(zhǔn) 化 的 數(shù) 據(jù) 做 分 析 ，這 樣 使 得 主 成 分 有 現(xiàn) 實 經(jīng) 濟(jì) 意 義 ， 不 僅 便 于 剖 析 實 際 問 題 ，又 可 以 避 免 突 出 數(shù) 值 大 的 變 量 。 n 二 、 如 何 利 用 主 成 分 分 析 進(jìn) 行 綜 合 評 價n 人 們 在 對 某 個 單 位 或 某 個 系 統(tǒng) 進(jìn) 行 綜 合 評 價 時 都 會 遇 到 如 何選 擇 評 價 指 標(biāo) 體 系 和 如 何 對 這 些 指 標(biāo) 進(jìn) 行 綜 合 的 困 難 。 一 般情 況 下 ， 選 擇 評 價 指 標(biāo) 體 系 后 通 過 對 各 指 標(biāo) 加 權(quán) 的 辦 法 來 進(jìn)行 綜 合 。 但 是 ， 如 何 對 指 標(biāo) 加 權(quán) 是 一 項 具 有 挑 戰(zhàn) 性 的 工 作 。指 標(biāo) 加 權(quán) 的 依 據(jù) 是 指 標(biāo) 的 重 要 性 ， 指 標(biāo) 在 評 價 中 的 重 要 性 判斷 難 免 帶 有 一 定 的 主 觀 性 ， 這 影 響 了 綜 合 評 價 的 客 觀 性 和 準(zhǔn)確 性 。 由 于 主 成 分 分 析 能 從 選 定 的 指 標(biāo) 體 系 中 歸 納 出 大 部 分信 息 ， 根 據(jù) 主 成 分 提 供 的 信 息 進(jìn) 行 綜 合 評 價 ， 不 失 為 一 個 可行 的 選 擇 。 這 個 方 法 是 根 據(jù) 指 標(biāo) 間 的 相 對 重 要 性 進(jìn) 行 客 觀 加權(quán) ， 可 以 避 免 綜 合 評 價 者 的 主 觀 影 響 ， 在 實 際 應(yīng) 用 中 越 來 越受 到 人 們 的 重 視 。n 對 主 成 分 進(jìn) 行 加 權(quán) 綜 合 。 我 們 利 用 主 成 分 進(jìn) 行 綜 合 評 價 時 ，主 要 是 將 原 有 的 信 息 進(jìn) 行 綜 合 ， 因 此 ， 要 充 分 的 利 用 原 始 變量 提 供 的 信 息 。 將 主 成 分 的 權(quán) 數(shù) 根 據(jù) 它 們 的 方 差 貢 獻(xiàn) 率 來 確 定 ， 因 為 方 差 貢 獻(xiàn) 率 反 映 了 各 個 主 成 分 的 信 息 含 量 多 少 。 n 第 五 節(jié) 實 例 分 析 與 計 算 機(jī) 實 現(xiàn)一 主 成 分 分 析 實 例 二 利 用 SPSS進(jìn) 行 主 成 分 分 析 一 、 主 成 分 分 析 實 例 n 表 6.1是 某 市 工 業(yè) 部 門 13個 行 業(yè) 的 8項 重 要 經(jīng) 濟(jì) 指 標(biāo) 的 數(shù) 據(jù) ，這 8項 經(jīng) 濟(jì) 指 標(biāo) 分 別 是 ：X1： 年 末 固 定 資 產(chǎn) 凈 值 ， 單 位 ： 萬 元 ；X2： 職 工 人 數(shù) 據(jù) ， 單 位 ： 人 ；X3： 工 業(yè) 總 產(chǎn) 值 ， 單 位 ： 萬 元 ；X4： 全 員 勞 動 生 產(chǎn) 率 ， 單 位 ： 元 /人 年 ；X5： 百 元 固 定 資 產(chǎn) 原 值 實 現(xiàn) 產(chǎn) 值 ， 單 位 ： 元 ；X6： 資 金 利 稅 率 ， 單 位 ： %；X7： 標(biāo) 準(zhǔn) 燃 料 消 費 量 ， 單 位 ： 噸 ；X8： 能 源 利 用 效 果 ， 單 位 ： 萬 元 /噸 。 表 6.1 某 市 工 業(yè) 部 門 13個 行 業(yè) 8項 指 標(biāo) n 我 們 要 考 慮 的 是 ： 如 何 從 這 些 經(jīng) 濟(jì) 指 標(biāo) 出 發(fā) ， 對 各 工 業(yè) 部 門進(jìn) 行 綜 合 評 價 與 排 序 ？n 我 們 先 計 算 這 些 指 標(biāo) 的 主 成 分 ， 然 后 通 過 主 成 分 的 大 小 進(jìn) 行排 序 。 表 6.2和 表 6.3分 別 是 特 征 根 （ 累 計 貢 獻(xiàn) 率 ） 和 特 征 向量 的 信 息 。n 利 用 主 成 分 得 分 進(jìn) 行 綜 合 評 價 時 ， 從 特 征 向 量 我 們 可 以 寫 出所 有 8個 主 成 分 的 具 體 形 式 ： 表 6.2 特 征 根 和 累 計 貢 獻(xiàn) 率 表 6.3 特 征 向 量 表 6.4 各 行 業(yè) 主 成 分 得 分 及 排 序 n 我 們 以 特 征 根 為 權(quán) ， 對 8個 主 成 分 進(jìn) 行 加 權(quán) 綜 合 ， 得 出 各 工業(yè) 部 門 的 綜 合 得 分 ， 具 體 數(shù) 據(jù) 見 表 6.4。n 綜 合 得 分 的 計 算 公 式 是 ：根 據(jù) 上 式 可 計 算 出 各 工 業(yè) 部 門 的 綜 合 得 分 ， 并 可 據(jù) 此 排 序 。n 從 上 表 可 以 看 出 ， 機(jī) 器 行 業(yè) 在 該 地 區(qū) 的 綜 合 評 價 排 在 第 一 ，原 始 數(shù) 據(jù) 也 反 映 出 機(jī) 器 行 業(yè) 存 在 明 顯 的 規(guī) 模 優(yōu) 勢 ， 另 外 從 前兩 個 主 成 分 得 分 上 看 ， 該 行 業(yè) 也 排 在 第 一 位 ， 同 樣 存 在 效 益優(yōu) 勢 ； 而 排 在 最 后 三 位 的 分 別 是 皮 革 行 業(yè) 、 電 力 行 業(yè) 和 煤 炭行 業(yè) 。 81 2 1 2 88 8 8 1 1 1 i i i i i i Y Y Y Y 二 、 利 用 SPSS進(jìn) 行 主 成 分 分 析n SPSS沒 有 提 供 主 成 分 分 析 的 專 用 功 能 ， 只 有 因 子 分 析 的 功能 。 但 是 因 子 分 析 和 主 成 分 分 析 有 著 密 切 的 聯(lián) 系 。 因 子 分 析的 重 要 步 驟 因 子 的 提 取 最 常 用 的 方 法 就 是 “ 主 成 分 法 ” 。利 用 因 子 分 析 的 結(jié) 果 ， 可 以 很 容 易 地 實 現(xiàn) 主 成 分 分 析 。 具 體來 講 ， 就 是 利 用 因 子 載 荷 陣 和 相 關(guān) 系 數(shù) 矩 陣 的 特 征 根 來 計 算特 征 向 量 。 即 ：n 其 中 ， z ij為 第 j個 特 征 向 量 的 第 i個 元 素 ； aij為 因 子 載 荷 陣 第 i行 第 j列 的 元 素 ； j為 第 j個 因 子 對 應(yīng) 的 特 征 根 。 然 后 再 利 用計 算 出 的 特 征 向 量 來 計 算 主 成 分 。n 以 下 是 我 國 2005年 第 1、 2季 度 分 地 區(qū) 城 鎮(zhèn) 居 民 家 庭 收 支 基 本情 況 。 通 過 這 個 例 子 ， 介 紹 如 何 利 用 SPSS軟 件 實 現(xiàn) 主 成 分分 析 。 ijij jaz 表 6.5 分 地 區(qū) 城 鎮(zhèn) 居 民 家 庭 收 支 基 本 情 況 表 6.5 分 地 區(qū) 城 鎮(zhèn) 居 民 家 庭 收 支 基 本 情 況 （ 一 ） 利 用 SPSS進(jìn) 行 因 子 分 析n 將 原 始 數(shù) 據(jù) 輸 入 SPSS數(shù) 據(jù) 編 輯 窗 口 ， 將 5個 變 量 分 別 命 名 為X1 X5。 在 SPSS窗 口 中 選 擇 AnalyzeData ReductionFactor菜 單 項 ， 調(diào) 出 因 子 分 析 主 界 面 ， 并 將 變 量X1 X5移 入 Variables框 中 ， 其 他 均 保 持 系 統(tǒng) 默 認(rèn) 選 項 ， 單 擊OK 按 鈕 ， 執(zhí) 行 因 子 分 析 過 程 （ 關(guān) 于 因 子 分 子 在 SPSS中 實 現(xiàn)的 詳 細(xì) 過 程 ， 參 見 第 7章 實 例 ） 。 得 到 如 表 6.6所 示 的 特 征 根和 方 差 貢 獻(xiàn) 率 表 和 表 6.7所 示 的 因 子 載 荷 陣 。n 表 6.6中 Total列 為 各 因 子 對 應(yīng) 的 特 征 根 ， 本 例 中 共 提 取 兩 個公 因 子 ； % of Variance列 為 各 因 子 的 方 差 貢 獻(xiàn) 率 ；Cumulative %列 為 各 因 子 累 積 方 差 貢 獻(xiàn) 率 ， 由 表 中 可 以 看出 ， 前 兩 個 因 子 已 經(jīng) 可 以 解 釋 79.31%的 方 差 圖 6.2 因 子 分 析 主 界 面 表 6.6 特 征 根 和 方 差 貢 獻(xiàn) 率 表 （ 二 ） 利 用 因 子 分 析 結(jié) 果 進(jìn) 行 主 成 分 分 析1. 將 表 6.7中 因 子 載 荷 陣 中 的 數(shù) 據(jù) 輸 入 SPSS數(shù) 據(jù) 編 輯 窗 口 ，分 別 命 名 為 a1和 a2。 表 6.7 因 子 載 荷 陣 2. 為 了 計 算 第 一 個 特 征 向 量 ， 點 擊 菜 單 項 中 的TransformCompute， 調(diào) 出 Compute variable對 話 框 ， 在 對話 框 中 輸 入 等 式 ： z1=a1 / SQRT(2.576) 點 擊 OK 按 鈕 ， 即 可 在 數(shù) 據(jù) 編 輯 窗 口 中 得 到 以 z1為 變 量 名 的第 一 特 征 向 量 。再 次 調(diào) 出 Compute variable對 話 框 ， 在 對 話 框 中 輸 入 等 式 ： z2=a2 / SQRT(1.389)點 擊 OK 按 鈕 ， 得 到 以 z2為 變 量 名 第 二 特 征 向 量 。 這 樣 ， 我們 得 到 了 如 表 6.8所 示 的 特 征 向 量 矩 陣 。 圖 6.3 Compute variable對 話 框 n 根 據(jù) 表 6.8可 以 得 到 主 成 分 的 表 達(dá) 式 ：3. 再 次 使 用 Compute命 令 ， 就 可 以 計 算 得 到 兩 個 主 成 分 。表 6.8 特 征 向 量 矩 陣 本 章 結(jié) 束