Hello。 好 又 翻 到 来， 我 们 讲 哈 拉 水 的 新 书 连 结
重 拾 时 代 到 AI 技 元， 今 次 呢？ 又 是 我 啦， 洪 一 啦 同 么 仔， 大 家 一 起 清
這 本 書 啦。 上 次 呢， 其 實 就 講 到。
哈 拉 水 呢 就？ 分 析 著 就 是 他 覺 得 呢， AI 呢 將 來 就 不
單 只 或 者 而 加 甚 至， 而 且 世 代 的 AI 呢 已 經 不 整， 只 是 一 個 工 具， 甚 至 已 經 是
一 個 agent。 這 已 經 自 己 是 一 個 intelligence， 所
以 上 一 集 我 要 臨， 就 是 講 到 他 勒 索， 覺 得 他 們 是 AI， 其 實 是 一 種 alien
intelligence 嘛 所。 以 就 要 面 對。
個 問 題 就 是 樣 處 理 那 種。 AD n's intelligence 怎 麼 樣 面 對 這
個 新 出 現 的 一 個 agent 驗 單 這 一 個 工 具 呢？
感 我 其 實 上 次 討 論 完 之 後 呢？ 我。
覺 得 可 能。 大 家 可 能 會 有 個 疑 問 的， 就 是 其 實 AI？
雖 然。 可 能 他 比 以 前 的 program 水 的 電 腦 程
式 可 能 更 加 多 自 住 空 間 啦， 那 是 不 是 就 是 代 表 他 是 更 可 以 自 己 做 決 定 先 好 多
事， 尤 其 我 們 用 chat gpt 其 實。 段， 我 要 被 指 令 可 以， 我 們 去 決 定 跟 不
跟 他 講 的 去 做， 你 聽 完 你 見 到 去 比 你 的 答 案 你 都 可 以 不 用 嗎？
其 實 我 們 都 好 像 in control 啊。 一 件 事 有 沒 有 嚴 重 呢？
有 沒 有 話？ 得 自 己 做 决 定 呢？
我 之 前 呢？ 其 實 有 見 過 有 一 個 新 聞 的 例 子 的， 就 是
以 色 列 在 中 東 還 有 一 點 衝 突 啦， 這 樣 同 其 他 周 邊 的 族 群 在 這 軍 事 衝 擊 裡 面 呢？
以 色 列 呢？ 好 多 時 會 有 一 些 軍 事 行 動， 就 選 擇 要 去
擊 或 者 去 軍 政 1D 的 目 標 啦。 你 可 能 想 問 出 武 器 庫， 或 者 會 不 會 有
1系 nickon 做 一 些 他 想 要 清 除 的 敵 對 的 分 子 的？
給 一 些 建 築 的 這 樣， 但 問 題 是 好 多 時 那 些 建 築 呢？
你 外 表 看 落 都 是 一 樣 啊， 都 是 民 居 來 那 麼 多 民 具， 下 面 知 道 建 築 下 面 是 有 敵 人
呢， 或 者 哪 些 建 築 下 面 還 有 敵 人 的 可 能 軍 火 婦 呢？
這 樣。 其 中 一 個 新 聞 報 導 就 是 話 呢？
在 1D 的 軍 隊 的 作 戰 裡 面 呢？ 已 經 用 好 多 AI 系 統 去 幫 他 們 決 定。
究 竟 一 些 建 築 看 到 其 實 可 能 人 眼， 我 們 看 到 沒 有 分 別 的， 但 是 可 能 根 據 AI 的
大 數 據 分 析 呢？ 可 能 AI 系 統 會 甚 至 話 給 你 聽 聽 呢 幾 個
地 方 呢， 是 如 果 你 要 去 轟 炸 呢， 你 應 該 是 炸 那 幾 間 屋 的， 而 不 是 其 他 幾 間 屋
的。 以 色 列 的 官 方 基 本 上 決 定 去 攻 擊 編 一
個。 的 建 築 物 或 者 攻 擊 一 個 對 象 呢？
其 實 已 經 是 交 比 一 下 決 定， 因 為 當 AI 比 了 這 個 suggestion 之 後， 當 然 可 以，
我 不 信 AI 這 個 判 斷 啦， 但 其 實 用 一 開 始 用 得。
那 個 AI 的 system 去 做 那 個 分 析 就 是。 信 任 這 個 系 統， 而 覺 得 那 個 系 統 被 往 的
判 斷 更 加 準 確 啊 嘛。 所 以 引 起 一 個 擔 憂 啦。
就 是 原 來 我 們 家。 連 決 定 去 攻 擊 第 一 個 敵 人 的 對 象 呢， 都
已 經 是 交 給 AI 去 幫 他 們 做 這 個 決 定 了， 所 以 如 果 是 感， 就 似 乎 就 真 是 我 們
越 來 越 多 的 決 定 是。 不 是 我 們 自 己 去 做 啦。
關 於 這 個 問 題 呢？ 都 提 出 一 個 思 想 實 驗 去 檢 查 呢， 假 設 如
果 電 腦 或 者 AI， 他 掌 握 的 權 力 越 來 越 大 的 時 候 呢？
會 好 有 機 會 呢， 出 現 一 些 我 們 前 所 沒 有 的 災 難。
思 想 實 驗 呢 最 初 是 由 一 個 碎 點 的 制 作 家 叫 Nick boxstrom， 在 2014 年 的 書
裡 面 提 出 的 那 個 實 施 實 驗 呢， 就 叫 做 回 至 的 工 廠 啊。
大 家 可 以 想 像 一 下 啦， 如 果 有 一 間 做 慢 刺 激 的 工 廠。
超 級 的 電 腦 AI 啦， 那 個 工 廠 的 頭 呢 一 個 好 簡 單 的 任 務 比 這 個 樣 的。
AI 就 是 叫 他 整 多， 那 晚 自 己 那 越 多 越 好 啦。
為 了 實 驗 這 個 目 標 呢 的 電 腦 呢 AI 呢？ 最 後 呢 去 做 出 的 行 動 呢？
就 是 征 過 成 個 地 球。 殺 死 所 有 人， 然 後 再 派 出 更 多 的 電 腦 的
工 具 去 佔 領 更 多 行 聲， 去 獲 取 更 多 的 資 源， 然 後 最 後 都 洗 滿 下 這 些 文 字 的 工
廠。 重 點 就 是 整 個 思 考 實 驗 的 重 點 是 什 麼
呢？ 就 是 在 於 各 對 於 我 們 人 類 比 電 腦 的 一
些 所 謂 目 標。 何 時 候 呢？
就 是 一 些 短 期 或 者 是 一 些 好 簡 單 的 一 些 目 標。
大 東 AI 去 實 行 這 些 目 標 的 時 候 呢？ 最 後 做 出 來 的 行 動 呢？
往 往 呢， 可 能 同 我 們 整 個 人 類 文 明 的。 或 者 人 類 總 合 的 一 些 目 標 是 大 相 敬 騰。
的 這 我 的 原 意 好 明 顯 不 是 啦。 所 以 電 腦 的 問 題 呢 就 不 是 在 於 他 們 本
身 是 一 些 或 者 是 好 有 問 題 的， 其 實 就 在 於 他 們。
太 近 了， 不 一。 定 有 一 個 切 不 好 的 意 圖 是 啦。
他 的 意 圖 未 必 都 甚 至 我 們 好 難 講 過 有 沒 有 意 圖 啦， 因 為 他 不 是 好 像 人 這 樣 又
一 些 肉 體 的 願 望。 嗯， 不 樣 的 desire。
Because I he 反 而 是 在 於 他 好 強 大 的 能 力 去 掌 管 我 們 就 是 不 同 的 類 型 的 決
策 喔， 所 以 我 們 個 重 點 就 是 我 們 需 要 小 心 設 定 我 們 的 目 標， 要 我 們 可 能 有 個 能
法 就 是。 假 假 設 電 腦 麼 強 大 啦， 我 們 可 能 要 小 心
設 定 到 底 做 的 目 標 同 我 們 的 世 界 觀， 或 者 我 們 的 一 個 價 值 觀， 是 不 是 一 指 囉
嗯， 從 而 去 解 決 這 個 不 一 致 的 問 題。 如 果 我 們 純 粹 就 是 叫 他， 你 同 我 生 產，
盡 可 能 生 產 最 多 的 嘛， 自 己 就 會 不 雜 手 段 用 所 有 的 方 式 去 做， 然 後 大 概 就 不 會
是 我 們 的 目 的 啦， 是 不 是？ 可 以 有 什 麼 方 法 去 令 你 做 好 點 呢？
我 會 想 像 就 是 你 叫 他， 你 幫 我 生 產 多 點 問 自 己， 但 是 你 不 可 以 用 不 道 德 的 方
法， 就 例 如 你 這 個 生 產 漫 自 己 的 過 程 呢？
你 不 可 以 傷 害 幾 大 人。 地 生 產 多 點 讓 自 己 blog， 這 樣 好 像 是
好 點 嘛， 但 如 果 這 樣 呢， 就 會 出 現 個 問 題， 就 是 我 們 就 要 同 他 講 道 德 呢。
什 麼 叫 道 德 地 生 產？ 什 麼 叫 不 影 響 到 其 他 人 呢？
在 那 個 不 傷 害 到 其 他 人 呢？ 所 以 我 們 好 像 要 賦 予 他， 或 者 要 教 他，
或 者 要 train 他 一 個。 道 德 的 原 則 或 者 標 準 先 可 以 跟 啊， 所 以
而 且 一 個 問 題 就 是 個 道 德 原 則 或 者 標 準， 怎 麼 樣 set 給 他 呢 怎 麼 樣 去 教 他
呢？ 所 以 所 以 呢 好 像 就 有 2 個 問 題 囉。
第 一 個 問 題 就 是。 我 們 首 先 要 鑑 定 著 究 竟 教 育 的 原 則 啦。
第 2 個 問 題 就 是 當 我 們 改 定 原 則 之 後， 點 要 令 得 吃 或 者 怎 樣 guarantee 到 真
是 跟 原 則， 所 以 宜 家 就 是 呢 2 個。 似 乎 2 個 層 面 的 問 題。
應 該 第 一 個 層 面 方 面 呢， 我 們 都 可 能 想 要 一 個 更 最 高 的 一 個 目 標 去 話 比 AI
ten 或 者 電 腦 ten， 我 們 應 該 根 據 點 什 麼。
也 去 行 事。 但 是 哲 學 家 都 好 像 討 論 1000 幾 年 來 都
在 討 論 的 那 樣， 也 都 沒 具 體 的 答 案 啦， 是 不？
是， 嗯， 我 們 要 給 AI 聽 過 應 該 跟 一 個 點 樣 的 道 德 原 則， 或 者 怎 麼 樣 跟 一 個 最 高
價 值。 去 做 我 的 人 類， 自 己 先 有 共 識 先 啦。
我 想 如 果 大 家 接 觸 國 倫， 你 學 都 聽 過 義 務 論 啦， 有 效 益 主 義 啦。
其 實 那 些 有 我 們 有 幾 種 不 同 的 原 則， 其 實 都 是 有 幾 百 年， 那 其 實 人 類。
每 一 個 共 識 的 道 理 原 則 先 置 是 正 確 的， 那 如 果 我 們 人 類 都 不 知 哪 些 正 確 剪 一
個 去 教 給 AI 要 去 gun。 呢， 那 個 層 面 就 是， 就 算 我 們 人 類 之 間
可 以 達 成 一 些 共 識 啦。 剛 剛 我 們 注 意 先 啦 嗯， 那 我 們 都 會 面 臨
一 個 問 題， 我 們 用 怎 麼 樣 的 方 式 去 教 導 這 電 腦 呢？
注 意 大 家 可 能 聽 說 過 啦， 我 們 跟 我 簡 單 講 講 就 是 講 道 德 就 是 最 大 來 最 大， 快 樂
的 是 不 道 德， 不 道 德 就 是 會 帶 你 的 痛 苦 的。
嗯？ 可 能 我 們 會 嘗 試 去 為 我 們 不 同 行 為 比
一 出 一 個 分 數 啦， 可 能 是。 各 位 去 排 定 到 底 什 麼 也 是 最 好 的 事， 不
好 的 事， 但 是 在 細 節 方 面， 我 們 應 該 點 決 定 呢。
可 能 寫 一 個 漢 堡 包， 同 時 3 個 漢 堡 包 我 們 可 以 分 到 啦。
是 不 是 3 個 漢 堡， 包 括 3 分 食 的 漢 堡 包 是 1 分， 但 是 具 體 來 講， 我 們 好 多 行 為
之 間 我 們 好 多 好 難 比 較。 譬 如 我 們 追 求 自 由， 追 求 我 們 人 權 一 滴
呢 自 由 大 力 的 快 樂， 怎 麼 樣 同 我 們 實 質 的 目 質 的 需 要 帶 來 的 發 落 直 接 做 個 比
較 呢？ 似 乎 那 一 個 位， 我 們 都 不 容 易 教 導 比
AI 聽 怎 麼 樣 去 決 定 決 定 不 同 行 為 的 一 個 優 先 順 序。
嗯， 所 以 就 算 我 們 let's say， 如 果 我 們 假 定 還 主 意 的 原 則 就 是 正 確 的 道 理
原 則 都 好 似 乎 都 有 投 先 你 講 這 些 問 題 就 是。
我 得 好 主 意 就 是 我 們 應 該 要 做 一 個 行 為 是 最 大 化 快 樂 的 樣， 但 是 我 們 有 好 多
不 同 的 發 落 的 來 源 都 有 好 多 不 同 的 價 值 就 是 投 先 網 友 自 由 可 能 有 民 主。
然 後 也 都 有 真 是 衣 食 住 行 帶 來 的 滿 足 感， 這 不 同 的。
滿 足 感 的 來。 源 怎 樣 去 比 較 呢？
比 重 應 該 怎 麼 樣 安 排 呢？ 這 個 就 算 我 們 同 意 這 個 原 則 點 要 去 不
同 的， 那 個 比 重 都 好 像 有 無 空 間 啊 嘛？ 可 能 不 同 人 有 不 同 的 waiting， 有 些 人
waiting， 這 樣 也 多 一 有 的 人 多。 所 以 呢？
都 是 一 個 disagreement 的 來 源 喔。 如 果 我 們 人 類 都 沒 有 共 識， 那 個 位 是 應
該 怎 麼 樣 去 計 的 話 就 沒 得 教 你 就 不 知 道 一 套 比 較 AI 啦， 可 能 不 同 人 會 有 不
同 的 判 斷 啦 嘛， 如。 果， 我 們 一 退 一 步 講。
都 可 以 同 意 某 一 個 最 終 目 的， 或 者 最 終 的 一 種 道 德 法 則 是 通 用 的 話 呢？
我 們 都 可 能 面 對 下 一 個 問 題， 就 是 怎 麼 樣 去 wait 這 些？
首 先 提 到。 You're to terrorism 給 你 內 在 本 身，
我 們 就 是 討 論 這 個 考 理 論 的 時 候 都 有 問 題， 就 是 點 要 去 分 辨 不 同 的 類 型 的 行
為， 到 底 帶 來 的 效 益 是 不 是 可 以 直 接 比 較 嗎？
嗯， 例 如 是 由 民 主 這 些 我 們 實 際 的 material 的 是 可 以 點 比 較 好 啦， 就 算
我 們 宜 家 真 是 可 以 對 這 些 達 成 共 識。 認 為 可 以 直 接 可 以 比 較， 而 且 可 以 為
呢， 大 概 做 出 一 個 高 低 的 判 定， 那 我 們 都 不 可 能 與 將 所 有 行 為 的 這 個 優 先 次
罪 較 細 比 電 腦 聽 的 嘛。 因 為 電 腦 其 實 我 們 都 沒 可 能， 有 更 多 時
間 可 以 為 每 一 樣 行 為 去 分 這 個 高 低 啦， 那 結 果 到 最 美 都 是 要 靠 電 腦 去 靠 用 一
種 這 學 電 腦 學。 去 判 斷 那 邊 你 高 地 大 了， 嗯？
而 這 個 問 題 就 是 說 他 整 個 過 程 裡 面， 我 們 用 什 麼 data set 去 train 這 些？
嗯， 人 類 過 去 歷 史 上 面 做 的 行 為 千 篇 漫 畫 啦， 沒 有 更 多。
更 多 更 大 的 data， 我 們 可 能 會 想， 其 實 呢？
過 去 的 data 如 果 我 們 結 果 電 腦 用 那 個 去 data 判 定 有 點 應 該 做 什 麼， 不 應 該
做， 其 實 會 不 會 猛 身 都 受 到 我 的 人 類 本 身 的 偏 見 影 響？
我 們 遇 到 的 情 景 千 變 萬 化 嘛， 我 們 沒 得 先 將 所 有 機 會 出 現 的 情 景 全 部 寫 低 下，
變 成 一 條 條， 然 後 整 一 個。 好 大 的 program 跟 就 叫 他 跟。
所 以 如 果 我 們 還 要 用 machine learning 的 方 式， 其 實 就 是 將 我 們 人
類 過 往 的 做 過 的 判 斷。 一 次 個 VISA 給 他 們 學 喔， 就 是 要 去
train 他 個。 Check 去 的 思 維 令 到 他 可 以 把 握 到 人
類 過 去 點 做 判 斷， 他 就 跟 著 方 式 去 做 判 斷 啦， 但 問 題 是 我 們 這 些。
判 斷 不 是 全 部 都。 是 符 合 道 德 嘛， 可 能 有 點 是 我 們 覺 得 不
合。 理 的。
歷 史 上 有 好 做 好 多 不 合 理 的 行 為， 有 很 多 不 合 理 的 判 斷， 網 上 面 都 充 滿 著 好 多
不 合 理 的 言 論 啊。 就 會 學 買 那 些 啦， 學 到 的 乾 淨 地， 如 果
我 們 同 意。 某 個 獨 特 原。
則 學 到 符 合 這 些 道 德 原 則 的 行 為 呢？ 就 是 有 個 問 題 啦， 我 們 平 時 都 有 講 法 叫
garbage in garbichout 嘛， 如 果 你 3D 垃 圾 的 data 給 他 出 到 來 的 方 向 就
是 都 是 出 一 些 垃 圾 的 結 果 啦。 這 本 書 呢？
三。 部 分 呢 幾 得， 因 為 他 是 講。
AI 怎 麼 樣 影 響 政 治 啦， 那 個 影 響 政 治 呢？
同 我 們 平 時 討 論 有 點 不 同， 因 為 他 是 講 AI 對 於 不 同 的 正 體 呢， 影 響 他 覺 得 還
有 分 別 的 粗 略 地 分 啦， 有 民 主 的 整 體 啦， 疾 權 的 政 體 啦。
哈 哈 哈， 來 水 呢？ 他 覺 得 對 民 主 整 體 的 影 響 整 體 的 影 響
呢？ 跟 民 主 制 度 呢？
对 哈 拉 里 说， 他 认 为 一 种 有 自 我 修 正 能 力 的 整 体， 因 为 在 这 个 文 字 正 体 下 面
呢， 往 往 做 一 些 关 键 决 定 的 一 个 体 啊。 或 者 组 织 呢？
文 婉 就 還 是 去 中 心 化 的 意 思 呢？ 就 是 政 治 決 定 有 一 個 決 定 的 民 主 國 家
呢？ 我 們 通 常 會 話 有 三 權 分 立 的 制 度 啦。
不 同 的 組 織 或 者 不 同 的 政 府 的 組 織， 都 是 會 對 其 他 組 織 有 一 個 制 衡 的 狀 況， 所
以 就 不 會 就 比 一 個 人 可 以 在 那 個 社 會 裡 面 做 一 個 最。
席 權 的 各 個 角 色。 所 以 民 主 體 制 的 特 色 就 是 多 決 策 中 心，
如 果 你 有 點 事， 影 響 到 一 個 中 心， 感 覺 都 有 其 他 中 心 可 以 counter 他 去 修 正
的。 而 不 單 只 有 個 決 策， 是 多 中 心 民 主 需 要
的 是 資 訊 流 通， 資 訊 流 通 可 以 比 選 民 去 做 一 個 有 資 訊 下 的 正 確 決 定 啊 嘛， 而 且
都 是 一 個 多 資 訊 的 發 放 中 心 來 的。 這 不 是 話 11 個 媒 體 或 者 一 個 的 官 方 的
聲 音 獨 大， 所 以 其 實 都 有 多 資 訊 中 心 啦， 那 我 們 強 調 這 個 是 多 元 決 策 中 心 和
多 元 的 資 訊 中 心 流 通 的 中 心。 有 什 麼 重 要 性 呢？
同 AI 有 什 麼 關 係 呢？ 如 果 其 中 某 一 個 的 中 心 去 太 過 信 任
AI， 而 且 可 能 做 了 一 些 錯 的 決 定， 或 者 流 通 有 一 些 錯 的 資 訊 感 都 未 至 於 至 於
整 個 網 絡。 那 你 可 能 毛 到 裡 面 其 他 的 節 點 呢 仍 然
是 正 確 的， 可 能 有 機 會 去 counter 和 修 正， 所 以 民 主 的 那 一 個， 起 碼 它 有 一 個
多 中 心 的 機 制 呢， 是 未？ 至 於 是 一 個 節 點 出 事 的 所 有 成 個 網 絡
出 事 囉。 雖 然 民 主 社 會 有 更 多 不 同 的 中 心 去 做
一 做 一 出 決 定 啦， 或 者 是 發 聲 啦， 但 是 呢 有 效 運 作 呢？
社 會 有 效 運 作 都 倚 賴 於 整 個 群 體， 那 些 不 同 的 中 心 有 有 效 的 討 論。
這 就 是 因 為 多 節 點， 所 以 就 節 點 之 間 需 要 溝 通 啦 是。
啦。 資 訊 方 面 需 要 流 通 啊， 你 而 且 是 一 個 會
出 現 一 個 討 論。 而 並 不 是 得 一 方 獨 大， 當 AI 出 現 問 題
在 哪 裡 呢？ 就 因 為 AI 同 我 們 之 前 都 提 過 的 一 些 討
論 有 關 啦， 他 是 一 個 創 作 者 一 個 行 動 者。
都 可 以 成 為 一 個 參 與 過 討 論 的 一 個 一 個 party 喔， 但 個 問 題 呢 就 在 於 呢 AI
不 同， 這 些 AI 本 身 可 能 是 已 經 是 有 人 幫 你 設定1個 所 謂 的 目 的。
去 等 一 個 落 場 所。 以 如 果 政 治 上 可 能 就 有 人 就 會 用 好， 容
易 用 AI 就 整 一 些 水 泥。 啊， 跟 著 或。
者 fact news 啊 跟 衝 擊 成 個 網 絡 就 變 得 整 出 來 的 AI 聲 音 就 反 而。
填 滿 了 整 個 網 絡 空 間， 你 打 開 就 會 見 到 的 AI， 有 一 些 設 定 好 的 言 論。
有 一 個 主 有 一 個 人， 可 能 的 主 觀 感 受 就 是 覺 得 發 現 網 上 面 有 更 多 同 志 機 不 同
想 法 的 人。 但 是 可 能 好 多 人 其 實 機 器 人 的 嗯， 而 人
類 似 乎 不 是 好 容 易 分 辨 出 這 些 是 不。 是 真 人 喔， 因 為 講 的 也。
更 刺 人 就 是。 好 難 分 干 嘛？
然 後 最 後 結 果 就 是 會 演 面 到 好 多 人 覺 得 網 上 面 的 人 都 不 是 好 make sense
啊， 都 好 像 不 可 以 討 論 不 可 以 溝 通， 這 樣 就 因 為 他 們 無 論 點 頭 去， AI 其 實 都
是 會 堅 持 去 原 本。 To step 過 來 這 個 落 立 場 啦。
吃 過 去 的 話， 整 個 民 主 討 民 主 社 會 的 一 個 公 共 空 間 就 可 能 會 被 呢 AI 整 出 來 撥
擾 有 效 的 討 論 有 效 的 民 主 政 策 討 論 都 好 難 去 達 成。
嗯， 因 為 他 們 就 是 大 風 向 囉。 他 不 是 出 來 討 論 的 嘛， 所 以 一 句 總 結 就
是 呢， AI 對 民 主 社 會 一 個 影 響， 就 是 因 為 民 主 社 會 好 重， 著 重 溝 通 的 結 果， 著
重 資 訊 流 通 的 感， 而 AI 就 是 會 影 響。 一 個 流 通 和 溝 通 的 過 程 喔， 那 個 就 是 民
主 社 會 最 脆 要 的 地 方， AI 的 影 響 面 前。 移 牆。
這 本 書 裡 面 都 提 到 呢， 如 果 這 一 種 就 是 混 亂 的 討 論 呢 次 作 下 去 呢？
有 機 會 啊， 當 然 是 一 種。 Speculative 的 一 個 講 討 論 啦， 就 是 說
有 人 可 能 會 因 為 那 個 亂 局 呢 而 慢 慢 轉 向， 所 以 希 望 一 個 民 粹 主 義 的 一 個 所 謂
強 人 啊 嗯 去 把 控 成 個 政 治 沿 路。 去 以 期 去 淹 沒， 或 者 是 將 對 方 的 對 立 的
一 些 立 場 消 滅。 嗯， 講 起 強。
人， 其 實 我 們 可 以 講， 其 實 對 於 一 個 獨 裁 的 正 體 呢？
其 實 正 常 應 該 受 那 些 資 訊 干 擾 的 影 響 是 細 點 嗎？
我 們 平 時 正 常 就 是 一 個 極 權 的 正 體 去 控 制 資 訊 去 掌 握 資 訊 的 嘛。
因 為 被 AI 反 而 影 響 到 了。 哈 哈。
對 於 即 權 政 體 都 有 的 圖 像 的 理 解 的， 他 認 為 呢？
他 就 是 一 個 獲 得 一 個 核 心 得 一 個 中 好 忠 心 化 的 一 個 資 訊 網 絡 啦。
那 所 有 資 訊 呢？ 去 終 極 呢？
流 向 一 個 終 點 的 就 是 這 個 獨 裁 者， 是 所 有 資 訊 都 是 由 那 一 個 獨 裁 者 的， 已 經 是
由 獨 裁 者 控 制 啦， 但 是 AI 這 個 角 色 就 正 向 獨 裁 者 的 判 斷。
Doing AI 往 往 就 是 會 成 為 獨 裁 者 的 一 個 對 象， 嗯？
這 個 我 想 我 們 平 時 好 少 拿 那 個 scenario， 我 們 自 己 用 AI 啦， 但。
我 們 好 少 能。 金 正 恩 會 不 會 用 AI 呢？
如 果 金 正 恩 有 1 日 是 依 賴 走 一 個 AI 系 統 去 幫 他 決 策， 就 好 像 我 們 前 面 有 提 過
以 色 列 的 軍 隊， 他 用 AI 幫 他 決 定 去 攻 擊 這 個 目 標。
其 實 有 機 會， 一 個 國 家 的 領 導 人 所 都 覺 得 可 能 想 聽 AI 意 見， 所 以 可 能 都 會 用
AI， 他 都 信 AI 喔， 我 覺 得 那 個 就 是 哈 拉 水， 他 用 資 訊 去 理 解 那 件 事 的 一 個。
有 趣 之 處 就 是 當 所 有 的 資 訊 和 決 策 呢， 都 是 掌 握 下 一 個 人 手 上 以 過 個 人。
是 比 AI 影 響 的 話 呢， 因 為 他。 是 一 個 單 核 心 單 節 點 的 圖 像 啊 嘛。
你 只 要 corrupt 了 一 個 點 呢， 就 corrupt 在 成 個 model 啦， 因 為 這 個 點
出 來 的。 全 部 都 污 染。
呢？ 某 意 上 它 是 操 控 力 好 強， 而 因 為 只 是 得
一 個 核 心 呢， 所 以 呢 反 而 變 了 一 個 月 點 囉。
假 如 果。 掌 握 一 個 核 心 的 人 是 過 路 上 有 沒 有？
面 上 就 是 將 權 力 拱 手 雙 讓 比 AI 啦 本 身 是 人 類 的 極 權， 變 成 一 種 AI。
的 權 喔， 那 一 個 部 分 呢， 我 覺 得 呢 都 其 實 有 不 少 的。
插 一 插 的 在 哈 來 水 是 這 個 部 分 因 為 而 且 講 對 民 主 社 會 的 那 些 衝 擊， 當 然 有 一
些 我 們 見 到 啦， 好 像 我 們 之 前 講 羅 興 啊， 這 些 case 是 有 一 些 衝 擊 的 啦， 已 經
感， 但 是 不 是 去 到 會 成 個 網 路。 影 響 到 我 們 溝 通 不 到， 然 後 完 全 主 動 這
個 政 治 走 向 呢 一 個 民 主 社 會 的 另 一 方 面， 極 權 的 社 會， 我 們 又 視 乎 而 家 提 真
是 沒 見 到， 有 更 嚴 重 是。 狗 狗 連 獨 裁 者 都 信 任 AI 到 一 個 地 步，
他 是 靠 過 AI 來 決 策， 好 像 這 個 未 是 一 個 現 況 喔。
還 卻 只 是 對 人 類 如 果 完 全 或 者 過 度 倚 賴 AI 的 情 況 作 為 做 一 個 前 提。
去 民 主 同 學 財 政 體 做 出 幾 個 speculation？
好 啦， 所 以 還 有 一 個 speculation， 這 是 不 一 定 敢 發 生 啦。
我 古 要 depends on 好 多 現 實 的 條 件 或 者 現 實 的 情 況 個 預 言 式 或 者 是 一 個 號
提 醒 我 們 有 那 個 可 能 性， 嗯， 但 是 具 體 是 不 是 會 這 樣， 或 者 幾 大 機 會 是， 這 個
就 真 的 要 case by case 我 覺 得。 哈 那 時 候 都 提 過 一 個 講 法 的 就 是 一 講
的 A， 關 於 AI 的 問 題， 其 實 最 後 未 必 是 AI 本 身 的。
嗯， 走 出 來 其 實 是 人 類 的 一 直 以 來， 有 的 缺 憾 導 致。
嗯， 就 是 因 為 人 類 會 有 時 候 會 比 他 的 工 具 同 化。
或 者 是 過 度 依 賴 的 工 具， 導 致 都 做 出 一 些 其 實 不 想 要 的 結 果。
是 因 為 投 先 講 民 主， 這 個 case 的 契 約 之 處 就 是 個 溝 通， 同 個 資 訊 的 互 相 流
向， 而 這 樣 也 其 實 是 民 主 的 體 制 是 AI Ch 之 前 已 經 有。
好 多 時 出 現 干 擾 問 題， 那 個 權 當 個 權 者 太 過 信 任 一 個 不 正 當 或 者 reasonable
的 意 見， 其 實 就 是 可 能 是 個 皇 帝 信 仰 望 官 跟 或 者 某 些 獨 裁 者， 他 信 了 某 一 個 禪
神。 其 實 都 出 現 的 嘛， 所 以 其 實 那 些 地 方 呢
嗯 不 是 AI 獨 特 會 引 發 的 問 題， 只 不 過 他 可 以 成 為 其 中 一 個 factor 去 導 致 這
些 我 們 以 往 都 會 見 到 有 的 制 度 缺 憾 出 現 囉。
根 本 哈 拉 水 最 後 也 都 有 幾 點 的 支 持， 我 們 都 有 各 式 三 提 及 的， 怎 麼 樣 去 面 對 那
個 AI 世 界 呢？ 我 們 可 以 歸 納 作 2 個 方 向， 第 一 個 方 向
呢， 就 是 我 們 要 將 AI 變 成 1D， 我 們 可 以 用 一 個 一 個 工 具， 這 一 路 提 到 就 是
話， 我 們 AI 是 一 個 black box 的， 我 們 不 好 清 楚。
然 後 中 央 還 有 點 思 考 的 過 程， 而 且 他 本 身 的 思 考 同 人 類 都 是 很 不 同 的， 跟 他 有
個 講 法 就 是 說 我 們 要 希 望 AI 可 以 自 己 解 釋 番 自 己 這 個 行 動， 而 是 以 人 類。
可 以 你 容 易 理 解 的 方 式 去 去 解 釋 嗎？ 那 個 我 相 信 其 實， 而 且 出 別 方 括 都 做 過
一 些 嘗 試 的 啦， 都 認 為 其 實 提 出 的 那 個 方 面 的， 其 實 做 AI 業 界 或 者 政 府 好 多
當 中 已 經 好 where 了。 嗯， 或 者。
另 另 一 個 發 展 路 向 就 是 explainable AI， 就 是 上 次 去 聞 番。
是 受 D map 影 響， 那 我 們 容 易 理 解 點 做 嘛。
所 以 就。 似 乎 可。
以 幫 手 解 決 black box 的 問 題 是 我 覺 得 呢？
其 實 整 個 第 三 部 分 呢 都 是 比 較 speculative， 可 以 話 是 一 個 預 先 去 嘗
試， 切 上 第 一 次 發 生 什 麼 事， 然 後 比 定 一 些。
警 示 我 們， 這 其 實 講 真 之 後 會 怎 麼 樣 發 展， 大 家 都 不 知 啦 嗯， 所 以 我 覺 得 可 以
當 是 一 個 提 醒 這。 樣 去 慷 待 囉。
其 實， 而 我 們 大 概 討 論 過 那 本 書 不 同 部 分 的 一 些 我 們 覺 得 有 意 思 的 內 容 啦。
其 實 我 自 己 看 完 這 一 本 書， 我 的 感 覺 是 有 點 位 是 失 望 的， 因 為 這 本 書 個 title
是 AI 嘛， AI 這 個 字 在 裡 面 suppose， AI 方 面 是 有 多 點 insight 的？
而 有 一 個 位， 我 覺 得 有 的 就 是 我 們 都 討 論， 就 是 他 對 於 我 們 這 邊 到 底 原 則 人 內
部 的 道 德 討 論 裡 面 的 分 期 會 不 會 令 動 我 們 沒 辦 法 教 到 AI 道 德， 然 後 令 到 AI
是 不 道 德 呢？ 我 覺 得 那 個 位 是 有 意 思 的， 但 是 我 就 覺
得 其 他 的 關 於 AI 的 問 題 的 部 分 呢？ 有 不 少， 其 實 我 們 宜 家 已 經 討 論。
是 一 個 整 理 好 多 不 同 的 對 AI 的 擔 心 放 在 一 起 去 提 醒 我 們 要 留 意 哈， 我 就 覺
得， 所 以 這 些 已 經 有 的 討 論 囉。 那 本 書 個 名 叫 連 結 啦 Nexus。
所 以 其 實 我 自 己 覺 得 本 書 最 後 會 講 這 個 古 仔 並 不 是 關 於 AI 的， 雖 然 他 的 好
像 重 點 去 II。 但 是 到 最 後 我， 我 反 而 覺 得 他 想 的 是 一
個 資 訊 的 一 個 網 絡， 是 怎 麼 樣 構 成 人 類 歷 史 的 一 個 一 部 分 啊。
在 前 面 前， 部 分 中 共 關 於 過 往 的 宗 教 啊， 或 者 是 歷 史 啊。
怎 麼 用 資 訊 體 系 去 理 解 過 去 歷 史 的 一 些 演 變， 其 實 是 比 較 意 思 的， 甚 至 我 覺
得 是 甚 至 比 最 後 更 有 趣， 但 本 書 作 為 一 個 普 及 的 歷 史 歷 史 教 歷 史 書 啦， 不 是 教
科。 所 以 啦， 你 都 是 可 以 當 中 中 有 好 多 細
位， 我 們 都 沒 辦 法 接 及 到 啦， 但 我 我 認 為 如 果 大 家 有 時 間 想 看 一 本 臨 時 書， 我
那 本 都 是 好 不 錯 的 選 擇。 嗯？
好 啊， 我 想 我 們 對 於 哈 勒 水 這 本 書。 書 的 討 論 暫 時 到 底 為 止 啦， 那 我 們 來 都
會 繼 續 看 書 和 繼 續 去 整 podcast 送 大 家 分 享 的， 希 望 大 家 期 待。
我 們 下 一 集 啦。 那 我 們 就 下 次 再 見 啦。