AI Agent 最大的缺陷：它没有“世界地图”｜伯克利教授 Frank Coyle

摘要

解讀柏克萊教授 Frank Coyle 在 AIE 大會的演講，主張 AI agent 最大的缺陷是缺乏世界地圖，也就是本體論（ontology）。影片說明本體論如何與大型語言模型的機率式文本預測結合成神經符號 AI，透過 Pydantic、RDFS、OWL 三層護欄層層審查模型輸出，避免幻覺與違反常識的指令進入實際執行系統，並提出護欄的目的是保護而非扼殺創造力。

重點

• 智能體概念可追溯至 1956 年人工智慧啟蒙時代，本體論則可追溯至古希臘亞里士多德，1993 年由 Gruber 給出現代電腦科學定義
• 上世紀 80 年代日本第五代電腦計畫採用自上而下的專家系統本體論，因硬體算力不足而失敗，引發 AI 寒冬
• 今日因輝達 GPU 提供充足算力，本體論得以與神經網路結合成神經符號 AI，且可自下而上根據真實資料動態擴充圖譜
• 護欄分三層：Pydantic 負責輸入型別的格式審查、RDFS 負責定義域與值域的邏輯推理、OWL 處理傳遞性與唯一性約束等複雜商業邏輯
• OWL 的唯一性約束可自動識別兩個名字實為同一人，避免同一筆訂單被重複退款等資安風險
• 口訣是 Pydantic 在門口把關格式、本體論在後台管帳本核實邏輯
• 護欄目的不是扼殺大型語言模型的創造力，而是讓機率模型的創造力在安全的軌道上發揮

金句