揭開 AI 的神秘面紗： 為何可解釋(易於理解)的AI人工智慧技術對建立信任與責任非常重要

透明度(Transparency)在AI人工智慧裡是其中一個相當熱門的詞彙。由於不同的人對這個詞的理解也不同，所以有必要釐清它的涵蓋範圍、哪些部分不包含在內，而為何有某些部分不在此範圍內。

有些人將可解釋(易於理解)的AI定義為具備透明度的AI技術，因而讓這兩組詞彙經常被一起用來描述所謂的負責任的AI人工智慧方法。但實際上代表什麼意思? 透明度在定義上是介於無法解釋的模糊與清晰之間的不同層次差異。透明度在資料治理(管理機制)著重於開放的資料處理方式，而透明度在資料架構裡則需要能夠完全理解系統內部的運作機制。透明度在AI人工智慧的領域中結合了可解釋性與資訊公開兩種面向，意即AI模型的設計與決策過程應具備道德基礎，而開發或使用該AI技術的企業則要完整記錄設計與應用方式。所謂的透明度的AI技術通常會包含下列幾項特點：

• 可詮釋性(Interpretable): 能用清楚易於理解的方式說明某項技術或功能是如何建立、挑選、改善、維護或被終止的原因。
• 可取得性(Available): 能取得必要資訊來執行資訊決策。
• 全面性(Comprehensive): 能從頭到尾不同視角和不同深度的層次來完整說明某項技術的起始流程和運作機制。
• 可追溯性與負責任(Accountability): 能定期且可重複的頻率來追蹤、回溯、驗證或審查整個操作過程、使用狀況和做出的決策。

AI人工智慧架構的不同層次因採用的具體技術而呈現不同層面的透明度。AI架構會包含傳統元件例如資料庫、搜尋引擎、持續整合與持續傳送/配置(CICD)工具；同時也涵蓋AI架構更常見的元件如向量資料庫、提示工程(prompt engineering)、代理程式模組(agents)等。AI訓練是AI架構中的常見領域區塊，但這個術語在AI人工智慧技術中經常與很多AI技術不同概念相互混用。雖然EBSCO自己不會執行AI技術的訓練，但檢視AI技術相關文件能理解AI模型運作的各種不同層面還是相當重要。

AI模型有非常多種不同的方式來進行互動：

• 用來建置詞彙、輸入或向量嵌入(vector embeddings)資訊(屬於傳統的AI技術訓練定義)。
• 用來訓練Transformer模型的資訊/嵌入資料(屬於傳統的AI技術訓練定義)。
• 用於模型推論與預測資訊或嵌入資料(傳統來說可理解為AI依據提示生成文字圖像或流程步驟的過程，其可視為AI訓練中取得的直接產出結果)。
• 用來進行資料參考的基底校準(Grounding)資訊及/或嵌入資料(資料基底校準並非AI訓練而是AI技術在生成的步驟中參考的輔助資料來源，可用於提升準確性與情境相關性(context relevancy)。
• 用來微調(Fine-tuning)的資訊及/或嵌入資料(這通常是啟發式(heuristic)或屬於規則指引以提升AI模型處理與產出結果)。
• 用在像是本體(Ontology)或知識圖譜(Knowledge Graph)等結構論述(schema)所進行的推論資訊及/或嵌入資料 (但通常是為了更符合特定的組織需求而提供AI模型指引)。
• 用於功能(feature)或實體(entity)擷取的資訊及/或嵌入資料(這也非訓練範疇而是文字形式與資料探勘技術 (text and data mining)。
• 資料剖析(Data parsing) AI技術會用來理解文字或圖像的結構與內容，這並非訓練範疇的一部分）
• 資訊檢索(Information retrieval) AI技術會根據查詢或提示來搜尋與擷取資料，這也非訓練範疇的一部分)

從這份清單中我們可以看到AI技術與很多因素緊密相連，雖然並非所有因素、面向都適用且與應用情境或產品相關，但這些都是評估AI透明度應詢問或審視相關文件的重要因素。

具備可解釋的AI技術代表著用來評估AI技術的指標及使用方式、設計理念與維護機制都必須以透明的方式公開呈現給終端使用者了解。而具備可解釋性與透明的AI人工智慧能讓使用者判斷品質、倫理、安全、隱私、環境影響和其他相關指標是否有符合他們的使用期望與該AI功能是否有符合使用需求。

EBSCO為了維持此技術的透明度會始終在產品中明確標示何時使用AI人工智慧技術。我們也在每項AI功能建立產品頁面來清楚說明正在使用哪些模型、選擇這些模型的原因、對於品質、安全和環境影響有執行哪些防護機制、使用哪些品質評估標準和模型如何進行基底建立或維護。EBSCO並不會訓練AI模型，但未來若我們有相關訓練計劃則會在專屬的產品頁面上加以公開說明。

您可前往 EBSCO Connect 查看AI Insights功能和自然語言搜尋(Natural Language Search)的AI技術揭露文件。我們會持續努力對未來推出的每項AI功能提供更多透明度相關說明文件，還請務必前往EBSCO Connect取得更多最新的更新資訊。