人工智能領域專家表示，當加拿大稅務局(CRA)的人工呼叫中心員工仍難以提供準確答覆時，就依賴人工智能來幫助納稅人解決稅務問題是存在風險的。
周二，聯邦審計總長Karen Hogan發表了一份措辭嚴厲的報告，指出CRA不僅接聽的來電數量極少，而且即便接通，關於個人所得稅的電話諮詢中，僅有不到五分之一的來電者能從真人客服處獲得準確答案。
Hogan發現，基於規則的人工智能聊天機器人“Charlie”提供正確信息的比例約為三分之一。
與根據提問生成新內容的生成式人工智能不同，“Charlie”是從預設腳本中提取答案，用於解答常見問題和簡單諮詢。
CRA目前正在試行生成式AI版本，並通過延長服務時間和擴大可解答問題範圍來擴大聊天機器人的使用。
加拿大隱私保護數字技術研究主席Anatoliy Gruzd表示，CRA在依賴人工智能之前，必須先確保人工服務環節的正確性。
審計總長嚴厲批評CRA：引入AI前必須先修復人工服務問題
他說：“如果你是一個政府機構，在推出聊天機器人前，你必須確保人工客服的流程已經完善。”
Gruzd解釋說，聊天機器人的表現取決於人工客服提供的準確信息。
審計總長嚴厲批評CRA：引入AI前必須先修復人工服務問題
他說：“我認為回到基礎問題，先弄清楚為什麼人工客服會答錯一些問題，是在開展任何重大AI項目之前的關鍵步驟。”
卡爾頓大學人工智能治理專家教授Adegboyega Ojo表示，如果經過謹慎開發，AI技術可以得到更好的利用。
Ojo研究如何在政府中安全、有效地使用人工智能的技術機制，他建議CRA採用“人機結合”的模式——讓機器處理常見問題，而將複雜或需要判斷的問題交由人工專家解決。
Ojo說：“無論是否談到人工智能，作為公務員，你都必須接受良好的培訓。但當任務複雜、需要大量記憶與規則知識的認知負擔時，這正是機器的用武之地。”
Ojo指出，AI可以減輕CRA員工在高通話量下的負擔，但強調人工員工依然是不可替代的。
他說：“再先進的聊天機器人，也可能因為缺乏上下文而出錯。我認為部署AI系統的理想方式是始終保持人工監督，這正是確保問責的關鍵所在。”
渥太華大學Telfer管理學院副教授Jasmin Manseau表示，當前的人工智能在預測型任務上表現優於判斷型任務，但仍可能出現機器錯誤。
他說：“這取決於任務類型。對於例行性任務，確實可以自動化，但可以說，並非所有任務都能如此。”
他認為，政府使用AI對科技進步至關重要，但公眾信任是成功的前提。
Manseau說：“如果系統準確，人們信任它，他們就會使用它，也會提供更好的反饋。我們必須讓準確率達到70%、80%、甚至90%的水平。”
