【時報訊】本省網路安全與數位技術部 (MCN) 正在採取措施規範公共機構對生成式人工智慧 (GAI) 的使用。據專家表示，這些指導方針符合最佳實踐，但他們也擔心實施起來會很困難。
聖誕節前幾天，省府發布新聞稿宣佈「應用指南」正式生效。
該文件包含公共行政部門使用生成式人工智慧 的相關措施。
這些措施包括資料保護、員工培訓以及選擇生成式人工智慧 應用案例時應考慮的標準。該文件還提供治理框架、風險管理和控制措施。
除了這份指南外，網路安全與數位技術部 還更新了其「公共機構負責任地使用人工智慧原則聲明」。
網路安全與數位技術部 表示，這兩份文件也解除去年對公共行政部門使用基於人工智慧的虛擬助理的禁令。
「本省網路安全與數位技術部 與十四個公共機構合作的實驗性工作，使得評估人工智慧使用風險並製定相關控制指南成為可能，」該部部長辦公室表示。
最佳實踐
根據加通社採訪的專家稱，本省對這項技術的監管方式符合公共部門，尤其是國際層面公認的最佳實踐。
滿市魁大（UQAM）電腦科學系教授甘布斯（S. Gambs）認為，本省引入這框架是一項積極的進展。
「我們希望確保，當人工智慧系統投入使用時，不僅是魔法學徒的實驗，而是要考慮到許多因素，以確保它能夠造福社會，」甘布斯說，他目前擔任我國隱私保護和海量資料倫理分析研究主席。
據專攻科技與人工智慧的倫理學家法塔赫 (Lahcen Fatah) 說，本省在應用指南方面採取「相當務實的態度」。
「該文件並非將生成式人工智慧奉為靈丹妙藥…人工智慧在這裡被視為一種輔助工具，絕不是行政或政治判斷的替代品，」法塔赫說，他是滿市魁大的博士生。
他還讚揚本省採取的許多良好措施之一，即「在生成式人工智慧的使用背後堅持由負責任的人來負責」。據他指出，這框架規定人工監督的義務，並且「拒絕將一切完全委託給生成式人工智慧系統」。
麥基爾大學法學院博士生、法律與科技領域專家西納爾 (A. E. Cinar) 認為，總體而言，該應用指南「結構合理，並關注風險」。
他「特別注意到，指南明確要求在專案的所有階段進行隱私影響評估」。
「這令我印象深刻，因為它展現高度的謹慎，並確保將倫理和隱私考量視為一項持續的責任，」西納爾在一封電子郵件中寫道。
「然而管該框架提供強有力的措施，但在個人資料保護方面仍然存在一些不足，」他說。
他特別指出，這框架在「告知資料主體、獲得其同意或質疑和追索的可能性」方面提供的指導「有限」。
西納爾 也強調某些方面的細節不足，包括資料「保留期限」。
甘布斯也認為該原則聲明的幾個方面很有意思，他特別提到關於人工智慧系統效率和有效性的部份，據聲明指出，人工智慧系統應該能夠簡化公共服務。
「對我來說最根本的問題是：我們即將實施的人工智慧系統能否改善政府流程或創造價值？我們部署的不僅是一個複雜的系統…它真的能夠以可控的成本造福民眾嗎？」他辯稱。
實施挑戰
滿市魁大的這位教授認為，在公共服務部門實施這些原則和準則是一項重大挑戰。
他認為，實施這些原則和準則可能需要對現有員工進行培訓，並招募新員工。
「我認為每個部門已經具備相當多的專業知識來處理隱私問題，但是一些新的原則正在湧現，這些原則在某種程度上是人工智慧特有的，在我看來這需要內部技能發展，或許還需要招募具備這方面專業知識的新員工，」甘布斯說。
法塔赫指出，該準則具有強制性，因為適用於受資訊資源治理與管理法約束的組織和部門。
他說，這「很可能會對行政實踐產生切實的影響」。
「然而，儘管具有強制性，但實施起來仍然困難重重，」法塔赫承認。
「該框架在紙面上看似完善，但其有效性將很大程度上取決於資源、組織的數位成熟度以及它們能否隨著時間的推移落實這些要求，」他說。
儘管網路安全與數位技術部 採取的措施遠非象徵性，但法塔赫認為制定框架法對於加強本省人工智慧的負責任開發和部署仍然至關重要。
本省創新委會在二0二四年一月發布的人工智慧報告中建議，省府應盡快著手制定框架法。
該委會指出，後者「旨在製定適用於公共和私營部門的指導方針」，以便在「可能對人權造成高風險影響」」的人工智慧系統面前保護公民。「然而，儘管具有強制性，但實施起來仍然困難重重，」法塔赫承認。
「這框架在紙面上看似完善，但其有效性將很大程度上取決於資源、組織的數位成熟度以及能否隨著時間的推移落實這些要求，」他說。
儘管網路安全與數位技術部採取的措施遠非象徵性，但法塔赫認為，制定框架法對於加強本省人工智慧的負責任開發和部署仍然至關重要。
