【時報專訊】人工智慧的發展速度之快，簡直模糊了真實與虛假之間的界線。過去幾個月，CTV 新聞報導油管（YouTube ）頻道有人上利用深度偽造技術（deepfake）銷售產品的廣告。
聯邦總理卡尼（M. Carney）出現」幾則宣傳其投資平台的廣告中。廣告中可以看到和聽到他告訴觀眾「人工智慧就是未來」，以及「我們已經建立一個最先進的項目來幫助加拿大人參與其中」，並敦促他們通過一個鏈接進行註冊。
然而他從未說過這些話，這段深度偽造視頻是從他 二0二五年七月一日國慶日的演講片段產生。
CTV 新聞點擊卡尼深度偽造廣告中的一個鏈接，找到一篇看似 聯邦英語廣播局CBC 新聞的文章，該文章介紹該投資平台如何保證加密貨幣市場的高回報。
文章接著說，該平台承諾單筆投資每月可獲得超過 三點五 萬元的收益，並表示皇家銀行等機構參與創建該自動化投資平台，以確保高額利潤。
CBC 和皇家銀行都向 CTV 新聞證實，該文章造假。
此外在就廣告問題聯繫油管後，其母公司谷歌告知 CTV 新聞，已暫停該廣告商的帳戶，原因是其違反其廣告政策。
「我們對平台上的詐騙行為零容忍，」谷歌一發言人寫道。
隨後我們更進一步，直接聯繫該投資平台。當被問及其使用深度偽造卡尼廣告的問題時，平台堅稱是總理在談論該產品，並且聯邦政府正在支持該產品。
聯邦創新、科學與經濟發展部在一封電子郵件中寫道：「聯邦政府不認可這則廣告」，並解釋說渥太華正在努力保護國民免受詐騙、深度偽造以及用於冒充他人進行惡意目的的惡意人工智慧工具的侵害。
政府寫道去年十一月成立了我國人工智慧安全研究所，旨在推動對先進人工智慧系統相關風險的科學理解，同時制定降低風險的措施。
政府寫道：「該研究所一直在與國際同行合作，研究合成內容的風險。」
法律挑戰
我國律師多尼奇（J. Donich）一直密切關注這項技術的發展及其在犯罪活動中日益增多的使用情況。
據他表示，深度偽造正被用於各種令人不快的用途，例如色情、剝削兒童以及持續進行詐欺和詐騙。
多尼奇又解釋，關於深度偽造製作的法律仍在發展中，深度偽造是指描繪不真實或完全不真實的人或物的圖像。
「我認為深度偽造本身還不至於構成犯罪，」多尼奇說。「但界線在哪裡？」
他補充道，法律需要跟上科技的步伐，但目前兒童保護措施已到位。
多尼奇說利用政客的深度偽造——或任何其他可能利用其聲譽或權威來欺騙公眾信任的人——就可能構成犯罪。
「我們不能容忍有人到處製作深度偽造來欺騙人們作出讓他們蒙受損失的決定，」他說。「法律早就應該對此進行製裁。」
他提到這可能引發詐欺、竊盜和冒充等指控。
不確定的未來
負責任的人工智慧研究所 (Responsible AI Institute) 致力於幫助公眾、政策制定者和監管者提高認知和洞察力，敦促他們利用能夠改善社會和經濟福祉並避免危險的技術。
研究所創始人薩西納（ M. Saxena） 告訴 CTV 新聞，這項技術發展如此迅速，不僅可以複製人的聲音和圖像，還可以傳達情感。「有預測顯示到明年年底，由人工智慧生成的社交媒體內容（包括虛假廣告、虛假產品、虛假帳戶和虛假帖子）將比人類生成的多一百倍。」
薩西納警告說，各國政府已經採取人工智慧軍備競賽的思維模式，他們急於建立更大、更易於存取、功能更強大的人工智慧模型，卻沒有意識到濫用的風險。
據他解釋，現在推出的技術是人們認為幾十年後才有可能實現的技術。「我曾經是一個人工智慧實用主義者，一個人工智慧烏托邦主義者現在不行了，」他說。「我認為這一切正以百分九十九點九的人都不知道的速度向我們襲來，我們真的正在邁向未知。」
涉及總理卡尼的深度偽造技術油管廣告視頻最近有頻頻出現，甚至還看到聯邦保守黨領袖博勵治及其他名人，內容似乎都在宣傳什麼「國人可以每天輕易賺一千元」。至於是否存在欺詐，看來只有油管的母公司谷歌才能提供答案。
