“ 任何一項擬議法律，最令人好奇的方面也是它最基本的東西：總體治理安排。”
（網圖，侵刪）
A Few Questions about Canada’s Artificial Intelligence and Data Act
關于加拿大《人工智能和數據法案》的幾個問題
翻譯：岑君伊
一項新的立法出臺后，需要一段時間才能消化這些內容。在人工智能和數據法案（AIDA）作為C-27法案的一部分被提出來討論，并影響加拿大私營部門的隱私法律后的幾周內，出現了大量文章討論它的具體細節。通常，他們的作者將AIDA描述為管理人工智能（AI）系統的新制度，其重點是防止危害，以及對違反規定的嚴厲懲罰。他們概述了與數據匿名化有關的主要條款，以及對高影響系統的特定要求，并且經常對遺漏的內容和包含的內容給予同樣的關注。
AIDA由加拿大創新、科學和經濟發展局（ISED）起草，它的結構類似于一個框架，將通過法規來充實。它的雙重目標規范商業和防止傷害與其他全球舉措相呼應，尤其是歐盟提出的《人工智能法案》（AIA）。但與全面、詳細、規范的的AIA不同，加拿大的AIDA仍然是高級別的，立法中的關鍵要素尚未定義。
有趣的是，內閣有權就一系列問題制定法規，這些問題將從根本上決定未來加拿大私營部門人工智能相關政策的特征。
這些問題圍繞著識別：
什么構成了AI系統的“有偏見的輸出”
“高影響力系統”的定義
與數據匿名化、人工智能系統風險及其緩解有關的措施
AI系統影響評估
構成物質損害的定義
聘用獨立審計師的規則
根據AIDA獲得的信息的披露規則
AIDA沒有明確回答這些決定行業的問題，這可能會成為未來公共討論的一個聚焦點。在一些觀察人士看來，在未來法規中嵌入如此多“有意義的定義”的決定，可能看起來像是一種“投機”。對另一些人來說，這可能被解釋為“為一個動態和不斷變化的政策領域引入靈活性”而作出的精心安排。無論如何，“高影響系統”這個術語仍然沒有定義，人們也可能無法對這項立法提出的監管內容有任何有意義的理解。因此，AIDA在這個方面，乍一看可能是有爭議的，雙方都有自己的看法，或者代表著更令人不安的東西一套法律上確立的規則，用于監管一些不確定的東西。
這項擬議中的法律最令人好奇的地方，也是它最基礎的地方：全面的治理安排。在法律、政策制定、行政和執法方面，擬建一個單獨的部門即加拿大創新、科學和經濟發展局（ISED），作為人工智能的實際監管機構。
這種設置與隱私法的情況形成了鮮明的對比。在隱私法中，雖然由ISED起草立法和相關政策，但有單獨的管理和執行實體。例如，根據加拿大現行的私人部門隱私法（《個人信息保護與電子文件法》），隱私專員作為無黨派和獨立的監察員，向議會報告。私隱專員負責解釋私隱法例和政策，并調查個案。根據第C-27號法案，確保通過合規的、法律的模式，將隱私專員從監察員轉變為執法者，擁有廣泛的命令制定權。它還設立了個人信息和數據保護法庭，接受隱私專員的建議，作出最終決定，并根據擬議的消費者隱私保護法案執行政策。
然而，在AIDA的案例中，ISED負責起草、解釋和執行法律。此外，AIDA聲明“部長可以指定一名其主管部門的高級官員，稱為人工智能和數據專員，其職責是協助部長管理和執行這一部分。沒有獨立于ISED或角色分離。
那么，AI的最佳治理是什么樣子的呢？2014年，經濟合作與發展組織（OECD）發布了一份指南《監管機構的治理》，強調了獨立監管決策的重要性，在“公正性感知推動公眾信心”，以及“監管機構的決定可能對特定利益產生重大影響”的情況下，與政治過程保持距離。很明顯，在關于“角色明確”的章節中，指南論述了作為服務提供組織的政府部門的情況，認為當它們也監督標準的執行時存在潛在的利益沖突：“將提供服務的職能或向外部提供者提供資金與執行監管標準結合起來，也可能產生沖突特別是當同一名工作人員執行兩項職能并向同一決策者報告時，因此應避免。這些沖突可能會出現，因為嚴格執行監管標準可能會影響政府服務的供應或交付成本。”
這一考慮對ISED來說意義重大，其使命包括“繼續支持加拿大的經濟增長和傳統強勢產業的復蘇，包括但不限于汽車、航空航天、自然資源和農業食品，以提高生產力和創新，并加強加拿大的制造業基礎”。
ISED是政府支持工業項目的主要參與者。例如，考慮一下全球創新集群計劃，加拿大政府通過ISED，在五年內提供大約10億美元，與產業相匹配，以促進創新和增長。其中兩個集群，數字技術和人工智能供應鏈，與AIDA提議監管的技術直接相關。此外，我們可以預期，隨著時間的推移，人工智能將滲透到大多數行業。我們有理由問，一個與數字和人工智能產業合作并為其提供資金的部門，如何能夠公正地為其客戶設計、開發和使用相同的技術。
加拿大是世界上首批引入人工智能相關立法的國家之一，并構建了一套與人工智能系統的開發和使用相關的要求草案，這一點值得稱贊。AIDA仍處于初審階段，我們可以預期它將在立法過程中進行修訂。這是一件好事。除了為“圍繞人工智能規則和要求的不可避免的問題”尋找答案之外，還應該就監管立法和隨之而來的政策的制度安排進行健康和透明的討論。明顯的問題包括：
加拿大私營部門享有對人工智能相關活動的政策、管理和執法的部長級權力是否合適？
對于想要對部長或部長級指定人員的決定提出質疑的個人和實體，是否有可用的法律補救措施，就像處理隱私相關問題一樣?
為什么政府設立了一個新的人工智能和數據專員，而不是擴大現有隱私專員的授權?
為什么要為“加拿大人工智能系統的監管”創建不同的治理結構，而不是使用隱私法的結構?
這些問題反映了一個單一政府部門與AIDA相關的潛在職能沖突，其重要性既來自于“ISED在加拿大人工智能產業迅速擴張時的關鍵作用”，也來自于對決策透明、決策問責和準入的需求。簡而言之，在這種背景下，保護消費者和行業發展的雙重作用可能而且肯定會給行業發展帶來某種棘手的平衡。
