AI Index Report 2023

2022 年,關於 AI 的討論開始變成法律

AI 指數 2023 第 6 章量的不是政府說要做什麼,而是政府實際做了什麼。它讀了 127 國的立法紀錄、81 國的議會會議紀錄、美國聯邦與各州每一件 AI 法案、各國國家 AI 戰略、美國公共支出,以及美國法院的案件。2022 年的故事是一個轉換率:在關注度遠遠跑贏產出好幾年之後,真正變成法律的 AI 法案比例突然拉高了。先看數字:

372022 年全球通過成為法律的 AI 相關法案數(2016 年為 1 件)
92022 年美國國會通過的 AI 法案數(前四年每年都是 3 件)
212022 年美國各州通過的 AI 法案數(提案共 60 件)
1,3402022 年 81 國立法程序中提及 AI 的次數(2021 年為 1,547 次)
62自加拿大 2017 年 3 月率先發布以來,全球已推出的國家 AI 戰略數
1102022 年美國聯邦與州法院的 AI 相關訴訟案件數 — 是 2016 年的 6.5 倍

6.1 — 37 部法律、31 個國家,以及一張極不平均的地圖

AI 指數讀過了 127 個國家的立法機關在 2016 至 2022 年間通過、內容含有「人工智慧」字樣的每一部法律。成長是真的,而且很陡 — 但集中在少數幾個地方。

在分析的 127 個國家中,自 2016 年起只有 31 個通過過任何一部 AI 相關法案,這 31 國加起來共 123 部。年產出從 2016 年的僅僅 1 部,爬升到 2022 年的 37 部。2022 年由美國以 9 部領先,西班牙(5 部)與菲律賓(4 部)次之;安道爾、比利時、義大利、葡萄牙、俄羅斯與英國則各 2 部。換成 2016–22 的累計數字,排序就不一樣了:美國以 22 部居首,接著是葡萄牙(13)、西班牙(10),以及義大利與俄羅斯(各 9)。

所謂「AI 法律」實際上長什麼樣

這裡面幾乎沒有一部是今天講到「AI 法」時所想像的那種法律。AI 指數抽樣了 2022 年五部法律,發現「人工智慧」這幾個字是埋在關於創意產業、國家安全、學校、反歧視與公務人力訓練的法條裡:

  • 吉爾吉斯 —《關於創意產業園區》:規定為加速創意產業(其中包含人工智慧)而設立的園區的法律地位、管理與營運程序。
  • 拉脫維亞 —《國家安全法修正案》:對攸關國家安全的商業公司、協會與基金會設下限制,其中明列開發人工智慧的商業公司。
  • 菲律賓 —《第二屆國會教育委員會(EDCOM II)法》:成立一個委員會,面對以人工智慧快速發展為特徵之一的第四次工業革命,檢討並改革教育。
  • 西班牙 —《平等對待與不歧視權法》:要求公共行政決策所涉及的 AI 演算法,在技術可行的前提下必須納入降低偏誤的標準、透明度與問責。
  • 美國 —《AI 訓練法》:要求管理及預算局為行政機關的採購人力提供 AI 訓練課程,讓採購方了解 AI 的能力與風險。

本章放在註腳裡的但書

AI 指數提醒,這個計數很可能低估了實際情況,因為一部大法案裡可能包著好幾條 AI 相關的子法案 — 它舉的例子是美國 2022 年通過的《晶片與科學法》。涵蓋範圍也不完整:有些國家根本沒有可公開取得的立法資料庫。

各國通過成為法律的 AI 相關法案數,2016–22

累計數字。自 2016 年以來全球通過的 123 部法律中,這五個國家就佔了 63 部 — 而分析的 127 國裡有 96 國一部都沒有。

各國通過成為法律的 AI 相關法案數,2016–22美國:2222美國葡萄牙:1313葡萄牙西班牙:1010西班牙義大利:99義大利俄羅斯:99俄羅斯

6.1 — 華府提案變少,通過變多

2022 年美國立法紀錄裡最值得看的數字不是總量,是比例。提出的 AI 法案比前一年少,但真正變成法律的卻是三倍。

2015 年,聯邦層級只有 1 件 AI 相關法案被提出。到 2021 年這個數字來到 134 件,2022 年回落到 88 件。同一段期間,真正通過的法案連續四年都停在每年 3 件 — 然後在 2022 年跳到 9 件。換成比例:2021 年只有 2% 的聯邦 AI 法案變成法律,2022 年是 10%。

各州的轉換率是聯邦的三倍

各州議會呈現同樣的模式,而且走得更前面。提案數從 2015 年的 5 件增加到 2022 年的 60 件;通過數則從 1 件(佔當年提案的 16%)增加到 21 件(35%)。2022 年由加州以 5 部領先,馬里蘭(3 部)次之,科羅拉多、紐澤西與華盛頓州各 2 部。2016 至 2022 累計,馬里蘭以 7 部居首,加州(6)、麻州與華盛頓州(各 5)、伊利諾、猶他與佛蒙特(各 3)緊接在後。全美仍有大約一半的州從未通過任何一部。

五部州法,五種完全不同的「AI 政策」想像

  • 阿拉巴馬 —《人工智慧:限制人臉辨識使用,確保比對結果不得作為逮捕的唯一依據》:禁止州與地方執法機關把人臉辨識的比對結果當成逮捕或認定相當理由的唯一根據。
  • 加州 —《2022 年預算法》:一項撥款條文,撥給沙加緬度加州州立大學 1,300,000 美元改善校園托育中心,其中包含開發一間 AI 混合實境教室。
  • 馬里蘭 —《保育財務法》:要求自然資源部研究並評估包含 AI 與機器學習在內的數位工具,能否為切薩皮克灣復育與氣候解方帶來貢獻。
  • 紐澤西 —《21 世紀整合數位體驗法》:要求技術長每年評估州政府機關以 AI 與機器學習提供公共服務的可行性。
  • 佛蒙特 —《關於州政府使用與監督人工智慧法》:在數位服務局底下設立人工智慧處,檢視州政府開發、使用或採購的每一套 AI 系統,並提出州政府 AI 使用的倫理準則。

美國各州通過成為法律的 AI 相關法案數,2016–22

累計數字。沒有任何一州達到兩位數 — 馬里蘭以 7 部居七年榜首,比葡萄牙一國通過的還少。

美國各州通過成為法律的 AI 相關法案數,2016–22馬里蘭:77馬里蘭加州:66加州麻州:55麻州華盛頓州:55華盛頓州伊利諾:33伊利諾猶他:33猶他

6.1 — 全球議場的討論降溫,美國國會卻相反

除了法案,AI 指數還數了「人工智慧」這個詞在各國議會會議紀錄、美國國會委員會報告,以及智庫與大學政策報告裡出現的頻率。三個不同的溫度計,三種不同的讀數。

在 81 個國家的議會與政府會議紀錄中,2022 年提及 AI 的次數其實小幅下滑 — 從 1,547 次降到 1,340 次 — 儘管這條曲線自 2016 年以來仍成長了近 6.5 倍。81 國中,整年連一次提及都沒有的有 35 國。2022 年由西班牙以 273 次居首,加拿大(211)、英國(146)與美國(138)次之。若看 2016–22 的全期累計,英國以 1,092 次遙遙領先,西班牙(832)、美國(626)、日本(511)與香港(478)在後;81 國中有 62 國至少被記錄到一次。

議員實際上在吵什麼

本章直接抽樣了那些辯論,而重點就在落差 — 同樣兩個字,在不同議場裡做的是很不一樣的事:

  • 英國 — Dame Angela Eagle 在《金融服務與市場法案》的審查中質問下議院:監管機關對於 AI 的實際應用方式能有多透明?它會不會演變成把歧視內建進系統,讓某些人被排除在外?
  • 日本 — 大塚耕平在參議院憲法審查會指出,隨著 AI 與網路技術融合,人權保障必須更新,才能處理個人評分、歧視,以及不當影響公民投票行為的網路廣告等問題。
  • 尚比亞 — 部長 Collins Nzovu 在國民議會表示,政府在聯合國經費支持下,正運用 AI 提升天氣預報的品質與準確度。
  • 澳洲 — 工業與科學部長 Ed Husic 在《2022 年國家重建基金公司法案》的二讀中主張,澳洲應該把量子技術、機器人與人工智慧這些「無可否認的專長」再往上推。
  • 巴西 — 眾議員 Gustavo Fruet 在一場關於讓幼兒家長遠距工作的法案辯論中援引《第四次工業革命》一書,談 5G、物聯網與 AI 會讓哪些職業消失、又會讓哪些職業要求更高的資格。

美國國會內部:委員會報告與政策報告

AI 在參眾兩院委員會報告中被提及的次數,從第 115 屆會期起大幅攀升,到第 117 屆(2021–22)達到 73 次,是這條 2001 年起算的序列中的最高點。眾議院由撥款委員會以 20 次領先,科學、太空與技術委員會(9 次)與規則委員會(5 次)次之;參議院則由國土安全與政府事務委員會以 8 次居首,撥款委員會(3 次)在後。政府之外,AI 指數追蹤了 55 個美國組織 — 19 個智庫與政策研究所、14 個大學研究機構與研究計畫、9 個公民社會組織、9 個產業與顧問機構,以及 4 個政府機關 — 它們在 2022 年發表了 284 份 AI 政策報告,是 2018 年的 3.2 倍。最主要的題目是產業與監管(107 份)、創新與技術(90 份),以及政府與公共行政(82 份)。2021 年報告量第一的隱私、安全與資安,則掉到第四(59 份)。

2022 年立法程序中提及 AI 的次數

AI 指數搜尋了 81 國的會議紀錄,2022 年只有 46 國提到過 AI。這四個國家就佔了全年 1,340 次提及的大約一半。

2022 年立法程序中提及 AI 的次數西班牙:273273西班牙加拿大:211211加拿大英國:146146英國美國:138138美國

6.2–6.3 — 寫戰略的高峰在 2019 年,花錢的高峰不是

國家 AI 戰略是 2010 年代後期的政策工具;到了 2022 年,這一波幾乎已經結束。而美國的公共資金 — 分別從研發預算與政府採購兩邊追蹤 — 還在往上走。

加拿大在 2017 年 3 月推出全球第一份國家 AI 戰略,同年的還有中國與芬蘭。此後全球共發布 62 份戰略,高峰落在 2019 年 — 那一年有 26 國發表,包括阿根廷、丹麥、愛沙尼亞、日本、肯亞、卡達、新加坡、阿聯與美國。2020 年再有 14 國,2021 年 10 國。到 2022 年,只剩兩個國家發布新的國家 AI 戰略:義大利與泰國。另有 7 國在 2021 年承諾要制定(亞美尼亞、巴林、古巴、冰島、摩洛哥、紐西蘭、阿曼),2022 年又有 7 國(亞塞拜然、比利時、貝南、以色列、約旦、奈及利亞、烏茲別克)。

兩條聯邦預算線,方向相反

2022 會計年度,美國非國防部門的政府機關編列了 17 億美元用於 AI 研發 — 比 FY21 的 17.5 億略減,但比 FY18 的 5.6 億成長了 208.9%。FY23 則請求了更高的 18.4 億美元。國防部這條線走的是相反方向,然後又轉了回來:它針對非機密 AI 專項研究、開發、測試與評估的預算請求,從 FY20 的 10.0 億美元滑落到 FY21 的 9.3 億與 FY22 的 8.7 億,再在 FY23 跳到 11.0 億美元 — 增加 26.4%。這兩個數字都不包含國防與情報機關的機密 AI 研發,原始報告沒有涵蓋那一塊。

真正在成長的是政府採購

  • 美國政府在 AI 上的總支出從 2021 年的 27 億美元增加到 2022 年的 33 億美元,比 2017 年的 12.9 億成長了大約 2.5 倍。
  • 2022 年分類別看:決策科學拿到 11.9 億美元(年增 18%)、電腦視覺 8.2 億美元(年增 55%)、自主系統 6.9 億美元(年增 33%)。機器學習則減少 5% 至 4.1 億美元,自然語言處理減少 19% 至 1.7 億美元。
  • FY22 依撥付形式區分:主契約佔金額的 62.5%、補助 34.9%、其他交易授權(OTA)2.6% — 分別是 20.5 億、11.5 億與 0.9 億美元。與 FY21 相比,契約的佔比大致持平,補助的佔比則上升。

6.4 — 司法系統在無意間開始寫 AI 政策

AI 指數與 AI 法律學者 Elif Kiesow Cortez 合作,追蹤 2000 至 2022 年間含有 AI 相關關鍵字的美國聯邦與州法院案件。2022 年共 110 件,是 2016 年的 6.5 倍。點卡片看細節。

案件從哪裡來

2022 年的案件多數來自加州(23 件)、伊利諾(17 件)與紐約(11 件)。伊利諾會上榜,是因為一部 2008 年的法律。

courtsstates

哪一種法、哪一個產業

民事(29%)、智慧財產(19%)與契約(13.6%)佔了最大宗。最常涉入的產業是金融與專業服務。

courtslaw

Duerr 訴布萊德利大學(2022)

學生依伊利諾生物特徵隱私法控告 AI 監考工具,卻敗在「金融機構」這個定義上。

courtsprivacy

Flores 訴 Stanford(2021)

假釋委員會用 COMPAS 做風險評估。法院裁定,該演算法的機密資料必須交給原告的專家證人。

courtstransparency

Dyroff 訴 Ultimate Software(2017)

推薦演算法把毒品相關社群推給一名後來身故的使用者。法院認定平台享有免責。

courtsplatforms

用五句話看這一章

AI 指數報告 2023 第 6 章「政策與治理」的頭條發現。

AI 指數分析了 127 個國家的立法紀錄,含有「人工智慧」字樣並通過成為法律的法案,從 2016 年的僅僅 1 件成長到 2022 年的 37 件。
— Chapter 6 · Chapter Highlights
2021 年,美國所有聯邦 AI 法案中只有 2% 通過成為法律。這個數字在 2022 年跳到 10%。同樣地,去年州級 AI 法案有 35% 通過成為法律。
— Chapter 6 · Chapter Highlights
對一組多元國家的議會紀錄所做的質性分析顯示,政策制定者是從非常多不同的角度在思考 AI。
— Chapter 6 · Chapter Highlights
自 2017 年以來,美國政府 AI 相關的契約支出大約增加了 2.5 倍。
— Chapter 6 · Chapter Highlights
2022 年,美國聯邦與州法院共有 110 件 AI 相關案件,是 2016 年的 6.5 倍。
— Chapter 6 · 6.4 U.S. AI-Related Legal Cases

閱讀第 6 章原文

第 6 章(6.1–6.4 各節)連同所有圖表、表格與註腳,皆由史丹佛 HAI 免費提供。或回到報告重點與八大章節總覽。

開啟 AI 指數 2023 →