close
巨群電子報-生醫評析, 2020年1月16日 (文/孫世昌)
在筆者於上篇文章中，簡短的為讀者們介紹完歐盟AI-HLEG所提出之新修正版人工智慧(Artificial Intelligence，以下簡稱AI)之定義後，其實也進一步引起了筆者對於歐盟政府為了因應此項新興科技發展所帶來之挑戰，從宏觀的角度上究提出了甚麼樣的產業政策的好奇心，而果不其然，隨著筆者嘗試更深入地挖掘相關文獻資料過程中，終於讓筆者發現了一份編號為COM(2018) 237 final的官方文件，而在仔細端詳這份不起眼文件的標題及內容後，筆者確定了它就是歐盟政府稍早於2018年4月25日所正式發布之「歐洲人工智慧政策」(Artificial Intelligence for Europe)白皮書，其內容，主要是描繪並說明歐盟政府究如何在以一個歐洲並打算傾聚歐盟所有會員國之力的概念下，規劃並提出其AI產業政策，來解決歐洲因AI技術興起所正面臨之挑戰，並進一步實現其成為未來全球AI發展領導者之願景目標，然而，只單看政策面，筆者仍感到不滿足，因為，新興科技產業之發展與政策的落實，必須仰賴合適之法規環境，而在打造合適之法規環境前，則必須先一步的檢視既有法律規範架構上是否有任何不足之處？或者是否存在著尚待補強之法規缺口？而這樣的問題對於歐盟來說，不應該也絕不可能沒有任何的動作，故在抱著這樣的想法下，終於讓筆者找到了一份由歐盟執委會(European Commission)下設之「歐洲聯合研究中心」(Joint Research Centre)與「歐盟創新技術學院」(European Institute of Technology)所共同執行之一項專案計畫報告書，標題為：「人工智慧於法律與法規上之衝擊-以自動化無人駕駛載具、行動醫療及資料探勘等領域案例為中心」(Legal and Regulatory Implications of Artificial Intelligence(AI)-The case of autonomous vehicles, m-health and data mining)，那麼，以下就邀請讀者們與筆者一同來瞧瞧，歐盟對這項影響所我們未來生活與社會甚鉅之新興科技，究竟擘劃了甚麼樣的政策？以及其針對未來AI科技應用最為優先之歐洲3大重點產業領域(包括：自動化無人駕駛載具、行動醫療與資料探勘等，本文將聚焦觀察與「醫療器材」最密切相關之行動醫療領域)之相關法令規範所做之衝擊評估結果，又到底有何發現？且又提出了那些個重要建議。
- 歐盟COM(2018) 237 final文件重點概覽
首先，關於筆者在上文所提到的「歐洲人工智慧政策」(Artificial Intelligence for Europe，COM(2018) 237 final)文件，其內容，大致從全球競爭環境下所處地位之分析、闡明歐盟制訂整體政策之強大政治基礎、到定調其AI產業未來可能的發展方向，來嘗試描繪歐盟所提AI政策之輪廓，現擇要整理於下：
(一) 知己知彼-競爭激烈國際形勢下歐盟之地位：
1. 多數已開發國家皆認知到-AI具改變遊戲規則之本質，並各自採用可反映本身政治、經濟、文化及社會特徵之AI政策，例如：
(一) 知己知彼-競爭激烈國際形勢下歐盟之地位：
1. 多數已開發國家皆認知到-AI具改變遊戲規則之本質，並各自採用可反映本身政治、經濟、文化及社會特徵之AI政策，例如：
- 美國政府提出「AI戰略」，挹注近9億7千萬歐元之資金於Unclassified AI Research。
- 而中國大陸則提出了「下一代人工智慧發展計劃」，其目標是到2030年時要成為全球AI之領導者並在其他國家進行龐大投資。
- 至日本及加拿大等國，也各自提出了具該國特色之AI戰略。
2. 弱項分析：據估計，2016年亞洲及北美兩大經濟體在AI領域之投資總額(分別是亞洲為65-97億歐元、北美為121-186億歐元) 歐洲之投資總額大約為24-32億歐元，暫居落後地位。
3. 強項分析：歐洲擁有世界級AI研究社群、新創企業家及高科技新創公司，並擁有強大工業力，生產超過全球1/4以上之工業級與專業服務機器人，且於製造、醫療照護、交通運輸及太空技術等領域，均處全球領先地位(而這些領域未來也將會越來越依賴AI)。
4. 未來努力方向：將朝持續創造投資機會來促進對AI領域資金之挹注、努力確保整個經濟體中AI技術之普及化、大幅提升具備基本數位技能之勞動人口等方向努力。
(二) 攜手合作-以強大政治上認可為碁石：
1. 於2018年4月10日，歐盟25個會員國領導者共同簽署了一份合作宣言，未來將就AI領域發展進行合作，並在此種強大政治認可之基礎上，實現如下願景：
3. 強項分析：歐洲擁有世界級AI研究社群、新創企業家及高科技新創公司，並擁有強大工業力，生產超過全球1/4以上之工業級與專業服務機器人，且於製造、醫療照護、交通運輸及太空技術等領域，均處全球領先地位(而這些領域未來也將會越來越依賴AI)。
4. 未來努力方向：將朝持續創造投資機會來促進對AI領域資金之挹注、努力確保整個經濟體中AI技術之普及化、大幅提升具備基本數位技能之勞動人口等方向努力。
(二) 攜手合作-以強大政治上認可為碁石：
1. 於2018年4月10日，歐盟25個會員國領導者共同簽署了一份合作宣言，未來將就AI領域發展進行合作，並在此種強大政治認可之基礎上，實現如下願景：
- 打造AI領域之全球競爭力：擴大各類資金對於此領域之投資，支援AI相關研究及創新，以開發並有效運用下一代AI技術，並確保歐洲境內之中/小型企業有99%之業務，均可採用AI。
- 於數位化轉型過程中不遺落任何人：AI正從本質上改變我們的工作，有某些工作將會被創造，而某些工作將會消失，但絕大多數工作將會被轉變，基此，為使所有歐洲人民均有機會可獲得因應將來工作轉型所需之技能，各會員國應將各級教育之現代化作為優先事 項。
- 以歐盟本身價值觀為基礎：已實施之歐盟「一般資料保護規則」(General Data Protection Regulation，簡稱GDPR)，是建立彼此信賴之重要步驟，其對建立民眾與企業間長期良好之關係來說，實屬必要；而根據歐盟政府之說法，這就是歐盟在以其本身價值觀為基礎前提下，對新興科技發展所採之永續性方法，並藉以創造其獨特之競爭優勢。不過，如同其他新興科技，某些AI技術之應用，很可能會引發新的倫理及法律面問題(例如：責任歸屬或潛在決策偏誤)，故通盤來看，歐盟必須確保其AI技術，未來將在一個促進創新、尊重歐盟本身價值觀、人民基本權利及倫理原則之規範架構下，進行開發及應用。
(三) 落實歐盟AI發展合作宣言-創設「歐洲AI倡議計畫」：
1. 此項倡議計畫，是在以上述25個會員國所共同簽署之合作宣言為基礎前提下，擬訂相關政策目標，包括：
- 提升歐盟之技術與產業能力並吸納AI跨整體經濟(包括經私部門與公部門)：此包含促進研發投資及創新，與發展更好之資料近用模式。
- 為社會-經濟轉型預作準備：藉由鼓勵現代化教育及訓練、改變人才培育、因應與支援勞動市場之預期變化與過渡期、適當調整社會保護系統等方法，來妥善處理隨著AI發展所可能帶來之社/經環境變遷。
- 確保一個合適之倫理及法律規範架構：要以歐盟本身之價值觀為基礎 並符合「歐盟基本權利憲章」之規範精神來進行架構，此包含，就針對既有產品相關責任歸屬所而即將訂定之指引文件、對所正面臨之新興科技挑戰進行詳細分析、及透過歐洲AI聯盟與利益相關者彼此溝通合作等方式，來制訂出最適於歐盟AI發展之倫理指引文件。
2. 針對上述合作事項，各會員國將透過一項「AI協調計畫」來共同加以落實。
(四)「歐洲AI倡議計畫」細部內容摘要：
於上述三項政策目標下，尚包括各自之細部措施，為利讀者能快速掌握，現摘要說明於下：
1. 提升歐盟之技術與產業能力並吸納AI跨整體經濟：
(四)「歐洲AI倡議計畫」細部內容摘要：
於上述三項政策目標下，尚包括各自之細部措施，為利讀者能快速掌握，現摘要說明於下：
1. 提升歐盟之技術與產業能力並吸納AI跨整體經濟：
- 加大投資：針對可強化AI領域之研究及創新、鼓勵檢測及實驗、強化AI卓越研究中心等部分進行投資，期望至2020年底，於AI領域之投資總額可超過200億歐元(這將使歐盟處於有利地位並可增加其未來十之成長力道)。
- 強化從實驗室到市場之研發與創新：將支援包含基礎或工業兩項領域中之AI技術發展 包括針對關鍵應用領域計畫之投資(例如：健康、互聯、自動駕駛、農業、製造業、能源、安全、公共管理等)，這些資金還將會強化體現的AI/機器人學門之優勢。
- 支持跨歐洲AI研究卓越中心：在會員國共同建立以AI為重點之研究中心基礎上，將支持並強化跨歐洲AI研究卓越中心並促進其合作及網絡之建立。
- 將AI帶給所有小型企業及潛在用戶：將支持「AI隨選平台」(AI-on-Demand Platform)之開發，以促進所有潛在用戶使用AI，尤其是中小型企業、來自於非技術領域之公司、及公共行政部門，掌握最新AI技術，並鼓勵其測試AI。
- 支援檢測及實驗：AI產品及服務之檢測與試驗，對確保其符合安全標準及規則至關重要，歐盟將支持可向所有地區及各種規模商業活動開放之檢測及試驗設施。
- 吸引私人投資：將啟動歐洲戰略性投資基金，以吸引私人資金對於支援AI發展及使用方面之投資，並作為歐洲致力於數位化之一部。
- 使更多資料可被取得：強加開放與解鎖公部門資訊及由政府資助之研究計畫成果之重複使用。
2. 為社會-經濟轉型預作準備：
- 不遺落任何一人：聚焦培養勞動人口及所有公民之數位技能，並將繼續支持有關人類與人工智慧互動與合作的研究。
- 孕育人才、多樣性及跨學科性：努力增加受過AI方面訓練之人口數並鼓勵人才多樣性(包括跨學科領域人才)，同時也應朝打造歐洲成為一個具人才吸引力之工作環境之方向前進。
3. 確保一個適切之倫理及法律規範架構：
- 研擬AI倫理指引文件：將在考量「歐洲基本權利大憲章」規範精神之前提下，於今(2018)年底草擬一份AI倫理指引文件。
- 安全與責任：將評估有關安全性、國家層級與歐盟層級之責任規範架構，是否可符合這些新興挑戰？或是否存在著任何急待處理之規範上缺口？並將啟動一項針對AI及新興技術規範架構之專案評估計畫， 以進一步分析所面臨之法規管理上挑戰。
- 使個人及消費者能充分的利用AI：將聚焦於公司-消費者間使用以AI為基礎之相關工具所進行之商業交易行為應符合消費者相關法規，及要求此類以AI為基礎相關產品應就其使用、特徵及性質提供相關資訊等面向上。
- 人工智慧於法律與法規上衝擊評估報告書概要(聚焦行動醫療領域)
有關此份由歐洲JRC於今(2019)年所公布之聯合執行專案計畫成果報告書之重點內容，說明如下(筆者僅針對行動醫療領域部分進行整理)：
(一) 報告摘要：
(一) 報告摘要：
- 關於EIT/JRC聯合計畫，其主要目的，是要探索並鑑別出使用AI技術將可能會給新創公司在法律及法規遵循上所帶來之挑戰，並嘗試提升外界對所存在潛在障礙之意識。本項報告還包含了「AI於法律與法規上衝擊評估研討會」之論文摘要，以及由參與本計畫執行之專家學者所提出之3篇論文與計畫執行成果。
- 在研討會中，講者介紹了歐盟之政策願景(如上段文章所提)、EIT創新項目之具體案例，並分享了「潛在的責任賠償基本問題-因AI系統所造成之重大損壞」之研究，至於所提到之3篇論文，主要針對3個特定領域(即自動化無人駕駛載具、行動醫療及資料探勘等領域)提供詳細見解。
- 有關行動醫療之專家論文重點，介紹了套用GDPR規定下所引發之疑慮，並進一步於其他方面較細節的提供了解決方案，例如：資料「可攜權」與「知識財產權」間之緊張關係、套用現行醫療器材法規至行動Apps產品問題、及於責任規範上之差異。
- 最後結論是，透過此項聯合計畫之執行，已鑑別出跨部門之法規缺口，應有需要在法令規範上進行必要之調整，而專家學者亦點明，在解決問題時，政策制定者當與相關從業人員緊密合作，以產生相關、有用且衡平之立修法措施。
(二) 新興與破壞性科技對法律與法規所造成衝擊之評估：行動醫療領域
1. 研究評估之範圍：
依報告書內容，這部分的分析，主要是從在電子化醫療領域中較為活躍之新創公司的角度出發，重點擺放在當使用由AI所驅動之行動醫療App.時，其將可能面哪些法律(或法規)上的挑戰。
2. 資料保護與相關法令遵循之挑戰：
1. 研究評估之範圍：
依報告書內容，這部分的分析，主要是從在電子化醫療領域中較為活躍之新創公司的角度出發，重點擺放在當使用由AI所驅動之行動醫療App.時，其將可能面哪些法律(或法規)上的挑戰。
2. 資料保護與相關法令遵循之挑戰：
(1) 歐盟資料保護規定
- 於電子化醫療領域中之醫療照護流程中，除涉及醫師與非醫師間就多種學科間之交互作用(基於各自對病患健康資料之近用)外，還涉及新的參與者，例如：應用程式開發商、操作系統製造商、器材製造商以及應用程式販售商及第三者方(例如：廣告商)等等
- 行動醫療App.之開發與使用，必須遵守歐盟GDPR及隱私保護相關規定，亦即歐盟於規範上，鼓勵使用「匿名化資料」或至少使用「擬匿名化資料」(Pseudonymized Data)，對使用非擬匿名化資料之情形，應盡量減少並儘快進行擬匿名化或匿名化處理。又，最小化原則與擬匿名化處理，在概念上具高度相關性，因兩者均追求對當事人隱私權之最小影響。
(2) 未經充分告知下之同意問題：
- 於醫療照護領域中，「同意」是一項相當重要的概念，其超越資料保護之觀點，而是從病患自決權之角度，來加以判斷。
- 歐盟專家指出，於利用AI驅動之環境下，對於資料主體之告知可能會不夠清楚，而原因是因為，其告知之範圍並未涉及到用來運行AI之邏輯演算法。
- 又，在許多行動醫療App.案例中，就提供病患之說明，多半是英語版本，但在歐洲境內，英語版之說明內容，並不一定可被實際所有使用之民眾所瞭解。
- 綜上，於實務踐行GDPR Article 7規定時，將可能存在著「所取得的同意多屬未經充分告知下之同意」此項風險。
(3) 某些GDPR規定之其他挑戰：
- 「被遺忘的權利」(刪除權)：一些在電子化醫療領域積極發展之新創公司指出，他們並未有足夠可鑑別使用者身分之資訊，可協助其遵守此項權利，因此，此項權利或可能將成為日後行動醫療App.使用上之一項挑戰。
- 「資料可攜權」(資料可被攜帶之權利)：有關GDPR「資料可攜權」之規定，係指資料主體有權利收到先前由其所提供給資料管控者，經自動化處理後之「與其有關」之個人資料。
(a) 此項權利對未來開發以AI為基礎之行動醫療App.而言，或可能會是一項挑戰，因為在AI環境下，很可能將難以證明，究竟哪些資料是由AI所產生的？而又那些資料是先前由資料主體所主動提供的？
(b) 此項權利可適用於，由資料主體所提供之資料，及藉由觀察某資料主體之個人行為所產生之觀察結果資料，不過，就經由分析資料主體之個人行為所產生之個人資料(例如：關於使用者健康之得分數或評估結果)，則並不會落入「資料可攜權」範圍內。
3. 智慧財產保護上所面臨之挑戰：
- 在廠商開發新電子化醫療系統或行動醫療App.時，其創新成果需要藉由智慧財產權來加以保護，以確保可為其研發投資取得商業上回報，這種情形，在競爭激烈之AI領域則更是明顯。
- 報告書點出，在行動醫療領域中，若從應讓使用者能在無障礙的情況下自由變更服務提供者之角度來看，前述情況對於病患因後續追蹤照護上需求而可能必需變更不同之服務提供者來說，將產生潛在影響，換句話說，智財保護很可能將與歐盟GDPR之資料可攜性規定產生衝突。
- 另外，報告書還指出，缺乏開放性，將減少可用來供訓練並改進AI系統所使用演算法相關資料之取得，因此建議歐盟政府，未來應提升Open Data之運用，以讓歐盟境內中/小型新創公司，可在受較小限制下，持續開發新AI系統。
4. 現行歐盟醫療器材管理架構下法令遵循之挑戰：
- 就歐盟現行所採之醫療器材定義之適用，有不少以AI為基礎之行動App.產品之製造商反映，於設計開發之初，其很難知道所開發之產品，是否屬歐盟法規範上所定義之一種醫療器材或者是一種醫療器材之附加元件(又或者其根本就不是醫療器材)，因為，如當廠商所製造之行動App.確實落入歐盟Regulation (EU) 2017/745所定義之醫療器材範圍時，廠商即有遵守CE標示與提供產品相關資料之義務，然而，對製造商來說，所開發之產品是否必須遵循醫療器材法規規定，尚存在著相當程度之未知，而除缺乏法令遵循之相關知識外，就取得CE標示之法規遵循成本，對一開始開發此類以AI為基礎之行動App.廠商來說，或可能充滿著不確定性。
- 考量目前可在行動App.販售商處取得之某些與健康相關之行動App.，並無品質管控(例如：未遵守保密或資訊安全義務)，易使大眾缺乏對此類產品之信任 故為避免此種情形發生，歐盟專家建議，就單純供健康管理方面所使用之行動App.產品，或需要創設某種品質認證標章 來加以管控。
5. 責任分配方面之挑戰：
(1) 製造商：
- 軟體/產品製造商之責任，通常擺放在醫療器材/軟體產品層次，其具需遵循相關得適用之法令規定義務，例如：歐盟Regulation (EU) 2017/745及歐盟GDPR有關隱私保護之相關規定。
- 於實務上，就所開發產品是否落入法規範上所定義之醫療器材範圍？製造商也必須具備一定之敏感度。
(2) 醫師：
- 可能情況之一：於診療過程中，當使用以AI為基礎之醫療器材產品時，假如發生某些診療上重要資訊被少部分資訊加以隱藏(或取代)而產生缺失之情形時，就因此而導致病患產生之任何損害，該由誰來負責？
- 可能情況之二：假如醫師根據由以AI為基礎之醫療器材軟體所提供之不正確資訊(即演算法錯誤)而做成決定 並進一步造成病患健康損害時，該由誰來負責？
(3) 病患：於假定病患濫用此類醫療器材，因發送不正確之資訊給醫師而導致錯誤之醫療介入(對病患健康造成損害)之情形下，是否能基於「可歸責於當事人之事由」而將部分或全部責任分配給該病患？或又該由誰來擔負前述責任？
綜合上述，在跟著讀者們一次瀏覽兩份文件後，筆者也隨之整理出了以下幾點心得，供大家回顧及參考：
(一) 關於「歐盟AI政策」部分：
就歐洲AI政策規劃，其重心大致是擺放在：1.要大幅提升境內對AI領域相關投資資金(例如：AI技術之創新研發、公/私資金整合)；2.要強化歐盟勞動人口數位化技能之訓練與AI技術人才之培育(以預先因應未來社會-經濟轉型所將造成之衝擊)；3.要以歐盟本身價值觀為基礎，來建構一個適於歐盟AI技術發展之倫理與法律規範架構。而姑不論前兩項政策措施，是否真能為歐洲境內AI發展注入一劑強心劑，並發揮緩減部分社/經衝擊之效果？不過，我們從第3點政策方向來看，歐盟對於AI技術與相關產業發展，是確實循著「倫理、法律、社會」三面規範這基本架構來走，換句話說，其對AI科技所訂定之倫理規範，理論上，未來將會更深入的影響各部門及相關領域對「以AI為基礎」相關產品之開發與上市規範之訂定，而根據筆者觀察，確實，在歐盟正式公布其AI政策後，包括歐盟執委會在內的各重要機構，均已開始依著所列政策方向，開始了一連串的立修法動作，除於2019年提出最終版AI倫理指引文件外，在醫藥領域中，歐洲藥品管理局(European Medicine Agency)更在其所提出「EMA到2025年之法規科學策略」中進一步納入並運用AI技術」，而筆者估計，就歐盟所提出之新醫療器材規則(即Regulation (EU) 2017/745)，雖然公布之時間點略早於上述AI政策與倫理指引文件，但依據上文所提法規影響評估報告結果，在新醫療器材管理架構下，也的確存在著法規缺口，因此，就後續的法規補強而言，其實沒有所謂的會不會發生的問題，而僅是時間上的問題而已，至於歐盟將如何進行醫療器材管理上之補強或修正？將是後續值得觀察之重點之一。
(二) 關於「歐盟針對行動醫療領域法規衝擊評估」部分：
對於在法規影響評估報告中，針對幾項重要規範而由歐盟專家所提出之評估意見，也還有幾點值得我們思考之處：
1. 關於醫療器材管理部分：
除上述所提歐盟未來將就其新醫療器材規範架構適度進行補強外，對於開發以AI為基礎之行動App.或電子化醫療系統之廠商來說，也必須先一步培養內部人員，使其具備以AI為基礎之醫療器材軟體或相關產品法令遵循之基本知識，以事先降低其開發產品將來上市管理之不確定性及法規遵循上不必要之風險；而又，對於此類產品將來上市後，就廠商-醫師-病患間對於「因使用以AI為基礎產品所導致病患健康產生重大損害」之責任歸屬問題，根據上開報告中專家所提出之疑問，似也暗示著，未來或可能將於法律面上進行某種程度之調整或分配，值得多加注意。
2. 關於資料保護部分：
從通篇報告來看，歐盟GDPR規定，其實對於歐洲境內之一般大眾來說，確實是非常嚴謹(筆者還是決定使用較溫和的字眼形容而不是「過於嚴謹」)，但一如其專家學者於報告書中所言，這些嚴格的規定以及所創造出來的新權利，例如：「被遺忘的權利」或者是「資料可攜權」，對於歐盟境內行動醫療領域之中/小型企業來說，除增加其成本負擔外，還存在著不易落實的問題，不利其未來發展，所以，歐盟政府後續是否將會依其境內行動醫療領域中/小型企所表達之意見，進一步修正GDPR相關規定(或提出例外性規範)，則或也是一另一個值得持續觀察的重點之一。
3. 關於智財保護&Open Data部分：
雖然，於上述評估報告書中有專家學者提到，從病患因後續照護需求而可能需要切換電子化醫療照護服務供應商的觀點來看，GDPR規定的「資料可攜權」，將可能會與智財保護相衝突，但，這是從「便利民眾自由切換服務商」及「促進境內中/小型新創企業發展」等面向來加以思考所提出之意見，如果我們是站在「長期自由市場競爭競爭結果」及「企業成長&併購整合」等角度來看，或許，所作出的結論，很可能就會非常的不一樣！而不論如何，筆者覺得報告書中比較合理的部分，是在於「提倡Open Data」的部分，因為，這項建議的重點，其實並不在於消除市場競爭面之進入障礙，而是在於以AI技術為基礎之軟體或產品均需要龐大的數據資料來進行訓練此點上，一個比較偏向實務面的思考是，對於利用在醫療領域可輔助醫師進行診療之AI軟體或系統，其出現判斷偏誤的機會，基本上應是取決於先前所提供訓練資訊的多寡(此不考慮設計上的問題)，換句話說，可供AI訓練之資料量越多，原則上也就越能讓AI發揮其預期功能，並減少因例外情形出現(在這裡指的是沒有被包含在AI訓練資料內之案例)所導致之誤判或提供偏誤資訊，而在這個脈絡下，與其烏托邦式的期待私人企業自願性的釋出其具商業價值之私有化資源，解鎖並開放歐盟20多的會員國公部門或公共事業所收集之龐大資料，反倒是一個較可能協助企業提升所開發以AI為基礎相關產品功效與減低偏誤機率的不錯方案，只不過，如進一步將前述思維推及至生技醫藥領域中(例如：醫療器材或藥品上市行政管理)，則究竟哪一型之資料可以解鎖開放？而又那些類型之資料是屬於涉及廠商商業機密而不適於開放之資料？將會是歐盟政府後續推動境內AI技術與相關產品發展時所必須解決之另一項重要挑戰！
就歐洲AI政策規劃，其重心大致是擺放在：1.要大幅提升境內對AI領域相關投資資金(例如：AI技術之創新研發、公/私資金整合)；2.要強化歐盟勞動人口數位化技能之訓練與AI技術人才之培育(以預先因應未來社會-經濟轉型所將造成之衝擊)；3.要以歐盟本身價值觀為基礎，來建構一個適於歐盟AI技術發展之倫理與法律規範架構。而姑不論前兩項政策措施，是否真能為歐洲境內AI發展注入一劑強心劑，並發揮緩減部分社/經衝擊之效果？不過，我們從第3點政策方向來看，歐盟對於AI技術與相關產業發展，是確實循著「倫理、法律、社會」三面規範這基本架構來走，換句話說，其對AI科技所訂定之倫理規範，理論上，未來將會更深入的影響各部門及相關領域對「以AI為基礎」相關產品之開發與上市規範之訂定，而根據筆者觀察，確實，在歐盟正式公布其AI政策後，包括歐盟執委會在內的各重要機構，均已開始依著所列政策方向，開始了一連串的立修法動作，除於2019年提出最終版AI倫理指引文件外，在醫藥領域中，歐洲藥品管理局(European Medicine Agency)更在其所提出「EMA到2025年之法規科學策略」中進一步納入並運用AI技術」，而筆者估計，就歐盟所提出之新醫療器材規則(即Regulation (EU) 2017/745)，雖然公布之時間點略早於上述AI政策與倫理指引文件，但依據上文所提法規影響評估報告結果，在新醫療器材管理架構下，也的確存在著法規缺口，因此，就後續的法規補強而言，其實沒有所謂的會不會發生的問題，而僅是時間上的問題而已，至於歐盟將如何進行醫療器材管理上之補強或修正？將是後續值得觀察之重點之一。
(二) 關於「歐盟針對行動醫療領域法規衝擊評估」部分：
對於在法規影響評估報告中，針對幾項重要規範而由歐盟專家所提出之評估意見，也還有幾點值得我們思考之處：
1. 關於醫療器材管理部分：
除上述所提歐盟未來將就其新醫療器材規範架構適度進行補強外，對於開發以AI為基礎之行動App.或電子化醫療系統之廠商來說，也必須先一步培養內部人員，使其具備以AI為基礎之醫療器材軟體或相關產品法令遵循之基本知識，以事先降低其開發產品將來上市管理之不確定性及法規遵循上不必要之風險；而又，對於此類產品將來上市後，就廠商-醫師-病患間對於「因使用以AI為基礎產品所導致病患健康產生重大損害」之責任歸屬問題，根據上開報告中專家所提出之疑問，似也暗示著，未來或可能將於法律面上進行某種程度之調整或分配，值得多加注意。
2. 關於資料保護部分：
從通篇報告來看，歐盟GDPR規定，其實對於歐洲境內之一般大眾來說，確實是非常嚴謹(筆者還是決定使用較溫和的字眼形容而不是「過於嚴謹」)，但一如其專家學者於報告書中所言，這些嚴格的規定以及所創造出來的新權利，例如：「被遺忘的權利」或者是「資料可攜權」，對於歐盟境內行動醫療領域之中/小型企業來說，除增加其成本負擔外，還存在著不易落實的問題，不利其未來發展，所以，歐盟政府後續是否將會依其境內行動醫療領域中/小型企所表達之意見，進一步修正GDPR相關規定(或提出例外性規範)，則或也是一另一個值得持續觀察的重點之一。
3. 關於智財保護&Open Data部分：
雖然，於上述評估報告書中有專家學者提到，從病患因後續照護需求而可能需要切換電子化醫療照護服務供應商的觀點來看，GDPR規定的「資料可攜權」，將可能會與智財保護相衝突，但，這是從「便利民眾自由切換服務商」及「促進境內中/小型新創企業發展」等面向來加以思考所提出之意見，如果我們是站在「長期自由市場競爭競爭結果」及「企業成長&併購整合」等角度來看，或許，所作出的結論，很可能就會非常的不一樣！而不論如何，筆者覺得報告書中比較合理的部分，是在於「提倡Open Data」的部分，因為，這項建議的重點，其實並不在於消除市場競爭面之進入障礙，而是在於以AI技術為基礎之軟體或產品均需要龐大的數據資料來進行訓練此點上，一個比較偏向實務面的思考是，對於利用在醫療領域可輔助醫師進行診療之AI軟體或系統，其出現判斷偏誤的機會，基本上應是取決於先前所提供訓練資訊的多寡(此不考慮設計上的問題)，換句話說，可供AI訓練之資料量越多，原則上也就越能讓AI發揮其預期功能，並減少因例外情形出現(在這裡指的是沒有被包含在AI訓練資料內之案例)所導致之誤判或提供偏誤資訊，而在這個脈絡下，與其烏托邦式的期待私人企業自願性的釋出其具商業價值之私有化資源，解鎖並開放歐盟20多的會員國公部門或公共事業所收集之龐大資料，反倒是一個較可能協助企業提升所開發以AI為基礎相關產品功效與減低偏誤機率的不錯方案，只不過，如進一步將前述思維推及至生技醫藥領域中(例如：醫療器材或藥品上市行政管理)，則究竟哪一型之資料可以解鎖開放？而又那些類型之資料是屬於涉及廠商商業機密而不適於開放之資料？將會是歐盟政府後續推動境內AI技術與相關產品發展時所必須解決之另一項重要挑戰！
參考資料
- For more information about the “Joint Research Centre”, please refer to this website：https://ec.europa.eu/info/departments/joint-research-centre
- About the full article of the “Artificial Intelligence for Europe (COM(2018) 237 final)”, available at：https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=COM%3A2018%3A237%3AFIN
- For more information about the “High-Level Expert Group on Artificial Intelligence”, please refer to this website：https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence
- For more information about the “Legal and regulatory implications of Artificial Intelligence. The case of autonomous vehicles, m-health and data mining.”, please refer to this website：https://ec.europa.eu/jrc/en/publication/legal-and-regulatory-implications-artificial-intelligence-case-autonomous-vehicles-m-health-and-data
- For more information about the “EU Member States sign up to cooperate on Artificial Intelligence”, please refer to this website：https://ec.europa.eu/digital-single-market/en/news/eu-member-states-sign-cooperate-artificial-intelligence
- About the full article of the “Legal and regulatory implications of Artificial Intelligence. The case of autonomous vehicles, m-health and data mining.”, available at：https://publications.jrc.ec.europa.eu/repository/bitstream/JRC116235/jrc116235_report_on_ai_%281%29.pdf
- For more information about the “EU General Data Protection Regulation”, please refer to this website：https://eugdpr.org/the-regulation/
文章標籤
全站熱搜
留言列表
國內法規動向觀察與評析 (5)
