「自律型手術ロボットの法律問題(2026)その1-自律型手術支援システムの実験と医師法17条の発展提案」(以下、エントリーその1といいます)として、自律型手術ロボットの自律性についてどのように考えるべきかということをみてみました。
そこで、残された他の法律問題についてかんがえてみたいと思います。
祝テンバガー・DaVinci手術システムと「医療ロボットの法律問題」(2017) (10バガーメモ)と比較した場合、なおも、システム自体の問題として②安全・セキュリティ、③透明性・許容性が残されました。また、関係者に関するリスク対応の問題があることを指摘しました。
1 残されたシステム自体の法的リスク対応
1.1 医療機器とサイバーセキュリティ
完全な自律型手術ロボットを考えた場合に、プログラム自体が、医療機器と認識されることは、10バガーメモでふれたとおりです。また、そこでは、「プログラムの医療機器への該当性に関する基本的な考え方について」(薬食監麻発1114 第５号) が妥当することでいいと思います。10バガーメモは、2016年当時の状況をもとにするメモでしたが、そのあと、発展が見受けられます。
「基本要件基準」(令和5年厚生労働省告示第67号)を読む
「基本要件基準」は、薬機法第41条第3項に基づき厚生労働大臣が定める告示(平成17年厚生労働省告示第122号)で、正式名称は「医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律第41条第3項の規定により厚生労働大臣が定める医療機器の基準」です。これは医療機器が具備すべき品質・有効性・安全性に係る基本的な要件を規定したもので、リスクマネジメントの適用によってリスクを許容可能な範囲まで低減することを要求しています。
最も重要な近年の改正は、サイバーセキュリティに関するものです。医療機器の基本要件基準は令和5年3月9日に改正され、サイバーセキュリティに関する要求事項が第12条第3項として新たに規定されました(令和5年厚生労働省告示第67号)。適用は令和5年4月1日からで、1年間の経過措置期間が設けられ、適合が必要な医療機器は令和6年4月1日までは従前の例によることができるとされました。また、厚生労働省は、医療機器のサイバーセキュリティについて「医療機器におけるサイバーセキュリティについて」というページで整理がなされています。
第12条第3項は、
プログラムを用いた医療機器のうち、他の機器及びネットワーク等と接続して使用する医療機器又は外部からの不正アクセス及び攻撃アクセス等が想定される医療機器については、当該医療機器における動作環境及びネットワークの使用環境等を踏まえて適切な要件を特定し、当該医療機器の機能に支障が生じる又は安全性の懸念が生じるサイバーセキュリティに係る危険性を特定及び評価するとともに、当該危険性が低減する管理が行われていなければならない。また、当該医療機器は、当該医療機器のライフサイクルの全てにおいて、サイバーセキュリティを確保するための計画に基づいて設計及び製造されていなければならない。
と定めています。ここでは、対象となる医療きが明確化されたもと
- リスクの特定・評価・管理(他の機器やネットワーク等と接続して使用するもの、又は外部からの不正アクセス・攻撃が想定されるものについては、当該医療機器における動作環境及びネットワークの使用環境等を踏まえて適切な要件を特定し、機能に支障が生じる又は安全性の懸念が生じるサイバーセキュリティに係る危険性を特定・評価するとともに、その危険性を低減する管理を行わなければならない)
- ライフサイクル全体での計画的な設計・製造(当該医療機器は、そのライフサイクルの全てにおいて、サイバーセキュリティを確保するための計画に基づいて設計及び製造されていなければならない)
とされています。
適用通知(令和5年3月31日薬生機審発0331第8号)
適用通知(令和5年3月31日薬生機審発0331第8号「医療機器の基本要件基準第12条第3項の適用について」)の内容をみます。そこでは、改正の趣旨の説明がなされています。具体的には、
プログラムを用いた医療機器に対しサイバーセキュリティを確保するための設計及び製造、ライフサイクル活動として、①製品の全ライフサイクルにわたって医療機器サイバーセキュリティを確保する計画を備えること、②サイバーリスクを低減する設計及び製造を行うこと、③適切な動作環境に必要となるハードウェア、ネットワーク及びITセキュリティ対策の最低限の要件を設定すること、の３
つの観点を基本要件基準に盛り込む
こととなったと解説されています。
さらに、条文の要点・解釈(五項目)を示した上に、 適用・適合性の確認について論じます。具体的には、
- 製造販売業者等はこれまでもJIS T 2304によってソフトウェアライフサイクル全体を通じたリスクマネジメントを求められてきたが、これに加えてJIS T 81001-5-1によってサイバーセキュリティ対策を強化し、リスクを許容可能な範囲まで低減して患者への危害の発生・拡大の防止に繋げる必要があるとされています。
- 適合性確認の手段として、JIS T 81001-5-1のほか、IEC 81001-5-1等の国際的に用いられている適切な規格への適合性を確認することをもって第12条第3項への適合を確認したものとして差し支えないとされ、ただし承認・認証申請に際してはそれらの規格を用いることの妥当性を説明することが求められます。
- 体制と記録について、製造販売業者等は、サイバーセキュリティ確保の確認・検証を適切に考慮・実施する体制を整備し、その適合に関する確認等の実施を適切に記録し保管することが求められ、薬機法第23条の2の5第7項等の規定による調査権者の求めに応じて資料を提示し適切な説明を行わなければならないとされています。
- 申請資料について、高度管理医療機器又は管理医療機器の承認・認証申請では、JIS T 81001-5-1等への適合性を示す資料の添付が必要とされ、一般医療機器も同様に適合性確認は必要だが届出の際の資料添付は要しないとされています。
脆弱性の管理等について
医療機器のサイバーセキュリティを確保するための脆弱性の管理等について（令和6年３月28日医薬機審発0328第1号・医薬安発0328第3号） も発出されています(リンク)。本文は「脆弱性の管理」「サイバー攻撃への対応」「その他」の三部構成です。
この通知としては、脆弱性を
システムのセキュリティポリシーを破るために悪用される可能性のある、システムの設計、導入又は運用管理における欠陥又は弱み
というJISの定義を採用した上で、
医療機器製造販売業者等は、当該医療機器の脆弱性について、特定、評価、開示、修正等を行う必要がある
として、脆弱性の管理について、第1部 脆弱性の管理(四つの留意事項)と第2部 サイバー攻撃への対応(四つの留意事項)をあげています。
脆弱性の管理については
- 脆弱性の特定・検出のための情報収集
- 脆弱性情報を入手した際の手順確立
- 脆弱性確認時の対処と開示
- 体制構築と日常的対応
があげられています。また、サイバー攻撃への対応においては、
- 製造する医療機器に関する必要な情報を医療機関等へ提供し適時更新すること。
- 医療機関に対し、サイバーセキュリティに関する保守計画、インシデントを処理するためのポリシー及び役割について説明した上で、医療機器を納入すること。
- 医療機器が関係するサイバー攻撃を医療機関が受けた場合、予め整理した内容に基づき医療機関と連携し、医療提供の復旧に協力すること。
- 必要に応じてIPAの情報セキュリティ安心相談窓口又はJPCERT/CCへ相談できることに留意すること、
とされています。
脆弱性の特定・評価・開示・修正という四つの行為を、外部機関からの情報収集と外部機関への届出・公表調整を介して回す仕組みです。
1.2 「故障の概念」の再検討
10バガーメモにおいて、サイバーリスクと能動型医療機器基準（12条）の解釈で、「実際に正常な情報処理がなされないことがあって初めて『故障』といえる」と解釈すべきだとしました。
第十二条 プログラムを用いた医療機器(医療機器プログラム又はこれを記録した記録媒体たる医療機器を含む。以下同じ。)は、その使用目的に照らし、システムの再現性、信頼性及び性能が確保されるよう設計されていなければならない。また、システムに一つでも故障が発生した場合、当該故障から生じる可能性がある危険性を、合理的に実行可能な限り除去又は低減できるよう、適切な手段が講じられていなければならない。
その意味で脆弱性の存在自体は「故障」ではない、としました。この理は、「故障」という概念とは別に新たに規定されました上記のサイバーセキュリティに関する要求事項の
３ プログラムを用いた医療機器のうち、他の機器及びネットワーク等と接続して使用する医療機器又は外部からの不正アクセス及び攻撃アクセス等が想定される医療機器については、当該医療機器における動作環境及びネットワークの使用環境等を踏まえて適切な要件を特定し、当該医療機器の機能に支障が生じる又は安全性の懸念が生じるサイバーセキュリティに係る危険性を特定及び評価するとともに、当該危険性が低減する管理が行われていなければならない。また、当該医療機器は、当該医療機器のライフサイクルの全てにおいて、サイバーセキュリティを確保するための計画に基づいて設計及び製造されていなければならない。
という規定において
機能に支障が生じる又は安全性の懸念が生じるサイバーセキュリティに係る危険性
という概念が、定義がされているので、これは、故障ではないということが確認されたということでいいと思われます。
ところが自律手術AIでは、この「故障/正常」の二分法に限界が生じることになるのではないかという問題が生じます。「情報処理は正常になされているが、判断の質が臨床標準を下回る」場合をどう法的に評価するか、ということです。「判断の質が臨床標準を下回る」というのは、モデルの精度が98%だとして、残り2%の誤りは個別に特定可能な設計上の瑕疵ではなく、全体としては有用な設計が統計的に残す残差ということになって、これが発現した場合に、それは、「判断の質が臨床標準を下回る」ことになるのではないか、ということです。
もっとも、「臨床標準を下回る」といっても、「臨床標準」というのが、明確にきめられるものではないでしょうし、結局、具体的な事案をもとに、自律型手術ロボットの判断が、普通の医師だったたらそんな判断はしない、というようなレベルなのかということが判断されるということになるだをと考えられます。「自律型手術ロボットの法律問題(2026)その1-自律型手術支援システムの実験と医師法17条の発展提案」において作成した自律型手術支援システムの実装と責任に関する法律（試案） の 第7条1項3号は、事後の確認のみの場合にせよ、手術時点における医師の監督がない場合を認めています。その場合の医療機器の認定については、このようなレベルをもとにきめることになるものと考えられます。
では、そのようなシステムで、確率的に発生する例外的な事象に対して、どのように対応するか、ということについては、無過失補償基金をせっていすべきことで解決すべきとするわけです。これも、上の思案の中で、
本試案は次の三つの規律を一体のものとして提案する。第一に、一定の要件を充たす自律型手術支援システムによる動作を医師法第 17 条の医業独占の例外とする行為規制の解除（第 2 章）。第二に、当該システムによる医療事故について患者を確実に救済し、医療法人に滞留する損失を社会的に分散する無過失補償基金（第 3 章）。第三に、機械の判断形成を事後に再構成可能とし、説明義務の履行と原因究明を担保する記録義務（第 4 章）。
とされています。
1.3 手術ロボットのアップデートの法的問題
2023年の手引書改訂でSBOM（ソフトウェア部品表）が法的背景を伴って義務化された点は、10バガーメモでもふれていました。
自律手術AIではこの発想の自然な拡張として、モデルの来歴管理（学習データセットの構成、バージョン、ファインチューニング履歴の記録・開示義務）が要請されるはずです。特に、SRT-Hが継続学習（DAggerループ）で術中介入を学習データに蓄積する設計だったことを踏まえると、モデルが市販後に医療機関ごとに変化していくことになり、「承認された医療機器」と「実際に動いているモデル」の同一性をどう担保・規制するか（市販後の継続的学習をどう承認制度に組み込むか）という問題が生じます。
この点で参考になるのか、自動車でのOTA によるアップデートにについての特定改造等許可制度ということになります。これは、通信を活用して使用過程の自動車の電子制御装置のソフトウェアをアップデートし、性能変更や機能追加を大規模かつ容易に行えるようになったことを踏まえ、当該改造に係る許可制度を創設するというものです。その狙いは、保安基準の逸脱などを未然に防ぎ、安全な車両性能の維持を実現することにあります。
この制度については「自動車の特定改造等の許可制度を本年11月より開始します ―適切なソフトウェアップデートを確保するための環境整備について―」です 許可の要件・順守事項は、
- 許可の要件：
[1] 申請者が、適切なソフトウェアアップデート及びサイバーセキュリティを確保するために必要な業務管理能力を有すること。
[2] 申請者が、ソフトウェアアップデートに起因した不具合の是正を適確に実施するために必要な体制を有すること。
[3] ソフトウェアアップデートされた自動車が保安基準に適合すること。
- 遵守事項：
[1] 許可の申請書等に所定の変更事項が生じた場合における国土交通大臣への届出
[2] ソフトウェアアップデートの実施状況、当該アップデートに関する情報の記録・保管
[3] アップデート車両のサイバーセキュリティに対する脅威及び脆弱性の監視、検出及び対応
[4] アップデートの目的及び内容、新しい機能の使用方法に関する情報の使用者への提供
となっています。そうすると、「承認された医療機器」と「実際に動いているモデル」の同一性についても、一定の順守事項のもとで、医療機器についての特定改造という概念が構築されることになります。このような考え方から整備されているのが、IDATEN( Improvement Design within Approval for Timely Evaluation and Notice)になります。正式には変更計画確認手続制度と呼ばれます。法的根拠は、令和元年改正・令和2年9月1日施行の薬機法にあり、実体規定は法第23条の2の10の2(法第23条の2の19において準用する場合を含む)に置かれています。
第23条の2の10の2 第23条の2の5第1項の承認を受けた者は、厚生労働省令で定めるところにより、厚生労働大臣に申し出て、当該承認を受けた品目について承認された事項の一部の変更に係る計画（以下この条において「変更計画」という。）が、次の各号のいずれにも該当する旨の確認を受けることができる。これを変更しようとするときも、同様とする。
一 当該変更計画に定められた変更が、性能、製造方法その他の厚生労働省令で定める事項の変更であること。
二 第42条第1項又は第2項の規定により定められた基準に適合しないこととなる変更その他の厚生労働省令で定める変更に該当しないこと。
三 当該変更計画に従つた変更が行われた場合に、当該変更計画に係る医療機器又は体外診断用医薬品が、次のイからハまでのいずれにも該当しないこと。イ 当該医療機器又は体外診断用医薬品が、その変更前の承認に係る効果又は性能を有すると認められないこと。
ロ 当該医療機器が、その効果又は性能に比して著しく有害な作用を有することにより、医療機器として使用価値がないと認められること。
ハ イ又はロに掲げる場合のほか、医療機器又は体外診断用医薬品として不適当なものとして、厚生労働省令で定める場合に該当すること。
制度の実務的な取扱いは、令和2年8月31日付薬生機審発0831第14号「医療機器の変更計画の確認申請の取扱いについて」で示されています。
制度の核心は、個々の変更ではなく変更の計画を事前に確認する、という点にあります。従来の枠組みでは、承認後に承認事項(使用目的・効果、形状・構造・原理、性能・安全性に関する規格、使用方法等)を変更し、それが有効性・安全性に影響を与える場合には、その都度、承認事項一部変更承認申請(一変申請)を要し、数か月の審査期間と手数料を要していました。
IDATENは、この構造を転換します。将来の改良が見込まれる医療機器について、あらかじめ変更計画を立てて厚生労働大臣(実務上はPMDA)の確認を受けておけば、その確認を受けた計画の範囲内の変更については、一変申請ではなく届出(製造販売承認事項軽微変更届出)のみで実施できる、という制度です。つまり、変更ごとの実体審査を、変更計画の事前確認という一回の審査に前倒しし、計画に従った個々の変更は届出で足りるものとする。改良計画それ自体を承認の対象とする、という発想がこの制度の本質です。
この制度が特にAI医療機器・プログラム医療機器で重要なのは、これらが市販後に恒常的に性能等が変化するという特性を持つからです。プログラム医療機器は有体物の医療機器に比べてバージョンアップが極めて高頻度に行われ、市販後のリアルワールドデータによる継続的な学習・改良が想定されます。従来の一変申請では、その都度の審査により迅速な改良が困難でしたが、IDATENにより、あらかじめ想定される性能向上の範囲を計画として確認しておけば、届出のみで迅速に改良を反映できます。
1.4 リコール問題について
ソフトウエアの瑕疵があった場合には、リコールの対象となります。仕組みとしては
「危害の防止」（医薬品医療機器等法６８条の９）
医療機器又は再生医療等製品の使用によつて保健衛生上の危害が発生し、又は拡大するおそれがあることを知つたときは、これを防止するために廃棄、回収、販売の停止、情報の提供その他必要な措置を講じなければならない。「回収の報告（同６８条の１１）」
回収に着手した旨及び回収の状況を厚生労働大臣に報告しなければならない
となります。もっとも、自律型手術システムを考えたときに、
影響範囲の画定の問題
物理的製品なら、製造ロットや製造番号で対象を画定できます。ところが自律システムの不具合は、特定のロットに宿るのではなく、特定の症例類型——たとえば「ある解剖学的変異を持つ患者群」「ある術中条件下」——に対する判断の脆弱性として現れます。すると、回収すべき対象は「製品」ではなく「特定類型の症例における使用」になります。同じソフトウェアが、標準的な症例では安全に作動し、特定類型でのみ危険を生じるとき、製品全体を回収すべきか、当該類型での使用を制限すれば足りるのか。従来のロット単位の回収概念では捉えきれない、使用条件による部分的回収という新たな類型が要請されます。
市販後監視とリコールの連続性
自律システムでは、リコールを、独立した事後的措置としてではなく、市販後監視の連続的なプロセスの一部として捉え直す必要があります。
物理的製品では、市販後監視(不具合情報の収集)とリコール(危害防止措置)は、比較的明確に区別されます。ところが自律システムでは、性能が使用を通じて変化し、分布外事例が使用の蓄積とともに顕在化するため、監視と是正が連続します。「特定症例類型に対する判断の誤謬可能性」が、て保健衛生上の危害をもたらしうると判断される場合には、自律システムのリコール前段階(不具合の早期発見と是正)のモデルになります。この連続性は、リコール概念そのものの拡張を促します。すなわち、市販前の承認(静的な一時点の評価)から、市販後の継続的な監視・是正・必要に応じた回収へと、規律の重心が移ることになります。
そして、物理的製品の回収は市場からの引揚げですが、システムのコアは、ソフトウェアであるため、多くの場合、更新(アップデート)によって是正されます。AI医療機器については、性能が市販後に変化しうるという特性に対応するため、薬機法の側で変更計画確認手続(IDATEN)のような、あらかじめ承認された範囲での性能変更を認める制度が整備されてきました。
この場合、リコールと更新の境界が問題になります。ある性能の劣化や不具合が、(a)あらかじめ承認された変更計画の範囲内の調整で足りるのか、(b)計画の範囲を超える一部変更承認を要するのか、(c)回収を要する欠陥なのか。この三者の切り分けが、自律システムのリコール判断の新たな争点になります。
リコールを支える前提としての記録義務
回収の要否・範囲を判断するには、有害事象がどのような入力(観測情報)のもとで、どのような判断過程を経て生じたかを事後に再構成できねばなりません。記録義務(観測情報そのものの記録と、判断形成の再構成可能性)は、まさにこの再構成を可能にするものでした。記録がなければ、不具合が特定の症例類型に固有のものか、システム全体の欠陥かを切り分けられず、回収範囲を画定できません。つまり、記録義務は、事前の説明責任(IC)や事後の説明義務(顛末報告)だけでなく、リコール判断のための原因究明の基盤でもあります。リコール制度が自律システムに対して機能するための前提条件として、記録義務が位置づけられる、という関係です。逆に言えば、記録を欠く自律システムは、不具合が生じても適切なリコール判断ができず、その意味で回収可能性を欠く設計として、そもそも承認されるべきでないという、エントリーその1回の「適法使用が構造的に可能な設計であること」を承認要件とする議論に接続します。
リコール判断の主体と責任 ― 誰が引き金を引くか
最後に、リコールの意思決定の主体と、その遅滞の責任について述べます。
現行制度上、回収の着手判断は第一次的に製造販売業者に委ねられています。しかし自律システムでは、不具合の兆候(特定類型での性能劣化)を最も早く検知しうるのは、必ずしも製造業者ではありません。むしろ、システムを日常的に使用し、その挙動を記録している医療機関や監督医師が、異常の兆候に最初に気づく立場にあります。そのような医療機関・監督医師からの情報を製造販売業者が、どのように収集するのか、収集するための製品インシデント対応チームの構築と対応を製造販売業社の責務とすることが必要になるということがいえるでしょう。
2 関係者に関するリスク対応の問題
10バガーメモ において、人間・自律的手術システムと外部との関係について考えるとき、種々の問題が存在することを指摘しましたが、具体的な検討はしていませんでした。図においては、システム自体の法的なリスク対応と関係者に関するリスク対応というように分けています。
ここで、「リスク」対応といっても、そこは、新規技術であるということから生じるリスクということになるので、ここでいう「リスク」は、広範で、オポチュニティを含むということになります。このようにとらえたときに、キーとなるのは、データということになります。
2.1 自律的手術システムの基盤としてのデータ
2.1.1 データの分類
自律的手術システムの基盤となっているのは、種々のデータということができます。もっとも、データといっても、このデータについては、種々のものがあります。基本的には、以下の4類型で論じることにします。
第一層 ― 患者臨床データ(患者に帰属する機微情報)
患者の症状、既往、検査所見、解剖学的特徴、そして術後の転帰。これは患者の身体そのものに関する情報で、要配慮個人情報の中核です。源泉は患者にあり、その支配は情報自己決定に服します。機微性が最も高く、同意・匿名化・二次利用の規律が最も厳格に及ぶ層です。
第二層 ― 医学的判断データ(医師の知的営為の記録)
特定の症状・所見に対して、医師がどう判断し、どの術式を選択し、術中にどう方針を変更したか。これは患者の身体情報ではなく、医師の医学的判断そのものの記録です。ここが決定的に重要なのは、模倣学習が模倣しているのは、まさにこの第二層だからです。システムは患者の症状(第一層)を入力として、医師の判断(第二層)を出力として学習します。つまり第二層は、熟練医の暗黙知が言語化・データ化されたものであり、その医師個人ないし医療機関の知的貢献の産物という性格を帯びます。
第三層 ― 術式・手技データ(手技の構造の記録)
実際にどのような手順で、どの組織をどう扱い、どの順序でクリッピングや切離を行ったか。ご指摘の「実際の手術の手法」がこれです。第二層(なぜそうするか)と第四層(どう動かすか)の中間にあり、手技の構造・戦略のレベルの記録です。「胆嚢を把持」「クリップを装着」といったタスク指示の系列が、この層に対応します。
第四層 ― 動作データ(メスさばきの運動記録)
ロボットアームの座標・軌道・力・速度・ジャークがこの類になります。この層は、患者の情報でも医師の判断でもなく、機械の運動の記録であり、四層のなかで最も個人情報性が薄く、逆に最も技術的・工学的な性格が強い層です。
2.1.2 データのコントロールとアクセス(EU法の視点)
そして、これらのデータについては、それぞれ、誰がコントロールすることができるのか、非開示条項(NDA)は、有効なのか、という問題がそれぞれ生じることになります。これについては、以下の3つの視点店が影響することになります。
- personal data か non-personal data か、です。GDPRの適用対象を画する軸で、identified/identifiable な自然人に関する情報か否かを問います。
- data holder / data controller / data subject という主体の役割です。Data ActとGDPRが用いる機能的概念で、誰が生成し、誰が支配し、誰が権利者かを分けます。
- readily available data(容易に利用可能なデータ)か、加工・推論を経たデータか、です。Data Actがアクセス権の対象を画する軸で、機器の使用によって生成された生データ・メタデータには及ぶが、事業者が独自の投資で加工・推論した派生データには原則及ばない、という区別に対応します。
第一層 ― 患者臨床データ(患者に帰属する機微情報)
このデータについては、EU法の枠組をもとに表現すると、患者の症状・所見・転帰は、GDPR第9条の特別カテゴリー(健康に関するデータ)たる personal data であり、患者が data subject です。ここでの支配は所有権ではなく、GDPRの data subject の権利(アクセス権・消去権・ポータビリティ権)として構成される、ということになります。
第二層 ― 医学的判断データ(医師の知的営為の記録)
このデータについても、EU法の枠組をもとに検討するとpersonal / non-personal の軸では、医師の判断は、特定患者と結びつく限りで personal data の性質を帯びますが、判断の型・パターンとして抽出されれば non-personal data に近づきます。
次に主体の軸では、判断を下したのは医師(自然人)ですが、その判断が診療の過程で記録されるなら病院がデータ保持者となり、デジタル製品に接続されることになります。そのうえで、学習されて、当該自律型手術システムの実際の動作を決定するのに役立つということになります。
単なる思考実験ですが、この医師の生の判断記録はEU法においてデータ法(Data Actのリンク)のアクセス権の対象となるか、ということについて考えます。データ法をみます。
データ法は、製品または関連サービスの使用によって生成されたデータを、その製品またはサービスの使用者が利用できるようにすること、データ保有者がデータ受信者にデータを提供すること、およびデータ保有者が公共の利益のために行われるタスクの実行のために、例外的に必要である場合に公共部門機関または連合の機関、機関、団体にデータを提供することに関する調和のとれた規則を定めることを目的としています（同規則案1条)。
ところで、この規定が適用されるのは、製品データもしくは、関連サービスデータになります。製品データ(product data)というのは、
コネクテッド製品の使用により生成されたデータ(data generated by the use of a connected product)であって、製造者が、電子通信サービス・物理的接続・オンデバイスアクセスを通じて、ユーザー・データ保有者・第三者により取得可能となるよう設計したもの
と定義されています。この定義の核は「the use of a connected product」が生成の原因である、という因果関係の要求にあるので、医師が、コネクテッド製品使用によらずに生成されたデータになるので、医学的判断データ(医師の知的営為の記録)は、それ自体としてデータ法のアクセスの対象にはなりません。また、関連サービスデータについても、同様です。関連サービスデータ(related service data)とは、2条16号により、
関連サービスの提供中に、ユーザーの行為の結果として、ユーザーにより意図的に記録され、又はユーザーの行為の副産物として生成された、ユーザーの行為又は事象のデジタル化を表すデータ(data representing the digitisation of user actions or of events related to the connected product)
と定義されています。この定義が捕捉の対象とするのは、あくまで「ユーザーの行為又は事象のデジタル化(digitisation of user actions or of events)」です。すなわち、行為そのものが外形的にデジタルへと変換されたもの——術者の操作入力、アームの起動、器具の交換といった、観察可能な挙動のログ——がその射程に入ります。ここで捕捉されるのは、判断が外部へ発現した結果としての操作の記録であって、その操作を導いた医師の内心の医学的推論そのものではありません。医学的判断データの本質は、特定の所見に対していかなる術式を選択し、術中にいかなる理由で方針を変更したかという、医師の知的営為の内容にあります。これは、行為のデジタル化という定義の文言が捉える「外形的なデジタル変換」とは位相を異にするものであり、操作ログとして外部化された部分を超えて、判断の実質そのものが related service data として捕捉されるわけではありません。
加えて、related service data の定義は、当該記録が「関連サービスの提供中に(during the provision of a related service)」生成されることを要件とします。提供という文脈を離れて存在する医師の判断は、そもそもこの時間的・機能的枠組みの内側にありません。
したがって、医学的判断データは、製品データの定義における「使用による生成」という因果要件を充たさないのと同様に、関連サービスデータの定義における「ユーザーの行為又は事象のデジタル化」という客体的要件をも充たさず、いずれの入口からもデータ法のアクセス権(4条・5条)の射程には入りません。その帰結として、医学的判断データの帰属と支配は、データ法ではなく、診療契約上の規律、営業秘密(不正競争防止法上の限定提供データ・営業秘密ないし営業秘密指令)による保護、データベースに対する権利、そして当該データが患者に係る個人データである限りにおいてGDPR——という、データ法とは別の法領域の複合によって規律されることになります。
第三層 ― 術式・手技データ(手技の構造の記録)
EU法の文脈で考えた場合には、営業秘密指令(2016/943)と Data Act の交錯する領域ということになります。データ法の趣旨は、上で述べたとおりです。ここで、この提供義務の中核的な規定は、4条1項になります。4条1項は、次のように定めています。
ユーザーが接続された製品または関連サービスからデータに直接アクセスできない場合、データ保有者は、当該データおよびその解釈・利用に必要な関連メタデータを、データ保有者が利用可能なものと同等の品質で、容易かつ安全に、無料で、包括的、構造化され、一般的に使用され、機械可読な形式で、かつ、適切かつ技術的に実行可能な場合には、継続的かつリアルタイムで提供しなければならない。
これは、データ保有者が形式的にデータを「渡す」だけでは足りず、ユーザーが実際にそれを解釈・利用できる形で提供することまでを求めるものであり、提供義務の水準を相当に高く設定した規定です。関連メタデータの提供が明示されている点も、データ単体では意味をなさず、その解釈に必要な文脈情報が伴って初めて利用可能となるという理解を反映しています。
ここで、上のメーカーが集約・構造化して学習用データセットに加工したものは、メーカーの投資による派生データとなります。このような状況に対応することについてふれているのは、前文15です。前文15は、
(15) データは、ユーザーの行動や事象をデジタル化したものであり、したがって、ユーザーがアクセスできるものでなければならない。本規則に基づく接続製品および関連サービスからのデータへのアクセスおよび利用に関する規則は、製品データと関連サービスデータの双方を対象とする。(略)
実質的に変更されていないデータ、すなわち生データ（ソースデータまたは一次データとも呼ばれ、これ以上の処理を経ずに自動的に生成されるデータポイントを指す）や、その後の処理や分析に先立ち、理解しやすく、利用しやすいように前処理されたデータも、本規則の適用範囲に含まれる。このようなデータには、温度、圧力、流量、音声、pH 値、液面レベル、位置、加速度、速度などの物理量や品質、あるいは物理量の変化を測定することにより、収集されたデータをより幅広いユースケースで理解しやすいものにする目的で、単一のセンサーまたは接続されたセンサー群から収集されたデータが含まれる。「前処理済みデータ」という用語は、データ保有者に、データのクリーニングや変換に多額の投資を行う義務を課すような方法で解釈されるべきではない。提供されるデータには、そのデータを利用可能にするために、基本的なコンテキストやタイムスタンプを含む関連メタデータが含まれているべきであり、さらに、関連する他のデータポイントと照合・分類されたデータや、一般的に使用される形式に再フォーマットされたデータなど、他のデータと組み合わせられるべきである。 このようなデータは、利用者にとって潜在的に価値があり、環境、健康、および循環型経済を保護するためのデジタルサービスやその他のサービスの革新と開発を支援するものであり、これには、当該のコネクテッド製品の保守や修理の促進も含まれる。対照的に、 当該データから推論または導出された情報、すなわち、特に独自ソフトウェアの一部を構成するものを含む独自の複雑なアルゴリズムを用いて、データから価値や知見を割り当てるための追加的な投資の結果として得られた情報は、本規則の適用範囲に含まれるものとみなされるべきではなく、したがって、ユーザーとデータ保有者の間で別段の合意がない限り、データ保有者がユーザーまたはデータ受領者に当該情報を提供すべき義務を負うべきではない。このようなデータには、特に、センサーフュージョンによって導出された情報が含まれる可能性がある。センサーフュージョンとは、独自の複雑なアルゴリズムを用いて、接続された製品内で収集された複数のセンサーからのデータを推論または導出するものであり、知的財産権の対象となり得るものである。
ところで、ここで、手技の手順は、手術ロボットの利用中に、ユーザーの行為の結果として、ユーザーにより意図的に記録され、又はユーザーの行為の副産物として生成された、ユーザーの行為又は事象のデジタル化を表すデータということになるものと考えられます。これについては、手術ロボット利用に関するデータとし記録されている場合に、手術ロボットの製造業者は、営業秘密であるとし、また、NDAによって、これをユーザーは、第三者に開示し得ないし、また、みずから利用できないと主張しうることになります。
このような場合の問題点をまた、EUのデータ法との関係から考えてみます。
データ法の強行規定性
まず、前提としてデータ法の強行規定性についてみます。データ法の7条2項は
2. 本章に基づく利用者の権利の適用を排除し、またはその効力を制限もしくは変更するものであり、かつ利用者に不利益をもたらす契約条項は、利用者に対して拘束力を有しないものとする。
としています。なので、データ法に定められているデータへのアクセス権についてのNDAによる制限は、データ法に抵触するかぎりで効力を有しないということになります。
営業秘密とNDA
伝統的な法的論理においては、この緊張は営業秘密の保護に軍配が上がるのが通例でした。営業秘密は、秘密であるがゆえに経済的価値を持つ資産であり、その開示は原則として違法な取得・使用・開示として抑止される対象だったからです。ところがデータ法は、この伝統的な優先順位を意識的に転換します。営業秘密は、もはやアクセスを遮断する盾ではなく、アクセス権と共存しなければならないものへと、位置づけを変えられるのです。
データ法における営業秘密の枠組みは、4条(使用者への開示)と5条(第三者への共有)にほぼ並行して置かれ、それぞれが三つの段階から成る階層構造をとっています。4条を軸に整理します。
第一段階は、4条6項の定める条件付き開示です。同項は、次のように定めています。
営業秘密は保全されるものとし、その開示は、データ保有者と使用者とが、開示に先立ち、特に第三者との関係において、その機密性を保全するために必要なすべての措置をとる場合にのみ行われる。
これは、基本的に、営業秘密であるからといっても、データ法に定めるアクセス権から免れないことを意味します。そのうえで、保全のために必要な措置をとる場合のみ、開示されるとしています。
ここで要求されるのは、まずデータ保有者が保護される営業秘密を特定し、次に使用者との間で機密保全のための措置を合意することです。その措置には、モデル契約条項、秘密保持契約、厳格なアクセス・プロトコル、技術標準、行動規範の適用が含まれます。注目すべきは、ここで秘密保持契約(NDA)が、開示を拒むための道具としてではなく、開示を可能にするための付随的な管理措置として組み込まれている点です。原則は、あくまで「機密保全措置とセットでの開示」なのです。
第二段階は、4条7項の定める留保・停止です。同項は、次のように定めています。
6項に規定する必要な措置について合意がない場合、または使用者が6項に基づき合意した措置を実施しない場合、もしくは営業秘密の機密性を毀損した場合には、データ保有者は、営業秘密と特定されたデータの共有を留保し、または場合により停止することができる。データ保有者の決定は、十分に理由づけられ、遅滞なく書面で使用者に提供されなければならない。この場合、データ保有者は、第37条に基づき指定された所轄当局に対し、データ共有を留保または停止した旨を通知し、いずれの措置が合意もしくは実施されなかったか、および該当する場合にはいずれの営業秘密の機密性が毀損されたかを明らかにするものとする。
このように、この段階では、留保・停止に際して、理由の書面化と所轄当局への通知という手続的な統制が課されています。第二段階は、いわば相手方の手続違反に対する対抗措置として構成されているといえます。
第三段階は、4条8項の定める例外的状況における拒否です。これが、開示そのものを免れる、最も強い抗弁にあたります。同項は、次のように定めています。
例外的状況において、営業秘密保有者たるデータ保有者が、6項に基づき使用者が講じた技術的および組織的措置にもかかわらず、営業秘密の開示によって重大な経済的損害を被る蓋然性が高いことを証明することができる場合には、当該データ保有者は、個別事案ごとに、当該特定のデータへのアクセス要求を拒否することができる。その証明は、客観的要素に基づき、とりわけ第三国における営業秘密保護の執行可能性、要求されたデータの機密性の性質および水準、ならびに当該接続された製品の独自性および新規性を考慮して、十分に理由づけられなければならず、遅滞なく書面で使用者に提供されなければならない。データ保有者が本項に基づきデータの共有を拒否する場合には、第37条に基づき指定された所轄当局に通知するものとする。
このように、ここで求められる立証は極めて重いものとなっています。前文が「重大な経済的損害」を「重大かつ回復不能な経済的損失」と定義していることからも明らかなように、通常の営業上の不利益では足りず、事業の基盤を損なうような損害の高度の蓋然性が要求されるのです。
データ法における営業秘密の枠組みが、伝統的な営業秘密法制と最も鋭く異なるのは、その手続面にあります。三段階のいずれにおいても、留保・停止・拒否には、所轄当局への通知が義務づけられます。そして、データ保有者の決定に不服のある使用者は、所轄当局に苦情を申し立てることができ、当局は遅滞なく、データ共有を開始・再開すべきか、いかなる条件で行うべきかを決定します。
もっとも、アクセス権の拡大が営業秘密の実質的な流出に転化しては、制度の均衡は保たれません。そこでデータ法は、営業秘密保有者の懸念に応える対称的な制約を、使用者の側にも課しています。4条10項は、次のように定めています。
使用者は、1項に規定する要求に基づいて取得したデータを、当該データの由来する接続された製品と競合する接続された製品を開発するために使用してはならず、また、その意図をもって当該データを第三者と共有してはならない。
6条2項(e)も、第三者について同旨の制約を定めています。アクセスは原則として開放するが、そのデータをもって製造者の市場を直接に奪うことは許さない、という均衡の上に、この枠組みは成り立っているのです。
第四層 ― 動作データ(メスさばきの運動記録)
EU法においては、第四層(ロボットアームの座標・軌道・力)は、EU法では最も明快にデータ法の対象に収まります。これは「接続製品 の使用により生成されたデータ」の典型であり、上で見たようにpersonal data 性が最も薄く(機械の運動記録ゆえ)、関連サービスデータということができます。
性質からいってもreadily available(容易に利用可能) なものといえそうに思えます。しかしながら、実際のシステムの上でのデータについてみるとそれだけには、かぎらない性質が出てきます。動作データのうち、ロボットアームの座標・軌道・力といった生のセンサー記録は、単純な操作を超える不均衡な労力を要することなく取得しうる readily available data(2条17号)として、アクセス権の中核的客体をなします。しかし、メーカーが独自のアルゴリズムと追加的投資によって、この生の動作ログから、手技の巧拙を評価する指標、軌道の最適性を示す解析値、あるいは複数症例を横断して抽出した運動パターンといった高次の産物を導出した場合には、局面が変わります。前文15が解釈指針として示すとおり、そうした追加投資による価値・洞察の付与に至った産物は、2条17号の「不均衡な労力」の閾値を超えて readily available data の枠外に落ちうるものであり、そもそもアクセス権の客体たりえません。この段階のデータについては、メーカーは営業秘密として、NDAによる保護を正当に主張しうることになります。すなわち、生の動作ログ(アクセス対象)と、それを加工した解析的産物(アクセス対象外)との間に境界線が引かれ、後者の領域にNDAの保護が及ぶのです。
そのうえで、ロボットアームの座標・軌道・力といった生のセンサー記録についても、例外的状況における拒否(4条8項)の余地が残されます。4条8項は、上でみたとおりです。
動作データそれ自体が、当該手術ロボットの制御アルゴリズムの独自性・新規性を推知させるものである場合には、その開示によってメーカーが重大かつ回復不能な経済的損害を被る蓋然性が高いことを、製品の独自性・新規性という客観的要素に基づいて個別に立証しうる限度で、メーカーはアクセス要求を拒否しうることになります。とりわけ、動作データの粒度が高く、そこから制御則やモデルの構造が実質的に復元されうるような場合には、この例外に該当する余地が現実に生じます。もっとも、これはあくまで例外的状況における個別立証を要する厳格な抗弁になります。
日本法との関係
では、日本法との関係はどうでしょうか。これらのデータについて、第三層・四層においては、医療法人などの利用者にいっていのアクセス権をみとめてもいいのではないか、ということがEU法の示唆ということになります。それが実際にどのような法的問題となって現れるかということになると、医療法人と手術ロボット提供者との間における利用契約やNDAの契約の解釈に現れるものと考えられます。もっとも、それらの利用契約やNDA契約が、医療法人・医師側に、データについての独自の利用権などを認めていなかったとすれば、状況によっては、そのような条項は、不公正な取引方法である/あまりに公正を失することになるとして、公序良俗に反して無効ということもいえるかもしれません。この点についての詳細は、実際の条項等に応じて議論すべきものとなるように思われます。
2.1.3 インテューイティブ社の独占について
上でEU法の観点から、四つの層にわけてデータをみたところ、米国においては、むしろ、インテューイティブ社が、独占的な地位にあるのではないか、ということが問題視されているということになります。この点については、別の機会に、検討したいとおもいます。
2.２ 契約によるリスク対応の限界－インフォームド・コンセントの再設計
ところで、契約によってリスクを転嫁しうるという点についても論点となるといったときに、完全な自律型システムにおいては、従来のインフォームド・セコンセントの法理が対応しきれないという問題に直面することになります。
日本におけるインフォームド・コンセントの法的基盤は、診療契約に付随する説明義務と、患者の自己決定権に求められます。判例(最判平成13年11月27日=乳房温存療法事件、最判平成14年9月24日=輸血拒否事件の系譜)が形成してきた説明義務の内容は、おおむね、①病名・病状、②実施予定の治療の内容、③それに伴う危険性、④代替的治療の有無とその利害得失、⑤治療をしない場合の予後、を患者に説明し、患者の自己決定に資することを求めるものです。
すなわち、患者は「AIが自律的に判断・執刀する」ことに対してどの水準の説明を受け、何に同意するのか。自己修正が平均6回行われ、その内容がアルゴリズム由来であるという事実を、どこまで開示すべきか。「執刀するのは誰か」という同意の対象自体が再定義を迫られます。ここで問題となるのは、
- 判断主体の分離 ― 「執刀するのは誰か」
- 自己修正のアルゴリズム由来性 ― 「試行錯誤」の開示
- ブラックボックス性 ― 説明義務の履行可能性そのものの動揺
- 分布外リスク ― 患者選択とICの結合
にわけて検討されます。詳細は、またの機会ということになります。
2.3 その余の問題
その余の問題として責任追及の問題、保険によるリスクの転嫁の問題があります。
責任追及の問題
現時点において、手術用ロボットの製造物責任がとわれた事例は、我が国では報告されていない。ただし、心臓手術中に人工心肺装置の送血ポンプのチューブの亀裂（千葉地裁平成13年 3月30日）、ジャクソンリース回路の閉塞（東京地裁、平成15年 3月20日）、カテーテルが破裂した場合（医療品会社への請求を認容 －東京地裁平成15年 9月19日）、の責任問題についての訴訟があります。
また、医薬品については、イレッサ訴訟(最高裁第三小法廷平成25年(2013年)4月12日判決)(民集67巻4号899頁)があります。同訴訟において争われたのは、物理的な欠陥ではなく、指示・警告上の欠陥、すなわち副作用に関する表示が適切であったか否かでした。最高裁は、医薬品の添付文書の記載が、その時点における医学的・薬学的知見に照らして適切であったかを問い、予見しうる副作用について適切な情報が提供されていたかを欠陥判断の中核に据えました。この指示・警告上の欠陥という類型は、物理的欠陥の確定が困難な自律型システムにおいてこそ、責任追及の現実的な焦点となりう問題です。
自律型手術ロボットについて製造者に問いうる欠陥は、判断アルゴリズムそのものの内在的瑕疵(その立証はブラックボックス性ゆえに極めて困難である)よりも、むしろ、システムの性能の限界や適用範囲について、適切な情報が提供されていたかという指示・警告のレベルに、重心を移すことになると考えられます。
エントリーその1でふれましたがSRT-H(手術ロボット・トランスファー-H)が約10%の解剖学的異常症例を訓練対象から除外していたという事実は、製造者が認識していた性能の限界にほかなりません。この限界を、製造者が添付文書ないし使用上の注意においてどこまで開示していたか——分布外症例に対する性能低下の可能性、監督医師による常時監視の必要性、システムが自己の不確実性を検知した際の対応——という点が、イレッサ訴訟の枠組みを援用した指示・警告上の欠陥として、責任判断の中核をなしうることになるでしょう。
さらにこの指示・警告が適切であったかを事後に検証するためには、システムがいかなる入力のもとでいかなる判断を下したかを再構成しうる記録が不可欠となる。前回来論じてきた記録義務は、ここでも、製造物責任の成否を判断するための事実的基盤として機能する。記録なくしては、製造者が警告すべきであった性能の限界が現実の事故にどう関与したかを立証しえず、指示・警告上の欠陥の認定そのものが空転することになります。
保険によるリスク転嫁について
保険によるリスクの転嫁については、エントリーその1でふれています。
そこでは、第17条を発展させるために具体的に何を要するのでしょうか。自動車における自賠責保険に相当する強制保険の基盤が医療には存在しないため、無過失補償基金等の新設が必要となります
としたところです。自律性手術システムといったときに、完全な自律型ではない場合については、意思の監督・制御と自律性とのバランスのもとで、なおも損害については、保険によってリスク転嫁がなされるのが妥当だということができるでしょう。それを超えた場合に、無過失補償基金等の新設ということになります。
