JAMSTEC|海洋研究開発機構|ジャムステック

トップページ > プレスリリース > 詳細

プレスリリース

2022年 10月 21日
国立研究開発法人海洋研究開発機構

分子ロボット分野における倫理原則の策定と受入プロセスの検証
―新興科学が発展させる科学と社会の信頼構築のための先駆的取組―

1. 発表のポイント

今般、新興科学分野である分子ロボットの研究者と生命・医療倫理研究者および倫理的・法的・社会的課題(ELSI)研究者が共同で策定した倫理原則が、日本の分子ロボット分野の研究コミュニティに受け入れられたプロセスについて、世界的にも最新の「責任ある研究・イノベーション(RRI)」実践として検証しました。
こうした科学と社会との取り組みにおいて、科学者が主体的に取り組むことの困難さがこれまで指摘されてきましたが、本研究では、科学者自らが自主的に技術と社会との関係を重視したボトムアップな議論を行うことで、最終的にコミュニティによる倫理原則の受入れに繋がったことが見出されました。
異分野の研究者が協力してELSIやRRIの知識を共同生産した今回の事例は、メリットやリスクが明らかではない新興科学分野での取り組みとして世界を先導するものであり、今後、社会との信頼構築を目指す他の新興科学技術にも有効な新しいモデルとなると考えます。

2. 概要

国立研究開発法人海洋研究開発機構(理事長 大和裕幸、以下「JAMSTEC」という。)超先鋭研究開発部門の小宮健研究員らは、日本の分子ロボット分野における倫理原則の策定と受容のプロセスについて、最新のRRI実践の事例として検証しました。この結果、メリットやリスクがまだ明らかでない萌芽段階にある新興科学技術について、異分野の科学者がオープンな対話を重ねることで「科学者の責任」への意識が高まり、より現代的な意味での科学における社会との信頼関係構築につながる、国際的にも先駆的な事例であることを見出しました。

科学技術の発展が社会にもたらす影響は近年ますます大きくなっており、どうすればメリットを最大化しながらリスクを最小化できるのか、新興科学技術をどう社会に位置づけていくのかは、技術先進国にとって重要な課題です。

最近では、「責任ある研究・イノベーション(RRI)」という枠組みで、科学技術がもたらす倫理的・法的・社会的課題(ELSI)に関する議論が行われており、特に研究開発のできるだけ初期の段階からELSIを理解して、適切に対処することが重視されるようになってきました。研究の初期段階であれば、技術の発展がもたらし得る問題を回避するために、研究開発の方向性を変更することは比較的容易です。また、早くから潜在的なリスクを特定することで、それに対処する技術などの開発を並行して行い、あらかじめリスクや被害を低減することも可能です。

一方で、研究の初期段階においては技術の発展の方向性も、具体的なリスクも予測ができないため、現実的に意義のあるELSIの議論を行うことは困難です。また、過去の議論の中では、往々にして異なる分野の研究者の間でコミュニケーションの分断が生じることがあり、科学者が主体的に役割を果たすことにも困難が伴います。

日本の分子ロボット分野の研究者たちは、巨大な応用可能性を秘めた分子ロボットの将来像について、具体的なリスクが予測できるかなり前の時点から話し合う必要性を認識し、2016年に分子ロボットの倫理研究プロジェクトを立ち上げ、2018年には生命・医療倫理研究者およびELSI研究者と共同で倫理原則を策定しました。それでも、現実のリスクが顕在化していない萌芽段階にある研究分野では、技術開発を抑制する必要性を理解することには高いハードルがあり、研究コミュニティが倫理原則を受け入れる過程には困難が伴いました。

そこで、研究開発の現場を担う分子ロボット研究者の視点を反映するため、若手研究者が中心となってボトムアップな議論を重ね、新たに起こる問題にも研究コミュニティが自ら責任を持って柔軟に対応していけるように、常に応答的かつ適応的な議論を継続するという点を確認することで、最終的に倫理原則が研究コミュニティに受け入れられました。

このような、科学者がELSIの検討に主体的に取り組み、分野の将来を背負う若手研究者も積極的に参加するボトムアップな議論を通じて社会の要請に答えようとするアプローチは、特に萌芽的な段階にある新興科学分野において科学と社会の信頼構築を目指す取り組みを科学者が主導する、国際的にも先駆的な事例と考えられます。これは、科学者の責任に関する古典的事例であるアシロマ会議(※1)での議論を現代的な内容へ発展させるもので、社会との信頼構築を目指す他の新興科学技術にとっての新しいモデルとなるものです。

本成果は、「SN Applied Sciences」に10月21日付け(日本時間)で掲載される予定です。

タイトル:
Practice of Responsible Research and Innovation in the Formulation and Revision of Ethical Principles of Molecular Robotics in Japan
著者:
小宮健1、標葉隆馬2、河原直人3
所属:
1. 国立研究開発法人海洋研究開発機構 超先鋭研究開発部門、2. 大阪大学 社会技術共創研究センター、3. 九州大学病院 ARO次世代医療センター
DOI:
10.1007/s42452-022-05164-z

本研究は、JST-RISTEX「人と情報のエコシステム(HITE)」領域の2つのプロジェクト「分子ロボットELSI研究とリアルタイム技術アセスメント研究の共創」、「情報技術・分子ロボティクスを対象とした議題共創のためのリアルタイム・テクノロジーアセスメントの構築」の連携の下で実施されました。また、本研究の一部は、JSPS科研費JP19H04204、JP19K12216、文部科学省科研費JP20H05971、JST-RISTEX「科学技術の倫理的・法制度的・社会的課題 (ELSI) への包括的実践研究開発プログラム(RInCA)」JPMJRX20J2、JPMJRX20JB、JPMJRX21J4によって行われました。

【用語解説】

※1
アシロマ会議:1975年に米国のアシロマで行われた遺伝子工学の安全管理と危険性について討議した会議。後に米国を始め世界各国で遺伝子組み換え実験に関する指針を策定する契機となった。28か国から140人ほどの専門家が参加した。科学者自らが研究の自由を束縛してまでも自らの社会責任を問うたことで科学史に残る。

3. 背景

科学技術の発展が社会にもたらす影響は、近年ますます大きくなっています。技術先進国にとって、次々と新興する科学技術をどのように社会のなかに位置づけるのかは重要な課題であり、どうすれば科学技術の発展から得られるメリットを最大化し、潜在的なリスクを最小化できるのかに関心が寄せられています。そのような国際的な潮流のなかで、研究開発のできるだけ初期の段階、すなわち「上流から」、科学技術がもたらす“倫理的・法的・社会的課題(Ethical, Legal, and Social Issues: ELSI)”を理解して、適切に対処することが重視されるようになりました。

この「ELSI」というキーワードは、ヒトゲノム解読のプロジェクトにおいて使われ始めました。同プロジェクトの議論では、日常生活や社会への様々な影響を検討すべきであることが認識されましたが、生命倫理分野などの研究者を中心に議論が行われ、ゲノム科学の研究者の参加やELSI研究者との協働は限定的なものでした。

より最近では、欧州の重要な科学政策「Horizon 2020(※2)」などにおいて、“責任ある研究とイノベーション(Responsible Research and Innovation:RRI)”という枠組みで、「社会とともにある、社会のための科学(Science with and for Society)」が議論されています。Horizon 2020では主要な政策テーマとして、科学技術やイノベーションへの幅広い市民の参加、ELSIの考慮、多様な(Formal and Informal)科学教育が掲げられています。しかし、「RRI」の問題点についてもすでに多くの議論がされています。そこでは、ELSIやRRIをめぐる議論と対話が、研究や社会実装の推進を前提としたアリバイ作りの側面を持つことや、議論において科学者が主役になることが困難だったことが大きな問題として挙げられています。これは、理工系の研究者とELSIやRRIの研究者の間にコミュニケーションの分断があったことが要因の一つであったと考えられます。

これらの過去の試行と教訓を踏まえ、理工系の研究者とELSIやRRIの研究者が対等に協力し、相互にコミュニケーションの溝を埋めながら様々なステークホルダーとの対話に取り組んだ最新のRRI実践事例として、本研究では分子ロボット分野の取り組みのプロセスについて検証しました。

分子ロボット分野は、駆動装置、センサー、知能というロボットの要素機能を備えた分子システムを創り出すことを目指す新興科学技術分野です。現状では、ウイルスと同程度のナノメートル(※3)サイズのロボットを構築するための部品として、主にDNAやRNAなどの生体分子を使った研究が行われています。分子生物学、生物物理学、生体関連化学、コンピュータサイエンス、ロボット工学などの幅広い分野の科学者たちによって、学際的な研究コミュニティが形成されています。生体分子を素材に用いることで、生物と同じ原理で動くロボットを創り出すという側面があり、これまでは天然の生物しか持ち得なかった機能を人工物で再現し、医療から農業、さらにはナノテクノロジーまで幅広いメリットをもたらす可能性があります。

一方で、現実には自然界ですぐに分解されてしまうことが課題である分子ロボットに対し、もし自己増殖の機能が実現されると地球全体を覆い尽くす「グレイ・グー」が起こるのではという過度な懸念や、遺伝子組換えに関する規制の対象外である分子ロボットが、ゲノム編集などを行うツールとして利用された際はどのように取り扱うべきかなど、現時点でリスクの評価ができないような予想外のELSIが将来に顕在化する可能性が考えられます。研究分野としてまだ発展の初期段階にあるため、分野外の人間にとってはもちろん、分子ロボットの研究者自身も科学技術としての特徴や可能性を十分に理解し、社会にもたらし得る影響を現時点で想像することは困難であるのが現状です。

こうした状況を踏まえ、日本の分子ロボット分野の研究者たちは、2012年から大規模なチームプロジェクトを実施する中で、このような巨大な応用性を秘めた分子ロボットの将来像について、具体的なリスクが予測できるかなりの前の時点から話し合う必要性を認識していました。そこで、2016年に分子ロボットの倫理研究プロジェクトを立ち上げ、潜在的なELSIに対処するための第一歩として、自主的な倫理原則の策定に向けた取り組みを開始しました。

【用語解説】

※2
Horizon 2020:
Horizon 2020は全欧州規模で実施される、最大規模の研究及び革新的開発を促進するためのプログラムであり、2014年より2020年までの7年間にわたり、約770億ユーロの公的資金が提供された。Horizon 2020は主として、「科学的卓越性」(Excellent Science)、「産業における先導性」(Industrial Leadership)、「社会的挑戦への取り組み」(Societal Challenges)の3つの柱に属するプログラム群から構成されており、研究を革新的産業化に結びつけることを目標としている。また同時に「社会とともにある/社会のための科学」プログラムなど科学と社会のより良い関係性を考察するプログラムも併設されていた。
※3
ナノメートル:1メートルの1000分の1の長さが1ミリメートル、その1000分の1の長さが1マイクロメートルで、そのさらに1000分の1である超微細な世界の長さの単位。

4. 成果

今回検証した、研究コミュニティによる分子ロボット倫理原則の策定と受容のプロセスについては以下の通りです。

自主的な倫理原則の策定に向けた取り組みについて、分子ロボット分野の研究者は、ELSI研究者と協力し、さまざまなステークホルダーとの開かれた対話やワークショップを行ってきました。2018年2月18日に開催した分子ロボットRRI洞察ワークショップでは、分子ロボットの研究者、科学技術社会論(STS)の研究者、生命倫理学者、社会科学者、政策立案者、ジャーナリスト、新興科学技術に関心のある一般市民などで議論を行い、分子ロボットの未来像と社会における活用の仕方を描いた6つのシナリオマップが得られました(図1)。

図1

図1 ワークショップで作成された分子ロボットの研究開発を取り巻く環境に関するシナリオマップの例(この他に分子ロボット活用の意思決定に関するシナリオマップ等がある)。この例では、分子ロボットによってもたらされるELSIや求められる対応策について、ワークショップ参加者の回答から抽出した項目を、「最悪」から「最良」までの未来像としてマップ上に整理した。波線はシナリオが辿る経過の一例を表す。(図像化・論点整理において、東海大学・富田誠研究室の協力を得た)

他にも数多くの対話やワークショップでの議論を経て、2018 年 3 月 5 日に、本論文の共著者である河原直人(九州大学病院)を中心として「分子ロボット技術倫理綱領(1.0版)」を策定し、さらに微修正を加えた後(1.1版)、2018年8月8日に公開しました。

技術倫理綱領に記載された倫理原則は、以下の4つの条項で構成されています。

「リスク・ベネフィットの総合評価」
「安全と環境への配慮」
「セキュリティとデュアルユース問題への留意」
「説明責任と透明性の担保」

分子ロボット技術は、素材である生体分子に由来する生体親和性から医療への応用が期待されています。また、ナノメートルのサイズで知的ロボットを構築する研究でもあるため、ナノテクノロジー、人工知能(AI)などを含む幅広い観点からELSIを検討する必要があります。そこで、分子ロボット技術倫理綱領の策定にあたっては、様々な分野における倫理綱領の前例を参照しながら、慎重に条項が作成されました。

しかし、本綱領を研究コミュニティが実際に受け入れる過程には困難が伴いました。RRI実践としての将来を先回りする議論が支持される一方で、現実のリスクが顕在化していない研究開発の初期段階において、分子ロボットが社会に及ぼす影響を具体的に予見すること、そして技術開発を抑制する必要性を理解することは困難です。実際、2018年3月に開催された第1回分子ロボティクス年次大会の「分子ロボット倫理シンポジウム」で、初めて分子ロボット技術倫理綱領(1.0版)が提案されたとき、分子ロボット研究者たちの反応は賛否を決めかねるというものでした。研究者たちを迷わせたのは、技術倫理綱領の妥当性と、それによって課されるかもしれない想定外の制約に関する点です。そのため、研究コミュニティにおける技術倫理綱領の承認と合意形成のための議論は翌年まで持ち越すことになりました。このような経緯を辿った原因は、より多くの分子ロボット研究者が議論に関与し、なぜ倫理原則の策定が必要なのか?分子ロボット研究が直面する問題はなにか?倫理原則に関する議論のプロセスは適切か?といった疑問に答えていく必要性が認識されたためです。

この困難な状況を乗り越えるため、分子ロボット研究者たちは自主的に技術倫理綱領の改訂に取り組みました。これに関する議論では、2つの点が主な議題となりました。1つ目は、分子ロボットが新興科学技術であるという側面を、倫理原則のなかでどう適切に表現するのかという点でした。新興分野の科学技術について将来の発展の仕方や、応用のされ方、リスクを予見することは不可能です。したがって、テクノロジーアセスメントを継続して行いながら、望ましい未来に向けた技術開発の舵取りを柔軟に行って対処していくことが重要です。そのための規則は固定されたものではなく、新たに起こる問題に答えていける応答的(responsive)なものであるべきで、今後に顕在化するリスクに対応できる余地を残しておくことが必要です。

2つ目は、なぜ技術開発への抑制が必要なのかという点でした。社会に与える負の影響を最小限に抑えるため、そして新たな技術がもたらす公共の利益と、自治によって促進される研究の生産性を最大化するためにも、社会との信頼関係が大切です。本論文で考察する分子ロボット分野の事例における自治は、研究コミュニティが自ら責任を持ってELSIやRRIの検討を行う内省的(reflexive)なプロセス、つまりSTSや生命倫理分野の社会科学者などに意思決定や論点の検討を押しつけない姿勢という意味が加味されています。

そして、2019年3月に開催された第2回分子ロボティクス年次大会の「分子ロボット研究者のためのソーシャルイベント」において、ついに改訂版の分子ロボット技術倫理綱領(1.2版)が承認されました。これは、RRIの重要な要素の一つとされる、常に新たに生まれる疑問に答えていく応答的なプロセスの実践であるとともに(図2)、新興技術に柔軟に対処する適応的(adaptive)なテクノロジーアセスメントの議論を継続していくことが、研究コミュニティに期待されるという認識が共有されました。

図2

図2 分子ロボット倫理原則の策定においてELSIやRRIの議論を進展させるプロセス。ワークショップでの対話を重ねるなかで、過去の事例からの教訓を検証し、続いて将来のメリットやリスクを検討して倫理原則を策定した後、そこまでのプロセスから得られた知識をフィードバックして再度検討を行い、改訂を繰り返していくことで、技術の発展にともなって生じる新たな問題に対応する。

本研究で考察した技術倫理綱領の策定と受容の取り組みは、分子ロボット技術が社会にもたらすメリットを最大化し、リスクを最小化する努力を研究コミュニティが継続していくことを明確にした点で大きな意義があります。このような、研究分野として発展の初期段階にある分子ロボット分野での上流からのRRI実践の取り組みは、現実のリスクが顕在化するよりもかなり前に開始したという点で世界を先導する取り組みであり、新興科学技術のELSIやRRIに関する現代的な議論として示唆に富む先駆的な事例です。そこで問われたのは、“ELSIやRRIの議論において主役は誰であるべきか”という根源的な問いであり、科学技術が持つ潜在的なメリットやリスク、ELSIを検討する役割が期待されるのは、研究を行う科学者自身であるという理解に至りました。

科学者と社会のあいだの対話を通じてこの期待に答えようとする、科学者自身によるRRI実践のプロセスは、新たな科学技術が社会にもたらす負の影響を最小化し、適切な研究環境を維持していくことに取り組むもので、非常に有効であると考えられるとともに、そのような活動を科学者自らが主導しようとする、国際的にも貴重な事例と言えます。

5. 今後の展望

本研究では、分子ロボット分野の事例がアシロマ会議での議論と異なる点も指摘しています。それは、倫理学者や社会科学者を交えたELSIの検討を、はじめから議論の一部としている点です。過去に海外で行われた、合成生物学における倫理学者や社会科学者が果たす役割についての議論では、ELSIに関する議論を促すために、より積極的な役割を果たすべきだとされました。さらに近年では、社会科学者は自然科学者と協力して、新興科学技術のELSIやRRIに関する知識の共同生産者となるべきだと考えられています。このような課題や実践の要求は、「ポストELSI」と呼ばれています。実際、分子ロボット技術倫理綱領を策定、受容したプロセスでは、異なる専門性を持つ人々の協働によって、ELSIとRRIに関する新しい知識の共同生産が行われました。

研究コミュニティが自ら責任を自覚して、ELSIやRRIの議論を深めていった本研究の分子ロボット分野における事例は、社会との信頼構築を目指す他の新興科学技術にとっても新しいモデルになるものと考えています。

ただし、技術開発のごく初期段階からのRRI実践の試みは、その有効性を社会実装する段階でしか評価できないことから、今後も継続して検証を行っていく計画です。

また、本研究で得られた知見とともに分子ロボット技術を活用し、海洋分野の研究開発を推進していきたいと考えております。

国立研究開発法人海洋研究開発機構
(本研究について)
超先鋭研究開発部門 超先鋭研究開発プログラム
研究員 小宮 健
(報道担当)
海洋科学技術戦略部 報道室
お問い合わせフォーム