社会情報学コースで法政策領域のご研究をする酒井麻千子先生と永石尚也先生のインタビュー対談の後編です。AIと意識の問題、技術と著作権、そして学際情報学府でさまざまな研究をする学生さんが情報法を学ぶ意義を伺いました。（インタビュー日：2023年7月13日・前編はこちら）

Machiko Sakai and Naoya Nagaishi are both associate professors in the III specializing in law and policy studies. They teach and supervise students in the Socio-information and Communication Studies Course of the GSII. In the second part of the interview, they spoke further about the legal issues raised by AI and the approach to legal studies in the Graduate School of Interdisciplinary Information Studies. (Continued from Part 1)

*日本語は抄訳に続く(Japanese interview text follows English summary)

It might be assumed that the output of an AI would become subject to copyright if it could be proven that the AI was conscious and therefore had to be recognized as having personhood. However, Prof. Nagaishi pointed out that personhood under the law and consciousness are two entirely separate things. For example, corporations have legal rights and responsibilities despite not being conscious beings. Meanwhile, the recognition of some form of primitive conscious in animals has not led to their being treated as legal persons. Furthermore, there is the question of how we arrive at the conclusion that an entity has consciousness. Simply giving the appearance of being conscious is not sufficient ground for the attribution of consciousness. It would be necessary to first clarify what exactly we are searching for when considering a potential candidate for consciousness and how those characteristics could be identified in practice. As Prof. Sakai noted, law is essentially human-centric. There is a tacit premise that copyright exists to protect human creative expression. Even if an animal triggers a camera shutter, that animal is not recognized as having copyright on the resulting photograph. Recognizing the copyright of a non-human would essentially mean that that a non-human had developed to the stage that it could no longer be distinguished from a human.

Prof. Nagaishi continued his explanation as follows. When we consider the history of the gradual expansion of legal personhood to all people regardless of origin, gender, or age, it becomes apparent that the recognition of specific cognitive abilities is not sufficient. It is also a question of our relation to the person or entity in question. Does it have a sense of identity or independence from other beings? Does it set its own goals and evolve those goals reflexively? Indeed, what precisely are the conditions under which we can recognize another being as “one of us.”? In practice, people treat non-humans differently depending on the type of relation they have with them. For example, an animal who is a pet is treated differently from an animal of the same species if it is wild or kept in a laboratory for experimentation. This is a matter entirely separate from the cognitive capacities of the animal in question. Conversely, even a relatively simple AI (e.g., a “companion robot”) could, if trained in a certain way and endowed with a certain physical appearance, develop a close relationship with a human being to the extent that it becomes valued as indispensable.

Next, Prof. Sakai responded to the question of why copyright violations are viewed as bad even when there is no intent to cause harm. The first basis for copyright is that it enables the original creator to enjoy the benefits of their own labor. The second basis is that, by rewarding the creator and thus providing an incentive for creative labor, it promotes further creative effort. Copyright therefore aims to balance the interests of information creators and information consumers. Derivative works are often tolerated even though they may technically infringe copyrights when they are created out of respect for the original and do not compete with the original in the market. Indeed, derivative works often help to further promote the original on which they are based and foster the industry as a whole by providing an outlet for up-and-coming creators. However, the situation is quite different in the case of AI-generated content, which does not respect the original in the manner of a human author, may compete with the original, and could have a severe impact on the development of younger creators. Existing legislation permitting the use of copyrighted content for purposes other than enjoyment, such as machine learning, may therefore have to be reconsidered in this light.

Finally, Professors Sakai and Nagaishi were asked about how they hoped students entering the GSII would approach their studies. Prof. Sakai hoped that students from diverse fields would take an interest in legal issues relating to information regardless of whether or not they had previously studied law, bearing in mind the many grey zones open to interpretation where different interests and concerns have to be balanced. For those students intending to specialize in information law, she noted the advantage of studying in an interdisciplinary environment, such as that of the GSII, where they can learn about new technologies and the conditions surrounding those technologies.

Prof. Nagaishi expressed the hope that students would take time to pursue issues in their full complexity rather than rushing to seek clear-cut black and white answers. The anxiety caused by uncertainty should not lead one to jump to conclusions. Answers offered by one disciplinary perspective may be only part of the truth. There is therefore a need to be open to other perspectives. Taking full advantage of the GSII’s interdisciplinary character, students should take the initiative to broaden their studies as much as possible rather than focusing only on narrow tasks that have been set for them. Easy solutions should be avoided, and challenges met. Only in so doing, will society develop the toughness required to face today’s problems.

– AIに意識があるかないかについて結論は出ていないと思います、もし意識があると証明されたり、人格を認めるべきだとなった場合、法の哲学が変わり、立法も変わる、あるいはAIが自動で作ったものにも著作権が発生するようなことは起こり得るのでしょうか。

永石：いろんな論点があるのでその一部だけになりますが、差し当たり、２点のみコメントします。
まず、意識についての議論と（法的）人格についての議論は基本的には独立である、という点についてです。というのも単純に、意識がなくても法人として、その行為や利益等に由来する権利義務が何らかの形で帰属する主体性を法的に認めることは、ほぼ異論なく認められてきたためです。逆に、プリミティブな意識があると目される動物などの存在についても、そこから直ちに人間に認められる「人格」が類推されるわけではなく、それへの法的取り扱いは様々な区分に応じて別になされていますね。

ややラフな言い方ですが、（法的）人格は法的取り扱いの種別に応じて割り当てられる「地位」であり、いわゆる意識のレベル、対象、能力に必ずしも相関していない。だからこそ逆に、フルセットの意識を持つとは言い難い赤子や意識レベルが低下している脳疾患を持つ患者にも、法的な人格を規範的に割り当てることもできる……このように意識らしきものが看取されるという現象的な語りや認識的な話と、意識らしきものが看取される存在をどのように取り扱うかという法的取り扱いの話とは、ひとまず区分可能なものと思われます。

次に、意識らしきものが看取される（あるいは愛着や嫌悪といった情動を喚起される）という現象やその語りと、現実における意識の徴標として何を認めるのかという規準についての問いとは、基本的にはやはり独立である点です。意識らしきものを看取する契機は、対象物たる物体の特徴的な造形や振る舞い、信念や動機、意図の表出、そしてそれらを看取する側の認知などに依存するでしょう。そこから、昆虫や動物、ロボットにも（人によっては自然現象の中にも）意識らしきものは見出せそうに思えるかもしれません。

しかし他方で、意識ある存在らしく見えることが、意識の徴標となるわけではありません。アニメーションの中で動くキャラクターは、人間よりも人間らしく振る舞い、視聴者を現実以上に感動させもします（そして私も時に、現実の人間以上にアニメーション上のキャラクターに対してシンパシーを持つ傾向を持ってはいます）が、その経験的事実が現実世界の実存を生み出すわけではありません。ここから、私たちがこれまで意識ある存在らしきものと考えてきたのと取り違えるほどの錯覚を見せる、各種のAI搭載機器の挙動ややりとりを目の当たりにした際にも、そうした応答性ゆえに意識的な存在だと評価するのか、私たちの同胞（＝人間）としての態度を以て偶するのかについては、おそらく異なる規準を必要とするのでしょう。

……ということで、AIの意識や人格について論じる際には、意識ということで概念的に何を対象とし、どういった機能を明らかにしたいのかを明確にした上で、実践上の差異を生じさせるべき規範的根拠とともに、多岐の分野にわたる諸議論の接点を探ることが有益かもしれません。

酒井：永石先生のご専門の部分ですのでお任せしたいですが、法というのは基本的には人間中心というか、人間を軸に作られている側面があります。著作権法でも、人間の創作的表現を保護する、ということが暗黙の前提となっている。過去にも、動物がシャッターボタンを押して撮影した写真の著作者にその動物がなれるか、という論点で海外では訴訟が生じたことがあって、これは結論として否定されています。人間以外に著作権を認めるというのは、まず皆の認識のレベルでも、ある種、人と錯覚できるような段階になることが求められるのかな、と思いました。

永石：ご指摘の通りで、実際に人と錯覚できる状態が継続する限りにおいては、その通りだと思います。現在までの法は「人間」カテゴリーに属する対象を、出自や性別、年齢にかかわらないものとして拡大することで、「人間中心」の設計を維持しつつ対応してきた側面がある。だからこそ、というべきかもしれませんが、何を要素として対象物が「人」と錯覚できるようになるのかは、その時々の人々という「受入れ側」の決断と言って済ませられない難問でもあります。ダイナミックな「人」カテゴリーの変動は、一体何に由来するのか、という問いがすぐに浮上するためです。

さて、例えばそこで求められる候補としては、そこの（天井の）サーモスタットを搭載したエアコンのように単純な情報処理や知覚（心理）を備えていれば十分なのか。それでは足りず、ある程度の体系性を伴った思考や推論の能力を行使しうることまでも含むのか。否、そういったアウトプットの質の問題ではなく、より関係的な問題として、外部からの操作を撥ねつけられる自律性や、自他を区別する独立性、他者との関係で特定の記憶やアイデンティティを維持・共有する一貫性、あるいはこれらの欠如に対して訂正・改善を加えて目標を設定し直す反省性なのか……こういった検討がなされるかもしれない。いずれにせよ錯覚を生み出すメカニズムを踏まえた次の段階として、その対象物（今回の話題では、おそらく個物としてのAI搭載機器）と我々との関係を踏まえて、そのものが我々と重要な点で等しい「同胞」たりうる条件とは何かという問いに答える必要があるのだと思います。

酒井：他方、人間以外に権利を認める法的な道具立ては色々あって、先程永石先生がおっしゃった法人の話、一種のフィクションとして会社に法人格を認めることなどは、AI生成物の保護でも検討されうる道具だと思います。でもこれも、フィクションを使うことに合理性があったり、一種の納得感が求められたりするんでしょうか。

永石：そういうことになるかと思います。ただ、おそらくこちらの問題は、「錯覚」が働きづらい、元々「人間」とは外形や振る舞いにおいて似ていない対象物（会社や財団、ひいては自然環境等）も想定した話かと思いますので、納得感というよりは、主として擬制する合理性や機能が前景化するかもしれません。

この二つの話を横断するという点では、先ほどから出ている動物を念頭に置いてみると良いかもしれません。例えば、自らが飼育する愛玩動物・伴侶動物については、掛け替えのない家族だと感じている人が多い。しかし、それと同種の動物であっても、例えば実験動物に対する扱いや野生動物に対する扱いは、それぞれ別であることを受け入れている。さらに、個体でさえない動物種（集団）という単位での保護を考えてみれば、各々の保護のありようや目標が異なるのはほぼ当然視されている。……といったように、その対象物が個物として持つ特殊な関係性に着目するのか、それともその対象物の持つ一般的な情報処理や性質・属性に着目するのか、というところで「AIの意識」や「その人格」という問題設定をした際にも、態度は大きく分かれるように思います。

例えば、替えがきかないようになるように訓練する、具体的にはあえてオフラインにするとか、私的な対話の中で「秘密」を共有する、あるいは共にして暮らして来歴を共有してきたような家族型とかメイド型とかそういったAIロボットだったら、いかに性能がポンコツでもこれは替えがきかないですよ、となるかもしれない。つまりは、その対象物が個物として私との関係を重要な情報として設定し、相互的に構築していることが重要となるタイプと、専ら機能的な役割や波及的な社会的影響の多寡が重要となるタイプが分かれそうだ、というのがラフな整理になるかな、と思います。

– 著作権が侵害されることの悪さは何に基礎づけられているのでしょうか。悪意がなければ良さそうなこともたくさんあるのに、なぜ駄目なのか。侵害された側の不快感情なのか、それとも侵害されることによる経済的な損失なのか。二次創作には認めて豊かになる部分もたくさんあり、許容する人も一定数いる。それなのに生成AIが学習して出すことを拒む理由が気になります。

酒井：複数の難しい論点を含みますが、まず「著作権侵害＝悪いこと」という点について。著作物を含む情報は、形がないがゆえに放っておけば自由に流通するものです。ではなぜ著作物を創作した著作者に排他的権利を認めたのか、裏を返せば他人が勝手に著作物を利用した場合にそれを禁止する、咎めることにしたのか。その根拠として大きく2点挙げられます。1つ目は、Aさんが労力をかけてリンゴの木を育てたら、実ったリンゴはAさんのもので、勝手に他の人が売ったり食べたりできないのと同じように、Bさんが自らの内を耕して生み出された作品についても、Bさんが好きにコントロールできるべきだろう、これを権利として構成したのが著作権である、という考え方です。もう１つの考え方は、仮に著作権がなかった場合、他人が勝手に作品を使ったりアップロードされたりしたら、作者は作る気がなくなってしまう。作り手のインセンティブを高めるために、著作権を設定して一定期間他人の無断利用をコントロールできるようにしよう、というものです。したがって、感情的な側面も、経済的損失の側面も含みますし、悪気がなかったらリンゴを勝手に食べていいのか、インセンティブを削いでもいいのか、という話になるのでしょう。もちろん、情報が豊富に、そして自由に流通する環境を整えることは、社会にとって、また個人が表現を楽しみ、自律的に生活を行う上で重要なので、情報を利用する側の利益と、創出する側、つまり作者・権利者の利益とのバランスを図る必要があります。

次に二次創作について。著作権の原則からすれば、いわゆる二次創作も権利者に無断で行えば著作権侵害になりうる行為ではありますが、作者・権利者側が基本黙認している状態です。なぜ黙認するのか、その理由は作者により様々でしょうが、例えば、二次創作は原作への愛やリスペクトがあり、それを尊重したいといった考えや、二次創作の市場は原作の市場を直接侵食することはない（場合によっては、むしろ相乗効果で売れるということもあるかもしれない）といった背景があります。また二次創作界隈から将来的にイラストレーター・漫画家になる人が輩出されることもしばしばあるので、一種の人材育成の効果があり、業界全体の底上げにつながる、という考えなどもあるでしょうか。

しかしながら、生成AIで自らの作品が学習され、よく似た生成物が出力されるというのはややこの状況とは異なります。大量に作品を学習し、機械的に大量に出力できるということは、二次創作のような愛やリスペクトに薄いように思われますし、何より原作や作者自身の将来的な市場を侵食しうるものになります。将来的な人材育成に与える影響も大きいです。また最初の話につなげると、著作権というのは著作物の利用行為をコントロールできる権利なので、機械的に大量に学習される行為になぜ権利が及ばないのか、潜在的には経済的な対価を要求してもよい場面のはずなのに、という感覚を覚えやすい状況でもあります。

先程(前編で)永石先生がご指摘された30条の4で、なぜ機械学習に伴う著作物の利用を許諾なく自由に行ってよいことにしたのか。これは政策的な判断だけでなく、解釈上の調整もされています。著作物というのは、人が見て聞いて読んで、知的・精神的欲求を満たすこと、享受することに意義がある。著作権で禁止される利用行為も、これらの享受を前提としている。しかし人工知能が学習するために著作物を「読む」のは、ここでいう享受にはあたらないと考えられるので、自由に行ってよいはずだ。そういった解釈の調整がされた上で立法されています。立法過程で、作者側の利益の考慮は、「著作権者の利益を不当に害する」場合は除く、といった文言を通じて条文の中に盛り込まれたものの、シチュエーションの具体化がまだ進んでいません。ここ1年の生成AIの技術発展に伴って、作者側の不満が急速に膨らんでおり、今後色々と議論される部分だと思います。

– 学際情報学府に入学して、先生方のゼミや授業に参加する学生には、どういう志を持って、どういうことを学んでほしいですか。

酒井：著作権に限らず、個人情報やプライバシーの問題、SNS上での誹謗中傷問題など、自分の生活、身の回りで法的に問題になりそうなところは色々あります。これまで法律学習をしたことがない学生の方でも、そういった点に興味があったら、気軽に授業やゼミに参加してみてください。法律の話は、合法と違法のラインが常に判明していると思われることがしばしばありますが、もちろん白黒明確な事例はあるものの、合法とも違法とも言い切れないグレーゾーンが広く、また法律家・法学研究者であれば常に１つの解釈、回答に収束するというものでもありません。色々な解釈がある中で、リスクとメリットを考慮し、自分がどういう行動をするのが良いか判断することが大事なので、そのための一つの要素として、自分の授業や研究の成果を使ってもらえるといいかなと思っています。

著作権法を含め、情報法に関する研究をしたいと思って入学する学生の方には、もちろん法律の知識を高めることも重要ですが、ぜひ社会情報学以外のコースや、社会情報学コースでも他の学問領域の授業に積極的に参加して、学生・先生と議論する機会をたくさん作ってもらえたらと思います。それがいわゆる法学系の大学院に進学するのではない、学環に進学する時のメリットであり強みだからです。特に情報法の研究は、新しい技術への理解、技術を取り巻く環境への理解が必要なので、それに触れることができる学環という場を十分に活用していただけたらと思います。

永石先生：この対談で扱ってきた話題がまさにそうでしたが、広範な影響関係を持つ複雑な問題を、うまく分割することなく解決を導こうとしても、ほぼ不可能なままにとどまりがちです。それにもかかわらず、白黒がつけられるはずだと、クリアカットな解決を求めてしまう誘惑は非常に強い。特に大学院に入り、「自分の研究に従事するだけでもこんなに多忙を極めるのに……」と焦りがあると、異分野の研究を学友や研究者らから話を聞く際などにも、「つまり結論はなんなのか、白黒どっちなのか？」と訊きたくなってしまうことも多いと思います。

しかしこれこそが落とし穴で、上記のような問題について回答が与えうるのも、多くの場面においては、当該研究分野の知見で分割した、特定の課題の、特定の条件の下における一部です。酒井先生にご指摘いただいたように、広い「グレーゾーン」の中で白か黒かを求められてもそもそも回答しようがなく、仮に答えるとしても、訊き手の期待を反映した回答しか提供できなくなるかと思います。結論を急ぐことは、自身の不安の反響によって、進めるはずの道を自ら塞ぐことでもある。3.11の際の「再臨界の可能性はゼロではない」発言をめぐる混乱や、COVID-19感染対策の議論でしばしば見られたゼロリスク信仰の発露にも、こうした落とし穴を見ることができるかもしれません。

学府で学ばれる学生の皆さんは、研究生活上、さまざまな先端技術・情報技術についても触れる機会が多いかと思います。例えばそれを用いて何かをしようとすると、すぐに法的課題や倫理的課題につき当たってしまう、ということで悩まれるかもしれません。しかし、全ての課題を事前に回避しようとすると、グレーを排して「白」とされた道のみを設定することになる。おそらくそれは課題の解決にはならない。トラブルの回避だけに集中しても、それ自体はただマイナスがないというだけで、新たな価値を作り出してはいないわけですから。課題というのはそれ自体が悪なのではなく、他者に対して説明したり、説得したりする作業によって乗り越えられうる困難というだけで、むしろそうした課題をスルーせずに取り込むことでこそ、経験に富んだタフな社会を作り出しうるわけですね。

そうなると、関連するステークホルダーを巻き込んで、共にグレーゾーンを進むための方策が知りたくなるのではないか。実はここがまさに私の専門の一つである「法と科学」の仕事場でもあります。例えば講義なりゼミなりを通じて、みなさんの研究関心を広げるきっかけにしてもらえたらと思っています。

最後となりますが、学環・学府は本当に多種多様な研究の場を、学友や教員を通じて横断できる環境です。与えられたタスクに忙殺されることなく、自らのイニシアティブに基づく研究を可能な限り広げ、実現するためにアクティブに動いてみてください。我々もまたその一助となれば幸いです。

企画：学環ウェブ＆ニューズレター編集部
インタビュー：畑田裕二（助教）、山内隆治（学術専門員）、柳志旼（博士課程）
インタビュー＆構成：神谷説子（特任助教）
英語抄訳：デイビッド・ビュースト（特任専門員）