〘情報・メディアと知財のスローニュース〙

「ドラえもんに心はあるか？　～ AI創作と『最適化の罠』～」

弁護士　福井健策（骨董通り法律事務所 for the Arts）

本稿は「情報管理」誌2017年9月号掲載予定のコラムをアレンジしたものです。

進むAIによる代替

人工知能（AI）が自動生成するコンテンツの話を続けよう。増え続けるこうした小説、記事、曲やデザインの実例については、「AI自動創作の現在を俯瞰する」というコラムで、自分の限られたアンテナに引っかかったほんの一端は紹介した。そこに載せたざっくりした現状の俯瞰は下の表だが、これですらほんの一部だろう。

	一次創作系	加工・二次創作系	対話系
文章	星新一プロジェクト、「コンピュータが小説を書く日」、日経決算サマリー、AP通信の野球短報記事	自動翻訳、自動字幕化、リライトツール	女子高生ボット「りんな」、Siriなど対話型アプリ
音楽	エミー、オルフェウス、Iamus、Jukedeck、Magenta、「思い出曲創作」	オルフェウス、ujam	リヒテル・ボット
画像・動画	ストリート・ビュー、レンブラント・プロジェクト、DeepDream 、Magenta	Tailor Brands 、DeepDream、マチス風スター・ウォーズ、自動着色、自動手話映像、超解像拡大

こうした話題がよく向かいがちな方向が、「AIは人間の創造の深淵にどこまで迫れるか」で、つまりハイエンドな方の話である。少し性格は違うが、将棋でも囲碁でもやっぱり「頂上対決」が一番ニュースになりやすいのにも通ずるだろう。もちろん好きな話題だが、実は筆者の最近の関心は、こうしたハイエンドよりむしろローエンドからミドルクラスに向きつつあるかもしれない。言わば「真の創造や革新かはともかく、これまでクリエイターと言われる職種の人間がしていた仕事が近い将来、マーケット的にAIとロボティクスにどこまで代替されそうか」である。
この問いなら、少なくともある程度まではもう答えは出ていると思う。恐らく、既にかなり代替されつつある。AIコンテンツという山の「頂き」が、過去人類が生み出して来た幾多の傑作の高みにいつ達するのか、いや果たして達することがあり得るのか。それは筆者ごときの想像の及ぶところではないが、同じくらい重要な「コンテンツのすそ野」だったら、既にその色はかなりAI色に染まりつつあるように見える。もっともそれは完全なAI自動生成というより「AI+人間」といった趣のものが多そうだが、マーケット的な影響でいえば、実は大きく変わらないだろう。
BGM自動生成サイトが30秒で生み出す音源は、既にYouTube動画のBGMとしては累計3000万回以上再生されているし、自動翻訳はとっくに商用利用され、野球のマイナーリーグや企業の業績記事は自動生成され大規模配信されている。そこそこのロゴマークは数分で無料作成できるし、モノクロ写真や映像のAI自動着色も進む。AI作曲家、AI翻訳家、AI記者にAIデザイナー。いずれも、従来は人間の「著作者」の専権だった分野である。それが素人並みからハイアマ・新人プロのレベルに、その百倍もの生産スピードを持って急速に登りつつある。何やら、数年前の将棋や囲碁に似ているではないか。

問いかけ①：それは大量・低コスト化でプロ・クリエイターの失業を招くか？

では、AIコンテンツがこうして拡大を続けて行くとき、それは我々の社会にいったいどんな影響を与えるか。
第一は言うまでもなく、「情報の大量化・低コスト化」に更に拍車がかかることだ。1曲30秒、1記事数分であれば限界費用はせいぜい数十円か。わずかな売値や広告収入程度で十分利益が出る。だからこそ「マイナー」スポーツの記事のように、読者が極めて限られる分野にも営利企業が進出でき、ニッチなニーズを持った読者が好きなコンテンツを楽しむことが出来る。「情報の民主化」だ。デジタル化が社会にもたらした最大の福音は、AIネットワーク化で一層促進されるだろう。
だが、このメリットには裏返しのリスクも指摘できそうだ。リスクシナリオは「プロ・クリエイターは生き残れるか」だろう。大量・低コスト化は当然ながら価格破壊を生む。例えば「無料だがベタベタ広告が付いたそこそこの記事」と「1本50円だが高レベルの記事」なら、後者を選ぶ読者もいるだろう。だが、「無料で広告も少なく、かつ多様なそこそこの記事」だったら？それがAIによって高速に生み出される時、プロ・ライターの生活はどうなるかという話である。まして現在のプロといえども、生活のための日常の仕事というものは結構ルーティンな場合も多い。手際は良いが唯一無二ではない記事。素敵だがコツがわかれば撮れそうな写真。あるレベルに至れば創れる曲。つまり「すそ野」だ。この部分で食いながら、時にすごい表現を生み出してしまう。そんなクリエイターは多いのではないだろうか。そのルーティンの部分がAIに代替される時、ほとんどのプロ・クリエイターは収入手段を失って生活できなくはならないか。そして大半がほかに本職を持ち、時間のゆとりで創作を行う「セミプロ・ハイアマ」に移って行く。こんな予想はそう難しいことではない。
それは、あるいは社会の必然的な変化なのかもしれない。しかし、我々の社会は20世紀前夜辺りから、長らくプロ・クリエイターの時代にある。かつてはほかに本職を持ったアマチュアが創造の中心だったが、印刷や録画技術の発達した「複製芸術」の時代、大量のプロ・クリエイターが生まれそれが文化・社会の変革に大きく寄与して来たことはご存じの通りだ。仮にプロ・クリエイターが激減すれば、それは我々の社会にどんな影響を与えるだろうか。

問いかけ②：それは適法な「パクリ」を量産するか？

以上が第一に考えられるメリットとリスクだった。第二に考えられる影響はもっと端的なリスクから書こう。パクリが多発しないか？である。ご存じの通り、AIは膨大なデータを学習して、自らもコンテンツを生み出すようになる。例えば、バッハの作品を大量に学んだプログラムが「バッハ風の曲」を書くようになる。実は、著作権法には47条の7という例外規定があって、こうした大量のデータをコンピュータが解析・学習することは自由に出来る。つまり、バッハよりもっと最近の曲、例えばビートルズの曲を大量にAIに学習させるべく読みこんでも、そのこと自体は著作権侵害ではないので自由だ。現にソニーはAIにビートルズ風の曲を作曲させてネット上で発表している。なかなかの出来だ。
ただし、そこにひとつの条件がある。例外規定が認めるのは「学習」までなので、出来上がった曲がビートルズの特定の曲にメロディや歌詞がそっくりだったりすれば、それは恐らく「著作権侵害」となって使えない。
ところが実際、AIを名乗りつつこれをやってしまった例はある。著名なのは、AIアプリがユーザーの画像をアニメ絵に加工すると名乗りつつ、出力したのは新海誠アニメの背景画ほぼそのままだった、という「EverFilter」事件だろう。あるいは、DeNAなどキュレーション・サイトの大量閉鎖問題をご記憶だろう。既存のブログなどの無断借用が多いと指摘された訳だが、その際に介在を指摘されたのが、こうした既存の文章を書きかえるための「リライトツール」と名乗るソフトウェアだった。ご覧頂いているのは1秒で2000字置き換えを謳う代表的な商品だが、その名はずばり「AI」である。

AIによるリライトツールと名乗る広告例

以上は稚拙で、恐らくそもそもAIと呼べるレベルのものではないだろう。しかし、これは確かにコンピュータの得意な作業ではある。実は、裁判所による「侵害の判断基準」は、恐らく一般の方が考えるよりも厳格で、つまり相当に類似レベルが高くなければ法的な侵害とは判断されていない。よって、本当にかしこいAIが現れてこうした裁判所の基準に精通し、そして「特定作品にかなり似ているが侵害には達しないレベル」の新作を量産することは、恐らくそう難しいことではない。現状、著作権は公表される侵害判例の数が少ないのですぐにそこまでは行かず、判例・審決例の多い商標などの分野で先行するかもしれないが、仮にそうなったらキュレーション問題どころの騒ぎではない。「適法なパクリビジネス」の誕生である。明らかに特定の記事に似ているが侵害ではない記事が今よりはるかに高速・大量に登場すれば、ジャーナリズムの命運は相当に厳しいだろうし、同じことは、他のどの表現ジャンルにも言える。
もっとも、逆に「AIを使って侵害を発見したり、その責任を追及することも容易になる」とも言えそうだ。つまり、侵害を自動で発見し警告書を自動送付し削除確認と和解金の受領まで自動化された、「AI知財ポリス」である。これはAIコンテンツそのものではないが、（行き過ぎにならなければ）知財ビジネス全体に及ぶメリットとも言えるかもしれない。この分野も、メリットとリスクはどちらも指摘できそうだ。

問いかけ③：それは社会に新たな感動や革新をもたらすか？

最後に、AIコンテンツへの期待としては、言うまでもなく「新たな体験・感動・発見の創出」が挙げられるだろう。AIと人間が組むことで、誰でも作曲やデザインのようなこれまでに出来なかった素晴らしい体験を味わえる。AIが我々ひとりひとりのためにテーラーメイドで届けてくれる音楽や映画のエンディング、自分専用のAIキャラとの会話は、我々に新たな満足を与えてくれるだろう。「AlphaGo」との対決で異次元の囲碁の指し方が見つかったように、全く異なる作品の創出や社会のイノベーションにすらつながるかもしれない。
だが、逆の予想も出来る。「これは知の縮小再生産ではないか？」という疑問だ。過去にヒットした音楽を学んでその解析から新曲を作り、それを我々の過去の視聴履歴やその日の気分に応じて流してくれるスピーカー付きの人工知能DJ。そこに失敗や衝突や発見はあるのか。現実のクリエイターは、「売りたい」という商売っ気と同時に、より多様で不安定な衝動や感情を内側に抱えている。それがしばしばスベリまくった失敗作を生んだりスランプの原因になると同時に、全く稀に、数年にひとつという革新的な作品や手法を生み出しても来た。失敗も衝突もない「最適化の連鎖」は、社会から革新の力を奪ってしまわないだろうか。

まとめ：ドラえもんには心があるか？

唐突だが、ここでAI全体にも関わるひとつの問いかけが心に浮かんだ。「ドラえもんに心はあるのか」という問いだ。･････神をも恐れぬ言葉である。我々の知るドラえもんには、間違いなく素晴らしい心がある。でも実際のAIはどうか。それは自分自身の衝動を持たない（はずだ）。例えば我々の満足度、「♥」ボタンを押したり、途中で視聴を止めなかったり、果てはセンサーが計測する脳内物質がある域内だったりといった要素によって判断される一定の満足度の指標が、最大化するように振る舞う（はずだ）。あるシチュエーションでは「も～のび太くんは」と困った顔をし、別なシチュエーションでは「えらいよ！」と涙を流すことで目標指標を最大化できるなら、そうするだろう。外見は完全に人間的に振る舞い、その心の中は、空っぽの洞窟かもしれない。
それは、特定のゴールに最速で到達する将棋や囲碁には抜群に向くだろう。だが、「自らゴールを変える」という、クリエイター／イノベイターが社会で果たして来た（少なくとも果たすことが期待されて来た）役割を代替できるのか。固定されたゴール（衝動）しか持てないAIが作るコンテンツは、この世界に革新や進歩をもたらすのか？あるいは停滞と縮小を？

AIをめぐっては、それ自身や生み出されるコンテンツにどこまで知的財産権による独占を許し、どこから自由な利用を認めるべきか、筆者も末席に加わって政府での議論が続いた。知財に限らず、AIの開発と利活用をめぐる法制度やガイドラインの議論には、こうした様々な社会影響を予測し、そのメリットを最大化しリスクを最小化する視点を欠かすことは出来ないだろう。だが急速に変化する技術と社会の中でそれはことのほか難しく、我々のちっぽけな頭脳には全く荷が重い。もうその制度設計も、AIの手に委ねてしまおうか。･･･と言えば、僕らの心の中のドラえもんは、きっと怒るだろうなあ。

以上