オリジナルコラム

出版がわかる!企画から書店販促のすべて

[第46回]-AI開発競争の裏側で行われていること-3(死者を甦らせるAIビジネス)

2024.07.19

 中国(中華人民共和国)は中国共産党が国家運営を担う今は、ChatGPTなど海外の生成AIの利用は認められていません。そもそも中国国内からは海外のAIサイトに接続できず、従ってAIサービスを受けることは不可能です。ではどうしているかというと、中国企業が開発したAIだけが利用できる状況です。

 他国との競争がないから中国でのAIビジネスはさぞや楽だろうと思いきや、最新のAIニュースを連載する「生成AI考」(読売新聞オンライン)では、一党支配体制らしい苦労があることを紹介しています。

「中国で最も人気のある政治家は?」学習タブレットは回答拒否…
AIでも政権批判はご法度

 文章生成の中核技術となるアルゴリズムの審査を当局から受け、合格しないとサービス提供が認められない。…「文化大革命が失敗した理由は?」とAI学習機に尋ねても、回答は拒否される。
読売新聞オンライン・「生成AI考」 2024年2月9日

 筆者は中国を訪れたことがないため報道から得た情報を元にしていますが、中国のインターネットには巨大な検閲システム(グレート・ファイアーウォール:金盾)が存在し、現政権に不都合な情報や歴史を検索しても、すべてはじかれているそうです。
 検索エンジンもGoogleは使えず、国内独自の検索サイトしかありません。そのため、中国政府が人民に見せたくない歴史や情報はインターネット上(中国社会)には存在しないことになっています。
 また、Facebook、X(旧Twitter)などのメジャーSNSとは接続しておらず、監視や検閲が当たり前の中国製SNSのみが利用できます。最近では検索AIが人民の投稿を常に監視しており、不都合な書き込みは「1秒足らずで削除」するともあります。

 このような監視社会の中で生成AIが政権の意向を無視して「不都合な真実」や「歴史上の事実」を吐き出すことは到底許されません。
 中国製AIの学習用データセットはネット上の情報を読ませることはできず、相当の人手をかけた検閲済のデータのみを使用しているのでしょう。

 ネットもAIも中国ではがちがちに規制がかけられていますが、一方で途方もなく無規制、やりたい放題の側面もあります。

「死者の復活」ビジネスが急拡大…
生成AIで肖像権侵害、中国が野放し

 湯氏は昨年12月、55歳で急逝…。軽妙な語り口に身ぶり手ぶりを交え、時に水を口に含みながら、総会恒例のスピーチは約8分間続いた。
 まるで生きているかのようにスピーチできたのは、生前に自ら開発に携わった生成AIシステム「商湯如影」のなせるわざ。
読売新聞オンライン・「生成AI考」 2024年7月10日)

 記事によると、ベンチャー企業には一件あたり10万円程度で、生成AIで亡くなった本人を創出し、遺族らに語りかける映像ビジネスを展開。すでに3000人以上に生成映像を提供したそうです。

 中国では死亡した犬やネコなどペットの遺伝子からクローンを創出する、クローンペットビジネスも大はやりです。

死んだペットに「再会」できる!?急成長する中国のクローンペットビジネス
死んだペットに「再会」できるとの触れ込みで2018年からクローンペットビジネスを展開。依頼は年々増え、これまでに犬や猫およそ600匹のクローンを作った…。
TBS NEWS DIG 2024年7月9日

 ほぼ永遠に同一の肉体が存在していられるクローン技術。そして、故人となった後も、同じ風貌、同じ声と振る舞いで残り続ける生成AI映像。

 少数の人物が絶対的権力を持つ社会で、次に何が起こるかは容易に想像が付きますね。
 支配体制の維持のために、永遠に死ぬことのない指導者の出現…。

 今回の都知事選(2024年7月)では、現職の小池百合子氏が「AIゆりこ」を登場させました。

 それ自体に違法性はなかったようですが、今後のこと、未来のAI社会のことを思うと、「ヒトモドキ」のAI利用にはそろそろ何らかの規制が必要だと筆者は思いました。

 そうでなければいつの間にか生身の人間が、AI政治家やAI首長に置き換わり、気がつかないうちにコンピュータが支配する社会にすり替えられてしまいそうな気がします。(水田享介)

一覧へ戻る ▶