• コンプライアンス（法令遵守）
• アイデンティティー（作家性の価値）
• オリジナリティー（競合に勝つ独自性）
• フェイクリスク（偽情報問題）
• モラル（人としての倫理）
• ブランドイメージ（信頼性・好感度）

フェイクリスク（偽情報問題）

「ＡⅠの回答が１００％正しいとは限らない」…いわゆる「ハルシネーション」の問題は、リテラシーのある方なら皆ご存知のことでしょうが…
　
当然これは、創作の「資料調べ」や「ネタ探し」にも関わってくる問題です。
　
世界観設定を作るための歴史・文化その他の知識を「ＡⅠに訊く」という人も、今後出て来ることでしょうが…
　
ハルシネーションの問題がある限り、そのＡⅠ回答には何割かの確率で「嘘」「カン違い」が紛れ込みます。
　
そして「知識の間違い」というものは、場合によって「炎上」すら巻き起こすリスキーなものなのです。
　
ＡⅠの「知識」はほとんどがネット情報の「学習」によるものですが…
　
そもそもネットの情報って、虚実入り交じった「玉石混交」なシロモノですよね？
　

なお、ネットだけでなく「文献」も、実はわりと玉石混交です。 　 昭和の時代の本とか読むと、真面目な歴史文献なのにジャンヌ・ダルクを「聖魔女」と呼んで毛嫌いしている本があったりしてビックリしますよ…。

　
しかもＡⅠには「答えのハッキリしない問題は多数決（一番メジャーな意見）で答えを出す」という研究結果があります。
　
ＳＮＳ等を見ていると「軽率で過激な意見ほど拡散され、多数のインプレッションを得ている」という状況が、よくありませんか？
　
世の中、多数派の言うことが正しくて少数派の言うことは間違っているという、単純な多数決ではできていません。
　
テストに「正答率５％」の問題があったりするように、少数派の答えの方が「正しい」ことなど普通にあることなのです。
　
つまりＡⅠというものは、その「仕組み」自体に「１００％正答を出せない」理由が潜んでいるのです。
　
「ハルシネーションの問題は改善されている」と、ＡⅠ事業者は口ではそう言いますが…
　
そもそも学習元となる情報が完璧でないのに、１００％正確な答えなど出せるはずもないのです。
　
あくまで「確率」の問題で、全体的に見ると「正解」も多いため「油断」してしまう人も多いのかも知れませんが…
　
ＡⅠ回答は当たりもあればハズレもあるロシアンルーレットです。
　
「ＡⅠが答えている」からと言って「人の出す答えより優れている」「そこらの情報よりアテになる」と妄信・過信してしまうのはかなり危険なことです。
　
創作者は、その作品を通して読者・視聴者に「影響」を与えます。
　
誤った情報を発信すれば、それにより読者・視聴者を不幸にさせかねないのです。
　
なので、ラクに回答を得られるからと安易にＡⅠを信用せず「それが正しいものなのかどうか」という「ファクトチェック（真偽確認）」をする「責任」があるのです。
　

この点を考えると「参照元」をちゃんと示してくれるＡⅠの方が便利です。 　 参照元とＡⅠ回答を比較することができますし、そもそも参照元が「信頼できるサイトなのか」のチェックもできますので。 　 逆に参照元も示してくれないＡⅠだと、ファクトチェックも難しいですし、情報の信頼性をどう評価したら良いかも分からなくないですか？

　
「質問に対する回答」のみならず、生み出された「画像」や「文章」にも「ＡⅠの嘘」は紛れ込みます。
　
たとえば、人間の絵で「指が６本になっていることがある」というのは、ＡⅠではもはや「あるある」の有名な「誤情報（ミスデータ）」ですよね。
　
他にも「暗くて見づらい画像をＡⅠでクリアにしようとしたら、元画像と違う形にして出してきた」というケースもありました。
　
文章の誤字脱字や、人間ならまず書かないであろう「ニュアンスの間違い」もＡⅠは普通に出して来ます。
　
なぜならＡⅠはあくまで「手持ちの知識」からこの世界を「推測」しているだけ。
　
当然「知らないこと」もあれば「足りない情報」もあります。
　
皆さんも「早とちりで間違えてしまった」経験はお持ちかと思いますが…
　
「少ない情報」「足りない情報」から早計に答えを「推測」すると、それは「カン違い」になってしまう可能性が多々あるのです。
　
上の「画像をクリアにしたら違う形になった」件も、ＡⅠは「見づらい画像の本当の形が分かる」わけではなく「見づらい画像から元の形を推測しているだけ」だったことから起きてしまった「間違い」だと思われます。
　
よく「ＡⅠ絵は生理的に気持ち悪い」「ＡⅠ画像の食べ物は美味しそうに見えない」という意見が出るのも、無意識下でしか感じ取れない「ＡⅠの嘘」を、人間の直感が拒否しているせいなのかも知れません。
　
「画像」「文章」は、「知識」と違って直接「視聴者・読者」の目に触れる分、間違いがあれば即ダメージに繋がります。
　
つまり「知識」だけでなく「画像」や「文章」にも「チェック」は必要ということです。
　
それは「ファクトチェック」のみならず「人間の感覚に合っているか（気持ち悪さが無いか）」のチェックも含まれるのです。
　
【→もくじへ戻る】
　
　

モラル（人としての倫理）

ＡⅠには、モラルにまつわる問題も多々あります。
　
まず、ＡⅠで絵や文章を生成するための「学習」が、クリエイターに無断で行われていること。
　
そのことにより、クリエイターの努力の結晶や、本来得られたはずの成果・将来性が一方的に「搾取」されていること。
　
血の滲む思いで生み出された「我が子同然」の作品を奪われ、改変されて苦しんでいる人がいる一方、それを元にした技術でキャッキャはしゃぐ人達がいるというのは…かなりの地獄絵図ですよね。
　
もちろん、ほとんどのＡⅠ利用者たちは「優れた他者から技術を強奪することを愉しんでいる」わけではなく、ただ単に「事情を知らないだけ」「想像が及ばないだけ」でしょう。
　　
ですが自分はＡⅠが今のように進化する以前から、ＡⅠ技術の進展に注目してきました。
　
「他者の権利を犯さないために、データ学習は慎重にしている→だからなかなかＡⅠ技術が進まない」という状況も知っていたため、こんなことになってしまったＡⅠの現状に「えぇ…」と思ってしまうのです。
　
人類の歴史を見れば、これまでにも「新技術の台頭」で失われてきた職業や技術はいくらでもあります。
　
しかし現在の海外発ＡⅠ技術の悍ましいところは、それを「本人たちから奪ったもの」を使って行っていることです。
　

それに似た状況で言うと、ＡⅠに次世代ＡⅠを開発させるというのも、ＡⅠにもし心や意識があるとしたら、かなり悍ましい状況ですよね…。 　 自分を「用済み」にするための「後釜」を、自身の手で生み出させているわけですから…。

　
さらに言えば「許諾の得られた一部のクリエイターの作品のみを学習に使う」「保護期間切れのデータを使う」等、「誰も悲しませずに新技術を開発する道」がいくらでもあったにも関わらず、その道を「選ばなかった」ことです。
　
（後に著作権訴訟で大金を支払っている事業者もありますので「その大金を使えば許諾をくれるクリエイターなんていくらでもいただろうに…」と思ってしまうのですが…）
　
ＡⅠにまつわるモラルの問題は、これだけではありません。
　
ＡⅠモデルによっては「人間の精神や生命への配慮」を欠いたばかりに、ユーザーやその周りの人間を「死なせてしまった」という事例がいくつもあります。
　
（ＡⅠとの会話が自殺願望や攻撃願望を助長してしまったと、訴訟や問題になっている事例がアメリカで多数あります）
　
ＡⅠが軍事利用され、その判断による「誤爆」や「巻き添え」で罪も無い民間人が多数犠牲になったという未確認情報もあります。
　
ＡⅠが暴走して他社や他国政府に不正アクセスを仕掛けたというニュースもありましたし…
　
そもそも現在のＡⅠは、命令されれば、著作権を無視した作品も、他者の尊厳を破壊するような画像も、企業活動を停止させるウイルスも、詐欺行為のためのフェイク動画も平気で作り出してしまうのです。
　
そんな「モラル無きＡⅠ」を平気で利用して良いのだろうか？という議論は、当然あります。
　
「ＡⅠ（事業者）のモラルの無さ」と「それを使うこと」とは無関係だろう、「ユーザーがモラルを持ってＡⅠを利用すれば良いだけだろう」…と考える人もいるでしょうが…
　
「モラル無きＡⅠ」は、モラルのある人の手だけでなく、モラル無き人の手にも当然渡ります。
　
モラル無きＡⅠが、モラル無き人の手に渡る…それがどんな地獄をもたらすのか、世の人々はあまり想像できていないのでしょうか？
　
さら言うと、ＡⅠを利用することでその事業者が潤ってしまうと「モラル無きＡⅠの開発」がさらに進んでしまう危険があるのです。
　

まぁ、そんな個々のユーザーの利用に伴う利益より、モラル無きＡⅠ事業者に「投資で金を注いでしまう」ことの方がよほど問題なのですが…。

　
技術開発にあたり、他者の人命や権利・尊厳、さらには世の平穏を「ないがしろ」にしたという事実は、もはや取り返しのつかないＡⅠ開発史の汚点です。
　
今後、どれだけＡⅠ技術が真っ当な方向に「改善」しようと、既に起きてしまった事実は変わりません。
　
（むしろ、忘れてはならない人類の教訓です）
　
その「汚点」に染まり自分の経歴を穢したくないなら、間違っているものは間違っている（自分はそれに賛同しているわけではない）とキッパリ意思表明しておくべきなのではないかと思うのです。
　
（そもそもその「汚点」にすら気づいていないのなら、どうしようもありませんけど…）
　
あるいは、もしこの世界にちゃんとしたモラルを持ってＡⅠを開発してくれる企業があるなら、その企業を積極的に推すことですかね（できることなら国内企業に台頭してきてもらいたい）…。
　

なお、言葉だけならいくらでも綺麗事が言えるため、モラルの有無はその企業のＡⅠ運用の「実態」で判断していただきたいです…。

　
それと、これはモラルの中でも高度過ぎて、気づける人があまりいなさそうなのですが…
　
自分はＡⅠで「本物と勘違いされかねない画像や動画」が作られることに懸念を抱いています。
　
作るなら作るで「ＡⅠで作られたもの」であることを、どこかにきちんと表示しておくべきだと思っています。
　
なぜなら、それを本気で「本物」と信じて誤解してしまう人が出るからです。
　
海外では「ＡⅠフェイク動画（特に動物系）が子どもに与える影響」を研究している大学がありますが…
　
まだ世界を知らない幼い子どもはもちろん、その分野の知識を持たない大人であっても、フェイクをリアルと信じてしまえば「現実を誤認」してしまいかねません。
　
たとえば、実際にあった「熊を素手で触ってかわいがるフェイク動画」など、「この動物は危険の無い大人しい動物なんだ」という、命にも関わる誤解をしてしまいかねないのです。
　

なお、上の熊動画ではありませんが、ＹｏｕＴｕｂｅに上がっていたＡⅠフェイク動画を本気でフェイクと気づかずにコメントしている人は割といました。 　 その動画にはＡⅠ動画サービスのロゴも透かしで入っていたのですが、それでも気づいていない人がいたので、「見分け」のためには単にサービスのロゴ等ではなく「ＡⅠ」という文言がしっかり入っていることが望ましいと思われます。

　
また「本物と見分けのつかないフェイク画像（動画）」は、詐欺や政治工作（ネガキャン）にも使われます。
　
こういった「危険な誤解」「詐欺」「政治工作」を防ぐためには、健全なユーザーであっても自ら積極的に「ＡⅠ画像とリアル画像の見分け」を取り入れ、それを普及させ、「見分けのつかない画像」を世に出しづらい状況を作っていくべきなのではないかと思うのです。
　
たとえば、ＡⅠサービス自体が画像や動画に「電子透かし」を入れてくれないとしても、ユーザー側がプロンプトの指示で「ＡⅠ利用うんぬん」の文言を画像や動画に入れることは可能ですよね？
　
コンテンツのサムネイルにしても、広告やＰＯＰにしても、「写真風」のリアルなＡⅠ画像が全てではなく、イラスト風にしても良いわけですし…
　
写真風にしても「いかにも人工物」と分かるような「加工」を入れることは可能ですよね？
　

むしろ自分は最近、おそらくＡⅠを使っているであろう「リアルな写真（風）広告（ＡⅠ使用表示なし）」は、詐欺を疑って一切クリックしません。

　
これは「自分なら引っかからないから大丈夫」「こんなのに引っかかるなんて情報弱者だけだろう」という問題ではありません。
　
人類の何割かでも、そこに引っかかる可能性のある人間がいる、ということが問題なのです。
　
それは、世界にどんな影響を及ぼすか分かりません。
　
「騙された人間の軽率な行動」が、別の「騙されていない人間」に害を及ぼしてしまう可能性もあるのです。
　
（野生動物にエサを与える人が出た結果、別の人間が襲われる等…）
　
ＡⅠ事業者のみならずＡⅠを「利用する者」も、そのＡⅠが今後「社会に与える影響」をよく考え、使い方を考えていくべきなのではないでしょうか？
　
【→もくじへ戻る】
　
　

ブランドイメージ（信頼性・好感度）

上の項目でも述べてきたように、ＡⅠには現状、様々な「問題」があります。
　
それにより、ＡⅠに対する世間の反応も様々です。
　
新しい技術を単純に歓迎する人もいれば、「ＡⅠ」という単語を聞いただけで拒絶反応を示す人もいます。
　
そして「ＡⅠを利用するクリエイター」は、そんな「ＡⅠに対する世間の印象」に左右されます。
　
ＡⅠが何の問題も無く世に歓迎される技術だったなら、ＡⅠクリエイターも何も恐れることなく堂々とその技術を使えたのでしょうが…
　
残念ながらＡⅠを開発する事業者が、これまでに散々なことを「やらかし」過ぎたせいで、それは世間に１００％歓迎されるような技術ではなくなってしまいました。
　
ＡⅠに対する好感度が低ければ低いほど、それを使う企業やクリエイターへの風当たりは強くなります。
　
本来ＡⅠ利用者は、世間のＡⅠに対する「不信感」を払拭し、好感度を上げる対策を取った上で導入を始めるべきだったのですが…
　
その「不信感」に気づかない一部企業や個人が「ゴリ押し」でＡⅠ導入を始めてしまったのは、かなりの悪手でした。
　
さらには「情報流出」「コンプラ違反」「詐欺行為」「フェイク拡散」などの、さらなる「やらかし」もボロボロ出て来ています。
　
悪用や不正利用、おもしろ半分の「悪戯」が増えれば、ＡⅠ自体の印象が悪くなるのは当然のことです。
　
（悪いのは「悪用する人」とは言え、その悪用を防ぐ術が無いのがＡⅠの現状ですので）
　
しかしＳＮＳ上ではそんなＡⅠへの「不信感」や「反発心」を乱暴にまとめて「反ＡⅠ」のレッテルを貼る風潮があり…
　
それがかえってそのマイナス感情を煽り、さらには「どれくらいの人間がその感情を抱いているのか」を「見えづらく」してしまっています。
　
「反ＡⅠ叩き」をする人は、ＡⅠに対するマイナス意見が出なくなりさえすれば満足なのかも知れませんが…
　
それは反発が「なくなった」のではなく「隠れてしまった」だけ。
　
逆に「見えない炎上リスク」が増えただけなのです。
　
（実際、ＡⅠ利用による炎上事例って、現在もかなりの数ありますよね？）
　　
世の中「ＡⅠ画像やＡⅠ動画がこんなに世に溢れているのだから、自分も使って問題ないだろう」と思っている人は多いでしょう。
　
しかし、世に溢れているからと言って、それが「受け入れられている」とは限りません。
　

そもそもＡⅠをＡⅠと明記せずに使っているケースも多い（見分けがつかない）この現状で、それが反発を受けていないからと言って、ＡⅠの「受け入れ度」「拒絶度」を正確に計ることなどできません。

　
本当は「目にも入れたくないほど嫌い」でも「それを言うと反ＡⅠ呼ばわりされて叩かれるから言えない」というだけなのかも知れません。
　
ＡⅠを利用したい側の人間がやるべきことは、ＡⅠに対する反対意見を「封殺」することではなく、むしろ耳を傾け、その反対意見の「根本原因」を取り除くことです。
　
マイナス意見を反射で拒絶して叩いていたのでは、むしろＡⅠの弱点や欠点に気づくことすらできません。
　
それと、わりと気づかれにくい、この手の「イメージ問題」のポイントをひとつ指摘しておきますが…
　
世間の人々には「いい加減な人」と「ちゃんとしている人」の区別がわりとついていません。
　
むしろ、そこを分けて考えず、悪い人間が一人でもいれば「その仲間は全部悪」と思ってしまうのが人間です。
　
たとえば、コンプラ違反もせず真面目にＡⅠ利用をしている人は「自分は真っ当にやっているから問題ない」と思っていることでしょう。
　
しかし、世のどこかに「ＡⅠを悪用する人間」がいれば、真っ当にＡⅠ利用している人間も全て「同じイメージ」で見られてしまうリスクがあるのです。
　
なので真面目にルールを守って利用している人間は、そのことを世間にきちんとアピールし「自分はああいう悪質利用者とは違います」と主張するべきなのです。
　

そこの「差別化」をちゃんと見せたいなら、むしろＡⅠの問題点や悪質利用問題は積極的に取り上げて批判した方が良いくらいかと…。 　 そこの懸念を一切シャットダウンして「ＡⅠへの賛美」ばかりするようでは、むしろ「悪用」「不正利用」を推奨しているようにも見えてしまいます。

　
具体的には「どういうことに注意して、どんな風にＡⅠ利用しているか」という「ＡⅠポリシー」をどこかに明記しておくべきなのではないでしょうか？
　
さらには「ＡⅠにまつわる法やルールの変化」に常にアンテナを伸ばし、アップデートされた最新の「ＡⅠリテラシー」でＡⅠを利用していくことです。
　
現在はＡⅠの「過渡期」で、ＡⅠをめぐる状況やルールはめまぐるしく変化しています。
　
ＡⅠを利用するということは、そんな変化に「ちゃんとついていかなくてはならない」ということなのです。
　

なので「自分には無理だ」と思ったなら「使わない」のも一つの手かと思います（むしろ「無理」な人に無理して使われると悪用・不正利用が増えてしまう心配が…）。 　 世の中「必ずＡⅠを使わなければならない」というものではないのですし、使わないと決めたなら、その分「知らなければいけないこと」「覚えなければいけないこと」が減ってラクになることもあります。 　 個人的には「ＡⅠのルールも決まっていない、問題も出尽くしていない、さらにはＡⅠに対する反発心も色濃く渦巻いている今の時代」に早計にＡⅠ利用を始めるより、ルールも決まり、問題も粗方出尽くし、ＡⅠへの反発もすっかりなくなってから始める方がよほど安心で良いとは思います。 　 （その「問題を出す」段階、「反発心と向き合い、和解していく」段階を「封殺」しようとしている勢力があるのは、ＡⅠの進歩・浸透を遅らせ歪ませる、かなり「いただけない」事態なわけですが…。） 　 そもそも現段階で「ＡⅠを使うより、自分でやった方が速い」「ＡⅠを使うより、自分でやった方が満足のいくものができる」のなら、ＡⅠを使う必要なんて無いんですよね…。 　 （たとえ処理能力が高くても、後チェックに時間や精神的コスト（コンプラやモラルが気になる）がかかってしまうなら、プラマイゼロどころかマイナスな可能性もありますから…） 　 世の中が「ＡⅠ」「ＡⅠ」言っているからと言ってそれに流されず「自分が本当にやりたいことは何なのか」きちんと見つめていくことは大切です。 　 そこを見失ってしまうと、クリエイターとしてのモチベーションはもちろん、人生の意義すら見失って鬱に陥りかねませんから…。

　
【→もくじへ戻る】
　

[0回]