【連絡】本格的にクロスフォリオに移行します。

くろっしゅさんですごきげんよう。
連絡です。表題のとおりです。（二度目）

で、今後こちらはしばらく更新しなくなるので
クロスフォリオのチェックをお願いします。
絵もそっちにまとめてるよ！

連絡でした。

【連絡】Xfolioに登録しました

くろっしゅさんですごきげんよう。
連絡です。表題のとおりです。（雑）

Xfolioに登録しました。

今後は
今までpixivやポイピクで行っていた絵の投稿、
ここで行っていた進捗報告、
両方ともXfolioに集約する予定です。

ゲームの配布についてはXfolioで対応してないので未定

それに伴い、ここの有料プランは今月で削除します。
何度もすみません。

連絡でした。

【雑談】最近の色々とクーポンと　※クーポン配布は終了しました

くろっしゅさんですごきげんよう。

近況報告、といい加減に過去作どうにかしようかの話。

【明るくないお話】生成AIの問題点に関心を持ってほしい

SNSなんか見てるとですね、
未だに
「生成AI批判は仕事を奪われたくない絵師のお気持ち」
「楽してるのがズルイって喚く根性主義の老害」
みたいな認識の人がちらほらいて嘆かわしい限り……
そこじゃねぇんだよ。
って言いたいだけの記事。

ぶっちゃけ問題点が多岐にわたりすぎて
書こうとするほどに記事が煩雑になってしまうので
今回は、特に注意喚起と誤解を解きたい話だけ
端的に、淡々と、していこうと思います。
次回があるかは未定。

ホントは3月のパブコメ前に公開出来ればだったのだけど
悩んでるうちに過ぎてしまった。ごめん。

根底にあるブラックなデータセットと権利侵害

画像生成AIは人と同じで見た絵から学んで自分で考えて描いてる、
なんて夢物語を信じている人もいるようですが、
実体はそうではなく、大雑把に言えば
画像やリンクにアクセスして絵を作るために使っている
というのが近いです。
その証拠に、
学習画像の完璧に近い再現やまんま版権キャラが出力された
という実験結果・実例があります。
というか人の学習と同じだったら
あれだけ「綺麗」な美少女イラストを描けるのに人の指の数も覚えられないとか無いよ？←
つまりAI出力はそのデータ群ありきで成り立っているわけですね。
手法は違えど実質コラージュと言っても過言ではないかと。

で、そのデータ群をデータセットと呼びますが、それが危なくて。
当然のように無許可の著作物や写真、
医療現場などから漏洩した画像、
挙句の果てに児童〇ルノ、
なんて言葉じゃ生ぬるい存在してはいけない写真(CSAM)
などといったものが発見されたりしました。
そもそも
機械的に採取した数十憶の画像の無断利用
っていう時点で相当イカレてます。
そしてそのデータの整理に低賃金の児童労働者が使われたという話も……

まとめると
著作物の一方的搾取と無断利用
＋同意のない個人情報の利用
＋多くの国で法的に即死するクラスの倫理的危険物
ぶっちゃけ 人 権 侵 害 。

そんなものをミキサーにかけて合成したような代物で
自分の娯楽や性欲、承認欲求を満たしたり
あまつさえ利益を生もうとしたりするわけ。
絶対アウトでしょ。

……一応補則しておくと
CSAMが発覚してからはそれを取り除きましたとか
そんな感じの声明は出ているのですが
いままでモラルなく好き放題してきた開発の発言
を信じられるかという話。
ついでに、仮にそうだとしても法的即死を免れただけで
権利者からの一方的搾取＋同意のない個人情報の利用の
人権侵害状態は変わってないんですよね。という話。

だから
「使ってるデータは公開しろ」
「というか今のデータは破棄しろ」
「そして許可をとったデータだけで作れ」
「でなきゃこんなもん使いたくねぇし、使ってる人は止めるべき」
ってみんな言ってるんです。

生成AIをPVやMV、企業や企画なんかで使うと
SNSでめっちゃ燃えるのもこれが理由の最たるものです。たぶん。
いや、人それぞれだからただAI絵嫌いってだけの人もいるかもしれないけど。
一部の人が
「気に入らないものを強引に叩き潰すキャンセルカルチャーだ！」
なーんて言ってたりしますけど
決して「AI絵が嫌いだから」とか「絵師の仕事が減るから」みたいな
単純な理由ではないのです。
倫理的・権利的に危険なことを何故か日本国では隠蔽されてるから
知ってか知らずか使ってしまう企業に対し苦言を呈しているんです。
というかキャンセルカルチャーって決めつける方がむしろ相手の意見をねじ伏せたい暴論、
かつ世論を誘導する悪質な印象操作に他ならないと思うんですけどね。
そもそも別に爆破予告みたいな犯罪行為に走ってるわけじゃなく、
自由に「俺これは好きじゃない」とか「それは愚策だと思う」って客やファンが言えて
企業側がその声を聞けるという環境はむしろ健全でしょう。

……で、もう一つとっても重要なこと。

時々
「自分の絵だけで作ったクリーンな生成AIです！」
と言っている人や企業を見かけますが、
それ九分九厘
先のデータセットがプリセットで使われてるアプリにデータを追加してるだけ
（いわゆる「追加学習」というやつ）
なので、「クリーン」の響きに惑わされないようにしましょう。

ディープフェイクと情報汚染

生成AIは、本物と見分けのつかない偽物を生成します。
その結果、
・有名人を騙る詐欺広告
・政治家の発言のでっち上げ
・戦争の偽情報や世論操作
等の事例が既に発生しています。

ここまでなら我々一般ぴーぽーには関係ない、
騙されないように注意すればいいだけ、
と思う方もいるかもしれませんが、
・相手の工口画像を捏造していじめや脅迫
・SNSで他者になりすまして犯罪行為を行う
といったパターンもあります。
他人事ではありません。繰り返します。
他人事ではありません。

そんな極端な悪意でなくても例えば、
自分や身内の顔や体の写真が会社や学生サークルのHPなどから学習され、
それが知らぬ間に（オリキャラ・架空の人物扱いで）出力され、
SNSで拡散され誰かのオカズにされている可能性もあります。
嫌すぎます。

そして上のようなものの二次被害として
インターネット上の情報すべての信憑性がガタ落ちします。
まずフェイクかもと疑うところから入る時代が来ています。
そして騙される奴が先鋭化して話も聞かず多方面に毒をまき散らす悪循環ね。

検索情報の信憑性なんてまぁ、いかがでしたがブログ乱立の時点で
まぁぶっちゃけアレではありますが……
生成AIを用いた偽情報の偽装クオリティや制作速度は
それとは比較になりません。
議論において軽視されがちですが、
ディープフェイクでも著作権・人権侵害でも
この「誰でも」「高クオリティのものが」「高速で大量に」作れるという
生成AI特有の問題点は忘れてはいけないと思います。

え？何？使う側のモラルの問題で道具は悪くない？
ごもっとも。
でもよく考えてください。
「突然クマに襲われても安心！」の謳い文句で
登山コーナーやキャンプコーナーにショットガンが売ってたら
納得しますか？
いくら使う人次第だと言っても
悪用が容易、
被害者や社会に与えるダメージが大きい、
そのくせ利点は限定的……
そんな道具が節操なくばら撒かれている状況は
問題視されるべきです。

いかがでしたかブログで思い出したけど
電子レンジにアルミホイル入れた時の現象を「電磁誘導」って言ってる奴
ちょっと中学理科やり直してこい(

世界情勢と日本の方向性

旧ツイッターで見かけた言葉。
「データセット問題と世界情勢に触れていない
　'AI問題まとめ'はすべて詐欺です。」すべ詐欺すべ詐欺
これ本当にその通りだと思っていて。すべすべ詐欺詐欺

テクノロジーの発展は素晴らしい、というならば
生成AIで世界が我先にと開発を競っているかと思えば
まったく逆です。
むしろ問題点が表沙汰になったことで
訴訟が起こり、法整備が進んでいます。
ビッグテックが多額の制裁金を科されたり、
EUが強烈な法を制定したり、
国連が信頼できる開発しろと釘を刺したり
なんかが記憶に新しい今日この頃ですね。

そんな中、日本はと言えば
未だに
「発展を止めないようにいかにAI以外の権利を制限するか」
という逆の方向に進んでいます。……改めて文章にするとひどいなこれ
……いや、最近は流石に外圧に耐えられなくなったのか
「いかに発展を止めずに苦情を捌くか」
にシフトしたようですが……
どっちみち大遅れです。

割と政治家に甘い方だと自覚してる私ですが
さすがにこれは擁護不能ですわ。
……っというのは愚痴交じりですが。

そんな事情？もあって
あとネットは冷笑系が無限沸きする環境もあって
日本では未だにAIイケイケムードも一部で見られますが
異常に気づいてるとこも流石に増えつつあるようですが
あらゆる情報がインターネットを通じて世界各国と繋がる現代、
世界情勢を無視して生成AIを考えることは危険です。
「合法だからｗ」で推し進めたことが世界中で大バッシングとか、
日本のホームページが脱法〇ルノの温床にされたりとか、
「EUでは規制されたけど日本は緩いからｗ」と
海外資本に日本の著作物を吸い上げられるみたいな、
最悪のシナリオの兆しは既に見えています。

このままではいずれ
「日本では保護されないから」と言う理由で
海外の映画が日本での公開を見送られたり
日本だけネットから遮断される日も来るかもしれませんね(笑)
わろてる場合じゃねぇ。

おわりに

そんな感じで。生成AI問題入門編でした。

最初にも書いてましたが
上の３つは代表的なとこ選んでるだけで
生成AIの問題点・懸念点は多岐にわたります。

もし、生成AIについて
出回りだした時の「革新的技術」または「面白い玩具」くらいの認識で
今もいるなら、ぜひ問題点にも目を向けてみてください。

ちなみに、これ上の話にねじ込めなかった
……というか半ば前提のつもりで書いてしまいましたが
生成AIの問題は絵だけではありません。
声もテキストも音楽も、あらゆる方面で問題が叫ばれています。
SNSでみかける #NOMORE無断生成AI というタグも
作ったのは日本俳優連合さんですし、
JASRACさんのパブコメとかキレっキレですし。

「別に俺、絵描いてないから……」とか
「騒いでるのは一部の絵師だけだよね」とか
そういう考えの方はこの辺も覚えといてほしいなーとか。

というお話でした。
最後まで読んでいただきありがとうございました。

おまけ

「反AI」という言葉をSNSでは時々聞きますが、
これは安易に使わない方がいいです。

これは主に生成AIを推し進めたい派の方々（の一部？）が、
生成AI批判者について
「テクノロジーの進歩に反対する老害」
という嘲笑or印象操作に使っている言葉ですので

文脈に関わらずSNS（というか旧青鳥）で「反AI」という言葉を使うと
批判を誹謗中傷してでも黙らせたい過激派が
仲間だと勘違いして寄ってくるし、
批判側からも「あ、こいつなんも分かってねぇな」
って思われてしまうので気をつけましょう。

私は（そしておそらく多くの人は）決して
あらゆる「AIと呼ばれるもの」に反対しているわけではありません。
身近なとこだと例えばゲームのCPUの動きだって「AI」なわけですし。
でもぶっちゃけG○○gleとy〇utubeの検索AIは〇ソだと思う。

あくまで生成AI批判は
「他者の著作物や顔写真のような個人情報すら無断で使い、
　他者の権利・人権侵害や社会問題も生み出しているのに
　自分の利益のために全部踏みにじる生成AI」
に限って反対しておりますのでね。

……あぁそれと。もう一つ注意点。

ぶっちゃけこの記事は、
問題を周知することが目的（本音を言うと苦しいから助けてほしい）の記事であり、
みんなで活動家になろうとまでは思っていません。

ですが、もしこれを読んだ人に、
これから生成AIの問題点に関して発信しようという方がいましたら。

SNSで呟く前に少しだけ待ってください。

というのもですね、
SNSでは生成AIへの批判を呟くと軽く燃えます。
最悪過激な人に燃やされたり嫌がらせを受けます。

みんなで世論を動かしたいというのは
私も思っていますし、
もっと多くの人、特に影響力の強い人に声上げてほしい、
そう思っている人は多いです。

だからといって、
安易な気持ちで飛び出すのは危険です。
批判潰しのため強硬手段を厭わない人もいるという前提
これを認識し、自分の心身を守る準備を先にしてください。

……その上で、まずは情報収集もかねて、
先に声を上げている人たちのツイートを追うこと、
重要だと思ったものをRTで拡散することから
始めるといいと思います。私はこの時点で病んだがな（
サブアカウントを作るというのも一つの手だと思います。

あと過激派と会話しない。かまってあげない。即ブロ。

……その一方で声を上げるのが難しいと感じたなら、
まずは治安の悪いSNSよりももっと小さなスペースで、
例えば個人のブログとか、信頼してる人向けの鍵垢とかで
自分の身近な人に問題周知をしてください。
まだ生成AIで「遊んでいる」ようなら止めてあげてください。
まだ生成AIを「軽く見てる」ようなら教えてあげてください。
それだけでも十分な力になります。決して卑怯ではありません。
……と私は思っています。（※声を上げている人の総意ではありません）

そして、自分にとって大切なクリエイターさんが
もし心を痛めていたら味方になってあげてください。
「あなたの描く絵が好きです。」と言ってあげてください。

以上です。

参考資料

• Stability AI Boss Admits to Using 'Billions' of Images Without Consent: PetaPixel
• Generative AI Has a Visual Plagiarism Problem: IEEE Spectrum
• 画像生成AIユーザーがAI学習用データセットから「自分の医療記録の写真」を発見してしまう: GIGAZINE
• 伊織もえ「体の持ち主の伊織もえが自分の体を発見してしまった…」生成AIに使用された動画発見（日刊スポーツ）: Yahoo!ニュース
• Stable Diffusionなどの画像生成AIが児童性的虐○画像を用いてトレーニングされていたことが判明: TEXAL
• ポルノや斬首画像をタグ付けし続け、月給2万円…「AI」機械学習の闇: クーリエ・ジャポン
• AIが作成した偽セレブの詐欺的広告動画がYouTubeで1億9500万回以上再生されている: GIGAZINE
• 選挙イヤー「フェイクニュース」とどう向き合う？　写真加工にAI悪用...世界の実情とリテラシー普及のあり方: J-CAST ニュース
• 生成ＡＩによる偽動画・画像、パレスチナ紛争やウクライナ戦争で悪用: 産経ニュース
• 写真の女性を「ヌード化」するアプリが人気急上昇、その問題点: Forbes JAPAN 公式サイト（フォーブス ジャパン）
• 仏当局、グーグルに４１０億円の制裁金…対話型ＡＩが報道機関に無断で記事を学習: 読売新聞
• EU議会、AI規制法案を可決　世界初、違反企業に制裁金: 47NEWS（よんななニュース）
• 国連総会、AI決議案を採択　安全・信頼性の確保求める: 日本経済新聞

れんらくー

昨今の情勢を鑑みてというか過去絵削除と同様の理由で、
過去の販売作品も一度販売終了させていただくかもしれません。

……あ、まだ未定だし
もし決心がついたら
ここでクーポン配布か最終セールでもしようかと思ってるので
まだ急いでポチらんといて大丈夫です。

はい。お騒がせ。すみません。
いろいろ考えてるんです。はい。

ちなみに一足先にメロブの電子販売は終了申請しときました。
まぁあっちは必要となれば紙本の増刷で対応するので……。