AI絵の禁止を掲げるイラスト依頼サービス「skeb」でAI作品を自動検出するAIを導入か

「SkebはツールとしてのAI利用を認めていない」　創業者が明言　規約には4年前から記載
https://www.itmedia.co.jp/news/articles/2210/05/news173.html

なるがみ
@nalgami

2時間
AI加筆作品を検出するのは至難の業で今まではスタッフの目視だけが頼りでしたが、近々海外企業と契約してAIを検出するAIを導入できそうです。
去年から検証を進めていましたが、誤検出も少なく加筆に強いソリューションが見つかったのであとは価格の交渉だけ…月5-10万点の検査となると金額が…

SkebでAIを禁止している理由は、学習データの出典が不明瞭な問題ではなく、マネーロンダリングや不正送金の温床になりかねないと僕が考えているからです。

学習データの出典が不明瞭な問題は、多くの人々が使っている翻訳サービスや、今後ブラウザに標準搭載されるであろうBing AI、Skebがリリース時から導入しているアダルト画像検出AI、Skebが採用を進める「AIを検知するAI」も同様で、イラストだけ禁止することは事実上困難であると考えています。

個人的には防ぐことが困難ならば、そのAIの技術を使って、その業種のクリエイターさん達に金銭が還元されるエコシステムを作る他ないかなと思います。Skebだったら今回のAI検出AIの導入がまず一歩かなと考えています。

Skebでは納品時に、投稿者に納品物がAIやそれらの加筆でないことを「毎回」誓約してもらっていますが、悲しいことに判明しているだけで月に10?30点ほどのデータがAIによって生成されたものと判明し、投稿者に制作工程を問い合わせたり、作業中のデータを確認させてもらっています。

明らかにAIによって生成されたデータでも、投稿者が認めない限りは魔女狩りになってしまうのも難しく、この取引がマネーロンダリングや不正送金に成り得るかの判断基準を基に、深刻度に応じて、クリエイターへの警告、作品のキャンセル、新規リクエストの募集の永久停止(登録剥奪)を実施しています。