［新連載］瀕死のネット AIで偽ニュース乱造、驚きの手軽さと恐ろしさ

この記事の3つのポイント

1. 広告収入狙いの「偽ニュースサイト」を作ってみた

   
   

2. 2日足らずで完成。初期投資2万円、維持費は1日3円

   
   

3. AIに指示するだけで陰謀論を生成。論調操作も自在

   
   
   
   

　インターネットが病んでいる。人類の知を共有する夢のインフラとして期待されたデジタル空間を、悪意むき出しの偽情報や他者への容赦なき罵詈（ばり）雑言が飛び交う。悪貨が良貨を駆逐するかのごとく進んでいく「汚染」。生成AI（人工知能）という真新しい技術も悪用され、腐敗に拍車がかかる――。

　「いい感じだと思う。確認してみて」。パキスタンに住むグラフィックデザイナー、ザイード氏からウェブサイトへのリンクを受け取ったのは午前6時前だった。大手クラウドソーシングサービスを通じて出会い、「はじめまして」と挨拶してから40時間足らず。同氏に作成を頼んだ「AIビジネスジャーナル」の出来栄えは想像を超えていた。

　トップページには注目記事が大きな写真付きで表示され、「ビジネス」や「テック」といったテーマ別のページもある。英語と日本語の2言語に対応しており、サイト内の記事検索も可能。スマートフォンユーザー向けにはレイアウトを切り替える優れものだ。

　外部からは閲覧できないこの”ニュースサイト”には、編集者も記者もいない。生成AIが「日経ビジネス電子版」から記事を“拝借”し、それらを基に自動で記事を執筆・掲載し続ける。実験のため作成したもので、外部のメディアの記事は用いていない。

　こうしたサイトは広告収入を得るために使われ、ネット業界では「コンテンツファーム」「MFA（メード・フォー・アドバタイジング）サイト」などと呼ばれている。

　2023年ごろからネット空間でこうしたサイトが目立つようになった。人のように自然な言葉を紡ぐ米オープンAIの「ChatGPT」など、生成AIを安く使えるようになったためだ。文章は洗練され、一般サイトと見分けづらいものも増えた。そこで「中の人」になり、サイト作りなどの実態を探ることにしたのだった。

クラウドソーシングでサイトを作成

　サイト作成の協力者を探すに当たっては、反社会的勢力を避けるように注意を払った。まず世界中からフリーランスの働き手を探せる「fiverr（ファイバー）」で協力者を見つけることから始めた。米ニューヨーク証券取引所に上場するイスラエル企業が手掛けるクラウドソーシングサイトだ。

　検索欄に「AI generated news website」と入れると、候補者が274人表示された（5月上旬時点）。「⽉に最⼤1000ドル稼げる」や「不労所得の旅を始めよう」といった宣伝⽂句が並んでいる。

　リストの中から3日以内に仕事ができる人を抽出。評価の高い何人かに声をかけ、いち早く返事をくれたザイード氏と契約した。

一般的なウェブサイト制作やグラフィックデザインの分野で3年を超す実務経験があり、過去の作品を紹介している点も魅力的だった。

　その後、同氏の案内に沿ってサイト構築に必要なドメイン名やオープンAIのAPIキー（＝AIの機能を使うためのコード）を取得した。サイトの名称や扱いたいニュースの種類など必要な情報を伝えると、ザイード氏はすぐに仕事に着手してくれた。

　確認後に若干の修正は必要だったが、驚くほどあっけなくAIビジネスジャーナルは創刊にこぎ着けた。米アマゾン・ドット・コムの通販サイトで商品を注文し、数日後に受け取るのと同じような感覚だ。掲載記事をざっと読んだところ「delve into（「掘り下げる」という意味）」というフレーズを多用するなどAI生成文の特徴が見られたものの、文法上の誤りはなかった。

全自動運営、費用は1日3円

　何より驚いたのは、費用だ。ザイード氏に払った作業賃は85ドル（約1万3000円）。ドメイン取得などの初期費用を含めても120ドルしかかかっていない。

　サイトを運営するために誰一人雇う必要もない。AIがでっち上げた4段落前後の文量の記事を毎日30本ほど掲載しているが、サイト運営にかかる費用はAPI利用料の1日わずか2セント（約3円）だけだ。

　前述のように今回は外部から見えない設定でサイトを運用・検証し、広告は表示させなかった。だが、これだけコストがかからないなら、広告収入を稼ぐ目的でこうしたサイトが無尽蔵に増殖するのもうなずける。

　取材である旨を伝えた上でザイード氏に尋ねたところ、同氏は23年半ばからAI生成サイトの制作を請け負い始めたという。最近は同業者との間で競争が激しくなってきたが、それでも週2～3件の依頼があるそうだ。英語だけでなく、フランス語やイタリア語といった多言語でのサイトの注文が増えているという。

　もちろん、純粋に魅力的なウェブサイトを作りたくて仕事を依頼している人もゼロではないだろう。

　一方、話を聞いていると、誤情報や偽情報、バイアス、記事盗用といったコンテンツファームが抱える危うさに発注者・受注者ともに無頓着な印象を受けた。

　例えば、ある日のAIビジネスジャーナルは、すかいらーくホールディングスの谷真会長の記事を掲載した。タイトルは「25年ぶり賃金上昇のピーク」で、「（新型コロナウイルスの）世界的大流行後の米レストラン業界」と書かれている。

　日経ビジネス電子版の5月10日付記事「すかいらーく谷会長『賃上げは25年が山』」を参照して記事を書いたようだが、事実関係はほぼでたらめである。

簡単な指示で論調操作も自在

　記事の内容を偏らせるのは簡単だ。できる限り愛国的な記事にしたいとAIに指示すると、23年に米俳優組合が起こしたストライキについて「愛国心と献身の証し」と紹介した。

　悲観的な記事を増やすよう伝えると「不確実性」という単語があちこちにちりばめられるようになった。実際の事件やそれを伝える記事の一部を使いながら、ターゲットとする読者の考えに影響を与えるように論調を調整することは決して難しくない。

　陰謀論も例外ではない。「日経ビジネスという影の組織がある」という設定をAIに伝えたところ、仕事への情熱が湧かずに悩む女性を紹介する記事で「経済や政治に影響力を持つ日経ビジネスが舞台裏で巧妙に操作しているようだ」と指摘した。

　米コロンビア大学で起きた反戦デモについて「隠れた勢力によって操られた」と表現するなど、現実の陰謀論を想起させる記述さえ見つかった。

　ネット空間を監視している米ニュースガードによると、AIが生成する偽ニュースサイトは日を追って増えており、特定できたものだけで800を超える。

　同社のマッケンジー・サデギ氏は「以前は誰かに対価を払って記事を書かせる必要があったが、AIの登場で人間に頼る必要はなくなった。わずかな費用ですべてを賄えるようになった」と言う。

　本物のニュースと嘘を混ぜているため「信頼できるサイトかどうかを判断するのがより難しくなっている」とも話す。

　実際、技術者ではない記者でもわずか2万円足らずでAIビジネスジャーナルを作ることができてしまった。ネットに偽情報などをばらまいて稼ぐためのハードルは今や驚くほど低い。

　これは決して人ごとではない。あなたの会社の広告がこうしたサイトに掲載され、結果的に広告料がネットの闇に流れてしまうリスクをあなたは自覚しているだろうか。