AI の 1 週間: 生成 AI が Web にスパムを送り込む

AI のように急速に変化する業界に追いつくのは至難の業です。 そこで、AI がそれをやってくれるようになるまで、機械学習の世界での最近の話と、私たちが単独ではカバーできなかった注目すべき研究や実験を簡単にまとめておきます。

今週、生成 AI を使用して SEO に最適化されたコンテンツを作成する会社、SpeedyBrand が、Y Combinator の支援を受けてステルスから浮上しました。 まだ多額の資金を集めておらず（250万ドル）、顧客ベースは比較的小さい（約50ブランド）。 しかし、生成 AI がウェブの構成をどのように変え始めているかについて考えさせられました。

The Verge の James Vincent が最近の記事で書いたように、生成 AI モデルにより、低品質のコンテンツをより安価かつ簡単に生成できるようになりました。 ニュースソースを精査するためのツールを提供する会社 NewsGuard は、生成 AI で作成された誤った情報を特集した一般的な響きの名前を持つ広告付きサイトを数百件暴露しました。

それは広告主にとって問題を引き起こしています。 NewsGuard が注目しているサイトの多くは、プログラマティック広告、つまりページに広告を掲載するための自動システムを悪用することのみを目的として構築されているようです。 NewsGuardの報告書では、55のジャンクニュースサイトに141の主要ブランドの広告が400件近く掲載されていることが判明した。

懸念すべきは広告主だけではない。 GizmodoのKyle Barr氏が指摘しているように、AIが生成した1つの記事だけで、山のようなエンゲージメントを促進できるかもしれません。 また、たとえ AI が生成した記事の収益が数ドルにすぎなかったとしても、それは最初にテキストを生成するコストよりも低く、正規のサイトに広告費が送られない可能性もあります。

それで、解決策は何ですか？ ありますか？ この 2 つの質問のせいで、ますます夜も眠れなくなりました。 バー氏は、検索エンジンや広告プラットフォームには、生成型 AI を利用する悪者をより厳しく取り締まり、罰する義務があると示唆している。 しかし、この分野の変化の速さ、そして生成 AI の無限にスケーラブルな性質を考えると、彼らが追いつくことができるとは私は確信できません。

もちろん、スパム コンテンツは新しい現象ではなく、これまでにもその波はありました。 ウェブも適応してきました。 今回の違いは、投資するコストと時間の両方の点で、参入障壁が劇的に低いことです。

Vincent は楽観的な口調で、最終的に Web が AI ジャンクであふれかえれば、より資金が豊富なプラットフォームの開発が促進される可能性があることをほのめかしています。 私はちょっと確信が持てません。 しかし疑いの余地のないのは、私たちが転換点に達しており、生成 AI とその出力に関して現在行われている決定が、今後しばらくの間、ウェブの機能に影響を与えるだろうということです。

ここ数日間の他の注目すべき AI ストーリーは次のとおりです。

OpenAI が GPT-4 を正式に発表: OpenAI は今週、最新のテキスト生成モデルである GPT-4 が有料 API を通じて一般提供されることを発表しました。 GPT-4 は、テキスト (コードを含む) を生成し、画像とテキストの入力を受け入れることができます。これは、テキストのみを受け入れた前世代の GPT-3.5 よりも改善されており、さまざまな専門的および学術的なベンチマークで「人間レベル」で実行されます。 しかし、前回の記事で述べたように、それは完璧ではありません。 (一方で、ChatGPT の採用は減少していると報告されていますが、それはわかります。)

「超インテリジェント」AI を制御下に置く:OpenAIの他のニュースでは、同社は「超インテリジェント」AIシステムを操作および制御する方法を開発するために、首席科学者でOpenAIの共同創設者の1人であるIlya Sutskever氏が率いる新しいチームを結成している。

ニューヨーク市の反偏見法:数カ月の遅れを経て、ニューヨーク市は今週、アルゴリズムを利用して従業員の募集、採用、昇進を行う雇用主に対し、アルゴリズムを独立した監査に提出し、その結果を公表することを義務付ける法律の施行を開始した。

Valve は AI 生成ゲームに暗黙のうちにゴーサインを出しました: Valveは、AIが生成したアセットを含むゲームをSteamゲームストアから拒否していると主張したことを受けて、異例の声明を発表した。 口を閉ざすことで有名なこの開発者は、自社のポリシーは進化しており、AIに対抗するものではないと述べた。