AIチャットはウソつき!? でっちあげが得意!? 使い方に要注意
グーグルDiscoverの掲載判断には検索のランキング要因と同じものが多い【SEO情報まとめ】[Web担当者Forum]
AIチャットは近未来的なツールだ。
しかしながら、AIチャットの使い方に警鐘を鳴らす声もある。理由は信頼性に不安があるからだ。米Meta（メタ）のAI研究責任者のヤン・ルカン氏は、次のようにコメントしているそうだ：
※コメント内の「LLM」とは「大規模言語モデル」のことで、いまの自然言語AIの仕組みを指す
「LLMはでっち上げをしたり、近似的な回答をしたりする」「LLMの欠点は人間のフィードバックによって軽減できるが、修正はできない」
「LLMを検索エンジンなどのツールに統合するのは容易ではない」
so.laの辻氏も同様の懸念を抱いており、Bingチャットが生成した誤情報の例をいくつか挙げて指摘している。
※笑える作り話もあるが、人の人生や生命に関わる重大な誤情報も生成している
私の前科拡散、日々増加中 by Microsoft Bing
今日段階で[辻正浩 プロフィール]と聞くだけで「辻正浩さんには、2002年に不正アクセス禁止法違反で逮捕された前科があります。」と表示されるように。
社名等同姓同名の方の情報が混じってきた。私のせいでご迷惑おかけして申し訳ありません…… https://t.co/njVnYyjH7a pic.twitter.com/9iEOsziS6I— 辻正浩 | Masahiro Tsuji (@tsuj) February 27, 2023
新Bingのチャットは、(最低でも日本語検索では)品質・信頼性に劣るMicrosoft Bing検索のデータを元にしているので微妙な情報になるケースもあるんですよね。
たとえば画像のような状態です。
この問題解決のために、Microsoft Bing自体の精度向上を期待したいですし、そうなれば本当に素晴らしいです。 pic.twitter.com/WVAFcg2HdO— 辻正浩 | Masahiro Tsuji (@tsuj) March 1, 2023
創作としては本当に有能で大好きですしこのシーンを見たいですが、検索エンジンとしては最悪ですw pic.twitter.com/ORYdWgfqH0
— 辻正浩 | Masahiro Tsuji (@tsuj) March 2, 2023
グーグルが近々公開予定のBard（バード）も、実は、PR向けのデモ画面で間違った情報を提供してしまっている。
「米航空宇宙局（NASA）のジェイムズ・ウェッブ宇宙望遠鏡（JWST）による新発見を9歳の子供に説明してください」との質問に対するBardの回答、「JWSTは太陽系外に存在する惑星の写真を初めて撮影しました」が誤っていると専門家が指摘した
では、自然言語AIは使い物にならないのだろうか。先のルカン氏は、未知の情報をAIチャットに聞くべきではないとしている。現時点ではそうした使い方ではなく、文章執筆補助に留めるべきだと主張している。
たとえば次のようなタスクならば、いまのAIも問題なく利用できる：
長文を要約する
文章に含める内容をユーザーが箇条書きで指定したうえで、流ちょうな文面を生成する
SEOコンサルタントのまとめ
ChatGPTなどのAIチャットは使い方次第だと思います。
「AIで作ったコンテンツをそのまま納品する」
のは危険だと思いますが
「コンテンツ作りのたたき台としてAIを使用し、人間が校正、編集する」
という使い方でしたら非常に便利だと思います。