ChatGPTやGeminiなどの生成AIに関して、興味深い記事がふたつありました。
「ハルシネーション」とは、先進的な技術がたどる、「大きな期待」から「幻滅」「最終的な安定普及」といった共通のパターンを経て定着することを指します。
記事1.については、生成AIが、今まさにハルシネーションにおける幻滅期に突入していきそうですよ、という調査会社の見通しを紹介しています。
記事2.のタイトルにある「ハルシネーション(hallucination)」とは、幻覚の意味です。
転じて、生成AIが事実に基づかない嘘をアウトプットしてしまう現象を指します。
記事2.では、あるプログラムのコードを、生成AIに生成させたところ、間違ったコードを教えられて、苦労した方のブログです。
実は、筆者自身、先日記事2.と同様の経験をしました。
筆者は、GoogleAppsScript(GAS)という、Googleスプレッドシートなどで使えるプログラミング言語が多少使えます。とは言っても、前回本格的にプログラミングを行ったのは数年前のこと。今回、久しぶりに当社内で使うGASのプログラムを作る必要があり、Googleの生成AIであるGeminiにコード作成をさせました。
ところが、生成されたコードはまったく動きません。
エラーコードをGeminiに知らせ、改善されたコードを適用しますが、それも動きません。
このプログラムは、Googleフォームに投稿された内容を精査し、内容によって分岐処理を行ったうえでGoogleスプレッドシートに転記するというものだったのですが、エラーの原因は、プログラムを設置すべき場所でした。
筆者は、Googleスプレッドシートにプログラムを書いていたのですが、Geminiが作成したコードは、Googleフォームに設置すべきだったのです。筆者は、以前購入していたGASの解説本を読み直し、Geminiが生成したコードの中に、Googleフォームでしか使えないはずのコマンドが含まれていることに気が付きました。
そこで、Gemini先生に、「先生、もしかして、このコードって、Googleフォームに設置しないとダメなヤツですか?」と恐る恐る尋ねたところ、「当然でしょ!」と言われてしまったのです(※擬人化した表現ですよ)。
エラーの原因はそれだけではなかったのですが。
ともかく、筆者はGeminiのハルシネーションに振り回されて、数十時間を無駄にしました。
ただし、筆者のエピソードや、あるいは記事2.を材料に、生成AIに「使えない」という烙印を押すのは早計でしょう。
実際、先のGASプログラムは、最終的にGeminiの助けを得て完成しました。
また、秋元通信でお届けする記事の半数近くは、テーマのブレインストーミング(壁打ち)をGeminiで行っています。今号のメイン記事も、Geminiと壁打ちをして執筆しました。Geminiと相談して作成したプロットに、筆者が知るエピソードを加えて記事として完成させました。
端的に言えば、生成AIがアウトプットする情報は、浅いです。
なので、秋元通信に関して言えば、物流関係、とくに政策系の現状をお届けするサブ記事については、生成AIは使えません。参考として、本稿の最後に実際に物流ネタについてGeminiに生成させたアウトプットを転記しておきますので、興味がある方はご確認ください。
もうひとつ、生成AIがやらかす課題は、質問者(ユーザー)が不十分なインプットしかしていないケースでも、それらしい回答をしてしまうことです。
コード生成のケースでは、これが原因で誤ったコードを生成してしまうケースがあります。
「スプレッドシートAのシートBのセルA1から最下行まで検索し、シートBのセルA2からセルG259の範囲にある同一の値を検索した後、一致した値があるセルのシートB上の位置を返したうえで、シートCの・・・・」なんていう、内部設計書とほぼ同等のレベルで生成AIに質問を投げると、高い精度のコードがアウトプットされることを、筆者はネット上での情報と、試行錯誤の結果として得ました。
契約書のレビューを生成AIに任せるケースでも、契約書の内容を転記したうえで、精査して欲しいポイントや、契約当事者の詳しい情報をきちんと書かないと満足なレビューが返ってこないことも経験しました。
間違っても、「以下の契約書について、問題点を挙げてください」というレベルでは、及第点以下のアウトプットしか返してもらえないということです。
どんな道具でも、正しい使い方を守ることが、とても大切なこと。
とは言え、「正しい使い方」があまりにも面倒だと、そもそもその道具は使う人を選んでしまいます。
生成AIに関しては、比較的誰でもかんたんに使えることが災いし、「結局使えないよね…」という幻滅期を招きつつあるのでしょう。
本文中でご紹介した、「生成AIがアウトプットする情報は浅いんですよね」の例を転記します。
【Geminiに投げた質問】
政府が推し進める物流革新政策の問題点を挙げてください。
【Geminiの回答(アウトプット)】
政府が推し進める物流革新政策は、日本の経済活性化や社会インフラの整備に重要な役割を果たす一方で、いくつかの課題を抱えています。
◯主な問題点
-
中小企業への影響:
- 大企業との情報格差: 大企業に比べて情報収集能力やIT導入が遅れている中小企業は、新たな物流システムへの移行に困難を伴う場合があります。
- 資金不足: 新しい設備投資やシステム導入には多額の費用がかかるため、中小企業にとっては大きな負担となります。
- 人材不足: 運転手不足やIT人材不足といった問題が深刻な状況で、中小企業は特に人材確保に苦戦しています。
-
地域間の格差:
- 都市部と地方の差: 都市部では物流インフラが整備されており、新たな技術導入も比較的スムーズに進みますが、地方ではインフラが不足している地域もあり、物流コストが高くなる傾向があります。
- 人口減少地域の課題: 人口減少地域では、物流需要が減少しており、物流サービスの維持が困難になるケースも考えられます。
-
国際競争力:
- 他国の物流システムとの比較: 他国では、自動化やAIの導入が進み、日本の物流システムが国際競争力を失う可能性があります。
- サプライチェーンのグローバル化: グローバルなサプライチェーンの中で、日本の物流システムがいかに連携していくかが課題となります。
-
環境問題:
- CO2排出量の削減: 物流業界はCO2排出量の大きな要因の一つであり、環境問題への配慮が求められています。
- 廃棄物問題: 物流に伴う廃棄物問題も深刻化しており、循環型社会の実現に向けた取り組みが求められます。
-
労働環境:
- 長時間労働: トラックドライバーの労働環境は依然として厳しく、長時間労働や過労死の問題が解消されていません。
- 賃金水準: 物流業界の賃金水準は低く、人材の定着が困難な状況です。
これらの問題点を踏まえ、政府には以下のような対策が求められます。
-
中小企業支援:
- 資金支援や技術支援の拡充
- 共同利用型物流センターの整備
- IT導入支援
-
地域間格差の解消:
- 地方の物流インフラ整備
- 地域に根ざした物流システムの構築
-
国際競争力の強化:
- 先端技術の導入促進
- 人材育成
-
環境問題への対応:
- CO2排出量の削減目標の設定
- 再生可能エネルギーの導入
- 廃棄物削減
-
労働環境の改善:
- 働き方改革の推進
- 賃金水準の向上
物流革新は、単に技術の導入だけでなく、社会全体が関わる複合的な問題です。政府、企業、労働組合などが連携し、持続可能な物流システムを構築していくことが重要です。