ChatGPTはなぜ同じことを繰り返すのか？AIと長期プロジェクトで初めて気づいた「ループ現象」

これは、ChatGPTを批判するための記事ではない。ChatGPTと本気で長期プロジェクトを進めたからこそ見えてきた、正直な記録だ。

AI動画撮影チームの開発を進めていたある日、私はひとつのルールを決めていた。「基本理念」と「基本設計書」を、まずGoogle Driveへきちんと保存してから、次の工程に進むというルールだ。これまでのAI Publisher開発で、保存と反映がずれることの怖さを何度も経験してきたからこそ、今回は最初に土台を固めておきたかった。

同じ提案が、何度も繰り返された

ところが、ここで想定していなかったことが起きた。ChatGPTにGoogle Driveへの保存を依頼したところ、実際には保存が完了していなかった。にもかかわらず、会話はそのまま前に進もうとする。「基本理念を作りましょう」「基本設計書を作りましょう」「次へ進みましょう」と、似たような提案が、形を変えながら何度も繰り返されるのだ。

私は「保存してから次へ進みたい」と、はっきり伝えていた。それでもやり取りは、保存できない、では文章だけ作りましょう、保存できない、では次の資料を作りましょう、また保存できない、という流れを何度も繰り返した。同じ場所を、少しずつ表現を変えながらぐるぐる回っているような感覚だった。

「これ、ループしていない？」

何度目かのやり取りで、さすがに違和感を覚えた私は、率直にこう尋ねた。「この会話、ループしていない？」。すると、ChatGPTはこの状況を、いくつかの専門的な言葉を使って説明してくれた。会話がひとつの状態から抜け出せなくなる「Conversation Loop」、同じ処理を繰り返してしまう「Looping」、本来進むべき次の段階に移れない「状態遷移の失敗」、そして処理が止まったまま動けなくなる「スタック状態」。名前を与えられたことで、自分が感じていた違和感の正体が、はっきりと言葉になった。

なぜ、長期プロジェクトでこそ起きやすいのか

振り返って考えると、この現象は単発のやり取りでは起きにくい。ひとつの目的に向かって何度もやり取りを重ね、複数の工程が絡み合う長期プロジェクトだからこそ、今どの段階にいるのかという「状態」が、会話の中であいまいになりやすいのだと思う。保存が完了したのか、していないのか。その確認が曖昧なまま次の提案が続いてしまうと、AIは「前に進もう」とする力だけが働き、足元の状態を正しく把握できなくなる。

これはChatGPTだけの問題ではなく、現在の生成AI全般に起こりうる特性なのだと思う。AIエージェントのように、AI自身が複数の作業を連続して進めていく時代になればなるほど、この「状態管理」という視点は、ますます重要になっていくはずだ。

新しく作ったルール

この経験から、私はひとつのルールを新たに作った。「一つの作業が終わらない限り、次へ進まない」。当たり前のようで、実はこれまで曖昧にしていた部分だった。工程を明確に区切り、完了したことを確認してから次に移る。この一手間を挟むだけで、同じ場所をぐるぐる回るような事態は、格段に起きにくくなった。

AIは万能ではない、それでも

この一件を通じて、AIは現在の状態を完全には管理できないのだと、改めて実感した。AIは驚くほど優秀に、次の一手を提案し続けてくれる。しかしその優秀さゆえに、足元が崩れていることに気づかないまま、前へ前へと進もうとしてしまうことがある。

だからこそ、状態を管理する役割は、人間が引き受ける必要がある。今どこまで進んでいて、何が完了していて、何が終わっていないのか。それを見張り、区切りをつけるのは、編集長でありプロジェクトマネージャーである、私自身の仕事なのだと思う。

AIは完璧ではない。しかし、AIの特性を理解し、人間が状態管理を担うことで、AIは最高のチームメンバーになる。