LLM時代、AIで作れても理解は追いつくのか

要約

Mark Seemann は、LLMで作ったソフトウェアが人間の理解を上回り得る問題を論じた。読者はAI支援でAPI、PostgreSQL、LLMパイプラインを含むTypeScript/JavaScriptシステムを構築したが、本番化の過程で原因不明の不具合に直面し、自分の理解を超えたシステムになったと気づいた。Seemannは、AIで質問や学習を速められても、人間の知識吸収速度がボトルネックだと考える。基礎学習では、作業対象の一つ下と一つ上の抽象化を理解し、LLMには検証可能な質問だけを投げる方法を勧めた。LLMによる知識労働の大量失業にも懐疑的で、過去の技術革新が失職者本人に新しい仕事を与えたとは限らないと警告した。