出たら出たでそんなもんかみたいな性能してる気はする

そこで生まれるのは万能機械ではなく、現時点ではまったく予想できない何かだと思う。現時点で求められるシンギュラリティである確率はたぶん高くない

LLMが自身の学習モデルに合致する表現しやすい汎用プログラミング？言語を作って、その出力と噛み合う生成モデルを自分でバリデーションしながら自己学習し続けて、それらを再帰的に自己学習するエポックの間に、人間アノテーターが間に挟まって報酬関数を手作業で修正するんだろうなって感じ

自己学習を続けるコーディングエージェント、Lintプラグインを地力で生成できたときに片鱗を感じてて 今のモデルって訓練段階で数学の文章題でトレーニングすることで推論能力が高まるんだけど、プログラミングにおいては lint ルールを実装することが該当するんじゃないか？という勘

必要なのはコードに機能を継ぎ足し続けても Cyclomatic Complexity 的な指標を抑えてコードを修正し続ける能力で、基本的にはコード量に対して指数的に高まるので、人間だと基本的には無理。俺も無理。適切なスコープを見抜いて分割統治する能力が必要で、本質的に難しい。

そんな複雑度を抑えるのが可能なプログラミング言語あるとしたら、たぶん高度なモナドやエフェクトシステム、あるいは依存型のような厳密な型を持っており、形式証明言語でアプリケーションを書くというような代物になるじゃないか。人間の能力だとfizzbuzzぐらいで力尽きるやつを手数で乗り越えてくる