監督のパラドックスとは、Anthropic の調査 AI は Anthropic の仕事をどう変えているか が、コーディングスキルの萎縮が懸念される理由の 1 つに 与えた名前である。Claude を効果的に使うには Claude を監督する必要があり、Claude を監督するには、AI の使いすぎによって 萎縮しかねないまさにそのコーディングスキルが必要になる。これは、スキルの萎縮(より多くの作業が委任される につれてスキルの練習機会が減ること)と、回答者が Claude の利用の一部として説明する能動的な監督・検証とを結びつける、 この報告書における接点である。
用法
この報告書は、スキルの練習機会が減ることについての Anthropic のエンジニアや研究者へのインタビューを記述するなかでこの 用語を用い、回答者の半数以上が Claude に「完全に委任」できるのは作業の 0〜20% にすぎず、エンジニアたちは、とりわけ複雑な 作業やリスクの高い作業について、その出力を能動的に検証していると説明している、という調査結果に結びつけている。ある インタビュー対象者はこの懸念を次のように表現した。自分のスキルセットそのものよりも「監視と監督の問題」のほうをずっと 心配している。なぜなら、スキルが萎縮したり育たなかったりすることは、そのタスクを自力でこなす能力にとってよりも、主として 自分が大切にしているタスクで AI を安全に使う能力にとって問題になるからだ、という。
この調査は、一部のエンジニアがどう対応しているかも記録している。Claude が解決できる問題であっても、ときどき意図的に AI なしで練習し、腕が鈍らないようにしているという。あるシニアエンジニアは、自分がもっとジュニアだったらもっと心配していた だろうと述べた。答えがどのようなものであるべきかを判断する能力は、ソフトウェアエンジニアリングを「苦労して」やることで 身につけたものであり、モデルに頼りながらその能力を育てるには意図的な努力が必要になるからだという。報告書はこれらを インタビュー対象者の見解として示しており、根底にあるスキルの喪失がどの程度重要かについてはエンジニアの間でも意見が 分かれていたことを指摘している。